멀티에이전트 비교

오케스트레이션 프레임워크

CrewAI · Google ADK · Microsoft AutoGen

PART 2 · 오케스트레이션

오케스트레이션 프레임워크

역할 선언만으로 팀을 구성하는 프레임워크군 — CrewAI · ADK · AutoGen

역할을 선언하면 팀이 움직인다

역할·목표·태스크를 선언하면 실행은 프레임워크가 관리합니다 — 가장 빠르게 멀티에이전트를 세우는 방식입니다.

역할 선언 — 팀 구성 정의만으로 실행 관리
CrewAI — Agent · Task · Crew · Process, 가장 빠른 PoC
3사 비교 — CrewAI vs Google ADK vs Microsoft AutoGen
한계 — 복잡한 조건 분기·루프는 그래프 계열로

takeaway

역할만 선언하면 실행은 프레임워크가 관리합니다 — 빠른 PoC가 강점, 복잡한 분기·루프가 한계입니다.

PART 2 · 오케스트레이션

CrewAI · ADK · AutoGen

역할 선언으로 빠르게 팀을 구성하는 3가지 프레임워크

항목	CrewAI	Google ADK	AutoGen
핵심 패턴	역할 기반 팀	Gemini 네이티브	대화 기반 협업
설정 방식	YAML/코드	Python	Python
강점	가장 빠른 PoC	멀티모달 + A2A	학술 연구, GroupChat
모델	범용	Gemini 우선	범용
프로덕션	보통	GA	유지보수 모드 (후속: MS Agent Framework)

takeaway

셋 다 역할 선언 계열이지만 성숙도가 다릅니다 — 빠른 PoC는 CrewAI, Google 생태계는 ADK, AutoGen은 유지보수 모드임을 감안합니다.

PART 2 · 오케스트레이션

CrewAI 상세

역할·목표·배경 선언만으로 팀이 실행되는 구조 — 가장 빠른 멀티에이전트 PoC

핵심 개념

역할·태스크·팀·프로세스 4가지 선언이 전부

Agent: role + goal + backstory
Task: description + expected_output
Crew: agents + tasks + process
Process: sequential / hierarchical

적합한 시나리오

역할 분리가 명확한 순차 워크플로우에 최적

빠른 프로토타이핑 (수 시간 내)
명확한 역할 분리 (조사·분석·작성)
순차 파이프라인 워크플로우
부적합: 복잡한 조건 분기·루프

python

from crewai import Agent, Task, Crew, Process

# Agent — role · goal · backstory 선언
researcher = Agent(
    role="Researcher",
    goal="주제의 핵심 동향 조사",
    backstory="기술 트렌드 분석 전문가",
)

# Task — description + expected_output 정의
task = Task(
    description="멀티에이전트 프레임워크 동향 조사",
    expected_output="핵심 동향 3가지 요약",
    agent=researcher,
)

# Crew — agents + tasks + process 조립 후 kickoff()로 실행
crew = Crew(
    agents=[researcher],
    tasks=[task],
    process=Process.sequential,
)
result = crew.kickoff()

그래프 프레임워크

LangGraph Supervisor · Deep Agents · 메모리

PART 3 · 그래프

그래프 프레임워크

노드 · 엣지 · 상태로 흐름을 직접 그리는 프레임워크군 — LangGraph · Deep Agents

흐름을 코드로 그린다

StateGraph 위에 조건 분기·루프를 직접 정의합니다 — 오케스트레이션 계열이 못 푸는 복잡한 흐름의 해법입니다.

LangGraph Supervisor — StateGraph + 조건 분기·루프 완전 제어
Deep Agents — 장기 실행 자율 에이전트 · 비동기 서브에이전트
컨텍스트 공유 — 공유 상태 · 메시지 패싱 · 외부 메모리
AgentCore Memory — 세션 간 지속 · 시맨틱 검색

takeaway

흐름을 직접 그리는 만큼 제어가 완전합니다 — 복잡한 워크플로우는 Supervisor, 멀티데이 자율 작업은 Deep Agents가 맡습니다.

PART 3 · 그래프

LangGraph Supervisor와 Deep Agents

StateGraph 위에 멀티에이전트 패턴 구현

LangGraph Supervisor

StateGraph + Supervisor 노드
langgraph-supervisor 패키지
조건 분기·루프 완전 제어
적합: 복잡한 워크플로우

Deep Agents

LangGraph 위 standalone 라이브러리
장기 실행 자율 에이전트
Async Subagents, 멀티모달
적합: 멀티데이 자율 작업

takeaway

둘 다 같은 그래프 기반이지만 지향이 다릅니다 — 완전 제어의 Supervisor, 장기 자율의 Deep Agents로 갈립니다.

PART 3 · 그래프

에이전트 간 메모리 공유

멀티에이전트에서 컨텍스트를 공유하는 3가지 전략

공유 상태 (Shared State)

그래프 State에 공유 필드 — 모든 노드가 읽기/쓰기. 단순하지만 충돌 위험

메시지 패싱

에이전트 간 명시적 메시지 전달 — 격리 보장, 통신 비용 발생

외부 메모리 (AgentCore Memory)

중앙 집중 장기 메모리 — 세션 간 지속, 시맨틱 검색 지원

takeaway

단순함은 공유 상태, 격리는 메시지 패싱, 지속성은 외부 메모리가 답입니다 — 충돌 위험과 통신 비용의 트레이드오프입니다.

프로덕션 운영과 선택 가이드

관측성 · 비용 · 장애 대응 · 비교표 · 시나리오

PART 4 · 프로덕션

프로덕션 운영

비용 통제 · 관측성 · 장애 격리 · 선택 가이드 — 프로덕션의 전제 조건

운영 설계가 프레임워크 선택보다 먼저

멀티에이전트는 LLM 호출이 수 배로 늘어납니다 — 비용과 장애를 통제하는 체계가 프로덕션의 전제 조건입니다.

비용 — LLM 호출 수 배 증가, 세션별 토큰 예산 필수
관측성 — 에이전트별 트레이스 + 위임 경로 시각화
장애 대응 — 서킷 브레이커 · 그레이스풀 디그레이드 · 타임아웃
선택 가이드 — 시나리오별 프레임워크 매핑

takeaway

프레임워크 선택보다 운영 설계가 먼저입니다 — 비용 통제 → 관측성 → 장애 격리 순으로 체계를 세웁니다.

PART 4 · 프로덕션

비용 영향

단일 에이전트 대비 비용이 늘어나는 3가지 지점

LLM 호출 증가

에이전트 수 × 턴 수만큼 호출 누적 — 위임·재시도가 겹치면 수 배로 증가

토큰 소비

컨텍스트 공유와 결과 전달 과정에서 중복 토큰 발생 — 에이전트별 프롬프트 합산

인프라

병렬 실행 시 Runtime이 에이전트 수만큼 동시 가동 — CPU·메모리 소비 기반 과금 누적

takeaway

호출·토큰·인프라 세 지점에서 비용이 겹으로 늘어납니다 — 위임과 재시도가 겹치는 지점부터 통제합니다.

PART 4 · 프로덕션

비용 통제와 관측성

토큰 예산 · 반복 상한 · 트레이스 — 늘어나는 비용을 다스리는 운영 장치

비용 통제

세션별 토큰 예산 설정 — 초과 시 실행 중단
반복 상한 설정 (Swarm max_iterations 등 프레임워크별 상한)
위임·분류 등 보조 역할에는 경량 모델 할당

관측성 체계

에이전트별 실행 트레이스 수집
위임·핸드오프 경로 시각화
실패 노드 자동 알림
토큰 사용량 대시보드 (CloudWatch)

takeaway

비용 발생을 없앨 수는 없어도 상한은 정할 수 있습니다 — 토큰 예산과 반복 상한이 첫 번째 방어선입니다.

PART 4 · 프로덕션

프레임워크 선택 가이드

시나리오별 최적 프레임워크 매핑

시나리오	추천	이유
빠른 PoC (수 시간 내)	CrewAI	YAML 선언으로 즉시 시작
복잡한 조건 분기·루프	LangGraph	StateGraph + 조건 엣지
AWS 네이티브 프로덕션	Strands SDK	AgentCore 배포·관측성 통합
Gemini + 멀티모달	Google ADK	Gemini 네이티브 최적화
학술 연구·실험	AutoGen	GroupChat 토론 패턴 — 유지보수 모드, 신규는 MS Agent Framework
장기 자율 실행	Deep Agents	멀티데이·비동기 서브에이전트

takeaway

정답 프레임워크는 없습니다 — 시나리오가 프레임워크를 고릅니다. AWS 네이티브 프로덕션의 기본값은 Strands SDK입니다.

PART 4 · 프로덕션

장애 대응 패턴

멀티에이전트 시스템의 프로덕션 안정성 확보

서킷 브레이커

특정 에이전트 연속 실패 시 자동 차단 → 시스템 전체 장애 전파 방지

그레이스풀 디그레이드

Sub-agent 실패 시 Supervisor가 폴백 전략 실행 — 부분 응답이라도 반환

타임아웃 + 재시도

에이전트별 max_execution_time(CrewAI) 설정 + 지수 백오프 재시도 (최대 3회)

takeaway

실패를 없앨 수는 없습니다 — 전파를 끊는 격리 장치가 멀티에이전트 안정성의 핵심입니다.

PART 4 · 프로덕션

멀티에이전트 아키텍처

Supervisor 패턴의 프로덕션 배포 구조

takeaway

위임 경로마다 스팬이 남습니다 — Gateway 인증부터 Observability 수집까지가 프로덕션 배포의 기본 골격입니다.

PART 4 · 프로덕션

운영 개선 루프

관측 → 평가 → 최적화 → 배포 — 멀티에이전트 지속 개선

takeaway

한 번의 배포로 끝나지 않습니다 — 관측 → 평가 → 최적화 → 배포가 돌수록 위임 정확도가 올라갑니다.

PART 4 · 프로덕션

멀티에이전트 체크리스트

프로덕션 투입 전 확인할 운영 요소

1
토큰 예산
에이전트별 + 세션 전체 토큰 예산 설정
2
모니터링
에이전트별 독립 트레이스 + 위임 경로 시각화
3
장애 격리
서킷 브레이커 + 에이전트별 타임아웃
4
비용 알림
일/주/월 예산 초과 알림 (CloudWatch)

takeaway

네 가지가 모두 준비돼야 프로덕션입니다 — 예산 없이 배포하지 않는 것이 첫 번째 규칙입니다.

PART 4 · 프로덕션

프레임워크보다 운영 설계

시나리오가 프레임워크를 고르고, 운영 체계가 성패를 결정

시나리오에 맞는 프레임워크 선택, 그보다 먼저 운영 체계 구축

프레임워크 선택보다 운영 설계가 성패를 좌우합니다.