🎯 AI 에이전트 기초

정의와 구조

챗봇과의 차이에서 자율성 수준까지 — 에이전트를 모델이 아니라 시스템으로 보는 관점

챗봇 vs 에이전트

답변하는 AI에서 행동하는 AI로

에이전틱 루프

컨텍스트 → LLM → 도구를 목표 달성까지 반복

에이전트 구성요소

프로덕션 에이전트를 이루는 5가지 핵심 요소

자율성 4단계

에이전트에게 부여하는 권한의 폭 — 수동 보조부터 완전 자율까지

핵심 메커니즘

에이전트가 추론하고 행동하는 두 가지 패턴과 도구 호출 프로토콜의 조감

ReAct 패턴

Reasoning + Acting을 매 스텝 반복 — 에이전트의 기본 패턴

한 스텝의 구조

1. 1
   Thought

   지금까지의 대화·도구 결과를 보고 다음 행동을 추론 — "무엇이 더 필요한가"

2. 2
   Action

   추론이 고른 도구를 호출 — 도구 이름과 파라미터를 모델이 결정

3. 3
   Observation

   도구 결과가 messages[]에 쌓여 다음 Thought의 입력이 됨

4. 4
   반복 또는 종료

   정보가 충분해지면 도구 호출 대신 최종 답변 생성

실제 트레이스 — 한 요청이 두 스텝을 도는 과정

ReWoo 패턴

계획을 먼저 세우고 도구를 병렬 실행 — HotpotQA 벤치마크 기준 토큰 최대 5배 효율

3역할 분업 — Reasoning WithOut Observation

1. 1
   Planner — 설계도 작성 (LLM 1회)

   전체 도구 호출 계획을 한 번에 수립 — 아직 없는 결과는 #E1·#E2 플레이스홀더로 참조

2. 2
   Worker — 일괄 실행 (LLM 0회)

   계획의 도구를 모델 개입 없이 실행 — 의존성 없는 호출은 병렬 처리

3. 3
   Solver — 증거 종합 (LLM 1회)

   플레이스홀더 자리에 실제 결과를 채워 최종 답변 생성

같은 요청의 실행 계획서 — Planner 출력

Plan: 강남역 이탈리안 맛집을 찾는다
#E1 = search_restaurants(location="강남역",
                         cuisine="이탈리안")

Plan: 평점 1위 식당을 저녁으로 예약한다
#E2 = book_table(restaurant=#E1[0],
                 time="19:00")

ReAct vs ReWoo

작업 성격에 따라 패턴을 선택

Tool Use 6단계

LLM과 도구 사이의 메시지 프로토콜

도구 설계

일반 함수가 LLM이 쓸 수 있는 도구가 되기까지의 설계 요소 조감

함수 vs 도구

함수를 도구로 만드는 조건 — JSON Schema(설명서)

@tool 데코레이터

Python 함수를 에이전트 도구로 자동 변환

from strands import Agent, tool

# ① 도구 정의 — docstring이 LLM에게 전달되는 도구 설명
@tool
def search_restaurants(location: str, cuisine: str = None) -> str:
    """지역과 요리 종류로 식당을 검색합니다.

    사용자가 식당 추천을 요청할 때 호출하세요.
    location: 검색할 지역명 (예: "강남역")
    cuisine: 요리 종류 (예: "이탈리안"). 생략하면 전체 검색
    """
    return f"{location} 근처 식당 3곳 발견"

# ② Agent에 도구 전달 → ReAct 루프에서 자율 호출
agent = Agent(
    model="us.anthropic.claude-sonnet-4-6",
    tools=[search_restaurants],
)

# ③ 실행 — 모델이 스스로 도구 호출을 결정하고 결과를 종합
result = agent("강남역 이탈리안 추천해줘")

도구 스키마 3요소

LLM이 도구를 올바르게 선택하기 위한 필수 정보

도구 설계 원칙

좋은 도구 = LLM이 정확히 선택하고 안전하게 실행

Human-in-the-Loop

에이전트의 실패 방식을 알고 위험한 호출 앞에만 사람의 확인을 심는 설계

에이전트가 실패하는 방식

자율성에 비례해 커지는 위험

도구 위험 분류

읽기 = 자동, 쓰기 = 승인, 고위험 = 이중 확인

HITL 3패턴

사람이 에이전트를 안전하게 제어하는 세 가지 방법

1. 1
   승인 게이트

   • 에이전트 실행 일시 중지
   • 사용자에게 동작 설명 + 승인 요청
   • 승인 → 실행 재개, 거부 → 중단
2. 2
   에스컬레이션

   • 불확실한 요청 감지
   • 사람(상담원)에게 전환
   • 해결 후 에이전트로 복귀 가능
3. 3
   감사 로그

   • 도구 호출 이력 전부 저장
   • 비정상 패턴 탐지
   • 정책 규칙 업데이트 근거

Hook 기반 승인 게이트

Strands SDK로 HITL 구현

from strands.hooks import BeforeToolCallEvent, HookProvider, HookRegistry

# ① Hook 정의 — 도구 실행 직전(BeforeToolCallEvent)에 개입
class ApprovalGate(HookProvider):
    """고위험 도구 호출 전 사용자 승인을 요청하는 Hook"""

    def register_hooks(self, registry: HookRegistry):
        registry.add_callback(BeforeToolCallEvent, self.check)

    def check(self, event: BeforeToolCallEvent):
        # ② 쓰기/삭제 도구만 승인 요청 — 읽기 도구는 통과
        dangerous = ["cancel_reservation", "delete_account"]
        if event.tool_use["name"] in dangerous:
            event.interrupt(
                "approval_needed",
                reason=f"'{event.tool_use['name']}' 실행을 승인하시겠습니까?"
            )

# ③ 에이전트에 Hook 적용
agent = Agent(
    model="us.anthropic.claude-sonnet-4-6",
    tools=[cancel_reservation, search_restaurants],
    hooks=[ApprovalGate()]
)

HITL 설계 원칙

안전과 효율의 균형