LLM 추론 파라미터

# ① Tool 정의 — toolConfig.tools[].toolSpec 구조
tool_config = {
    "tools": [{
        "toolSpec": {
            "name": "get_weather",
            "description": "도시의 현재 날씨 조회",  # 모델의 선택 근거
            "inputSchema": {"json": {"type": "object",
                "properties": {"city": {"type": "string"}}, "required": ["city"]}},
        }
    }]
}

# ② Converse 호출 — toolConfig로 도구 목록 전달
response = bedrock_runtime.converse(
    modelId='us.anthropic.claude-sonnet-4-6',
    messages=[{'role': 'user', 'content': [{'text': '서울의 날씨는?'}]}],
    toolConfig=tool_config,
)

# ③ 응답 분석 — 모델은 호출 "의도"(name·input)만 JSON으로 반환
for content in response['output']['message']['content']:
    if content.get('toolUse'):
        print(content['toolUse']['name'], content['toolUse']['input'])

• toolSpec — name · description · inputSchema(JSON Schema)로 도구 선언, description이 모델의 선택 근거
• toolConfig — Converse 호출에 도구 목록을 실어 전달
• toolUse — 모델은 호출 의도(name·input)만 반환, 실제 실행은 개발자 몫 — 다음 슬라이드의 ReAct 루프로 이어짐

messages = [{'role': 'user', 'content': [{'text': '서울의 날씨는?'}]}]

while True:
    # ① Reason — 모델이 현재 messages를 보고 다음 행동 결정
    response = bedrock_runtime.converse(
        modelId='us.anthropic.claude-sonnet-4-6',
        messages=messages,
        toolConfig=tool_config)
    messages.append(response['output']['message'])

    # ② 종료 조건 — end_turn이면 최종 응답
    if response['stopReason'] != 'tool_use':
        break

    # ③ Act — 모델이 반환한 도구를 개발자가 실제 실행
    for content in response['output']['message']['content']:
        if content.get('toolUse'):
            tu = content['toolUse']
            result = run_tool(tu['name'], tu['input'])
            # ④ Observe — toolResult를 messages에 추가해 재전달
            messages.append({'role': 'user', 'content': [{
                'toolResult': {'toolUseId': tu['toolUseId'],
                               'content': [{'json': result}]}}]})

• while + stopReason — tool_use면 반복, end_turn이면 break로 종료
• Reason → Act — 모델은 의도만 반환, run_tool() 실행은 개발자 코드
• toolResult (Observe) — toolUseId로 호출과 결과를 짝지어 messages에 재전달