Mantle API

from openai import OpenAI

# 바뀐 곳은 클라이언트 두 줄뿐
client = OpenAI(
    base_url="https://bedrock-mantle.us-east-1.api.aws/v1",
    api_key=os.environ["BEDROCK_API_KEY"],
)

# 호출 코드 무수정 — 모델 ID에 openai. prefix만 추가
response = client.chat.completions.create(
    model="openai.gpt-oss-120b",
    messages=[{"role": "user", "content": "안녕하세요"}]
)

• base_url — api.openai.com 직행 대신 Mantle 리전 엔드포인트
• api_key — OpenAI 키(sk-…) 대신 Bedrock API Key 환경변수
• 모델 ID — openai. prefix만 추가 (gpt-oss-120b → openai.gpt-oss-120b)
• chat.completions.create() 호출부는 한 글자도 수정 없음

response = client.chat.completions.create(
    # gpt-oss 등 오픈웨이트 — GPT-5.x는 Responses 전용
    model="openai.gpt-oss-120b",
    messages=[{"role": "user",
        "content": "이 회의록을 3줄로 요약해 줘"}],
)

{"choices": [{"message": {"role": "assistant",
     "content": "1. 3분기 예산 확정
2. 출시 일정 9월 합의
3. QA 담당 지정"},
   "finish_reason": "stop"}],
 "usage": {"prompt_tokens": 1873,
           "completion_tokens": 96}}

// 꺼내기: response.choices[0].message.content

response = client.messages.create(
    model="anthropic.claude-sonnet-5",
    max_tokens=512,   # Messages는 필수
    messages=[{"role": "user",
        "content": "이 회의록을 3줄로 요약해 줘"}],
)

{"content": [{"type": "text",
    "text": "1. 3분기 예산 확정
2. 출시 일정 9월 합의
3. QA 담당 지정"}],
 "stop_reason": "end_turn",
 "usage": {"input_tokens": 1873,
           "output_tokens": 96}}

// 꺼내기: response.content[0].text

response = client.responses.create(
    model="openai.gpt-oss-120b",
    input="이 회의록을 3줄로 요약해 줘",
)

# 이어서 묻기 — 서버가 대화 이력 보관
follow = client.responses.create(
    model="openai.gpt-oss-120b",
    previous_response_id=response.id,
    input="두 번째 항목을 자세히",
)

{"id": "resp_abc123",
 "output": [{"type": "message",
   "content": [{"type": "output_text",
     "text": "1. 3분기 예산 확정
2. 출시 일정 9월 합의
3. QA 담당 지정"}]}],
 "usage": {"input_tokens": 1873,
           "output_tokens": 96}}

// 꺼내기: response.output_text (SDK 편의 속성)

stream = client.chat.completions.create(
    model="openai.gpt-oss-120b",
    messages=[{"role": "user", "content": "안녕하세요"}],
    stream=True,
)

for chunk in stream:
    delta = chunk.choices[0].delta.content
    if delta:
        print(delta, end="", flush=True)

• stream=True 한 줄 — base_url 교체 후에도 기존 스트리밍 코드 무수정
• chunk.choices[0].delta.content — OpenAI SDK 표준 델타 경로
• Runtime의 converse_stream과 달리 이벤트 파싱을 SDK가 대신합니다

# 워크스페이스(프로젝트) 생성 — 태그가 비용 추적 단위
curl -X POST "https://bedrock-mantle.us-east-1.api.aws/v1/organization/projects" \
  -H "Authorization: Bearer $BEDROCK_API_KEY" \
  -d '{"name": "Chatbot-Production",
       "tags": {"Team": "NLP", "CostCenter": "41250"}}'

# 응답 id(proj_...)를 요청 헤더에 — 워크스페이스 귀속
response = client.messages.create(
    model="anthropic.claude-sonnet-5",
    max_tokens=1024,
    extra_headers={"anthropic-workspace": "proj_abc123def456"},
    messages=[{"role": "user", "content": "..."}],
)

import anthropic

# ① API Key 인증 — IAM 없이 접근 (3rd-party 도구에 적합)
client = anthropic.Anthropic(
  base_url='https://bedrock-mantle.us-east-1.api.aws/anthropic',
  api_key='<BEDROCK_API_KEY>'
)

response = client.messages.create(
  model='anthropic.claude-sonnet-5',
  max_tokens=1024,
  messages=[{'role': 'user', 'content': 'Hello!'}]
)
print(response.content[0].text)

from anthropic import AnthropicBedrock

# ② SigV4 인증으로 bedrock-runtime을 직접 호출 (mantle 경유 아님)
client = AnthropicBedrock(
  aws_region='us-east-1'
)

# Messages API 시그니처는 완전히 동일
response = client.messages.create(
  model='us.anthropic.claude-sonnet-5',
  max_tokens=1024,
  messages=[{'role': 'user', 'content': 'Hello!'}]
)
print(response.content[0].text)