API 개요

💠

Bedrock 특징

데이터 프라이버시 · 과금 · 리전 전략

PART 4 · Bedrock 특징

내 데이터의 행방

호출 데이터의 생애 — 지리적 경계 안에서 처리되고 사라지는 흐름

🖥️
내 애플리케이션
요청 전송

🔒 TLS 1.2+
→
전송 구간 암호화

🌍 지리적 경계 — US / EU / APAC

🪨
리전 내 추론
기본은 호출 리전에서 처리

GEO 프로파일(us./eu./apac.)은 이 경계를 넘지 않음 — global.은 예외

📤 응답 반환
→
생성 결과 회신

🗑️
즉시 폐기
입력·출력 영구 보관 없음

응답 직후 요청·응답 데이터가 사라집니다 — Bedrock에 남는 건 없고, 로깅은 직접 켠 경우(옵트인)만 내 계정의 S3·CloudWatch에 저장됩니다

PART 4 · Bedrock 특징

데이터 프라이버시 4대 약속

학습 미사용 · 경계 내 라우팅 · 임시 처리 · 고객 관리 키 — AWS의 공식 약속

학습 미사용

입력·출력이 파운데이션 모델 학습에 절대 사용되지 않음 — AWS 공식 약속

경계 내 라우팅

GEO 프로파일(us./eu./apac.)은 지리적 경계 안에서만 이동 — global.은 전 리전 분산

임시 처리

추론 입력·출력은 영구 보관되지 않음 — 로깅을 직접 켠 경우만 예외

고객 관리 키

Knowledge Bases · Fine-tuning 저장 데이터는 KMS CMK로 암호화

takeaway

핵심은 첫 번째 약속입니다 — 내 데이터가 모델 학습에 쓰이지 않는다는 것이 규제 환경 도입의 전제입니다.

PART 4 · Bedrock 특징

과금 모델 고르기

기본은 토큰 종량 On-Demand — 물량·긴급도에 따라 Batch·예약으로 확장

On-Demand 추천

입력·출력 토큰 종량 과금

• 선납금 · 최소 요금 없음
• Claude Sonnet 4.6 기준 $3 / $15 per MTok (입력/출력)

언제 — 기본값 — 대부분의 시작점

Batch Inference

On-Demand 대비 50% 할인

• 비동기 대량 처리
• 실시간 응답이 필요 없는 작업

언제 — 야간 대량 요약 · 분류 작업

Provisioned Throughput

MU 단위 예약 · 시간당 고정 과금

• 처리량 보장 — 레거시 모델 전용 (신형 Claude 미지원)
• 신형 모델 예약은 Service Tiers Reserved 티어

언제 — 예측 가능한 대규모 프로덕션

Service Tiers·Batch·Provisioned의 설정과 적용 전략은 Amazon Bedrock 추론 인프라 모듈에서 다룹니다.

PART 4 · Bedrock 특징

리전 전략 — 기준점과 우회

신모델은 us-east-1부터 — 리전 격차는 Cross-Region 프로파일로 우회하는 전략

us-east-1이 기준점

가장 많은 모델 지원 — 새 모델은 us-east-1 · us-west-2에 먼저 출시

확장은 수 주 후

타 리전(서울 포함)은 출시 후 수 주 간격으로 확대 — 카탈로그에서 리전별 확인

Cross-Region으로 우회

us. / eu. / apac. 프로파일이면 단일 리전 제약과 스로틀링을 동시에 우회

takeaway

리전·처리량 전략은 추론 인프라 모듈에서 심화합니다.

🔌

엔드포인트와 API

엔드포인트 3종 · API 5종 · 선택 기준

PART 5 · 엔드포인트와 API

엔드포인트 3종 — 관리 · 호출 · 호환

역할과 인증 방식이 다른 3개 엔드포인트가 하나의 모델 풀을 감싸는 구조

takeaway

관리는 bedrock, 호출은 bedrock-runtime, 기존 SDK 재사용은 bedrock-mantle입니다 — 역할과 인증 방식이 엔드포인트를 결정합니다.

PART 5 · 엔드포인트와 API

5가지 API — 같은 모델 풀, 다른 인터페이스

같은 모델이면 어느 API로 불러도 성능·가격 동일 — 차이는 인터페이스와 SDK 호환성

API	엔드포인트	SDK	특징	적합한 상황
Converse	bedrock-runtime	boto3	Runtime 모델 통합, 멀티모달, Tool Use (Mantle 전용 모델 ❌)	AWS 기반 인프라, boto3 표준
Invoke	bedrock-runtime	boto3	모델별 네이티브 JSON 직접 호출	이미지 생성·특화 기능 (비디오는 StartAsyncInvoke)
Responses	bedrock-mantle	OpenAI SDK	OpenAI 호환, Stateful 세션 (GPT-5.x·gpt-oss 등 — Claude ❌)	OpenAI 코드 마이그레이션, 신규 추천
Messages	bedrock-mantle	Anthropic SDK	Anthropic 네이티브 (Sonnet 5·Opus 5 등 — Sonnet 4.6 ❌)	Anthropic 코드 마이그레이션
Chat Completions	bedrock-mantle	OpenAI SDK	OpenAI 호환, Stateless 채팅 (gpt-oss 등 — GPT-5.x·Claude ❌)	경량 작업, 간단한 채팅

takeaway

결정 축은 두 개입니다 — 어떤 SDK를 쓰고 있는가, 어떤 기능이 필요한가. 상세 호출법은 Runtime API·Mantle API 모듈에서 심화합니다.

PART 5 · 엔드포인트와 API

API 선택 질문 순서

기존 SDK 호환을 먼저, 기능 요구를 다음에 — 질문 두세 개면 충분

takeaway

API 선택은 모델 성능이 아니라 기존 코드베이스 + 필요 기능으로 결정됩니다.

Amazon Bedrock Playground

콘솔에서 파운데이션 모델을 직접 호출해 보는 첫 실습

⏱ 60분

Playground에서 모델을 골라 프롬프트를 실험하고, Temperature 등 파라미터 변화에 따른 응답 차이를 관찰합니다.

학습 목표

• Model Catalog에서 모델을 탐색하고 비교합니다
• Playground에서 프롬프트를 실험합니다
• 추론 파라미터가 응답에 주는 영향을 관찰합니다