개요

🧭

Amazon Bedrock이란

완전관리형 생성형 AI 플랫폼

PART 1 · Amazon Bedrock이란

Amazon Bedrock이란

서비스의 정체 — 인프라가 아니라 API

🪨

100+ 파운데이션 모델을 단일 API로

AWS 완전관리형 생성형 AI 플랫폼 — 모델 호출부터 프로덕션 운영까지

• 100+ 파운데이션 모델
• 서버리스
• 단일 API
• On-Demand 과금
• VPC 데이터 격리

takeaway

인프라를 세우는 서비스가 아니라, 모델을 호출하는 API 서비스입니다.

PART 1 · Amazon Bedrock이란

직접 구축과의 차이

GPU 클러스터 직접 운영 대비 시작 · 비용 · 확장 · 보안 · 모델 다섯 가지 전환

직접 구축에서는 Bedrock에서는

시작 GPU 클러스터 프로비저닝 → API 호출 즉시 응답 — 수 분 내 시작

비용 유휴 시간에도 인스턴스 과금 → 호출한 토큰만 과금 — 유휴 비용 0원

확장 트래픽 급증 시 수동 확장 → 자동 스케일링 — 운영 개입 불필요

보안 IAM·암호화·감사 직접 구성 → IAM · KMS · VPC Endpoint · CloudTrail 내장

모델 배포한 단일 모델에 종속 → 단일 API로 100+ 모델 전환 — 벤더 종속 없음

PART 1 · Amazon Bedrock이란

SageMaker Endpoint와의 경계

같은 추론이라도 운영 책임의 위치가 다른 두 서비스

SageMaker Endpoint

내가 배포하는 모델 서버

• 모델을 인스턴스에 직접 배포
• 스케일링 정책·패치를 직접 관리
• 커스텀 모델·자체 가중치에 적합
• 인스턴스 단위 시간 과금

Amazon Bedrock

AWS가 서빙하는 모델 API

• 배포 없이 API 호출 즉시 추론
• 스케일링·패치 전부 AWS 책임
• 상용 파운데이션 모델을 빠르게 쓰는 데 적합
• 토큰 단위 종량 과금

🗺️

기능 맵

추론부터 프로덕션까지 8개 영역

PART 2 · 기능 맵

Bedrock 기능 맵

모두 서버리스 — 인프라 프로비저닝 없이 켜서 쓰는 8개 영역

PART 2 · 기능 맵

대표 영역 넷

여덟 영역 중 실무에서 가장 먼저 만나는 넷

추론 API

Converse · InvokeModel — 100+ 모델을 단일 API로 호출
모든 기능의 출발점 — 스트리밍 · Tool Use 포함

RAG

Knowledge Bases — 사내 문서를 검색해 응답에 근거 주입
환각 · 지식 단절 대응의 표준 패턴

에이전트

Agents · AgentCore — 도구 호출 · 메모리 · 오케스트레이션
모델을 실행 환경과 결합해 자율 작업 수행

안전

Guardrails — 콘텐츠 필터 · PII 마스킹 · 근거 검증
입력과 출력 양쪽에 정책 적용

takeaway

나머지 네 영역(추론 인프라 · 평가 · 커스터마이징 · 모델 서빙)까지 여덟 영역 모두 전용 모듈에서 심화합니다.

🧬

파운데이션 모델 카탈로그

100+ 모델 탐색 · 비교 · 선택

PART 3 · 파운데이션 모델 카탈로그

100+ 모델의 지형도

프로바이더 × 라이선스 두 축으로 탐색하는 Model Catalog

PART 3 · 파운데이션 모델 카탈로그

갈래별 대표 라인업

텍스트 · 멀티모달 · 오픈웨이트 세 갈래의 출발점

Claude 계열

실습 기본 모델 — 범용 텍스트·에이전틱의 기준선

• Sonnet 4.6 — 실습 기본, 1M 컨텍스트
• Opus 5 — 최신 플래그십, 에이전틱 · 장문
• Fable 5 — 멀티데이 자율 작업 최상위

Amazon Nova 2

멀티모달 축 — 텍스트·이미지·비디오·음성

• Nova 2 Lite — 1M 컨텍스트, 영상 입력
• Nova 2 Pro — 멀티스텝 추론
• Nova 2 Sonic — 음성 대화 (한국어 미지원)

오픈웨이트

개방 라이선스 축 — 비용·규제 유연성

• Llama — Meta, 128K 컨텍스트
• Gemma 4 — Google, 3종 GA
• gpt-oss — OpenAI, 120B/20B

takeaway

출발점은 셋입니다 — 범용 텍스트는 Claude, 멀티모달은 Nova 2, 개방 라이선스는 오픈웨이트에서 시작합니다.

PART 3 · 파운데이션 모델 카탈로그

모델 선택 기준 다섯 가지

정확도 vs 비용 · 컨텍스트 · 멀티모달 · 리전 · 라이선스 — 용도에 맞는 모델을 고르는 다섯 축

정확도 vs 비용

• Opus — 정확·고가
• Haiku · Nova Lite — 빠르고 저렴

언제 — 품질 요구와 예산의 균형

컨텍스트 윈도우

• Claude Sonnet 4+ — 1M 토큰
• Llama — 128K

언제 — 긴 문서·긴 대화 처리

멀티모달

• 이미지·비디오 입력 필요 시
• Nova 또는 Claude

언제 — 텍스트 외 입력 여부

리전 가용성

• 모든 모델이 모든 리전에 있지 않음
• 카탈로그에서 리전별 확인

언제 — 서비스 리전 제약

라이선스 · 규제

• 오픈웨이트(Llama · Gemma) ↔ 독점(Claude · Nova)
• 데이터 주권 요건 확인

언제 — 규제·주권 요건

처음이라면 Cross-Region 프로파일

단일 리전 ID 대신 us.anthropic.claude-sonnet-4-6 같은 프로파일을 쓰면 트래픽 급증 시 여러 리전으로 분산되어 429 스로틀링을 예방합니다.