Guardrails

LLM 출력의 3가지 위험

강력한 모델일수록 커지는 통제 장치의 필요성

입력·출력 양방향 적용

사용자 입력도, 모델 출력도 모두 검사

8가지 보호 메커니즘

6대 보호 필터 + 2대 거버넌스 기능

콘텐츠 필터링

카테고리 · 주제 · 키워드 — 3겹의 콘텐츠 방어

Content Filters — 유해 카테고리 5종

각 카테고리별 임계값(NONE/LOW/MEDIUM/HIGH)을 설정

Denied Topics — 자연어 금지 주제

키워드가 아닌 의미 기반으로 주제를 차단

텍스트 + 이미지 동시 검사

멀티모달 입출력에도 동일한 가드레일 적용

민감 정보와 환각 방지

정보 유출과 환각 — 두 위험에 대한 세 가지 방어선

PII Filters — 개인정보 보호

31개 엔티티 유형을 자동 감지하여 차단 또는 마스킹

Contextual Grounding — 환각 탐지

답변이 검색 결과에 근거하는지 점수로 검증

1. 1
   소스 청크 수집

   RAG 검색 결과(Reference) 자동 전달.

2. 2
   Grounding 점수

   답변 문장별로 소스 대비 근거 점수 계산.

3. 3
   Relevance 점수

   답변이 질문에 관련 있는지 점수 계산.

4. 4
   임계값 판정

   점수가 설정 임계값 미만이면 차단.

Automated Reasoning — 수학적 증명

정형 논리(Formal Logic)로 정책 위반을 증명 — LLM 판단의 불확실성 제거

조직 거버넌스

역할별 차등 적용 · 조직 전체 강제 · 버전 기반 안전 배포

Selective Guarding — 역할별 차등 적용

시스템·사용자·어시스턴트 메시지별로 다른 가드레일 적용

Cross-Account Safeguards

Organizations 관리 계정에서 모든 멤버 계정에 자동 적용

1. 1
   관리 계정

   중앙 보안팀이 Guardrail 정의.

2. 2
   조직 정책

   관리 계정의 Guardrail 정책이 멤버 계정에 자동 적용.

3. 3
   멤버 계정

   개별 팀이 해제 불가 — 컴플라이언스 보장.

4. 4
   감사

   CloudWatch로 차단 이벤트 중앙 모니터링.

버전 관리 — 불변 스냅샷 배포

Draft에서 버전 발행, 롤백까지 — 안전한 배포 사이클

1. 1
   Draft 수정

   작업 사본에서 정책을 수정하고 테스트합니다.

2. 2
   버전 발행

   발행 시 불변 스냅샷이 생성됩니다 — 이후 수정 불가.

3. 3
   버전 고정 호출

   호출 시 guardrailVersion으로 특정 버전을 고정합니다.

4. 4
   롤백 · A/B

   롤백은 이전 버전 번호로 되돌리고, A/B 테스트는 두 버전을 병행 호출합니다.

과금 구조 — 4가지 과금 축

무엇에 얼마가 과금되는지 — 정책 구성 전에 확인할 과금 단위

통합 패턴

모델 호출 · 정책 엔진 · 즉석 검사 — 3가지 통합 경로

Converse API 통합

guardrailConfig 파라미터 하나로 가드레일 적용

# 평소와 같은 Converse 호출 — 모델·메시지는 그대로
response = bedrock.converse(
    modelId="us.anthropic.claude-sonnet-4-6",
    messages=[{"role": "user", "content": [{"text": query}]}],

    # guardrailConfig 블록만 추가 — 버전 고정 + 차단 사유 추적(trace)
    guardrailConfig={
        "guardrailIdentifier": "my-guardrail-id",
        "guardrailVersion": "DRAFT",
        "trace": "enabled"
    }
)

AgentCore Policy + Guardrails 통합

도구 권한(Cedar) + 콘텐츠 안전(Guardrails)을 하나로

InvokeGuardrailChecks API

Guardrail 리소스 없이 개별 세이프가드를 즉석 실행

프로덕션 안전벨트

입력과 출력 양방향 검사 — 8가지 메커니즘의 지향점