AWS：새로운 Bedrock InvokeGuardrailChecks API, 에이전트 앱에 리소스 없이 보안 검사 제공

AWS는 Amazon Bedrock에 InvokeGuardrailChecks를 도입했습니다. 이 API는 에이전트 애플리케이션이 별도 리소스를 관리하지 않고 보안 검사를 수행할 수 있게 해줍니다.

새 API는 무엇이 다릅니까?

InvokeGuardrailChecks는 탐지 전용 API입니다：위험 점수를 반환하지만 자동으로 차단하지 않습니다——개발 팀이 결과를 어떻게 처리할지 직접 결정합니다. 또한 사전 생성된 guardrail 리소스를 필요로 하지 않아 여러 버전의 보호를 관리하는 운영 부담이 없습니다. Guardrail은 보안 및 컴플라이언스를 위해 모델의 입출력을 검사하는 레이어입니다.

어떤 보호 유형을 다룹니까?

API는 세 종류의 검사를 다룹니다：콘텐츠 필터（혐오, 폭력, 성적 콘텐츠, 모욕, 부적절한 행동）, 프롬프트 공격 탐지（탈옥, 프롬프트 삽입, 데이터 유출）, 그리고 31가지 엔티티 유형을 가진 개인정보（PII） 인식입니다. 0에서 1.0 범위로 심각도와 신뢰도 점수를 반환하며, PII의 경우 텍스트 내 문자 위치도 함께 반환합니다.

에이전트 시스템에 왜 중요합니까?

에이전트 애플리케이션은 다단계로 작동하므로 루프의 각 반복에서 보안을 검사해야 합니다. API가 강제 차단 대신 점수를 반환하기 때문에 개발 팀은 단계별로 자체 임계값을 설정할 수 있습니다——에이전트가 민감한 도구를 호출하는 경우 더 엄격하게, 그 외의 경우 더 완화하여. 이를 통해 여러 guardrail 리소스의 오버헤드 없이 보안을 세분화하여 내장할 수 있습니다.