OECD AI：집체 AI 보안에 G7 조율 필요 — 프롬프트 인젝션·에이전트 보안·모델 오염이 우선 과제

OECD AI Wonk 발행 채널은 2026년 5월 21일 Cyrus de Rivoire, Étienne de Leusse, Elizabeth Seger, Frederic Butts가 작성한 “Establishing the shared foundations for collective AI security”라는 정책 보고서를 발표했다. G7 장관급 회의를 앞두고 공식 OECD 입장 으로 발표되어 조율된 국제적 AI 보안 위협 대응이 어떤 모습이어야 하는지의 틀을 설정한다는 점에서 중요하다.

AI 보안이 전통적 사이버 보안 범주를 벗어나는 이유는？

OECD 보고서 저자들은 AI 시스템이 전통적인 소프트웨어와 범주적으로 다른 보안 문제를 도입한다고 논증한다. 세 가지 핵심 이유가 있다.

첫째, 재사용 가능한 공격 패턴 — 한 모델에 유효한 프롬프트 인젝션 공격은 최소한의 비용으로 다른 모델에 맞게 조정될 수 있다. 이는 특정 소프트웨어 버전에 묶여 있는 전통적인 익스플로잇과 근본적으로 다르다. 공격자는 전통적인 보안에는 존재하지 않았던 규모의 경제를 얻는다.

둘째, 에이전트 자율성 — AI 에이전트는 자율적으로 도구에 접근하고, 코드를 실행하고, 메모리를 읽고 수정하며, 외부 API와 통신한다. 전통적인 접근 제어 모델（RBAC, ACL）은 창의적으로 도구를 조합할 수 있는 자율 행위자를 위해 설계되지 않았다.

셋째, 데이터 수준의 모델 오염 — 2025-2026년 연구에 따르면 훈련 코퍼스의 소수의 신중하게 설계된 문서가 다양한 크기의 모델을 위협할 수 있다. 이는 전통적인 사이버 보안에는 이런 방식으로 존재하지 않는 공급망 공격 벡터다.

OECD는 구체적으로 무엇을 권고하는가？

보고서는 세 가지 접근 방식 을 권고한다.

1. 위협에 대한 공동 프레임워크 — 국가 간 위협 인텔리전스를 공유하는 OECD-GPAI 메커니즘. CERT/CSIRT 모델과 유사하지만 AI 위협（프롬프트 인젝션 카탈로그, 알려진 오염 벡터, 새로운 에이전트 탈출 패턴）에 특화된다.

2. 표준화된 보안 테스트 — NIST, ETSI 및 기타 표준 설정 기관을 통해. 프롬프트 인젝션 견고성, 에이전트 격리, 데이터 출처 검증을 테스트 가능한 지표로 만드는 아이디어. SSL Labs 방법론을 통해 TLS 테스트가 표준화된 것과 유사하다.

3. 공공-민간 협력 — 정부（규제 기관）, 산업계（모델과 에이전트를 구축하는 사람들）, 학계（공격과 방어를 연구하는 사람들） 간 협력의 공식 프레임워크. G7 포럼이 주요 조율 메커니즘으로 제안되었다.

이것이 AI 기업에 실질적으로 무엇을 의미하는가？

프론티어 모델을 구축하는 기업들（OpenAI, Anthropic, Google DeepMind）에게 OECD 입장은 위협 데이터 공유에 대한 규제 압력 이 증가할 것임을 시사한다. 개별 기업들이 보안 문제를 기밀로 취급하는 것이 더 이상 불가능해질 것이다 — 생태계의 다른 행위자들에게 공개하는 공식적인 의무가 생길 것이다.

기업 사용자들에게 이 보고서는 에이전트 거버넌스 문제를 제기한다 — AI 에이전트가 기업 시스템에서 무엇을 하는지 어떻게 제어할지, 어떤 도구를 사용할 수 있는지, 그리고 그 행동을 어떻게 기록할지. 이는 AI 시스템 감시 어려움에 관한 AISI의 최근 보고서와 겹치면서 2026-2027년 규제 그림을 작년보다 훨씬 더 활발하게 만들고 있다.

OECD 보고서는 정책 문서이지 기술 사양이 아니다 — 하지만 다가오는 G7 장관급 정상회담의 의제를 설정 하며 앞으로 몇 달간 전 세계 AI 보안에 관한 모든 논의에서 참고 자료가 될 것이다.