25 개 뉴스
UK AI Safety Institute(AISI)는 2026년 5월 21일 산업·정부·학계 전문가 25명 인터뷰를 바탕으로 고급 AI 시스템 감시의 미래를 분석한 보고서를 발표했다. 핵심 결론은 기존 감시 체계가 점차 무너질 가능성이 있는 토대 위에 서 있다는 것이다. 잠재적 추론, 능력 마스킹, 외부 AI 행동, AI 간 통신 등을 중심으로 20개 이상의 감시 메커니즘 열화 경로가 확인되었다.
유럽 위원회는 2026년 5월 13일 EU AI법에 따른 고위험 AI 시스템 분류 가이드라인 초안에 대한 대상 공개 의견 수렴을 시작했습니다. 마감일은 5월 22일 중앙유럽시간 18시이며, 이 가이드라인은 의료, 교육, 핵심 인프라, 인사 프로세스 분야에서 어떤 조직이 가장 엄격한 규제 요건을 충족해야 하는지를 직접 결정합니다.
Google DeepMind가 싱가포르 정부와 의료·교육·지속 가능성 분야를 아우르는 국가 AI 파트너십을 체결했습니다. 2040년까지 AI가 연구개발 가속화를 통해 싱가포르 경제에 추가로 25억 달러를 가져다줄 것으로 전망됩니다.
OpenAI가 『Education for Countries』 이니셔티브의 2단계에 돌입했습니다. 정부 파트너십을 확대하고, 교사를 위한 OpenAI Luminaries 프로그램을 도입하며, OpenAI Academy를 통해 자격증을 제공합니다. 목표는 실제 효과를 측정하면서 AI 도구를 국가 교육 시스템에 체계적으로 통합하는 것입니다.
OECD.AI와 EU AI Office는 유럽이 농업, 의료, 산업, 모빌리티의 4개 전략 분야에 AI를 배치하는 현황을 기록했습니다. Robs4Crops, European Cancer Imaging Initiative, AI4Cities 등의 프로젝트가 진행 중이지만 데이터 단편화와 디지털 기술 부족이 광범위한 보급을 저해합니다.
유럽위원회가 AI 시스템이 언제 「고위험」 카테고리에 해당하는지 정의하는 지침 초안에 관한 공개 의견 수렴을 시작했습니다. 개발자부터 시민 사회까지 모든 이해관계자는 2026년 6월 23일 22:00 CET까지 피드백을 제출할 수 있습니다.
「자율 AI 사이버 능력은 얼마나 빠르게 발전하고 있는가?」는 영국 AI 안전 연구소(AISI)가 2026년 5월 13일에 발표한 새로운 보고서입니다. 사이버 시간 지평 벤치마크(250만 토큰 예산, 80% 성공 임계값)를 측정함으로써, AISI는 AI 모델이 자율적으로 해결하는 사이버 작업의 길이가 4.7개월마다 두 배로 늘어난다는 것을 확인했습니다. Claude Mythos Preview는 두 사이버 레인지를 모두 해결한 첫 번째 모델입니다(The Last Ones 60%, Cooling Tower 30%). GPT-5.5는 The Last Ones를 30%로 해결했습니다.
Anthropic Research 2028 AI 리더십 시나리오는 2026년 5월 14일 발표된 새로운 정책 보고서로, 2028년까지의 AI 패권에 관한 두 가지 지정학적 시나리오를 설명합니다. 시나리오 1: 미국 민주주의 국가들이 수출 통제와 모델 방어를 통해 12~24개월 우위를 유지합니다. 시나리오 2: 중국이 증류 공격과 25억 달러 규모의 슈퍼마이크로 방식 칩 밀수로 동등 수준에 도달합니다. Anthropic은 허점 차단, 방어적 입법, 미국 AI 수출 확대를 권고합니다.
Fine-Tuning FLOPs Meter 툴킷은 2026년 5월 12일에 발표된 Amazon SageMaker AI의 새로운 확장으로, LLM 파인튜닝 중 유럽 AI 법의 컴퓨트 임계값(3.3×10²² FLOPs, 시스템 리스크 3.3×10²⁴)을 자동으로 추적합니다. recipe YAML에서 compute_flops=true 플래그 하나로 활성화하며 S3와 DynamoDB에 감사 문서를 자동 생성합니다.
유럽 집행위원회가 AI 법 투명성 의무에 관한 지침 초안을 발표하고 2026년 6월 3일을 마감일로 하는 공개 의견수렴을 시작했다. 의무는 2026년 8월 2일부터 적용된다. 서비스 제공자는 AI 생성 콘텐츠에 기계 판독 가능 마커를 부착하고 사용자에게 AI 시스템과의 상호작용을 알려야 한다.
유럽집행위원회, 유럽의회, EU이사회는 AI법 시행을 간소화하고 이른바 누드화 앱을 명시적으로 금지하는 디지털 옴니버스 패키지에 관한 정치적 합의를 달성했습니다. 고위험 AI 시스템은 2027년 12월 2일부터, 제품에 통합된 AI는 2028년 8월 2일부터 적용됩니다.
새로운 연구는 임상 LLM의 안전성이 정확도와 동일한 스케일링 법칙을 따르지 않음을 보여줍니다——RAG의 더 깨끗한 증거가 정확도를 73.5%에서 94.1%로 높이고, 고위험 오류를 12%에서 2.6%로 낮추는 효과가 모델 크기 증가보다 더 큽니다.
영국 AI 보안 연구소가 5월 5일 Microsoft와의 프론티어 AI 안전 파트너십을 발표했습니다. 협력은 세 가지 연구 분야를 포함합니다: 고위험 역량 평가, 보호 조치 테스트, 대화형 AI의 사회적 회복력 연구.
NIST 산하 AI 표준혁신센터(CAISI)는 2026년 5월 5일 Google DeepMind, Microsoft, xAI와 프런티어 모델의 배포 전·후 테스트에 관한 확장 협약을 체결했습니다. CAISI는 현재까지 40건 이상의 평가를 실시했으며, 미공개 최첨단 모델에 대한 테스트를 포함해 안전장치를 제거한 기밀 환경에서 정례적으로 수행됩니다.
LangChain이 LangSmith와 LangChain OSS가 EU AI법의 핵심 조항들——위험 관리(제9조)부터 시장 후 모니터링(제72조)까지——을 어떻게 커버하는지에 대한 상세 가이드를 발표했습니다. 고위험 AI 시스템의 컴플라이언스 마감일은 2026년 8월 2일이며, 과태료는 최대 1500만 유로 또는 전 세계 연간 매출의 3%에 달합니다.
OpenAI는 2026년 4월 27일 ChatGPT Enterprise와 OpenAI API의 FedRAMP Moderate 인증 취득을 발표하며, 미국 연방 기관이 민감하지만 비기밀 데이터 수준에서 생성형 AI 기술을 안전하게 채택할 수 있는 가능성을 열었습니다.
Chris Schneider, Philipp Schoenegger, Ben Bariach는 2026년 4월 23일 논문 'Separable Expert Architecture'를 발표하여 개인화 LLM이 직면한 가장 큰 GDPR 문제——전체 모델을 재학습하지 않고 개별 사용자 데이터를 삭제하는 방법——를 해결했습니다. 3계층 아키텍처(정적 기반 모델, 조합 가능한 LoRA 어댑터, 사용자별 프록시 아티팩트)가 언러닝을 결정론적 삭제 작업으로 전환합니다. Phi-3.5-mini와 Llama-3.1-8B에서 평가되었습니다.
Google DeepMind와 한국 과학기술정보통신부(MSIT)는 2026년 4월 27일 과학적 발견과 AI 혁신 가속화를 위한 파트너십을 발표했습니다. 협력 내용에는 서울 AI 캠퍼스 설립, AlphaFold·AlphaGenome 등 첨단 AI 도구의 학술기관 제공, 한국 AI 안전연구원과의 안전 분야 협력이 포함됩니다.
유럽위원회가 조작적 AI 콘텐츠에 대응하는 공동 연구 프레임워크 구축을 위해 600만 유로 규모의 DIGITAL-2026-BESTUSE-AWARENESS 공모를 개설했습니다. 이 공모는 2025년 11월에 발표된 유럽 민주주의 방패의 실행 조치로, 신청 마감은 2026년 10월 1일입니다.
유럽 위원회가 디지털 유럽 프로그램을 통해 총 6320만 유로 규모의 7개 공모를 개설했습니다. 자금은 의료 AI 혁신(암, 심장병), 아동 온라인 안전, 규제 기관 도구에 배정되며, 더 광범위한 AI 대륙 행동 계획의 일환입니다.
AISafetyBenchExplorer는 2018년부터 2026년까지 발표된 195개의 AI 안전 벤치마크를 문서화한 구조화된 카탈로그입니다. 연구는 이 분야의 우려스러운 단편화를 드러냅니다——'accuracy'와 'safety score' 같은 용어들이 완전히 다른 방법론을 숨기고 있습니다. 195개의 벤치마크 중 165개는 영어만 평가하며, 137개의 GitHub 저장소가 비활성화 상태로, 발표 이후 유지보수 부족을 보여줍니다.
OECD가 영국의 알고리즘 투명성 기록 표준(ATRS)을 분석했습니다. 2025년부터 중앙 정부에 의무화되었으며, 2025년 3월까지 125건의 알고리즘 사용 기록이 공개되었습니다. 에스토니아가 이미 이 표준을 채택했으며, OECD는 이를 '세계 선도적'이라고 평가했습니다.
Anthropic은 Long-Term Benefit Trust를 통해 노바르티스 CEO Vas Narasimhan을 이사회에 임명했다고 발표했습니다. LTBT 이사들이 이사회 과반수를 차지하게 되어 회사의 안전 미션에 대한 감독이 강화됩니다.
연구자 Tibebu는 공식적인 불가능성 결과를 증명합니다. AI 에이전트 자율성의 특정 임계값을 넘으면, 인간과 AI를 결합한 시스템에서 책임의 네 가지 속성이 동시에 성립할 수 없습니다.
유럽위원회가 AI Continent Action Plan 출범 1주년을 맞아 성과를 발표했습니다. 유럽 슈퍼컴퓨터상에 19개의 AI 팩토리가 배치되었고, 13개의 지역 AI Factory 안테나가 로컬 접근을 제공하며, Apply AI Strategy 이니셔티브를 위해 10억 유로가 확보되었습니다.