OpenAI, 정부 및 안보 기관과의 협력 원칙을 공표하다
OpenAI가 정부 기관 및 국가 안보 조직과의 협력 조건과 한계를 규정하는 원칙 집합을 공식 발표했다. 민주적 감독과 지역사회 보호를 핵심으로 강조하고 있다.
45 개 뉴스
OpenAI가 정부 기관 및 국가 안보 조직과의 협력 조건과 한계를 규정하는 원칙 집합을 공식 발표했다. 민주적 감독과 지역사회 보호를 핵심으로 강조하고 있다.
유럽위원회가 오늘 사이버보안과 AI를 통합한 행동계획을 발표했습니다. 이 계획은 기존 EU 법적 프레임워크를 기반으로 회원국과 산업계를 조율하며, AI를 공격 벡터인 동시에 방어 도구로 다룹니다.
NVIDIA의 AI Nations 이니셔티브는 프랑스, 인도, 브라질이 국가 전략의 다섯 가지 요소 프레임워크에 따라 자국 AI 역량을 구축하는 방법을 보여줍니다. 핵심 테제: AI 데이터 센터는 오늘날 도로나 전력망과 마찬가지로 주권 인프라입니다.
영국 AI 안전 연구소(AISI)는 고정 토큰 예산으로 AI 에이전트를 평가하면 프런티어 모델의 실제 능력을 체계적으로 과소평가한다는 연구 결과를 발표했다. 예산을 100만 토큰에서 1000만 토큰으로 늘리면 소프트웨어 엔지니어링 태스크에서 최대 25%, 수학 테스트에서 22%의 성능 향상이 나타났다. AISI는 규제 기관이 벤치마크 점수 대신 컴퓨팅 예산에 따른 능력 곡선을 채택할 것을 촉구한다.
Mapping Europe's AI Workforce는 AI 기술이 유럽 연합 전역의 직업과 일자리를 어떻게 재편할 수 있는지 분석하는 OpenAI의 보고서입니다. 자동화 위험만이 아닌 유럽 노동력을 위한 기회를 강조합니다.
유럽 집행위원회가 AWS와 Microsoft Azure를 디지털 시장법(DMA) 게이트키퍼로 지정해야 한다는 예비 결정을 내렸습니다. 두 클라우드 대기업은 EU 내 공정 경쟁을 위한 엄격한 규제 의무를 지게 됩니다.
GitHub, Black Forest Labs, Hugging Face, Mozilla가 California AI Transparency Act(SB 942/SB 1000) 수정을 요구하는 연합을 결성했습니다. 문제 조항은 다운스트림 사용자의 실수로 오픈소스 프로젝트의 라이선스를 취소하도록 강제하는데, 이는 영구 라이선스 모델과 양립할 수 없습니다.
OpenAI가 고급 AI 평가와 안전 관행을 위한 공동 표준을 개발하는 새로운 국제 기구인 Appia Foundation에 합류했습니다. 목표는 단편화된 국가 프레임워크 대신 글로벌 산업 협력이며, 발표는 2026년 6월 23일 이루어졌습니다.
EUROPA는 유럽위원회가 2026년 6월 19일 Frontier AI Grande Challenge 경쟁의 승자로 선정한 컨소시엄으로, 이탈리아 기업 Domyn이 이끌고 있습니다. EU 전체 24개 공용어를 지원하는 4000억 개 이상의 파라미터를 가진 오픈 유럽 프런티어 모델을 구축하여 기업, 연구자, 공공 기관에 공개할 예정입니다.
유럽위원회가 제4차 디지털 10년 연간 현황 보고서를 발표하여 인프라, 비즈니스, 역량, 공공서비스 네 분야에서 2030년 디지털 목표를 향한 EU의 진행 상황을 평가했습니다. 보고서는 AI, 반도체, 클라우드, 오픈소스를 유럽 기술 주권의 기둥으로 인정하고, 「규모·속도·일관성을 갖춘 성과 제공」을 핵심 과제로 제시했습니다. 유로바로미터에 따르면 대다수의 유럽 시민이 디지털 정책을 EU의 최우선 과제로 꼽고 있습니다.
CNCF는 EU Data Act가 2025년 1월 11일부터 전면 시행됨에 따라 클라우드 네이티브 플랫폼의 디지털 주권 아키텍처 패턴에 관한 가이드를 발표했습니다. 규제 당국은 네 가지 속성을 요구합니다:관할권 제한, 운영 자율성, 암호화 접근 제어, 이식성. 공유 control plane은 관할권 간 공유 위험을 의미하므로 단일 Kubernetes 클러스터로는 충분하지 않습니다. 각 관할권이 자체 control plane(vCluster)을 갖추고 GitOps로 경계를 선언하는 패턴이 제안됩니다.
AgentFairBench는 취업, 신용, 의료 분류 영역에서 LLM 에이전트의 답변뿐 아니라 실제 행동에서의 인구통계 불평등을 측정하는 첫 번째 벤치마크입니다. 반사실적 전환율과 행동률 격차 두 가지 지표를 사용하며 네 가지 에이전트 스캐폴드를 테스트합니다. 864회 결정의 시범 연구에서 Claude Haiku는 통계적 노이즈 수준을 초과하는 인구통계 효과를 보이지 않았으며, 6개 집단의 단순 비교가 불평등을 약 2.4배 과대평가할 수 있다고 경고합니다.
이 논문은 1,000개 시스템의 최종 리더보드 스냅샷이 수렴 시간 23~75 단계로 여러 비호환 역사적 궤적에 대응할 수 있음을 보이는 베이즈 감사 프레임워크를 제시합니다. LiveBench, Open LLM Leaderboard v2, LMArena, GAIA, tau-bench의 아카이브 데이터를 토대로 저자는 채점 이력을 재구성하고 프론티어 모델에 관한 근거 없는 주장을 기각하기 위한 archive-and-adjudication 프로토콜을 제안합니다.
Anthropic이 프런티어 AI를 위한 상세한 규제 프레임워크 제안을 발표했습니다. 연산량과 기업 매출에 기반한 적용 기준, 네 가지 재앙적 위험 범주, 독립 평가 및 모델 보호 요건을 담고 있습니다.
OECD는 인공지능이 기후, 취약한 공급망, 노동력 부족의 압박을 받는 글로벌 식량 시스템을 어떻게 강화할 수 있는지 분석한다. 이 글은 세 가지 장애물 — 사일로화된 데이터, 소규모 농민의 낮은 접근성, 확장의 장벽 — 을 짚는다. OECD와 GPAI를 통한 더 강력한 국제 협력을 권고한다.
OECD는 정책 입안자가 OECD AI 원칙을 구체적인 행동으로 옮기도록 돕는 실용적이고 비처방적인 가이드인 AI Policy Toolkit의 첫 버전을 공개했다. AI 기반 시맨틱 검색을 갖춘 인터랙티브 플랫폼은 AI 정책의 전체 주기를 따르며, 이탈리아, 프랑스, 한국, 일본, 영국, 유럽연합의 기여로 여러 지역에 걸친 공동 창작을 통해 만들어졌다.
OpenAI는 인공지능 맥락에서 청소년 안전을 위한 글로벌 행동을 촉구했다. 회사는 청소년을 위한 보호 장치, 표준, 기회를 강화할 국제 기구의 설립을 제안했는데, 이는 규제 당국과 파트너를 겨냥한 정책 제안이다.
OpenAI는 외부 AI 모델 평가를 위한 공유 플레이북을 공개했다. 이 문서는 독립 평가자가 모델의 역량을 신뢰성 있게 측정하고, 안전 장치를 테스트하며, 첨단 frontier 시스템에 대한 결과의 타당성을 확인하는 방법을 설명한다.
Frontier Governance Framework는 OpenAI가 2026년 5월 28일 발표한 문서로, AI safety, 보안(security), 위험 관리 관행이 유럽연합과 캘리포니아 주의 신흥 규제와 어떻게 일치하는지를 기술한다. 목적은 내부 거버넌스가 외부 규제 요구사항과 부합함을 보여주는 것이다.
영국 AI Safety Institute(UK AISI)와 호주 AI Safety Institute가 2026년 5월 25일 AI 평가 모범 사례 공유 및 연구 결과 교환에 관한 협력 협약을 체결했습니다. 이번 파트너십은 국제 AI 안전 기관 네트워크를 확장하고, 첨단 AI 시스템의 위험 평가에 대한 조율된 접근 방식을 강화합니다.
UK AI Safety Institute(AISI)는 2026년 5월 21일 산업·정부·학계 전문가 25명 인터뷰를 바탕으로 고급 AI 시스템 감시의 미래를 분석한 보고서를 발표했다. 핵심 결론은 기존 감시 체계가 점차 무너질 가능성이 있는 토대 위에 서 있다는 것이다. 잠재적 추론, 능력 마스킹, 외부 AI 행동, AI 간 통신 등을 중심으로 20개 이상의 감시 메커니즘 열화 경로가 확인되었다.
유럽 위원회는 2026년 5월 13일 EU AI법에 따른 고위험 AI 시스템 분류 가이드라인 초안에 대한 대상 공개 의견 수렴을 시작했습니다. 마감일은 5월 22일 중앙유럽시간 18시이며, 이 가이드라인은 의료, 교육, 핵심 인프라, 인사 프로세스 분야에서 어떤 조직이 가장 엄격한 규제 요건을 충족해야 하는지를 직접 결정합니다.
Google DeepMind가 싱가포르 정부와 의료·교육·지속 가능성 분야를 아우르는 국가 AI 파트너십을 체결했습니다. 2040년까지 AI가 연구개발 가속화를 통해 싱가포르 경제에 추가로 25억 달러를 가져다줄 것으로 전망됩니다.
OpenAI가 『Education for Countries』 이니셔티브의 2단계에 돌입했습니다. 정부 파트너십을 확대하고, 교사를 위한 OpenAI Luminaries 프로그램을 도입하며, OpenAI Academy를 통해 자격증을 제공합니다. 목표는 실제 효과를 측정하면서 AI 도구를 국가 교육 시스템에 체계적으로 통합하는 것입니다.
OECD.AI와 EU AI Office는 유럽이 농업, 의료, 산업, 모빌리티의 4개 전략 분야에 AI를 배치하는 현황을 기록했습니다. Robs4Crops, European Cancer Imaging Initiative, AI4Cities 등의 프로젝트가 진행 중이지만 데이터 단편화와 디지털 기술 부족이 광범위한 보급을 저해합니다.
유럽위원회가 AI 시스템이 언제 「고위험」 카테고리에 해당하는지 정의하는 지침 초안에 관한 공개 의견 수렴을 시작했습니다. 개발자부터 시민 사회까지 모든 이해관계자는 2026년 6월 23일 22:00 CET까지 피드백을 제출할 수 있습니다.
「자율 AI 사이버 능력은 얼마나 빠르게 발전하고 있는가?」는 영국 AI 안전 연구소(AISI)가 2026년 5월 13일에 발표한 새로운 보고서입니다. 사이버 시간 지평 벤치마크(250만 토큰 예산, 80% 성공 임계값)를 측정함으로써, AISI는 AI 모델이 자율적으로 해결하는 사이버 작업의 길이가 4.7개월마다 두 배로 늘어난다는 것을 확인했습니다. Claude Mythos Preview는 두 사이버 레인지를 모두 해결한 첫 번째 모델입니다(The Last Ones 60%, Cooling Tower 30%). GPT-5.5는 The Last Ones를 30%로 해결했습니다.
Anthropic Research 2028 AI 리더십 시나리오는 2026년 5월 14일 발표된 새로운 정책 보고서로, 2028년까지의 AI 패권에 관한 두 가지 지정학적 시나리오를 설명합니다. 시나리오 1: 미국 민주주의 국가들이 수출 통제와 모델 방어를 통해 12~24개월 우위를 유지합니다. 시나리오 2: 중국이 증류 공격과 25억 달러 규모의 슈퍼마이크로 방식 칩 밀수로 동등 수준에 도달합니다. Anthropic은 허점 차단, 방어적 입법, 미국 AI 수출 확대를 권고합니다.
Fine-Tuning FLOPs Meter 툴킷은 2026년 5월 12일에 발표된 Amazon SageMaker AI의 새로운 확장으로, LLM 파인튜닝 중 유럽 AI 법의 컴퓨트 임계값(3.3×10²² FLOPs, 시스템 리스크 3.3×10²⁴)을 자동으로 추적합니다. recipe YAML에서 compute_flops=true 플래그 하나로 활성화하며 S3와 DynamoDB에 감사 문서를 자동 생성합니다.
유럽 집행위원회가 AI 법 투명성 의무에 관한 지침 초안을 발표하고 2026년 6월 3일을 마감일로 하는 공개 의견수렴을 시작했다. 의무는 2026년 8월 2일부터 적용된다. 서비스 제공자는 AI 생성 콘텐츠에 기계 판독 가능 마커를 부착하고 사용자에게 AI 시스템과의 상호작용을 알려야 한다.
유럽집행위원회, 유럽의회, EU이사회는 AI법 시행을 간소화하고 이른바 누드화 앱을 명시적으로 금지하는 디지털 옴니버스 패키지에 관한 정치적 합의를 달성했습니다. 고위험 AI 시스템은 2027년 12월 2일부터, 제품에 통합된 AI는 2028년 8월 2일부터 적용됩니다.
새로운 연구는 임상 LLM의 안전성이 정확도와 동일한 스케일링 법칙을 따르지 않음을 보여줍니다——RAG의 더 깨끗한 증거가 정확도를 73.5%에서 94.1%로 높이고, 고위험 오류를 12%에서 2.6%로 낮추는 효과가 모델 크기 증가보다 더 큽니다.
영국 AI 보안 연구소가 5월 5일 Microsoft와의 프론티어 AI 안전 파트너십을 발표했습니다. 협력은 세 가지 연구 분야를 포함합니다: 고위험 역량 평가, 보호 조치 테스트, 대화형 AI의 사회적 회복력 연구.
NIST 산하 AI 표준혁신센터(CAISI)는 2026년 5월 5일 Google DeepMind, Microsoft, xAI와 프런티어 모델의 배포 전·후 테스트에 관한 확장 협약을 체결했습니다. CAISI는 현재까지 40건 이상의 평가를 실시했으며, 미공개 최첨단 모델에 대한 테스트를 포함해 안전장치를 제거한 기밀 환경에서 정례적으로 수행됩니다.
LangChain이 LangSmith와 LangChain OSS가 EU AI법의 핵심 조항들——위험 관리(제9조)부터 시장 후 모니터링(제72조)까지——을 어떻게 커버하는지에 대한 상세 가이드를 발표했습니다. 고위험 AI 시스템의 컴플라이언스 마감일은 2026년 8월 2일이며, 과태료는 최대 1500만 유로 또는 전 세계 연간 매출의 3%에 달합니다.
OpenAI는 2026년 4월 27일 ChatGPT Enterprise와 OpenAI API의 FedRAMP Moderate 인증 취득을 발표하며, 미국 연방 기관이 민감하지만 비기밀 데이터 수준에서 생성형 AI 기술을 안전하게 채택할 수 있는 가능성을 열었습니다.
Chris Schneider, Philipp Schoenegger, Ben Bariach는 2026년 4월 23일 논문 'Separable Expert Architecture'를 발표하여 개인화 LLM이 직면한 가장 큰 GDPR 문제——전체 모델을 재학습하지 않고 개별 사용자 데이터를 삭제하는 방법——를 해결했습니다. 3계층 아키텍처(정적 기반 모델, 조합 가능한 LoRA 어댑터, 사용자별 프록시 아티팩트)가 언러닝을 결정론적 삭제 작업으로 전환합니다. Phi-3.5-mini와 Llama-3.1-8B에서 평가되었습니다.
Google DeepMind와 한국 과학기술정보통신부(MSIT)는 2026년 4월 27일 과학적 발견과 AI 혁신 가속화를 위한 파트너십을 발표했습니다. 협력 내용에는 서울 AI 캠퍼스 설립, AlphaFold·AlphaGenome 등 첨단 AI 도구의 학술기관 제공, 한국 AI 안전연구원과의 안전 분야 협력이 포함됩니다.
유럽위원회가 조작적 AI 콘텐츠에 대응하는 공동 연구 프레임워크 구축을 위해 600만 유로 규모의 DIGITAL-2026-BESTUSE-AWARENESS 공모를 개설했습니다. 이 공모는 2025년 11월에 발표된 유럽 민주주의 방패의 실행 조치로, 신청 마감은 2026년 10월 1일입니다.
유럽 위원회가 디지털 유럽 프로그램을 통해 총 6320만 유로 규모의 7개 공모를 개설했습니다. 자금은 의료 AI 혁신(암, 심장병), 아동 온라인 안전, 규제 기관 도구에 배정되며, 더 광범위한 AI 대륙 행동 계획의 일환입니다.
AISafetyBenchExplorer는 2018년부터 2026년까지 발표된 195개의 AI 안전 벤치마크를 문서화한 구조화된 카탈로그입니다. 연구는 이 분야의 우려스러운 단편화를 드러냅니다——'accuracy'와 'safety score' 같은 용어들이 완전히 다른 방법론을 숨기고 있습니다. 195개의 벤치마크 중 165개는 영어만 평가하며, 137개의 GitHub 저장소가 비활성화 상태로, 발표 이후 유지보수 부족을 보여줍니다.
OECD가 영국의 알고리즘 투명성 기록 표준(ATRS)을 분석했습니다. 2025년부터 중앙 정부에 의무화되었으며, 2025년 3월까지 125건의 알고리즘 사용 기록이 공개되었습니다. 에스토니아가 이미 이 표준을 채택했으며, OECD는 이를 '세계 선도적'이라고 평가했습니다.
Anthropic은 Long-Term Benefit Trust를 통해 노바르티스 CEO Vas Narasimhan을 이사회에 임명했다고 발표했습니다. LTBT 이사들이 이사회 과반수를 차지하게 되어 회사의 안전 미션에 대한 감독이 강화됩니다.
연구자 Tibebu는 공식적인 불가능성 결과를 증명합니다. AI 에이전트 자율성의 특정 임계값을 넘으면, 인간과 AI를 결합한 시스템에서 책임의 네 가지 속성이 동시에 성립할 수 없습니다.
유럽위원회가 AI Continent Action Plan 출범 1주년을 맞아 성과를 발표했습니다. 유럽 슈퍼컴퓨터상에 19개의 AI 팩토리가 배치되었고, 13개의 지역 AI Factory 안테나가 로컬 접근을 제공하며, Apply AI Strategy 이니셔티브를 위해 10억 유로가 확보되었습니다.