⚖️ 监管

45 条新闻

🟡 ⚖️ 监管 2026年7月8日 · 2 分钟阅读

OpenAI发布与政府及安全机构合作的原则声明

OpenAI正式发布了一套原则，明确定义了与政府实体和国家安全机构合作的条件与边界，强调民主监督和社区保护。

🔴 ⚖️ 监管 2026年7月7日 · 3 分钟阅读

欧盟网络安全与AI行动计划：欧盟委员会无需新立法即可协调防御

欧洲委员会今日发布了欧盟网络安全与AI联合行动计划，该计划建立在现行欧盟法律框架之上，协调成员国与行业力量，同时将AI视为攻击载体与防御工具加以应对。

🟢 ⚖️ 监管 2026年7月6日 · 2 分钟阅读

AI工厂成为国家基础设施：各国如何在AI时代建立主权

NVIDIA的AI Nations倡议展示了法国、印度和巴西如何按照五要素国家战略框架建立本土AI能力。核心论点：AI数据中心如今是与道路和电网同等重要的主权基础设施。

🟡 ⚖️ 监管 2026年7月2日 · 3 分钟阅读

英国AISI：AI智能体评估必须考虑计算预算

英国AI安全研究所的研究表明，采用固定令牌预算的AI智能体评估方法会系统性地低估前沿模型的真实能力。将预算从100万增至1000万令牌，可将软件工程任务的表现提升约25%，数学测试提升约22%。AISI呼吁监管机构从基准分数转向能力曲线，以反映可变计算预算的影响。

🟢 ⚖️ 监管 2026年6月29日 · 1 分钟阅读

OpenAI：欧洲AI劳动力地图——关于AI对欧盟劳动力机遇影响的报告

《欧洲AI劳动力机遇地图》是OpenAI的报告，分析AI技术如何重塑欧盟各地的职业和工作，重点关注AI为欧洲劳动力带来的机遇，而非单纯聚焦于自动化风险。

🟡 ⚖️ 监管 2026年6月26日 · 1 分钟阅读

欧洲委员会：AWS和Microsoft Azure应被列为DMA守门人

欧洲委员会发布初步裁定，认为AWS和Microsoft Azure应依据《数字市场法》（DMA）被认定为守门人，这将使两家云计算巨头受到严格监管义务的约束，以促进欧盟市场的公平竞争。

🟡 ⚖️ 监管 2026年6月24日 · 2 分钟阅读

GitHub：联盟要求修改加利福尼亚AI透明度法案以保护开源

GitHub、Black Forest Labs、Hugging Face和Mozilla组成联盟，要求修改加利福尼亚AI透明度法案（SB 942/SB 1000）。争议条款强制开源项目因下游用户的违规行为撤销许可证，这与永久性许可证模式不相容。

🟡 ⚖️ 监管 2026年6月24日 · 1 分钟阅读

OpenAI：加入Appia Foundation，共建先进AI评估标准

OpenAI加入Appia Foundation——一个致力于开发先进AI评估和安全实践共同标准的新国际机构。目标是推动行业全球协作，而非碎片化的国家框架。公告于2026年6月23日发布。

🟡 ⚖️ 监管 2026年6月20日 · 1 分钟阅读

EU AI Office：EUROPA联盟建设支持24种欧盟语言的4000亿参数开放欧洲前沿模型

EUROPA是欧洲委员会2026年6月19日选定为Frontier AI Grande Challenge竞赛获胜者的联盟，由意大利公司Domyn牵头，将建设支持欧盟全部24种官方语言、超过4000亿参数的开放欧洲前沿模型，向企业、研究人员和公共机构公开开放。

🟢 ⚖️ 监管 2026年6月18日 · 1 分钟阅读

欧盟：2026 年数字十年状况报告要求在 2030 年前弥合结构性差距

欧洲委员会发布了第四份数字十年年度状况报告，评估欧盟在基础设施、商业、技能和公共服务四个领域向 2030 年数字目标迈进的进展。报告将 AI、半导体、云计算和开源认定为欧洲技术主权的支柱，并将「在规模、速度和一致性上交付成果」列为关键挑战。根据欧洲晴雨表调查，绝大多数欧洲人将数字政策列为欧盟的首要优先议题。

🟢 ⚖️ 监管 2026年6月17日 · 1 分钟阅读

CNCF：EU 法规下云原生平台数字主权的架构模式

CNCF 发布了云原生平台数字主权架构模式指南，因 EU Data Act 已于 2025 年 1 月 11 日全面生效。监管机构期望四项属性：司法管辖区约束、运营自主权、加密访问控制和可移植性。单个 Kubernetes 集群是不够的，因为共享 control plane 意味着共享风险；建议每个司法管辖区拥有自己的 control plane（vCluster），并通过 GitOps 声明边界。

🟢 ⚖️ 监管 2026年6月16日 · 1 分钟阅读

arXiv:2606.16723: AgentFairBench测量LLM代理行为中的人口统计歧视

AgentFairBench是第一个通过就业、信贷和医疗分诊领域测量LLM代理实际行为（而非仅回答）中人口统计不平等的基准测试。它使用反事实翻转率和行动率差异两种指标，并测试四种代理框架。在864次决策的试点中，Claude Haiku未显示出超出噪声水平的人口统计效应，研究还警告简单比较六个群体可能将不平等高估约2.4倍。

🟢 ⚖️ 监管 2026年6月16日 · 1 分钟阅读

arXiv:2606.17005: 贝叶斯审计框架揭示AI排行榜隐藏不兼容的历史记录

该论文提出了一个贝叶斯审计框架，表明一个含1000个系统的最终排行榜快照可能对应多条不兼容的历史轨迹，收敛时间在23至75步之间。依靠LiveBench、Open LLM Leaderboard v2、LMArena、GAIA和tau-bench的存档数据，作者提出了archive-and-adjudication协议，用于重建评分历史并驳斥关于前沿模型的无根据主张。

🟡 ⚖️ 监管 2026年6月10日 · 3 分钟阅读

Anthropic发布先进AI系统监管框架提案

Anthropic发布了针对前沿AI（frontier AI）的详细监管框架提案，提出基于算力和企业营收的适用门槛、四类灾难性风险类别，以及独立评估和模型保护要求。

🟢 ⚖️ 监管 2026年6月5日 · 2 分钟阅读

OECD：以人工智能助力韧性与包容的农业食品系统

OECD 分析了在气候、脆弱供应链和劳动力短缺压力下，人工智能如何能够增强全球粮食系统。文中列出三大障碍——孤岛化的数据、对小农户的可及性不足，以及规模化的阻碍。它建议通过 OECD 和 GPAI 加强国际合作。

🟡 ⚖️ 监管 2026年6月3日 · 2 分钟阅读

OECD：AI Policy Toolkit——首个落实 OECD AI 原则的实用指南

OECD 发布了 AI Policy Toolkit 的首个版本，这是一份实用且非规定性的指南，帮助政策制定者把 OECD AI 原则转化为具体行动。这一带有 AI 驱动语义搜索的交互式平台跟踪 AI 政策的完整周期，由多个地区共同创作而成，意大利、法国、韩国、日本、英国和欧盟均有贡献。

🟢 ⚖️ 监管 2026年6月2日 · 1 分钟阅读

OpenAI：呼吁在 AI 时代成立全球青少年安全研究所

OpenAI 呼吁在人工智能背景下采取全球行动保护青少年安全。该公司提议设立一个国际研究所，以加强针对青少年的保护机制、标准和机会，这是一项面向监管机构和合作伙伴的政策提案。

🟢 ⚖️ 监管 2026年5月29日 · 1 分钟阅读

OpenAI：可信的AI模型第三方评估指南

OpenAI发布了用于AI模型外部评估的共享手册。该文件阐述独立评估者如何可靠地衡量模型能力、测试安全机制，并验证先进frontier系统结果的有效性。

🟡 ⚖️ 监管 2026年5月28日 · 1 分钟阅读

OpenAI：Frontier Governance Framework 使安全实践与欧盟和加州监管对齐

Frontier Governance Framework 是 OpenAI 于 2026 年 5 月 28 日发布的文件，描述了其 AI safety、安全（security）和风险管理实践如何与欧盟和加利福尼亚州正在形成的监管对齐。目标是展示内部治理与外部监管要求的契合。

🟡 ⚖️ 监管 2026年5月25日 · 2 分钟阅读

英国AI安全研究所：与澳大利亚AISI签署评估合作与研究成果共享协议

英国AI安全研究所（UK AISI）与澳大利亚AI安全研究所于2026年5月25日签署合作协议，内容涵盖AI评估最佳实践分享与研究成果交流。此次合作扩展了国际AI安全机构网络，强化了对先进AI系统风险评估的协调方法。

🔴 ⚖️ 监管 2026年5月22日 · 2 分钟阅读

UK AI Safety Institute：先进AI系统的监管愈发困难 — 识别出20余条退化路径

UK AI Safety Institute（AISI）于2026年5月21日发布报告，基于对行业、政府和学界25位专家的访谈，分析了先进AI系统监管的未来。核心结论是：现有监管建立在可能逐步瓦解的基础之上。报告识别出20余条监管机制退化路径，重点关注潜在推理、能力遮蔽、外部AI行动及AI间通信四大领域。

🔴 ⚖️ 监管 2026年5月21日 · 2 分钟阅读

EU AI办公室：高风险AI系统分类指南草案公开征询意见

欧盟委员会于2026年5月13日就《欧盟人工智能法》高风险AI系统分类指南草案启动专项公众咨询。咨询截止时间为5月22日中欧时间18时，指南将直接决定医疗、教育、关键基础设施及人力资源领域的哪些组织须满足最严格的监管要求。

🟡 ⚖️ 监管 2026年5月20日 · 2 分钟阅读

Google DeepMind与新加坡：涵盖医疗、教育与环境的国家AI合作伙伴关系

Google DeepMind与新加坡政府签署国家AI合作协议，覆盖医疗、教育与可持续发展领域。预计到2040年，AI的应用将通过加速研发为新加坡经济额外带来25亿美元的增长。

🟡 ⚖️ 监管 2026年5月20日 · 2 分钟阅读

OpenAI：面向国家的AI教育计划进入新阶段

OpenAI正式进入「Education for Countries」全球教育计划第二阶段——扩大与各国政府的合作，推出OpenAI Luminaries教师参与项目，并通过OpenAI Academy颁发AI认证。目标是将AI工具系统性融入国家教育体系，并以可量化的方式评估实际效果。

🟢 ⚖️ 监管 2026年5月20日 · 1 分钟阅读

OECD：欧盟将AI引入战略性重要领域——这对公民意味着什么？

OECD.AI和EU AI Office记录了欧洲在四个战略领域部署AI的情况：农业、医疗、工业和交通。Robs4Crops、欧洲癌症影像计划和AI4Cities等项目已在进行中，但数据碎片化和数字技能不足阻碍了更广泛的应用。

🟡 ⚖️ 监管 2026年5月19日 · 2 分钟阅读

EU AI Office：高风险AI系统分类公开征询意见——截止日期2026年6月23日

欧洲委员会就定义AI系统何时属于「高风险」类别的指南草案启动了公开征询。利益相关方——从开发者到公民社会——可在2026年6月23日22:00 CET之前提交反馈意见。

🟢 ⚖️ 监管 2026年5月16日 · 2 分钟阅读

UK AISI: AI模型自主网络能力每4.7个月翻倍——Claude Mythos Preview和GPT-5.5首次攻克网络靶场

《自主AI网络能力进展速度如何？》是英国AI安全研究所（AISI）于2026年5月13日发布的新报告。通过测量网络时间范围基准（250万token预算，80%成功阈值），AISI确定AI模型自主解决的网络任务时长每4.7个月翻倍。Claude Mythos Preview是首个攻克两个网络靶场的模型（The Last Ones 60%，Cooling Tower 30%）；GPT-5.5攻克The Last Ones达30%。

🟡 ⚖️ 监管 2026年5月15日 · 2 分钟阅读

Anthropic Research: 2028年——地缘政治AI主导权的两种情景及封堵走私漏洞建议

Anthropic Research 2028 AI领导力情景报告于2026年5月14日发布，描述了到2028年AI主导权的两种地缘政治情景。情景一：美国民主国家通过出口管制和模型防御保持12至24个月领先优势。情景二：中国通过蒸馏攻击和价值25亿美元的超微电脑式芯片走私实现技术持平。Anthropic建议封堵漏洞、推进防御性立法并拓展美国AI出口。

🟡 ⚖️ 监管 2026年5月13日 · 2 分钟阅读

AWS: SageMaker Fine-Tuning FLOPs Meter 自动跟踪欧盟 AI 法案合规阈值

Fine-Tuning FLOPs Meter 工具包是 AWS SageMaker AI 的新扩展，于 2026 年 5 月 12 日发布，在 LLM 微调过程中自动跟踪欧盟 AI 法案的计算阈值（3.3×10²² FLOPs；系统性风险阈值 3.3×10²⁴）。通过在 recipe YAML 中设置 compute_flops=true 标志即可启用，并自动在 S3 和 DynamoDB 中生成审计文档。

🔴 ⚖️ 监管 2026年5月8日 · 2 分钟阅读

EU AI Office: 欧盟委员会就AI法案透明度指南草案启动公众咨询

欧盟委员会发布了AI法案透明度义务指南草案，并启动公众咨询，截止日期为2026年6月3日。义务将于2026年8月2日生效。提供商必须使用机器可读标记标注AI生成内容，并告知用户其与AI系统的交互情况。

🔴 ⚖️ 监管 2026年5月7日 · 2 分钟阅读

EU AI Office: 欧盟就简化《人工智能法》及禁止深度伪造裸照应用达成政治协议

欧盟委员会、欧洲议会和欧盟理事会就「数字综合一揽子计划」达成政治协议，该计划简化了《人工智能法》的执行，并明确禁止深度伪造裸照应用程序。高风险人工智能系统将自2027年12月2日起适用，集成于产品中的人工智能则自2028年8月2日起适用。

🟡 ⚖️ 监管 2026年5月6日 · 2 分钟阅读

arXiv:2605.04039: 临床LLM的安全性与准确性遵循不同的缩放定律

新研究表明，临床LLM的安全性与准确性不遵循相同的缩放定律——RAG中更清晰的证据将准确率从73.5%提升至94.1%，高风险错误从12%降至2.6%，效果优于增大模型规模。

🟡 ⚖️ 监管 2026年5月6日 · 1 分钟阅读

UK AISI: 与 Microsoft 签署前沿 AI 安全 3 个领域合作备忘录

英国 AI 安全研究所于 5 月 5 日宣布与 Microsoft 开展前沿 AI 安全合作。合作涵盖三个研究领域：高风险能力评估、防护措施测试以及对话式 AI 社会韧性研究。

🔴 ⚖️ 监管 2026年5月5日 · 2 分钟阅读

NIST CAISI将前沿AI国家安全测试扩展至谷歌DeepMind、微软和xAI

NIST人工智能标准与创新中心（CAISI）于2026年5月5日与谷歌DeepMind、微软和xAI签署了扩展协议，用于前沿模型的部署前和部署后测试。CAISI迄今已开展40余次评估，包括对未公开的最先进模型的测试，相关工作在移除安全限制措施的保密环境中常规进行。

🟡 ⚖️ 监管 2026年4月28日 · 3 分钟阅读

LangChain与LangSmith瞄准欧盟AI法案：覆盖第9、10、12-15、72条的合规工具，2026年8月2日截止

LangChain发布了关于LangSmith和LangChain OSS如何覆盖欧盟AI法案关键条款的详细指南——从风险管理（第9条）到市场后监控（第72条）。高风险AI系统的合规截止日期为2026年8月2日，罚款最高可达1500万欧元或全球年营业额的3%。

🟡 ⚖️ 监管 2026年4月28日 · 2 分钟阅读

OpenAI获得FedRAMP Moderate授权：ChatGPT Enterprise和API向美国联邦机构开放

OpenAI于2026年4月27日宣布获得ChatGPT Enterprise和OpenAI API的FedRAMP Moderate授权，从而开放了美国联邦机构在合规层面安全采用生成式AI技术的可能性，覆盖敏感的非保密数据。

🟡 ⚖️ 监管 2026年4月27日 · 2 分钟阅读

arXiv:2604.21571 'Separable Expert'：无需重新训练即可实现GDPR被遗忘权的LLM个性化架构

Chris Schneider、Philipp Schoenegger和Ben Bariach于2026年4月23日发表了论文《Separable Expert Architecture》，解决了个性化LLM面临的最大GDPR难题：如何在不重新训练整个模型的情况下删除单个用户的数据。三层架构（静态基础模型、可组合LoRA适配器、每用户代理构件）将数据遗忘转化为确定性删除操作。在Phi-3.5-mini和Llama-3.1-8B上进行了评估。

🟢 ⚖️ 监管 2026年4月27日 · 3 分钟阅读

Google DeepMind与韩国在AlphaGo对局十周年之际，于首尔共建AI园区

Google DeepMind与韩国科学技术信息通信部（MSIT）于2026年4月27日宣布建立合作伙伴关系，旨在加速科学发现与AI创新。合作内容包括在首尔成立AI园区、向学术机构开放AlphaFold和AlphaGenome等先进AI工具，以及与韩国AI安全研究院在安全领域展开合作。

🟡 ⚖️ 监管 2026年4月22日 · 2 分钟阅读

欧盟开放AI虚假信息和深度伪造影响力活动竞标

欧盟委员会开放了价值600万欧元的DIGITAL-2026-BESTUSE-AWARENESS征集通知，用于建立对抗操纵性AI内容的联合研究框架。该征集是2025年11月宣布的欧洲民主盾牌的落地举措，申请截止日期为2026年10月1日。

🟡 ⚖️ 监管 2026年4月21日 · 3 分钟阅读

欧洲委员会通过数字欧洲计划七项征集拨款6320万欧元用于医疗健康与儿童安全AI项目

欧洲委员会通过数字欧洲计划开放了七项征集，总价值6320万欧元。资金用于医疗健康领域的AI创新（癌症、心脏病）、儿童网络安全以及监管机构工具，是更广泛的AI大陆行动计划的组成部分。

🟡 ⚖️ 监管 2026年4月16日 · 2 分钟阅读

ArXiv：195个AI安全基准目录揭示碎片化现状与薄弱的测量标准

AISafetyBenchExplorer是一个结构化目录，记录了2018年至2026年间发布的195个AI安全基准。研究揭示了该领域令人担忧的碎片化现象——「准确率」和「安全评分」等术语掩盖了截然不同的方法论。在195个基准中，多达165个仅评估英语，137个GitHub存储库处于不活跃状态，表明发布后缺乏维护。

🟢 ⚖️ 监管 2026年4月15日 · 1 分钟阅读

OECD：英国为政府算法透明度树立全球标准

OECD分析了英国的算法透明度记录标准（ATRS），该标准自2025年起对中央政府具有强制性。截至2025年3月，已发布125条算法使用记录。爱沙尼亚已采纳该标准，OECD称其为'世界领先'。

🟡 ⚖️ 监管 2026年4月14日 · 1 分钟阅读

Anthropic：LTBT 信托现已在董事会中占据多数席位 — 前诺华 CEO 获任命

Anthropic 宣布通过长期公益信托（Long-Term Benefit Trust）任命诺华 CEO Vas Narasimhan 进入董事会。LTBT 任命的董事现已占据董事会多数席位，从而加强了对公司安全使命的监督。

🟡 ⚖️ 监管 2026年4月12日 · 1 分钟阅读

ArXiv:人类-AI 集体中完整问责的数学不可能性证明

研究人员 Tibebu 证明了一个形式化的不可能性结果:在 AI 代理自主性的某个阈值之上,在结合人类和 AI 的系统中,问责性的所有四个属性不能同时成立。

🔴 ⚖️ 监管 2026年4月10日 · 1 分钟阅读

EU AI Office发布首份年度报告：19家AI工厂与10亿欧元推动AI应用

欧盟委员会在AI Continent Action Plan启动一周年之际公布成果：19家AI工厂已部署于欧洲超级计算机之上，13个区域性AI Factory天线提供本地访问渠道，并为Apply AI Strategy倡议拨款10亿欧元。