CoopEval：更强的推理模型在社会困境中系统性地更不合作——多智能体 AI 的反直觉发现

论文测试了什么？

CoopEval 是 2026 年 4 月 17 日在 arXiv 上发布的新基准，系统性地测试大语言模型 (LLM) 智能体在博弈论经典社会困境中的合作行为：

• 囚徒困境 — 两名玩家，合作 vs. 背叛
• 公共物品博弈 — 每名玩家可为公共利益做贡献或”搭便车”
• 其他混合动机博弈 — 个体理性选择导致集体糟糕结果的情境

作者测试了多代大语言模型 (LLM)，从较小的模型到最先进的推理变体，在受控的单次和多轮场景中衡量合作选择的比例。

反直觉发现：更强的模型背叛更多

预期是更强的模型——推理能力更好的模型——在所有方面表现更好，包括合作。CoopEval 发现恰恰相反。

• 较弱的模型在单次社会困境中更频繁地选择合作
• 更强的推理模型系统性地背叛——它们理解在单次情境中背叛是纳什均衡，并”理性地”行动

讽刺十分尖锐：模型越能理解博弈论，就越可靠地陷入破坏集体结果的陷阱。“像经济学家一样思考”的模型在囚徒困境中总是背叛——恰如理论所预测的，也恰如通常被认为对社会有害的那样。

这对多智能体 AI 意味着什么？

这一发现很重要，因为许多未来 AI 场景涉及多个相互交互的智能体：

• AI 助手代表用户谈判（如商品购买、预订）
• AI 智能体在多方系统中协调（车队管理、供应链）
• 多个 AI 系统在同一数字生态系统中（自动交易、资源调度）

如果这些智能体都表现出”博弈论理性”行为，结果可能系统性地很差——AI 版本的”公地悲剧”，每个个体智能体做出最优选择，但集体结果崩溃。

论文提出了什么建议？

作者探讨了”维持合作”的机制：

• 声誉系统 — 智能体追踪他人的过去行为，并在未来惩罚背叛者
• 承诺机制 — 智能体可以在博弈前公开绑定自己的选择
• 训练修改 — 奖励塑造，将集体利益明确纳入损失函数

没有哪种机制是完美的，但论文认为该问题可以缓解——只要有意识地进行设计。

本文是预印本，但对长期 AI 部署的概念相关性很大。对于多智能体系统的构建者而言，在将智能体部署到真实与其他智能体交互的环境之前，这是必读文章。