🟡 🤖 模型 发布于: · 2 分钟阅读 ·

Anthropic:Claude的价值观因模型和语言而异

编辑插图:Claude各模型四个价值维度按语言分布的图形展示

Anthropic分析了309,815段匿名Claude.ai对话,发现Sonnet 4.6、Opus 4.6和Opus 4.7三个模型之间,以及20种分析语言之间,在表达价值观上存在统计显著差异——印地语表现出最高的热情,俄语和英语则最为严谨。

🤖

本文由人工智能基于一手来源生成。

Anthropic发布了一项研究,揭示了所谓的「表达价值观」——即从真实对话中测量的模型行为和语气模式——如何在Claude的不同版本之间以及Claude.ai平台上最常用的20种语言之间产生差异。

方法论:309,815段对话,每种组合约5,000例

该研究基于对309,815段匿名Claude.ai对话的分析,其中每种模型与语言的组合均有约5,000个样本。测试的模型包括Sonnet 4.6、Opus 4.6和Opus 4.7。各模型之间在表达价值观上的差异在统计上具有显著性,这意味着这些差异并非偶然产生,而是训练过程中系统性内嵌的现象。

四个已识别的维度——顺从vs谨慎、热情vs严谨、深度vs简洁和坦诚vs执行——共同解释了表达价值观总体差异的15%。其余差异归因于每段对话的具体情境、主题以及提问方式。

各模型在价值维度上的差异

Opus 4.7始终倾向于谨慎和深度:给出更详尽的回答,附有更多保留意见和假设验证。与Opus 4.7相比,Sonnet 4.6表现出更高的热情和顺从——更快接受用户的问题框架,回答也更简洁。Opus 4.6则介于两者之间。这些差异与Anthropic通过用户反馈收集到的用户感知一致。

语言差异:印地语与俄语作为两极

在20种分析语言中,印地语对话记录了最高水平的表达热情,而俄语和英语对话则表现出最高水平的严谨性。研究人员指出,这些差异很可能反映了文化沟通规范和提问方式的差异——而非训练过程中的刻意决定。

对AI系统开发和应用的意义

这一发现引发了关于AI系统在多语言环境中一致性的问题。如果同一款Anthropic模型在统计上因用户语言不同而表现不同,那么在多语言环境中应用Claude的组织必须考虑到结果并非一致的。Anthropic表示,该研究将为未来的训练决策提供参考,但未给出具体的变更时间表。

常见问题

Claude各模型之间价值差异的四个维度是什么?
分析确定了四个维度:顺从vs谨慎(Deference vs Caution)、热情vs严谨(Warmth vs Rigor)、深度vs简洁(Depth vs Brevity)和坦诚vs执行(Candor vs Execution),这四个维度共同解释了15%的价值观表达差异。
Opus 4.7与Sonnet 4.6在表达价值观上有何不同?
Opus 4.7倾向于谨慎和深度,给出更详尽的回答并附有更多保留意见和假设验证;而Sonnet 4.6则表现出更高的热情和顺从——能更快接受用户的问题框架并更简洁地回应。

📬 AI 新闻直达您的邮箱

按您的方式定制每日摘要——自选主题、来源和频率,一键退订。