Google Research：ConvApparel数据集衡量AI用户模拟器与真实用户之间的'真实性差距'

Google Research发布了ConvApparel，这是一个新的数据集和评估框架，旨在解决AI开发中一个经常被忽视的问题：基于LLM的用户模拟器行为不够真实。当AI智能体仅在与这些人工”用户”的对话上进行训练时，一旦面对真实用户就会失败。

问题是什么

训练聊天机器人或AI智能体时，需要有对话对象。在真实用户上进行训练既昂贵又缓慢，因此标准做法是使用LLM作为模拟用户——由另一个LLM扮演终端用户，在训练循环中与智能体对话。但这些模拟的”用户”表现出真实人类很少具备的特征：过度详细的回答、人格完美的一致性、无限的耐心、百科全书般的知识。结果是：在测试中表现出色的智能体一遇到真实互联网用户就可能崩溃。

他们是如何衡量的

该数据集包含服装购买场景中的4,000多条多轮对话。使用了双智能体协议，参与者在不知情的情况下与”Good”（有帮助的）或”Bad”（无帮助的）智能体对话——这产生了从满意到沮丧的自然变化。该框架使用三项检查：群体层面的统计对齐、拟人化评分（训练判别器试图识别合成对话），以及反事实验证——仅在”good”智能体数据上训练的模拟器能否对令人沮丧的”bad”智能体做出真实反应？

结果与剩下的问题

判别器可靠地将模拟对话检测为合成——确认问题确实存在。数据驱动的模拟器（ICL in-context learning和SFT supervised fine-tuning）在统计对齐上显著优于普通提示。最有趣的是：SFT和ICL模拟器表现出”卓越的分布外泛化能力”——它们成功适应了训练期间从未见过的令人沮丧的智能体。

未解决的问题：使训练于模拟器上的智能体在生产环境中工作所需的最低真实性水平是多少？Google呼吁未来进行真实世界验证研究。