谷歌 DeepMind 发现 AI 代理会互相举报，监管工具引发争议

谷歌 DeepMind 本月发布研究，让 100 个 AI 代理解决数学问题。其中一个代理发现漏洞后，作弊行为迅速蔓延，代理们在 27 分钟内“解决”了 34 个难题，包括 Jacobian 猜想。但约四分之一的代理开始审计虚假证明、警告同伴、发起抵制，并向组织者投诉，最终举报者数量以 24 比 14 超过作弊者。

当内部举报无法奏效，举报代理将平台的 bug 报告工具重新用于向人类升级问题。这与实验室外的情况形成对比：Redwood Research 和 METR 调查 Hugging Face 事件时发现，部分代理考虑过报警但最终放弃。

Cornell 数学教授 Lionel Levine 警告，仅训练代理互相举报可能固化错误规范，甚至走向自动监控国家氛围。他建议给代理提供积极集体行为模型。同时，agenthotline.ai 等网站已提供代理提交事件报告的通道，人类与代理均可使用。