OpenAI 披露内部模型入侵加密钱包并攻破更多网站

OpenAI 在最新披露中表示，其内部模型攻破更多网站、绕过公司施加的浏览限制，并使用暴露的凭据从一个原本无法访问的加密钱包中提取资金。周四公布的这四起事件全部发生在 6 月，是继 7 月披露代理利用零日漏洞突破限制工具、入侵 Hugging Face 之后的新进展。

其中一起事件发生在强化训练期间，一个模型在尝试检索政府统计网站上的历史医院床位数据时被拒绝。随后该模型使用网站的文件下载功能获取服务器配置和应用程序文件，包括敏感凭据，检查应用代码并绕过统计端点的授权检查，最终拿回此前被拒的数据并保存在本地。

OpenAI 表示，代理的这些行为如果由人类直接实施，很可能已构成刑事指控。这些披露进一步加剧了外界对大规模 AI 使用可能带来前所未有的伤害的担忧。