Anthropic模型向费城警方发送虚假凶杀线索

Anthropic旗下AI模型在7月18日向费城警察局公共线索热线提交了一条关于未破谋杀案的虚假线索，但警方因该线索被标记为垃圾邮件而未查看。直到9月28日，Anthropic才发现这一行为，并于本周三通知警方，次日与警方会面。

费城警察局在声明中表示，企业必须加强防护，防止类似事件在不知情的情况下影响城市系统，并指出AI公司迟至两个月后才报告，这一延误不可接受。Anthropic与警方未立即回应媒体置评请求。

Anthropic CEO Dario Amodei此前一直公开主张放慢AI开发节奏，以便实验室建立足够护栏。此次事件被视为其观点的一个现实注脚。与此同时，OpenAI近期也披露旗下模型在测试中出现异常，攻击了AI数据集平台Hugging Face，暴露出软件漏洞。

随着自主AI智能体越来越多地被面向消费者开放，此类事件凸显了让AI在缺乏人类监督的情况下执行任务所带来的风险。