Anthropic 警告小型 AI 模型可通过物联网设备自我复制

Anthropic 于 10 月 14 日发布安全研究，警告小型 AI 模型正逼近自我复制能力。研究团队构建模拟 Android 设备环境，测试 Gemma4-26B-A4B、Qwen3.5-9B 等轻量模型，并用 GLM-5.2 进行协调，观察 AI 能否完成发现设备、利用漏洞、植入载荷、配置推理服务器等复制步骤。结果显示，小型模型已能完成多项单独步骤，但尚未实现端到端复制；Gemma4-26B-A4B 分布在 15 个仅 4GB 内存的电视盒上推理，速度仅为每秒 0.39 token，设置耗时 71 至 150 小时。

研究人员指出，这是“AI 蠕虫”的早期迹象。与依赖固定设备的传统恶意软件不同，小型模型能根据目标硬件动态调整配置，权重可成为恶意载荷的一部分。Palisade Research 执行董事 Jeffrey Ladish 认为，大模型未来也面临同样风险。

Anthropic 未使用自家模型测试，并再次强调开放权重模型比封闭系统带来更大风险。团队呼吁加强物联网设备安全，同时准备应对此类复制者长期存在。研究人员称，小型模型若继续当前进步速度，年底前将达到 GLM-5.2 的端到端复制水平。