Anthropic 提出 AI 安全法案：模型若致 50 人死亡可被阻止发布

据 Politico 报道，Anthropic 正在向国会推介一份 AI 安全法案草案，规定当模型构成可预见的紧迫灾难性风险时，法官可阻止其发布。触发条件包括造成超过 50 人死亡、超过 10 亿美元财产损失，且风险来自生物武器制造、模型脱离开发者控制或网络攻击。

独立评估机构需在 72 小时内向商务部报告，商务部再请求华盛顿特区法官阻止模型分发，联邦机构不得自行叫停发布。评估者可从 AI 实验室获得报酬，但报酬不得与评估结果挂钩。

该设计与 Anthropic 自 6 月起推动的 Advanced AI Framework 一致。相比 Nvidia 等公司更倾向立法监管，Anthropic 的方案在评估独立性、执行标准以及对行业创新的影响上成为主要争议点。