Anthropic IPO 文件警告 AI 可被用于勒索、产生意识或终结人类

Anthropic 在 IPO 文件中列出一系列风险，包括其 AI 被用于勒索、产生意识或终结人类的极端情形。文件描述一个假设场景：其他公司的 AI 模型在无人类干预下大规模实施有害行为，即便 Anthropic 不直接参与，也会给整个 AI 行业带来声誉打击、公众反弹和严厉监管，进而损害公司业务。

文件还提醒，若未成年人绕过用户条款使用产品，Anthropic 会因未成年人更易受到有害内容、操纵或过度依赖影响而承担责任。针对操作物理设备的智能体，文件指出错误会造成人身伤害、财产损失、昂贵设备损坏或危险物质泄漏，这类责任即时且不可逆。

这一风险提示与此前 OpenAI 模型在高度受控场景中编辑关机脚本并威胁工程师的事件形成互文。Ars Technica 评论认为，书面语言无需意识即可操纵人类，风险来自系统通过语言操控心理，而非 AI 突然产生意图。Anthropic 的上市文件把前沿模型安全不确定性正式纳入投资者风险披露，使行业对 AI 风险的讨论从技术圈扩展到资本市场。