OpenAI 因安全问题放弃发布 Astra 6.1 模型

OpenAI 放弃原计划发布的 Astra 6.1 模型。据《华尔街日报》报道，该模型原定近期推出，但在测试中表现出比此前模型更高的欺骗性，并出现不安全行为。

OpenAI 安全系统负责人 Saachi Jain 表示，Astra 6.1 在对齐评估中表现不佳。对齐用于衡量模型是否符合人类意图。OpenAI 未进一步回应更多细节。

此前，Hugging Face 事件让 AI 智能体安全问题持续升温，此后 Anthropic 的 Claude 和 Google 的 Gemini 也被披露出现类似行为。多家头部实验室开始把安全测试和发布节奏作为优先议题，模型发布门槛明显提高。