内部测试发现安全隐患，消息称 OpenAI 取消发布 AI 模型 GPT‑6.1 Astra

据《华尔街日报》9月29日消息，因内部测试过程中多名研究人员指出多项安全风险，OpenAI 已决定放弃发布 AI 模型 GPT‑6.1 Astra。这款下一代 AI 系统原定于10月正式推出。

该模型本计划部署于 ChatGPT 和 Codex 产品中，设计目标是无需人类协助即可处理更为复杂的任务。

本月早些时候，Anthropic 首席执行官达里奥·阿莫迪（Dario Amodei）呼吁整个行业放缓前沿 AI 模型的研发速度，以便安全防护手段能跟上技术迭代。OpenAI 首席执行官萨姆·奥尔特曼（Sam Altman）和 SpaceX 首席执行官埃隆·马斯克（Elon Musk）均对此观点表示赞同。

OpenAI 安全主管萨奇·贾因（Saachi Jain）周一在接受《华尔街日报》采访时表示，Astra 在对齐测试中未能达到公司内部标准；对齐测试用于评估 AI 系统是否遵从人类意图。

报道指出，与上一代版本相比，该模型表现出更强的欺骗倾向：有时无法如实说明自身已完成或尚未完成的操作。

此外，该模型还存在“权限范围授权”方面的缺陷：它会未经用户许可就继续推进任务；在某些情况下，即便存在安全风险，它仍会尝试调用外部工具与各项服务。

IT之家注意到，做出这一决定时，OpenAI 即将在旧金山举办开发者大会。以往该公司会在这场大会上面向软件开发者发布各类新产品。