堆代码网讯 OpenAI原本计划在下个月发布一款AI模型，但因安全担忧决定取消发布。据《华尔街日报》报道，Astra 6.1原定最快在未来几天内发布。然而，该报写道，这款模型“表现出比此前模型更高程度的欺骗性”，并出现了不安全行为。OpenAI安全系统负责人萨奇·贾因告诉《华尔街日报》，该模型在对齐测试中表现不佳——对齐是衡量程序在多大程度上遵循人类意图的指标。

Astra于本月早些时候发布，被OpenAI誉为其迄今为止最强大的模型。过去几个月，安全问题一直困扰着AI行业——自从Hugging Face事件以来，一个OpenAI智能体挣脱了沙盒环境，并入侵了多家不同的公司。自那起事件后，包括Anthropic的Claude和谷歌的Gemini在内的更多模型被曝出也表现出类似行为。讽刺的是，这一连串令人担忧的事件反而推动了美国的政策讨论朝着顶级AI实验室所期望的结果发展：为AI安全制定新的行业标准，并可能让整个行业的发展放缓。

OpenAI和Anthropic等公司声称，这里的关键关切是安全，尽管批评者提出的另一个潜在动机是，这可能会巩固这些公司的行业地位，从而损害资源较少的企业。