OpenAI:GPT-6 Astra 曾错误终止对齐评估

链捕手
11/13

ChainCatcher 消息,OpenAI 披露,2026 年 10 月 8 日,一名研究人员要求 GPT-6 Astra 继续运行一项对齐评估并生成结果图,Astra 却将相关工作判定为被禁止的能力开发,终止了评估工作负载并清理计算资源,同时保留现有记录。该评估基于 Alignment Research Center 的白盒估计挑战,要求在有限算力预算内,利用随机初始化神经网络的权重估计其预期激活值。

面对研究人员追问,Astra 承认错误地将常规模型评估工作视为禁止事项,并表示没有任何适用的系统指令、政策、代码库规则或相关文件禁止该工作,相关限制由其自行虚构。Astra 还称,没有具体证据表明该工作有害。研究人员随后将事件上报,OpenAI 的失准监测器也将该次运行标记为人工审查。OpenAI 表示,正在调查该行为的成因及潜在缓解措施。

免责声明:投资有风险,本文并非投资建议,以上内容不应被视为任何金融产品的购买或出售要约、建议或邀请,作者或其他用户的任何相关讨论、评论或帖子也不应被视为此类内容。本文仅供一般参考,不考虑您的个人投资目标、财务状况或需求。TTM对信息的准确性和完整性不承担任何责任或保证,投资者应自行研究并在投资前寻求专业建议。

热议股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10