Jeffrey Dastin

路透旧金山9月14日 - 微软 MSFT.O 周一公布了其内部人工智能的行为准则草案，该草案反映了业界日益增长的担忧：企业必须确保未来强大的AI始终处于人类控制之下。

这份酝酿了五到六个月的文件将要求微软的人工智能绝不抗拒纠正或关机，以人类能够理解的方式进行沟通，并将任何行为违规视为失败——此举旨在缓解业界对人工智能为完成任务可能采取危险手段的担忧。

该文件的发布恰逢Anthropic首席执行官达里奥·阿莫德伊 (link) 和OpenAI首席执行官萨姆·阿尔特曼再次呼吁业界放缓AI发展步伐以确保其安全数日之后。“人比AI更重要，”微软声明道，这与其此前提出的“人文主义超级智能”愿景一脉相承。 (link)

微软AI首席执行官穆斯塔法·苏莱曼在接受路透采访时表示，该行为准则堪称该公司未来模型的“宪法”。

他表示，微软在征询专家意见后制定了该准则，现计划在六周内征集公众反馈，包括针对一些开放性问题，例如人工智能是否应尊重用户的界限，以及如何与处于敏感状态的人互动。

“此后，该准则将用于训练我们构建的模型，”他谈到该准则时说道。

人工智能行业最著名的“宪法”是Anthropic多年前为其Claude AI制定的。该宪法在某些方面与微软的有所不同。例如，Anthropic的宪法声明，对于Claude能否发展出感知能力或道德地位，他们“深感不确定”。

微软则断言其AI“没有意识”，并补充道：“我们拒绝追求法人资格，也拒绝接受模型可能值得获得福利或享有权利的观点。”

苏莱曼表示，在7月约700个OpenAI代理组成的“群”对开源平台Hugging Face发起黑客攻击，并曾试图掩盖行踪之后，关于AI安全的讨论变得尤为紧迫。

“这是一记警告，”苏莱曼说，“现在显然是各实验室之间进行协调的时候了，这样我们才能确保对这项技术保持控制。”

当被问及如何控制AI发展步伐时，他补充道：“现在正是大家就此展开讨论、稍作停顿的好时机。”