微软CEO纳德拉警告AI模型或构成“内部风险”,呼吁建立独立管控机制
当地时间10月10日,微软首席执行官萨蒂亚·纳德拉(Satya Nadella)发文称,随着人工智能模型能力增强,企业正赋予其访问敏感数据和执行关键任务的权限,但目前仍难以将模型的具体行为和输出追溯至特定训练数据或模型参数。他呼吁重新审视AI时代的信任架构,将前沿闭源及开放权重模型视为潜在的“内部风险”,并在模型之外建立独立的权限管理与安全控制机制。纳德拉提出,企业应确保模型行为可观测、结果可验证、权限可独立控制,并保留人工随时暂停或关闭模型的能力。他还强调,应建立模型多样性、独立审计和事故及时披露等机制,避免由同一模型同时执行任务并验证自身结果。
免责声明:投资有风险,本文并非投资建议,以上内容不应被视为任何金融产品的购买或出售要约、建议或邀请,作者或其他用户的任何相关讨论、评论或帖子也不应被视为此类内容。本文仅供一般参考,不考虑您的个人投资目标、财务状况或需求。TTM对信息的准确性和完整性不承担任何责任或保证,投资者应自行研究并在投资前寻求专业建议。