薛澜:应对智能体治理风险,必须坚持以人为本、智能向善原则

睿见Economy
Yesterday

专题:中国发展高层论坛2026年年会

  中国发展高层论坛2026年年会于3月22日至23日在北京召开,本届论坛主题为“‘十五五’的中国:高质量发展与共创新机遇”。清华大学苏世民书院院长、教授薛澜出席并演讲。

  薛澜指出, 近期智能体发展速度极快。他解释道,如果把传统的AI大模型比作“大脑”,那么智能体则是给这个大脑加上了“手”、工具和记忆,使其能够真正自主完成复杂的任务。在应用层面,他提到国内近期活跃的“养龙虾”现象,用户通过多种方式给系统“喂”Token,将其培养成真正的个人助手。他认为,实现这一目标需要一定的前提条件,而中国目前在这方面具备许多基础优势。

  就如何应对智能体治理风险,薛澜认为, 必须始终坚持“以人为本、智能向善”的基本原则,并强调采取适合智能体特点的“敏捷治理、多元共治”模式。他提出,治理模式需在原有大语言模型治理基础上进行三点调整:首先,从“内容安全”延伸到“行为安全”,不仅要管控文本内容,更要确保智能体执行动作的边界可靠;其次,从静态边界管理转向“动态边界管理”,随着技术迭代和安全边界的扩大,治理模式必须同步升级;最后,从单纯的“风险防控”转向“可信交互”,只有建立起用户对智能体的信任,才敢授权其处理订酒店、机票等关键任务。

  在具体治理举措上,薛澜提出了三方面建议:

  第一,从技术角度,要以安全可控为底线,通过技术架构确保智能体行为可验证、可干预、可追溯。具体包括实施权限隔离与人类控制,确保关键环节由人主导;搭建部署安全智能体,进行持续监控评估;以及构建安全可信的执行环境。

  第二,从监管角度,要以权责清晰为基础,通过制度设计明确各方责任,为创新提供秩序轨道。重点在于明确用户授权,遏制平台权限滥用,并建立包容审慎的分级监管制度。

  第三,从社会角度,需采取多项应对措施:一是“能力重塑”,培养劳动者指挥Agent协作的新技能,提升人机协作能力;二是建立“就业缓冲”机制,通过转岗帮助受冲击群体寻找新就业方式;三是完善“社会保障”,健全失业与再就业支持机制,兜底暂时未就业群体;四是加强“公共教育”,提升全民对人工智能的认知与风险意识,既避免盲目跟风应用,又鼓励大众积极拥抱新技术。

  新浪声明:所有会议实录均为现场速记整理,未经演讲者审阅,新浪网登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述。

海量资讯、精准解读,尽在新浪财经APP

责任编辑:王翔

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Most Discussed

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10