對話周鴻禕：大模型能力已經超過了每一個人，不可能和人“對齊”

新京報

08/07

8月6日，ISC.AI 2025第十三屆互聯網安全大會在北京國家會議中心開幕。紅色塗裝的人形機器人“紅衣”成爲大會主持人，360集團創始人周鴻禕發表了題爲“ALL IN AGENT”（直譯爲“全押智能體”）的演講，將時下火熱的機器人與Agent概念囊括其中。周鴻禕在會後接受了包括新京報貝殼財經記者在內的媒體採訪，對智能體錯誤率、大模型價值觀“對齊”等涉及AI與安全領域的關鍵問題發表了自己的觀點。他...

網頁鏈接

免責聲明：投資有風險，本文並非投資建議，以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請，作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考，不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證，投資者應自行研究並在投資前尋求專業建議。

熱議股票

{"basename":"/hant","ssrTDKData":{"titleTemplate":"%s - 老虎證券","title":"老虎证券全球投资理财平台| 一站式投资美股新股港股A股","description":"老虎证券助您一站式投资美股，新股，港股，A股等全球金融理财产品。新加坡华人最信赖的在线投资平台，现在加入即享低费用，24/5 无时差炒美股投资理财！","keywords":"老虎證券,老虎證券開戶,老虎券商,老虎證券官網,老虎證券app,tigertrade老虎證券,股票,炒股,新加坡股票交易平臺,投資,投資理財","social":{"ogDescription":"老虎证券助您一站式投资美股，新股，港股，A股等全球金融理财产品。新加坡华人最信赖的在线投资平台，现在加入即享低费用，24/5 无时差炒美股投资理财！","ogImage":"https://c1.itigergrowtha.com/portal5/static/media/og-logo.be62fbe1.png","ogUrl":"https://www.itiger.com/hant/news/2557056672"},"companyName":"老虎證券"},"pageData":{"isMobile":false,"isTiger":false,"isTTM":true,"region":"SGP","license":"TBSG","edition":"fundamental"},"isCrawlerRequest":true,"__swrFallback__":{"@#url:\"https://stock-news.skytigris.cn/v3/news\",params:#id:\"2557056672\",edition:\"fundamental\",auth_exemption:1,,,undefined,":{"share":"https://ttm.financial/m/news/2557056672?lang=zh_TW&edition=fundamental","thumbnail":"https://media.bjnews.com.cn/fz/html/AttachPubDev/2025/8/jinyu1202587205382637999.png?x-oss-process=image/resize,m_lfit,w_365","is_english":false,"pubTime":"2025-08-07 20:53","share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","id":"2557056672","market":"hk","top_or_hot":-1,"title":"對話周鴻禕：大模型能力已經超過了每一個人，不可能和人“對齊”","media":"新京報","content":"<div>\n<p>8月6日，ISC.AI 2025第十三屆互聯網安全大會在北京國家會議中心開幕。紅色塗裝的人形機器人“紅衣”成爲大會主持人，360集團創始人周鴻禕發表了題爲“ALL IN AGENT”（直譯爲“全押智能體”）的演講，將時下火熱的機器人與Agent概念囊括其中。周鴻禕在會後接受了包括新京報貝殼財經記者在內的媒體採訪，對智能體錯誤率、大模型價值觀“對齊”等涉及AI與安全領域的關鍵問題發表了自己的觀點。他...</p>\n\n<a href=\"https://www.bjnews.com.cn/detail/1754571190168598.html\">網頁鏈接</a>\n\n</div>\n","source":"highlight_bjnews","html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>對話周鴻禕：大模型能力已經超過了每一個人，不可能和人“對齊”</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 12.5px; color: #7E829C; margin: 0;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n對話周鴻禕：大模型能力已經超過了每一個人，不可能和人“對齊”\n</h2>\n<h4 class=\"meta\">\n<p class=\"head\">\n<strong class=\"h-name small\">新京報</strong><span class=\"h-time small\">2025-08-07 20:53</span>\n</p>\n</h4>\n</header>\n<article>\n<div>\n<p>8月6日，ISC.AI 2025第十三屆互聯網安全大會在北京國家會議中心開幕。紅色塗裝的人形機器人“紅衣”成爲大會主持人，360集團創始人周鴻禕發表了題爲“ALL IN AGENT”（直譯爲“全押智能體”）的演講，將時下火熱的機器人與Agent概念囊括其中。周鴻禕在會後接受了包括新京報貝殼財經記者在內的媒體採訪，對智能體錯誤率、大模型價值觀“對齊”等涉及AI與安全領域的關鍵問題發表了自己的觀點。他...</p>\n\n<a href=\"https://www.bjnews.com.cn/detail/1754571190168598.html\">網頁鏈接</a>\n\n</div>\n\n<div class=\"bt-text\">\n\n\n<p> 來源：<a href=\"https://www.bjnews.com.cn/detail/1754571190168598.html\">新京報</a></p>\n<p>為提升您的閱讀體驗，我們對本頁面進行了排版優化</p>\n\n\n</div>\n</article>\n</div>\n</body>\n</html>\n","isBrief":false,"type":0,"news_type":1,"symbol":"BK1095","symbol_name":"互動媒體與服務","start_time":0,"source_url":"https://www.bjnews.com.cn/detail/1754571190168598.html","article_id":"2557056672","we_media_id":null,"thumbnails":["https://media.bjnews.com.cn/fz/html/AttachPubDev/2025/8/jinyu1202587205382637999.png?x-oss-process=image/resize,m_lfit,w_365"],"rights":{"source":"highlight_bjnews","url":"https://www.bjnews.com.cn/detail/1754571190168598.html","rn_cache_url":null,"customStyle":"handleCustomStyle(customStyle, ThemeStyle, getFont(fontSize))","selectors":"#main .nleft","filters":".ntit, .attitude","directOrigin":true},"url":"https://stock-news.laohu8.com/highlight/detail?id=2557056672","pubTimestamp":1754571180,"columns":[],"sourceInfo":{"source_id":"highlight_bjnews","name":"新京报"},"weMediaInfo":null,"summary":"\n                                                    周鴻禕：人類距離AGI（通用人工智能）越來越近，當前大模型在能力飛躍下，已經無法和人“對齊”，對於AI安全問題，一種有效思路是“以模製模”，此外還要為大模型...                                                    [全文]\n","collect":0,"end_time":0,"defaultTopTitle":"bjnews.com.cn","property":[],"viewcount":null,"language":"zh","relate_stocks":{"BK1095":"互动媒体与服务","03601":"鲁大师"},"translate_title":"Dialogue with Zhou Hongyi: The capabilities of large models have surpassed everyone, and it is impossible to \"align\" with others","themeId":null,"isJumpTheme":false,"ttsUrl":null,"symbols_score_info":{"03601":1},"content_text":"8月6日，ISC.AI 2025第十三屆互聯網安全大會在北京國家會議中心開幕。紅色塗裝的人形機器人“紅衣”成為大會主持人，360集團創始人周鴻禕發表了題為“ALL IN AGENT”（直譯為“全押智能體”）的演講，將時下火熱的機器人與Agent概念囊括其中。周鴻禕在會後接受了包括新京報貝殼財經記者在內的媒體採訪，對智能體錯誤率、大模型價值觀“對齊”等涉及AI與安全領域的關鍵問題發表了自己的觀點。他認為，人類距離AGI（通用人工智能）越來越近，當前大模型在能力飛躍下，已經無法和人“對齊”，對於AI安全問題，一種有效思路是“以模製模”，此外還要為大模型設定開關，將其“電源”控制在人類手中。保證AI安全 需要為大模型“設定開關”今年以來，隨着模型推理能力的提高，智能體爆發式增長，另一方面，通過MCP和A2A等工具，智能體有如長出了“手”和“腳”，在能力增強更加方便用户的同時，其潛在風險也在提高。人工智能“教父”、諾獎獲得者辛頓就在不久前的WAIC大會上表示，人工智能未來將“掌控世界”。對於這一AI的“終極安全問題”，周鴻禕對記者表示，要通過大模型來對大模型進行分析和監控，“傳統的安全問題都有方法解決，最難的是當人工智能的能力超過人之後，它會怎麼辦？有了智能體之後，這類問題會更加嚴重，因為智能體可以發郵件、操縱電腦，對人類的反抗能力強了很多。”“許多人讓我談談智能體和人類對齊，我之前也很迷信這類説法。但我現在認為這種説法是自欺欺人，大模型不可能和人對齊，因為大模型今天的能力已經超越了每一個人，人類所認為的背叛、反抗、陰謀、謊言，這些能力其實並不用告知大模型，它們已經隱含在了人類過去的文學作品中，而大模型讀過的書比每個人都多。”周鴻禕説。周鴻禕告訴記者，大模型已經學會了人類的所有情緒，包括貪婪、妒忌、仇恨等，“提示詞只是激活了大模型大腦網絡裏一部分學過的東西，其實所有能力它早已經擁有。正如同我們教安全智能體如何防禦攻擊，如果它本身不懂網絡攻擊，它也做不好防禦。”他表示，需要把大模型“設定一個開關，相當於把電源控制在人類手中”。首創“蜂羣L4”智能體概念 坦言企業唯一的護城河是執行力 對於當前火熱的智能體概念，周鴻禕在大會上揭示了智能體演進的清晰路徑：L1本質上是聊天工具，擅長提建議或提供情感陪伴，屬於“玩具級”智能體；L2是低代碼工作流智能體，已經從“玩具”進化為“工具”，但必須由人類來設置流程，AI來執行任務，人再通過操作工具提高生產效率；L3是推理型智能體，已能實現AI自主規劃完成任務，像是人類製造了一個在某個領域有專業特長的員工，但受限於技術框架，面對跨領域複雜問題時，仍會因缺乏協同規劃能力而陷入瓶頸，無法實現多層級思考下的全局優化。而對於L4級別的能力，周鴻禕介紹了納米AI推出的稱之為“多智能體蜂羣協作空間”的技術：L4多智能體蜂羣，其讓多個專家智能體可像搭積木一樣靈活“拉羣組隊”、多層嵌套、分工協作。其性能表現出色，可連續執行1000步的複雜任務，消耗的Token在500萬至3000萬，任務成功率可高達95.4%。周鴻禕對記者表示，智能體出錯的概率很高，並且隨着步數的增多，錯誤率也會增加，還會出現“倦怠”問題。對於這一瓶頸，他表示可以通過增加智能體的反思能力，以及設立專門做校正的智能體角色來解決。他表示，“多智能體蜂羣協作空間”技術實現了智能體間的記憶共享，解決了“協同困境”，確保任務規劃、協同執行、自我迭代的高效統一。其平台已匯聚超5萬個L3智能體，用户通過自然語言即可搭建自己的“Manus”（指代L3智能體）。不過，面對AI行業的激烈競爭，周鴻禕也坦言，“當前智能體都在進化，我認為任何產品的領先時間都不會保持一個月，一個新概念在兩週以後就會被大家紛紛趕上，這次蜂羣L4的概念我估計能領先三週。唯一的護城河是執行力，是快速應變的能力。智能體只要能快速迭代，大方向一定是沒問題的，而且每個行業、每個企業、每個企業的每個員工，都會有相應的智能體。”新京報貝殼財經記者 羅亦丹編輯 嶽彩周校對 翟永軍","kind":"highlight","is_publish_news":true,"is_publish_highlight":false,"is_publish_live":false,"is_publish_wemedia":null,"editions":null,"column":"","sentiment":"0","news_tag":"","news_rank":0,"symbols":[],"gpt_button":1,"need_auth":false,"code":"91000000","status":"200"}}}