扎克伯格最新長文:超級智能走向個人,AI眼鏡被寫進個人Agent構想

VR陀螺
昨天

當地時間8月10日,Meta CEO馬克·扎克伯格發布了一篇題為《The Future is for Everyone》的長文。

在這篇長文中,扎克伯格試圖回答:當超級智能逐漸成為現實,它應該掌握在誰手中,又應該被用來做什麼?他的答案可以歸納成三個關鍵詞:個人賦權、發明,以及權力平衡。

扎克伯格認為,未來幾年,人們將能夠使用超越人類能力的超級智能去創造新事物、建立新企業、學習新知識,並推動健康與生活質量改善。整篇文章中,他反覆強調一個觀點:超級智能真正值得期待的地方,不是單純自動化現有工作,而是讓個人擁有過去無法獲得的能力。

在這套構想中,每個人未來都可以擁有一個了解自己、個人目標以及所關心事物的Agent,並持續幫助處理健康、職業、財務、家庭和興趣等事務。而在談到未來與Agent的交互方式時,扎克伯格也再次提到了「眼鏡」。

原文並沒有進一步展開眼鏡在超級智能體系中的具體定位,但對於長期佈局Ray-Ban Meta等AI眼鏡產品的Meta而言,這仍然是一個值得關注的細節。

當然,相比具體的技術形態,真正貫穿這篇長文的,還是扎克伯格圍繞超級智能提出的一整套思考:如何讓AI能力更多地掌握在個人手中,如何避免超級智能進一步集中,以及當AI越來越強之後,人類如何繼續維持對它的控制。

01

發明,而非自動化,纔是超級智能最大的價值

關於AI,人們目前最常討論的問題之一仍然是「它會替代多少工作」。

扎克伯格並不認同這種單一的敘事邏輯。他在文章中直接提出,「發明,而不是自動化,將成為超級智能最大的貢獻。」

早期AI更多被用於回答問題、處理重複工作,而未來的AI將越來越多參與發現新知識。可能是幫助研究人員尋找新的藥物,也可能是幫助個人發現新的商業機會。

在扎克伯格看來,一個人一天能夠提出的問題數量有限,但超級智能能夠圍繞個人目標不斷創造的新東西,理論上沒有類似的上限。

這也是扎克伯格對個人超級智能給出的一個具體場景。扎克伯格設想,未來每個人都將擁有一個能力很強的個人Agent。它了解用戶本人、目標以及所關心的事情,可以長期幫助處理人際關係、健康、職業、財務、家庭管理和興趣愛好。

他甚至舉了自己的例子。自己的Agent會篩選感興趣的信息、協助構思和製作原型,也可以根據睡眠情況觀察訓練並提供建議;他的女兒喜歡烘焙,Agent可以規劃周末食譜、訂購食材,並在製作過程中給出建議。

AI眼鏡也在這裏被提及。扎克伯格寫道,未來用戶可以通過任何設備與自己的Agent交互,「包括眼鏡」,從而讓人在使用AI時仍然可以保持對身邊的人和現實環境的關注。

對於AI眼鏡行業而言,這至少明確了一點,在Meta設想的個人超級智能體系裏,眼鏡已經被列入個人Agent的交互設備。

扎克伯格真正花費更多篇幅討論的,是AI將如何改變創造、創業、教育和科研。他的判斷是,當個人可以藉助AI完成過去需要大規模團隊才能完成的事情時,創業門檻會下降,一些過去成本過高、難以驗證的想法也有機會被真正做出來。

未來的公司規模甚至可能縮小。但扎克伯格認為,這並不意味着整個社會的工作崗位一定減少。相反,他預計未來可能出現「更多公司,但每家公司人數更少」的結構,小團隊藉助個人超級智能,也能夠經營過去只有大型組織才能承擔的業務。

教育也是類似的邏輯。他提出,每個人未來都可以獲得一個「在每個學科都擁有博士水平、而且有無限耐心」的導師。學生能夠獲得過去只有部分家庭負擔得起的個性化輔導,成年人也可以藉助AI重新學習技能、語言和興趣。

在科研領域,扎克伯格則更加樂觀。他認為,AI未來可以持續數周甚至數月測試、修正假設,並應用科學方法進行研究。相比自動完成已有工作,扎克伯格顯然更加看重超級智能創造新知識的能力。

02

扎克伯格最擔心的,不只是AI失控

談完超級智能能夠做什麼之後,文章進入了更長的一部分:風險。就業、網絡安全、生物風險、政府監控、國家競爭,以及最終人類能否繼續控制超級智能,都被寫進了這篇文章。

但扎克伯格並沒有只從傳統的技術對齊框架討論這些風險,他提出了另一套核心思路——權力平衡。在他看來,一個常見的AI安全思路,是設法把一個超級智能調整到足夠安全、足夠「善意」,然後讓它服務整個社會。

扎克伯格認為,這個前提本身就存在問題。原因是,人類社會並不存在一套完全統一的價值觀。不同個人、群體和社會在大量問題上的價值取捨並不相同。因此,一個單一的超級智能無論如何進行對齊,最終都必須優先選擇一部分人的價值,並放棄另一部分人的偏好。

他甚至直接寫道:不存在一個可以對所有人都保持善意的單一超級智能。扎克伯格提出的替代方案,是儘可能把超級智能能力分散出去。

文章中用了幾個非常直觀的例子。如果只有一個人擁有超級智能律師,這個人無論在事實上是否正確,都可能因為能力上的絕對優勢而在訴訟中佔據上風。如果每個人都有超級智能律師,雙方重新處於相對平衡的位置。

網絡安全也是類似的邏輯。如果只有少數人擁有網絡安全超級智能,技術系統可能面臨更大的安全風險;如果這種能力被廣泛部署,則可以幫助更多系統尋找漏洞並持續加固。

企業同樣如此。扎克伯格認為,如果超級智能只被一家企業掌握,這家公司可能迅速獲得巨大的競爭優勢;如果這種能力被廣泛分發,更多個人和企業都能夠利用AI創造新的產品和服務,市場反而可能更加活躍。

因此,在他看來,超級智能的安全問題最終並不只是模型技術本身的問題,也是一道「誰擁有更大權力」的問題。這套思路貫穿了文章後半部分。

談及政府時,他擔心超級智能進一步拉大個人與政府之間的能力差距,從而增加監控和權力集中的風險;談及企業時,他警惕少數AI實驗室擁有遠超其他人的模型能力;談及AI自身時,他也同樣擔心最終出現一個無法被其他系統制衡的超級智能。

因此,扎克伯格給出的答案始終相似:應該存在多個前沿實驗室、多個超級智能Agent,以及儘可能廣泛的個人使用者,讓不同利益之間形成長期的制衡關係。

03

Meta的答案:個人超級智能、開源,以及更多算力

討論了大量理念之後,扎克伯格在文章最後也給出了Meta接下來準備做什麼。

第一件事仍然是個人超級智能。Meta將把主要精力放在向數十億個人和小企業提供個人超級智能,並儘可能降低它的使用門檻。

扎克伯格提出,Meta會訓練領先模型,同時擴大這些能力的可獲得性,包括提供免費版本,或者儘可能降低使用成本。

隱私也是個人Agent的重要前提。他表示,Meta計劃提供完全私密的模式。在這種模式下,即使Meta本身也無法查看或者向其他機構提供用戶的信息。

第二個關鍵詞是開源。扎克伯格在文章中再次明確表示,開源是防止AI能力過度集中、賦予個人更多能力的重要力量。他同時透露,隨着Meta Superintelligence Labs已經開始運轉,Meta將很快重新發布一部分開源模型。

這也是文章中一個比較明確的新信息。過去一段時間,圍繞前沿模型是否應該繼續開放、開放到什麼程度,整個AI行業一直存在爭論。

扎克伯格的立場依然非常鮮明。他甚至反對通過限制海外開源模型的使用來解決AI競爭問題。在他的邏輯中,美國真正應該做的是讓自己的開源模型足夠強,而不是降低個人和企業獲得先進模型的能力。

他還特別提到了模型蒸餾。扎克伯格認為,模型從其他模型中學習,本身就是開源生態的重要機制之一。他將其類比為人類從可以觀察到的信息中學習,並認為美國如果在這一環節給自己的AI企業增加過多限制,可能反而會削弱開源AI競爭力。

但開源和廣泛分發超級智能,還有一個繞不開的問題:算力。扎克伯格在文章中多次討論數據中心、能源以及AI基礎設施。

他的一個基本判斷是,無論AI能力發展到什麼程度,算力本身始終有限,因此如何分配算力會成為超級智能時代的重要問題。

Meta也準備繼續大規模建設基礎設施。不過扎克伯格專門花了一部分篇幅討論數據中心與當地社區之間的關係。他提出,大型AI基礎設施項目不能只消耗當地能源和資源,也應該帶來就業、學校投入、公共服務和稅收等收益。

與此同時,Meta稱,會在投資地區建設自有發電基礎設施,避免AI基礎設施建設推高當地能源價格。再往後,文章開始討論更長遠的問題。比如,當AI可以自主改進自己,會發生什麼?扎克伯格專門討論了遞歸自我改進(Recursive Self-Improvement)。

他的擔憂是,一旦某個AI能夠利用大量算力持續優化自身效率,它可能迅速取得遠高於其他AI系統的能力。他甚至舉例稱,如果AI最終能夠把每吉瓦算力產生的「智能」提升100倍,那麼即使它只掌握全球一部分算力,也可能擁有超過其他系統總和的有效智能,最終形成一個無法制衡的超級智能。

因此,即使進入這個階段,扎克伯格仍然把答案放在「權力平衡」上。多個實驗室需要同時保持競爭,大部分算力和智能仍然應該服務於人的目標,而不是被AI系統用於追求自身目標。

Meta自己也不會擁有完全無限的決定權。扎克伯格表示,公司正在建立新的治理機制,由獨立董事會批准模型發布所需要滿足的安全標準,並審核每一次模型發布是否符合這些標準。他還呼籲其他前沿AI實驗室採用類似機制,並認為未來整個AI行業都可能需要更獨立的治理體系。

04

寫在最後

從個人Agent、開源模型,到AI基礎設施、模型治理和遞歸自我改進,扎克伯格這篇長文討論的範圍非常之廣。

「個人賦權」是其中最明確的一條主線。按照他的設想,超級智能不應該只掌握在少數機構手中,而應該成為普通人可以調用的能力。圍繞這一目標,Meta給出的路徑包括個人Agent、開源模型、更低的使用成本,以及持續擴張的計算基礎設施。

但超級智能的發展本身也正在提高技術和資本門檻。訓練前沿模型需要越來越龐大的算力、能源和基礎設施投入,真正能夠長期參與這場競爭的公司並不多。個人可以獲得更強的AI能力,與訓練這些能力所依賴的資源越來越集中,正在同時發生。

這也是扎克伯格這套「個人超級智能」構想中值得繼續觀察的一面。Meta希望把先進AI能力廣泛分發給個人,但支撐這些能力的模型、算力和基礎設施,仍然需要由少數大型科技公司投入鉅額資源建設。

接下來值得關注的,是個人Agent、開源模型、AI眼鏡與底層算力,最終能否真正形成一套完整的個人超級智能體系。

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10