圖片來源：Youtube

「AI正逼近人類的靈魂邊界。」

這是DeepMind CEO Demis Hassabis在Google I/O大會期間，面對通用人工智能（AGI）議題時發出的直白判斷。在這場持續近兩小時的對談中，他與《紐約時報》記者Kevin Roose、科技播客主持人Casey Newton圍繞「通用智能的衝刺」「AI創造力與幻覺」「進化式模型AlphaEvolve」「全球科技博弈與安全倫理」等多個前沿議題，展開了深入討論。Hassabis坦言，如今的AI技術堆棧還遠未穩定，「技術本身在奔跑，我們只能邊跑邊造車」，但同時他也首次明確表示：AGI或將在2030年左右誕生，我們正處在關鍵的五年窗口期。

在這場討論中，Hassabis提出了數個令人深思的判斷：

AGI衝刺階段已開啓：「我們已經越過了中段，現在是衝刺的前沿。」

AlphaEvolve代表AI自我進化的雛形：「它讓AI系統開始提出假設並評估自身，雖然現在還遠未完全自動化，但已具備重要價值。」

「幻覺」並非全然負面，創造力有時需要「非真實」觸發點：AI必須敢於想象，纔可能發現搜索空間中未被觸及的創新路徑。

技術棧仍在飛速演進，構建AI產品必須押注未來能力：產品經理的核心能力變成預見技術一年後的躍遷路徑。

AGI將是全人類的問題：「AI的安全、倫理與監管，不可能侷限在某個國家、某個公司內部，它必須全球協作。」

未來職業構成將重塑，但不是終結，而是新秩序的開始：「大團隊將被小型高效組織取代，創造力與遠見將成為稀缺能力。」

AI還無法觸碰人類「靈魂」的部分：不管是小說、畫作，還是人與人的深度連接，目前AI仍難以複製那些「經歷過掙扎」的創作能量。

正如Hassabis所說：「如果AI是這個時代的引擎，那麼它不是讓我們變得更冷酷，而是讓我們更有時間迴歸本質——包括想象力、情感與哲思。」或許，這正是AI時代最值得我們守護的東西。

谷歌 DeepMind 首席執行官Demis Hassabis多年來一直夢想着 AGI。2014 年，谷歌收購了他共同創立的人工智能初創公司 DeepMind，Hassabis加入谷歌。去年，Hassabis和他的谷歌DeepMind同事 John M. Jumper因其在AlphaFold上的貢獻而獲得了諾貝爾化學獎。

以下是訪談的全文翻譯。

圖片來源：Youtube

Kevin Roose: 你們啱啱舉辦了 Google I/O大會，那真是Gemini的盛會。Gemini的名字在主題演講中被提到了大約 95 次。在宣佈的所有產品中，您認為對普通用戶來說最重要的是什麼？

Demis Hassabis：我們確實宣佈了很多東西。對於普通用戶來說，我認為是新的強大機型，我希望像 Astra 這樣的技術能夠應用於 Gemini Live。我覺得這真的很神奇，當人們第一次使用它時，他們會意識到人工智能如今已經能夠做到比他們想象的更多的事情。我想Veo 3可能是本次展會上最重要的發布，而且現在似乎正在迅速走紅，我認為這也非常令人興奮。

Kevin Roose: 與往年相比，今年的I/O大會給我留下了深刻印象的一點是，谷歌似乎正在被人們說成是「AGI藥丸」一樣的東西所吸引。我記得幾年前採訪谷歌的研究人員時，談論AGI還是有點禁忌。他們會說：「哦，Demis和他在倫敦的DeepMind團隊，那是他們瘋狂的事情，他們對此感到興奮。但我們在這裏做的是真正的研究。」 但現在，谷歌的高管們開始公開談論它了。這種轉變是如何解釋的呢？

Demis Hassabis：我認為 AI 這個等式正變得越來越重要，就像我有時把谷歌DeepMind描述為谷歌的引擎室一樣，如果你退一步來看，我想你可能在昨天的主題演講中就看到了這一點。然後我想，一切都非常清晰。你可以說「AGI-pilled」這個詞或許很貼切，我們已經非常接近人類水平的通用智能，甚至可能比幾年前人們想象的還要接近。它將產生廣泛而跨領域的影響。我認為這也是你在主題演講中看到的另一件事。它幾乎無處不在，因為它是一個支撐一切的水平層，我認為每個人都開始理解這一點，也許DeepMind的一些理念正在滲透到谷歌的整體架構中，這很好。

Casey Newton：您在周二的主題演講中提到，Project Astra 正在賦能一些人們甚至可能尚未意識到 AI 能夠做到的事情。我認為這反映出目前 AI 行業面臨的一個真正挑戰：這些模型擁有非常驚人的能力，但要麼產品賣得不好，要麼用戶還沒有真正理解它們。那麼您是如何看待這個挑戰的？您在多大程度上專注於產品問題而不是研究問題？

Demis Hassabis：我認為這個領域面臨的挑戰之一顯然是底層技術發展速度驚人，甚至與其他重大革命性技術（例如互聯網和移動技術）截然不同。技術棧在某個階段會趨於穩定，這樣人們就可以專注於產品或開發該技術棧。而我們現在面臨的情況，我認為從研究人員的角度來看，這非常不尋常，但也非常令人興奮，因為技術棧本身正在飛速發展，正如你們所知。所以我認為這實際上在產品方面帶來了獨特的挑戰。這不僅對我們谷歌和DeepMind，對初創公司，對任何公司，無論大小，都構成挑戰：正如我們所見，如果一年後技術可能會提升100%，那麼現在你該押注什麼呢？所以，你需要具備相當深厚技術功底的產品人員——產品設計師和經理——來預測一年後技術的發展方向。所以有些事情它現在做不到，而你想設計一款一年後就能面世的產品，那麼你必須對這項技術及其未來發展方向有相當深入的理解，才能確定哪些功能是可以依賴的。所以這是一個有趣的過程，我想這就是你所看到的：這麼多不同的東西被嘗試，如果某個方法有效，我們就必須迅速加倍投入

Casey Newton：是的，在您的主題演講中，您提到 Gemini 既能助力生產力/助理類產品，也能助力基礎科學和研究挑戰。我想知道，在您看來，這是否是一個偉大的模型能夠解決的同一個問題？還是說，這兩個問題截然不同，只是需要不同的方法？

Demis Hassabis：當你審視它時，你會發現它涵蓋了令人難以置信的廣泛領域，這的確如此。除了我對所有領域都感興趣之外，它們之間還有什麼關聯呢？但這正是我們構建通用智能的初衷，真正做到了通用，並且以我們正在做的方式；它應該適用於幾乎所有領域：從生產力（這非常令人興奮，它能幫助數十億人的日常生活）到解決科學領域的一些重大難題。我想說，其中 90% 是底層核心通用模型——就我們的 Gemini 而言，尤其是 2.5 版本。在大多數這些領域，你仍然需要額外的應用研究，或者一些來自該領域的特殊框架。也許是特殊數據，或者其他什麼，來解決這個問題。也許我們會與科學領域的專家合作。但在此基礎上，當你攻克某個領域時，你也可以將這些經驗運用到通用模型中。然後通用模型會變得越來越好。所以這是一個非常有趣的飛輪。對於像我這樣對很多事情都感興趣的人來說，這真的很有趣。你可以利用這項技術，進入幾乎任何你感興趣的領域。

Kevin Roose: 目前很多人工智能公司都在糾結一個問題：該投入多少資源用於推進核心人工智能的基礎模型——在基礎層面上改進這些模型——還是要投入多少時間、精力和金錢，嘗試將其中的某些部分剝離出來，進行商業化，最終轉化為產品？我認為這既是資源挑戰，也是人員挑戰。比如說，你以工程師的身份加入 DeepMind，想要構建 AGI，然後谷歌的某個人來找你說，我們實際上想讓你幫忙開發一個可以讓人們試穿衣服的購物功能。和那些因為某種原因加入，但可能被要求做其他事情的人進行這樣的對話，會不會很有挑戰性？

Demis Hassabis：這在某種程度上是一種內部的自我選擇。產品團隊裏有足夠多的工程師來處理產品開發和產品工程。至於研究人員——如果他們想繼續從事核心研究，那也沒問題。我們需要他們這樣做。但實際上，你會發現很多研究人員都對現實世界的影響充滿動力，顯然是在醫學領域，以及像Isomorphic這樣的領域。而且，讓數十億人使用他們的研究成果，這實際上非常有激勵作用。所以，有很多人喜歡兩者兼顧。所以我們沒有必要強迫人們專注於某些特定領域。

Kevin Roose: 你昨天（星期二）和谷歌聯合創始人謝爾蓋·布林（Sergey Brin）一起參加了一個小組討論，布林一直在辦公室裏研究這些事情。有趣的是，他對AGI 的時間表比你短。他認為通用人工智能會在2030年之前實現，而你說會在2030年之後。他實際上指責你故意拖延時間；基本上就是故意把預期時間往後推，這樣你就可以少承諾多兌現。但我對此很好奇，因為你經常會聽到不同人工智能公司的人爭論時間表，但想必你和布林掌握着相同的信息和路線圖，你們也都了解什麼是可能的，什麼是不可能的。那麼，他看到了什麼而你沒有看到，或者反之亦然，導致你們對通用人工智能何時到來得出不同的結論呢？

Demis Hassabis：首先，我們的時間表並沒有太大差別，如果他是在 2030 年之前，而我在 2030 年之後。而且，自從 2010 年 DeepMind 成立以來，我的時間表一直非常一致。所以我們認為這是一個大約 20 年的任務，令人驚訝的是，我們正朝着正確的方向前進。所以我認為它應該在這個時間點左右。我感覺介於兩者之間——我實際上顯然有一個概率分佈，其中最大規模的是在 5 到 10 年後。我認為部分原因是，準確預測 5 到 10 年後的事情非常困難。所以這周圍存在不確定性。此外，還需要多少突破也存在不確定性，對於 AGI 的定義，我的標準一直都很高，那就是：它應該能夠完成人腦所能做的所有事情，即使是理論上的。所以，這比普通人類所能達到的水平要高得多，這顯然在經濟上非常重要。這將是一個重要的里程碑，但在我看來，還不足以稱之為通用人工智能。

我們在台上稍微討論了當今系統所缺少的東西：真正突破常規的發明和思維，發明猜想而不是僅僅解決數學猜想。解決一個猜想已經很不錯了，但真正發明像黎曼猜想或類似的重要猜想（數學家們一致認為它非常重要）則要困難得多。此外，一致性也是通用性的必要條件。即使是頂尖專家也很難在系統中發現缺陷，尤其是一些微不足道的缺陷，而這些缺陷在今天我們卻很容易找到，普通人也能做到。所以，在我們達到我所認為的 AGI 之前，存在着能力差距和一致性差距。

Casey Newton：您認為縮小這一差距是通過每個後續模型逐個改進 2% 到 5% 來實現的嗎？這種改進需要經過很長一段時間才能實現。還是說，您認為更有可能的是，我們能夠取得某種技術突破，然後突然間就實現了某種智能爆炸？

Demis Hassabis：我認為兩者皆可，而且我確信兩者皆有用，這就是為什麼我們極力推進規模化和所謂的增量式發展。實際上，即使在這方面也有很多創新，為了在預訓練、後訓練、推理時間計算以及所有這些堆棧方面不斷推進，我們也有很多激動人心的研究，我們通過擴散模型（Deep Think 模型）展示了其中的一些成果。所以，我們正在對傳統堆棧（我們應該這樣稱呼它）的各個部分進行創新。在此基礎上，我們還在做更多「綠地」項目，更多「藍天」項目，比如AlphaEvolve。

Kevin Roose: 綠色田野和藍天之間有什麼區別嗎？

Demis Hassabis： [笑] 我不確定。也許它們很相似。

Kevin Roose: 好的。

Demis Hassabis：我們姑且稱之為「某個新領域」。然後這些研究可能會回到主幹，對吧？我一直堅信基礎研究。我認為，我們的研究平台一直比任何實驗室都更廣泛、更深入。這讓我們能夠取得過去的重大突破：當然是Transformers，還有AlphaGo、AlphaZero、Distillation等等。如果這些技術中的任何一項再次被需要，或者再次取得同等水平的重大突破，我都會支持我們去做。我們正在探索許多非常令人興奮的途徑，這些途徑既可以帶來這種階躍式的改變，也可以帶來漸進式的改變。當然，它們之間也會相互作用，因為你的基礎模型越好，你就可以在其上嘗試更多的東西。再次強調，就像AlphaEvolve一樣，你在大語言模型（LLM）的基礎上添加了進化編程。

Kevin Roose: 我們最近採訪了Karen Hao，她是一位啱啱寫了一本關於人工智能的書的記者。她主要反對規模化——你不需要那些大型的通用模型，它們極其耗能、計算密集，需要數十億美元的資金、新的數據中心以及各種資源。與其這樣做，不如構建更小的模型。你可以構建更精細的模型。你可以使用像AlphaFold這樣的模型，它專門用於預測蛋白質的三維結構。你不需要一個龐大的模型來實現這一點。你對此有何看法？

Demis Hassabis：嗯，我認為你需要那些大型模型。我們喜歡大型和小型模型，所以你經常需要大型模型來訓練小型模型。所以我們對我們的「Flash」模型感到非常自豪——我們稱之為「Workhorse」模型，它們非常高效，也是最受歡迎的模型之一。我們內部使用了大量這類模型。但是，如果不從大型教師模型中提煉知識，你就無法構建這類模型。即使是像 AlphaFold 這樣的東西——顯然，我非常提倡更多這類模型，它們可以解決當今科學和醫學領域中真正重要的問題；我們不必等待通用人工智能（AGI）的到來。這需要採用通用技術，但隨後可能會對其進行專門化，例如圍繞蛋白質結構預測。我認為在這方面有巨大的潛力。我們——主要是在科學人工智能領域——幾乎每個月都會在這方面做出一些很酷的東西。我認為我們應該在這方面進行更多的探索。或許很多初創企業都能將現有的某種通用模型與特定領域相結合。但如果你對通用人工智能 (AGI) 感興趣，就必須兼顧兩者。在我看來，這不是「非此即彼」的問題，而是「兩者皆可」，對吧？比如，讓我們擴大規模，讓我們研究專門的技術，讓我們關注那些可能催生下一代變形金剛的全新藍圖研究。我們對所有這些領域都押注不已。

Casey Newton：您提到了 AlphaEvolve，我和 Kevin 都對它非常着迷。請跟我們講講 AlphaEvolve 是什麼。

Demis Hassabis：嗯，從高層次上講，這基本上是利用我們最新的 Gemini 模型（實際上是兩個不同的模型）來生成關於程序和其他數學函數的想法和假設，然後它們會進入一個進化編程過程，以決定哪些是最有前景的。之後，這些想法和假設會被移植到下一步。

Casey Newton：請簡單介紹一下什麼是進化編程。聽起來很令人興奮。

Demis Hassabis：是的，所以這基本上是系統探索新空間的一種方式，對吧？比如，在遺傳學中，我們應該改變哪些東西才能產生一個新的生物體？所以你可以在編程或數學中以同樣的方式思考：你以某種方式改變程序，然後將其與你想要得到的答案進行比較；然後，根據評估函數，將最合適的答案放回下一個集合，從而產生新的想法。我們用最高效的模型來生成各種可能性，然後我們用專業的模型來評判這些可能性，並決定哪一個最有希望被選中進行下一輪進化。

Kevin Roose: 所以它有點像一個自主的人工智能研究組織，其中一些人工智能提出假設，其他人工智能對它們進行測試和監督，而我理解的目標是讓人工智能能夠隨着時間的推移不斷自我改進或對現有問題提出改進建議。

Demis Hassabis：是的。這只是某種自動化過程的開端，目前還沒有完全自動化。而且，它的應用範圍仍然相對較窄。我們已經將它應用於許多領域，例如芯片設計、在數據中心更高效地調度AI任務，甚至證明矩陣乘法——矩陣乘法是訓練算法最基本的單元之一。所以它實際上已經非常有用了。但它仍然侷限於可證明正確的領域，顯然數學和編程就是這樣。所以我們需要將其完全推廣。

Casey Newton：但有趣的是，我認為對很多人來說，他們對LLM的普遍看法是，嗯，你實際上能給我的只是訓練數據的統計中位數。但你的意思是，我們現在有辦法超越這一點，從而有可能產生真正有助於推動當前研究水平的新想法。

Demis Hassabis：沒錯。AlphaEvolve 是另一種方法，它使用了進化方法，但早在 AlphaGo 時代，我們就有證據證明這一點。AlphaGo 提出了新的圍棋策略，最著名的是李世石世界冠軍賽第二局的第 37 步。好吧，它僅限於一局棋，但這是一種前所未有的全新策略，即使我們已經下了幾百年的圍棋。所以，就在那時，我啓動了 AlphaFold 項目和科學項目，因為我在等待看到創造力或原創性火花的證據，至少在我們已知的領域內。但我們還有很長的路要走。我們知道，這類模型——結合蒙特卡洛樹搜索、強化學習或規劃技術——可以帶你探索新的領域。而進化方法是超越現有模型認知的另一種方式。

Casey Newton：我一直在尋找一個好的蒙特卡洛樹，所以如果你能幫我找到一個，那真的會有很大幫助。

Demis Hassabis：：這些事情之一可能會有所幫助。

Casey Newton：好的，太好了。

Kevin Roose: 所以我讀了 AlphaEvolve 的論文。（或者更準確地說，我把它輸入到 NotebookLM 中，讓它製作一個播客，然後我可以聽，這樣就能從更基礎的層面向我解釋清楚。）其中一件讓我印象深刻的事情是關於你如何讓 AlphaEvolve 更具創造力的細節。你做到這一點的方法之一就是強迫模型產生幻覺。現在很多人都癡迷於消除幻覺。但在我看來，解讀那篇論文的一種方式是，它實際上存在一個場景，你希望模型產生幻覺或發揮創造力——無論你想怎麼稱呼它。

Demis Hassabis：嗯，我想是的。當你渴望真實的東西時，產生幻覺顯然是不可取的。但在創造性的情況下——比如MBA課程中的橫向思維之類的——你會產生一些瘋狂的想法，其中大多數都毫無意義。但偶爾出現的一兩個想法，可能會讓你進入搜索空間中某個非常有價值的領域，事後你會發現，這些領域實際上非常有價值。所以，在那時，你可以用「幻覺」來代替「想象」，對吧？它們顯然是同一枚硬幣的兩面。

Kevin Roose: 我確實和一位人工智能安全專家聊過，他對 AlphaEvolve 有點擔心，不是因為實際的技術和實驗（他表示，這些技術很吸引人），而是因為它的推廣方式。谷歌 DeepMind 創建了 AlphaEvolve，然後用它來優化谷歌內部的一些系統，並將其隱藏了幾個月，才向公衆發布。這位專家說：「好吧，如果我們真的達到了這樣的程度，這些人工智能系統開始遞歸地自我改進，並且它們可以構建更好的人工智能，那麼這是否意味着，當谷歌真的構建出通用人工智能（AGI）甚至超級智能時，它會暫時保密，而不是負責任地告知公衆？」

Demis Hassabis：嗯，我認為實際上兩者兼而有之。首先，AlphaEvolve 是一個處於起步階段的自我改進項目，它仍然需要人類參與，而且它只是在現有任務的基礎上削減了——儘管這很重要——幾個百分點。這很有價值，但它並沒有帶來任何實質性的改變。此外，在向公衆發布之前，需要進行內部仔細評估，同時也需要從學術界等獲得額外的批評意見，這也很有幫助。此外，我們有很多值得信賴的測試人員，他們可以提前接觸到這些項目，然後給我們反饋，並進行壓力測試，有時安全機構也會參與其中。

Kevin Roose: 但我的理解是，你們不僅僅是在谷歌內部進行紅隊測試。你們實際上是用它來提高數據中心的效率，用它來提高訓練AI模型的內核的效率。所以我猜這個人的意思是：我們希望在它們變成像 AGI 那樣的東西之前，就養成良好的習慣。他們只是有點擔心，這件事可能會被隱藏得比需要的更久。我很想聽聽你對此的回應。

Demis Hassabis：我認為那個系統在AGI 方面並不存在任何風險。我認為，如今的系統——儘管非常令人印象深刻——從這位朋友可能提到的任何通用人工智能風險角度來看，都不夠強大。我認為兩者兼顧。你需要對這些東西進行極其嚴格的內部測試。然後，我們還需要從外部獲得協作輸入。所以我認為兩者兼而有之。實際上，我並不清楚 AlphaEvolve 最初幾個月的開發流程細節；它之前只是函數搜索，後來變得更加通用。所以，在過去的一年裏，它已經發展成為一個通用工具。在我們真正將它應用於主分支之前，它還有很長的路要走，到那時，主分支就會變得更加成熟，就像 Gemini 一樣。目前，它與 Gemini 是分開的。

Casey Newton：我們來更廣泛地談談人工智能安全。據我觀察，似乎歷史越久遠，人工智能系統越不強大，人們就越會談論安全風險。而現在，隨着模型的改進，我們聽到的關於安全風險的討論卻越來越少，包括在周二的主題演講中。所以，我很好奇，如果您覺得自己已經足夠重視現有系統可能造成的風險，並且仍然像三四年前那樣致力於人工智能安全，那時很多類似的後果似乎不太可能發生，那麼您如何看待當前的人工智能安全形勢呢？

Demis Hassabis：是的，我們一如既往地致力於此。從 DeepMind 創立之初，我們就為成功做好了規劃。成功意味着像這樣，是我們想象中的樣子。我的意思是，它真的發生了，這仍然有點難以置信。但如果這些技術真的按照我們設想的方式發展，它就處於我們設想的奧弗頓之窗中。風險以及如何規避和降低這些風險也是其中的一部分。因此，我們對我們的系統進行了大量的工作。我認為，我們在發布前和發布後都有非常強大的紅隊測試流程。我們學到了很多東西，我認為這就是這些系統（儘管是早期系統）與現實世界接觸的區別所在。我現在有點相信，這總體上是件好事。

我想，五年前、十年前，我或許會覺得待在研究實驗室裏，跟學術界合作之類的更好。但實際上，很多東西除非數百萬人嘗試，否則你無法看到或理解。所以，這是一種奇怪的權衡——只有當數百萬聰明人嘗試你的技術，你才能找到各種極端情況。所以，無論你的測試團隊有多大，也只有100人或1000人左右。所以，這與數千萬人使用你的系統是無法相比的。

但另一方面，你希望儘可能提前了解情況，以便在風險發生之前降低風險。所以這很有趣，也是很好的學習機會。我認為過去兩三年行業發生的一切都很棒，因為我們一直在學習，看看這些系統何時不那麼強大或危險，正如你之前所說。我認為兩三年後，當這些代理系統開始真正發揮作用時，情況會變得非常嚴峻。我們現在看到的只是代理時代的開端，我們姑且稱之為。

但是，你可以想象一下，希望你從主題演講中理解了這些要素是什麼，它們將如何組合在一起，然後我認為我們真的需要在分析、理解和可控性方面的研究方面取得重大進展。但另一個關鍵問題是，它必須是國際化的。這相當困難。我一直非常堅持這一點，因為它是一項將影響世界上每個人的技術。它由不同的國家和不同的公司在構建。所以我認為，你必須制定一些國際規範，關於我們希望將這些系統用於什麼用途，以及我們希望用什麼樣的基準來測試安全性和可靠性。

但現在還有很多工作要做。比如，我們還沒有這些基準。我們、業界和學術界應該就這些基準達成共識。

Casey Newton：您希望出口管制在您剛纔所說的方面發揮什麼作用？

Demis Hassabis：嗯，出口管制是一個非常複雜的問題。顯然，當今的地緣政治也極其複雜。我看到了雙方對此的爭論。這些技術正在擴散，而且是不受控制的擴散。你想讓不同的地方都擁有前沿建模訓練能力嗎？我不確定這是否是個好主意。但另一方面，你又希望西方技術能夠被世界各地採用。所以這是一個複雜的權衡。如果有一個簡單的答案，我會大聲疾呼，但我認為它就像大多數現實世界的問題一樣，非常微妙。

Kevin Roose: 如果我們還沒有陷入與其他國家在人工智能領域的兩極衝突，您認為我們正走向這種衝突嗎？就在最近，我們看到特朗普政府大力推動中東地區——海灣國家，例如沙特阿拉伯和阿聯酋——成為人工智能強國，並要求它們使用美國芯片來訓練其他國家無法獲得的模型。您認為這會成為新一輪全球衝突的根源嗎？

Demis Hassabis：嗯，我希望不會。但我認為短期內，人工智能正被捲入正在發生的更大的地緣政治變化之中。所以我認為這只是其中的一部分，而且它恰好是目前出現的最熱門的新事物之一。但另一方面，我希望隨着這些技術變得越來越強大，世界會意識到我們同舟共濟，因為我們確實如此。因此，邁向通用人工智能的最後幾步——希望我們能夠走在更長遠的時間線上，實際上，我所考慮的時間線更長——然後我們就有時間在那之前建立所需的合作，至少在科學層面上。

Kevin Roose: 您是否覺得 AGI 已經到了最後的衝刺階段？今年早些時候，我的《紐約時報》同事報道了谷歌聯合創始人謝爾蓋·布林發給谷歌員工的一份備忘錄，上面寫道：「我們正處於最後衝刺階段，每個人都需要回到辦公室，全程投入工作，因為現在纔是真正重要的時刻。」您是否有那種終結感，或者說，我們即將進入一個新階段，或者說，遊戲即將結束的感覺？

Demis Hassabis：我認為我們已經過了中間階段，這是肯定的。過去20年來，我一直在全力以赴，因為我一直堅信這項技術的重要性和意義非凡，20年來，我們都認為它有可能實現，而現在，它終於要出現在我們眼前了。我同意這一點。無論是5年、10年還是2年，當你討論這項技術將帶來的巨大變革時，它們實際上都只是相當短的一段時間。這些時間都不會很長。

Kevin Roose: 我們將轉向關於人工智能未來的一些更普遍的問題。現在很多人開始思考通用人工智能之後的世界會是什麼樣子，至少在我參與的討論中是這樣。我聽到最多的是家長們，他們想知道孩子應該做什麼、學什麼；他們會上大學嗎？你的孩子比我的孩子大。你是怎麼看待這個問題的？

Demis Hassabis：所以我認為，說到孩子們——我經常被問到關於大學生的這個問題——首先，我不會大幅改變一些關於STEM（科學、技術、工程和數學）的基本建議，比如精通編程之類的技能。因為我認為，無論這些人工智能工具未來如何發展，你最好先了解它們的工作原理、功能以及你能用它們做什麼。我還想說，現在就讓自己沉浸其中；就像我今天還是個青少年時那樣，努力成為使用最新工具的忍者。我認為，如果你真的擅長使用所有最新、最酷的人工智能工具，你在某些方面幾乎可以成為超人。但也不要因為基礎而忽視了基礎知識。然後，我認為要教授元技能——學會學習。我們唯一可以確定的是，未來十年將會發生巨大的變化。

那麼，我們該如何做好準備呢？哪些技能對此有用？創造力、適應力、韌性——我認為所有這些元技能對下一代都至關重要。觀察他們的未來將會非常有趣，因為他們將在人工智能時代成長，就像上一代人在移動設備、iPad 和平板電腦的時代成長一樣。之前，互聯網和電腦時代，也就是我的時代。我認為那個時代的孩子們似乎總是能夠適應並利用最新、最酷的工具。我認為我們在人工智能方面還有更多可以做的。如果人們要將這些工具用於學校和教育，那麼我們就應該讓它們真正發揮作用，並且能夠被證明是有效的。我非常期待能夠大規模地將人工智能應用於教育領域。你知道，如果你有一個人工智能導師，我希望把它帶到世界上那些教育體系較差的貧困地區。所以我認為人工智能也有很多好處。

Casey Newton：孩子們用人工智能做的另一件事就是和數字夥伴聊天。谷歌 DeepMind 目前還沒有開發任何這樣的夥伴。目前我看到的一些情況似乎相當令人擔憂。創建一個只會誇讚你有多棒的聊天機器人似乎很容易，但這可能會導致一些難以捉摸和難以捉摸的地方。所以，我很好奇，你對人工智能夥伴市場有何觀察？你是否想過將來自己開發這個，還是打算把這個留給別人去做？

Demis Hassabis：是的，我認為我們在進入這個領域時必須非常謹慎，這就是為什麼我們還沒有開始，而且我們對此進行了非常深思熟慮。我對此的看法更多的是從我們昨天談到的通用助手的角度來看待的，它對你的日常工作效率非常有用：它能幫你擺脫那些我們都討厭的無聊、單調的任務，讓你有更多時間去做你喜歡做的事情。我也真心希望它們能通過提供一些很棒的推薦來豐富你的生活，比如推薦各種你從未想過會喜歡的精彩事物——用一些讓你驚喜的事情來取悅你。所以，我認為這些就是我希望這些系統能夠發展的方向。

實際上，從積極的一面來看，我覺得如果這個助手真的有用，而且非常了解你，你就可以對它進行編程，顯然是用自然語言，來保護你的注意力。所以你幾乎可以把它看作是一個為你工作的系統；你知道，作為個體，它是你的。它可以保護你的注意力不被其他想要吸引你注意力的算法所侵擾，這實際上與人工智能無關。大多數社交媒體網站都在有效地做這件事，他們的算法試圖吸引你的注意力。我認為這實際上是最糟糕的事情，保護你的注意力會很好，這樣我們就可以更多地投入到創造性的流程中，或者做任何你真正想做的事情。所以我認為這就是我希望這些系統對人們有用的方式。

Casey Newton：如果你能建立一個這樣的系統，我想人們會非常高興。我認為現在人們感覺自己被生活中的算法所困擾，不知道該怎麼辦。

Demis Hassabis：嗯，原因在於，你只有一個大腦，你必須深入其中，比如說社交媒體信息流，才能獲取你想要的信息。但你用的是同一個大腦，所以你深入其中尋找有價值的信息，已經影響了你的思維、情緒和其他方面。但如果一個助手，一個數字助理，為你做這些，你只會得到有用的信息。而且你不需要打擾你的心情，也不需要打擾你當天正在做的事情，或者打擾你與家人相處的專注力，無論什麼。我覺得那會很棒。

Kevin Roose: 凱西很喜歡這個想法，你也很喜歡這個想法，我也很喜歡這個AI代理的想法，它可以保護你的注意力免受所有試圖攻擊它的力量的侵害。我不確定谷歌的廣告團隊對此有何感想，但我們可以到時候問問他們。

Demis Hassabis：當然，當然。

Kevin Roose: 有些人開始關注就業市場，尤其是應屆大學畢業生，他們擔心我們已經開始看到人工智能導致失業的跡象。我曾與一些年輕人交流過，他們幾年前可能對科技、諮詢、金融或法律等領域感興趣，但現在他們只是說：「我不知道這些工作還能持續多久。」 《大西洋月刊》最近的一篇文章探討了人工智能是否正在與大學畢業生競爭這些入門級職位。您對此有何看法？

Demis Hassabis：我還沒研究過這方面，也沒看過相關的研究。但你知道，也許現在開始顯現了。我認為目前還沒有確切的數字，至少我還沒看到。目前我主要把它們看作是增強能力和成就的工具。我的意思是，也許在通用人工智能之後，情況會再次不同，但我認為在未來五到十年內，我們會看到重大新技術變革通常會發生的情況：一些工作崗位會被顛覆，但隨後新的、更有價值、通常也更有趣的工作崗位會被創造出來。所以我認為這在短期內會是這樣的。所以說，未來五年，我覺得之後的情況很難預測。這是我們需要做好準備迎接的更大規模社會變革的一部分。

Kevin Roose: 我認為問題在於，你說得對，這些工具確實給了人們更多籌碼，但也減少了對大型團隊進行某些工作的需求。我最近和一個人聊天，他說他們之前在一家數據科學公司工作，那裏有75個人從事某種數據科學任務。現在他們在一家初創公司，現在一個人就能完成以前需要75個人才能完成的工作。所以，我想聽聽你的看法：另外74個人應該做什麼？

Demis Hassabis：嗯，我認為這些工具將能夠更快地釋放創造事物的能力。所以我認為會有更多的人從事創業項目。我的意思是，有了這些工具，人們可以嘗試和探索的範圍比以前要大得多。就拿編程來說吧。顯然，這些系統在編碼方面正在變得越來越好。但我認為，最優秀的程序員能從中獲得不同的價值，因為他們仍然懂得如何提出問題、構建整個代碼庫，並檢查代碼的功能。但與此同時，對於業餘愛好者來說，它允許設計師，甚至非技術人員用「振動編碼」來創作一些東西，無論是遊戲、網站還是電影創意的原型設計。所以理論上，應該是那些70多歲的人來創造新的創業想法；也許大型團隊會減少，而小型團隊會增多，因為這些團隊能夠充分發揮人工智能工具的作用。但這又回到了教育的問題：哪些技能現在很重要？不同的技能，例如創造力、遠見和設計敏感性，可能會變得越來越重要。

Casey Newton：您認為明年您僱用的工程師數量會和今年一樣多嗎？

Demis Hassabis：是的，我想是的；我們沒有減少招聘的計劃。但話說回來，我們必須看看編碼代理的改進速度。現在，它們還無法獨立完成工作。它們只是為最優秀的人類程序員提供幫助。

Casey Newton：上次我們和您談話時，我們問到了一些公衆對人工智能較為悲觀的看法。您當時說，這個領域需要展示一些能夠明顯造福人們的具體用例，才能改變現狀。我的觀察是，現在越來越多的人積極反對人工智能，我認為其中一個原因可能是他們聽到大型實驗室的人大聲疾呼：「最終，人工智能會取代你的工作。」 而大多數人只是覺得：「好吧，我不想要那個。」 所以我很好奇，回顧過去的談話，您是否覺得我們已經看到了足夠多的用例，足以開始轉變公衆觀點？如果沒有，那麼哪些因素可能會真正改變公衆的看法？

Demis Hassabis：嗯，我認為我們正在努力實現這些目標。這些目標的開發需要時間。我認為，如果某種通用助手真的屬於你，並且能夠有效地為你工作，那它就是其中之一——也就是能夠為你服務的技術。我認為這也是經濟學家和其他專家應該研究的課題：是否每個人都擁有一套代理，可以為你做事，包括可能幫你賺錢或製造東西？你知道，這會成為日常工作流程的一部分嗎？我可以想象，在未來四五年內，這種情況會發生。我還認為，隨着我們越來越接近通用人工智能，並在人工智能的幫助下，在材料科學、能源、核聚變等領域取得突破，我們的社會應該開始走向一種我稱之為「徹底富足」的狀態，即擁有大量資源可供分配。再說一次，這更像是一個政治問題，即如何公平地分配這些資源，對吧？所以我聽說過「普遍高收入」這個說法。我認為，類似這樣的做法或許是好的，也是必要的，但顯然有很多複雜的因素需要考慮。而且，從現在到我們遇到這種情況時，有一個過渡期。在此期間，我們該如何應對這種變化？這也取決於這段過渡期的長短。

Kevin Roose: 您認為 AGI 將最後改變經濟的哪個部分？

Demis Hassabis：我認為經濟中涉及人與人之間的互動和情感的部分；我認為這些事情可能是人工智能最難做到的事情。

Kevin Roose: 但是，人們不是已經在進行人工智能治療並與聊天機器人交談，而他們可能已經為此付給某人每小時一百美元了？

Demis Hassabis：嗯，治療是一個非常狹窄的領域，你知道，關於這類東西有很多炒作。我實際上不確定其中有多少真正影響了實體經濟，而不是僅僅停留在玩具層面。而且我認為人工智能系統目前還無法真正做到這一點。但就我們在現實世界中通過相互交談和在自然界中互動而獲得的那種情感聯繫而言，我認為人工智能無法真正複製所有這些。

Casey Newton：所以如果你帶領徒步旅行，那將是一份很好的工作。

Demis Hassabis：是的，我要去攀登珠穆朗瑪峯。

Kevin Roose: 我的直覺是，一些監管嚴格的行業，比如醫療保健、教育等領域，會大力抵制利用人工智能取代勞動力或搶走人們的工作。但你認為，在這些監管嚴格的行業，人工智能的提振會更容易一些。

Demis Hassabis：我不知道，我的意思是說有可能。但作為一個社會，我們必須權衡——我們是否想要所有積極的方面。社會上並非除了人工智能之外沒有其他挑戰，但我認為人工智能可以解決許多其他挑戰，例如能源資源限制、老齡化、疾病、水資源獲取、氣候等。我們今天面臨着許多問題，我認為人工智能有可能幫助解決所有這些問題。我同意你的觀點，社會需要決定如何利用這些技術。但是，同樣正在發生變化的是我們之前討論過的產品，技術將繼續進步，這將開闢新的可能性，比如某種徹底的富足，太空旅行，這些事情，除非你讀過很多科幻小說，否則在今天還有點超出範圍，但我認為它們很快就會變成現實。

Kevin Roose: 工業革命期間，許多人擁抱新技術，從農場搬到城市，在新工廠工作，算是這條曲線上的早期採用者。但那也是超驗主義者開始迴歸自然、拒絕科技的時候。梭羅正是在那時去了瓦爾登湖。當時，美國人掀起了一場聲勢浩大的運動，他們剛看到新技術就說：「我不這麼認為，這不適合我。」 你認為未來會不會出現類似的拒絕人工智能的運動？如果會，你認為這場運動的規模會有多大？

Demis Hassabis：我的意思是，可能會有「迴歸自然」的趨勢。我認為很多人都想這樣做。我認為這可能會給他們提供空間和空間來實現這一點，對吧？如果你身處一個極其富足的世界，我完全相信我們很多人都會想這樣做。我指的是太空旅行和人類繁榮的最大化。我認為這些正是我們很多人會選擇做的事情，而且我們將有時間、空間和資源來實現它們。

Casey Newton：在你的生活中，是否有這樣的時刻，你會說，我不會使用人工智能來做這件事，即使它可能因為某種原因而非常擅長，想要保護你的創造力或思維過程或其他東西？

Demis Hassabis：我認為人工智能目前還不足以觸及任何這類領域。我主要用它做一些像你用 Notebook LM 那樣的事情，我覺得它很好，很棒——比如打破一個新話題、一個科學話題的僵局，然後決定是否要更深入地研究它。總結一下，這是我的主要用例之一。我認為這些都很有幫助。但我們拭目以待。我還沒有你建議的例子，但也許隨着人工智能越來越強大，會有的。

Kevin Roose: 最近我們和 Anthropic 的達里奧·阿莫迪 (Dario Amodei) 聊天時，他談到了自己對人工智能在各個領域取得的進步感到興奮又略帶憂傷的感受。他曾花費大量時間努力提升這些領域，比如編碼。當你看到一個新的編碼系統問世，它比你做得更好時，你會覺得這很神奇，但轉念一想，哦，這感覺有點刺痛。你有過這樣的經歷嗎？

Demis Hassabis：當然。所以也許我沒那麼難受的一個原因是，我很小的時候就下過國際象棋。國際象棋本來是我的第一職業，小時候我代表英格蘭青年隊打過相當專業的比賽，後來「深藍」出現了，很明顯，從那以後，計算機的計算能力將永遠比世界冠軍強大得多。但我仍然喜歡下國際象棋。人們仍然喜歡下國際象棋，這和以前不一樣了，你知道，有點像尤塞恩·博爾特；我們慶祝他跑出了驚人的100米成績。我們有汽車，但我們不在乎，對吧？我們感興趣的是其他人類也能跑得快。我認為機器人足球和其他所有這些東西也會如此。這或許可以追溯到我們之前討論的，我認為最終我們對其他人類感興趣。這就是為什麼即使是小說，也許有一天人工智能也能寫出一部技術上很棒的小說。但我不認為如果你知道它是由人工智能編寫的，它就不會具有相同的靈魂或與讀者的聯繫，至少就我目前所見而言。

Casey Newton：你提到了機器人足球——這是真的嗎？我們不是體育迷，所以我只是想確認一下我沒有錯過什麼。

Demis Hassabis：我指的是足球。那裏有類似RoboCup的足球比賽。小機器人會試着踢球之類的。我不確定比賽有多激烈，但那裏確實有一塊機器人足球場。

Casey Newton：你提到機器人寫的小說可能感覺不到有靈魂。我不得不說，儘管 Veo 或Imagine 的技術令人驚歎，但我對它們也有點這種感覺，它們看起來很美，但我不知道該怎麼對待它們。你明白我的意思嗎？

Demis Hassabis：沒錯，這就是我們與Darren Aronofsky和Shankar [Mahadevan]等偉大藝術家合作創作音樂的原因。我完全同意你的觀點——這些工具確實能創造出技術上很棒的作品。Veo 3 簡直令人難以置信——我不知道你是否看過現在一些帶有聲音的熱門視頻；實際上，我之前並沒有意識到音頻會給視頻帶來如此大的變化——我認為它真的賦予了視頻生命力。正如 Darren 昨天在一次採訪中所說，Veo 3 仍然沒有帶來敘事性。它不像電影大師或巔峯時期的小說大師那樣擁有深刻的敘事能力。而且它可能永遠都做不到，對吧？總感覺缺少了點什麼。更確切地說，是作品的靈魂，你懂的？真正的人性，偉大藝術作品中的魔力。當我看到梵高或羅斯科的作品時，為什麼會觸動我？你知道嗎，我的脊背上汗毛都豎了起來？因為我記得，你也知道，他們為了創作這些作品經歷了什麼，經歷了多少掙扎，對吧？梵高的每一筆，都飽含着他那種折磨。我不知道這意味着什麼，即使人工智能模仿了這些。所以我認為，至少在我看來，在未來五到十年內，頂尖的人類創作者會一直創作出這樣的作品。這就是為什麼我們所有的工具——Veo、Lyria——都是與頂尖的創意藝術家合作開發的。

Kevin Roose: 據報道，新任教皇利奧·普京對AGI 很感興趣。我不知道他是否對AGI感興趣，但他之前確實談過這個話題。在一個AGI迫使我們思考生命意義的世界裏，您認為我們會迎來宗教復興，還是人們對信仰和靈性的興趣會再次復興？

Demis Hassabis：我認為情況有可能如此，我實際上確實和上一任教皇談過這個問題，梵蒂岡甚至在本任教皇之前就對這些問題很感興趣——我還沒有和他談過。人工智能與宗教，以及科技與宗教之間是如何互動的？天主教會的有趣之處在於，我是教皇科學院的成員，他們一直有自己的一套方法，這對於一個宗教團體、一個科學機構來說很奇怪，他們總是喜歡說伽利略是它的創始人。

Kevin Roose: 對他來說不太好！

Demis Hassabis：這實際上是一個獨立的研究領域，我一直覺得這很有意思。像史蒂芬·霍金這樣的人，以及那些公開宣稱的無神論者，都是該學院的成員，這也是我同意加入的部分原因，因為它是一個完全科學的機構，而且非常有趣。我很驚訝他們對此感興趣已經十多年了，所以他們很早就意識到了這項技術從哲學角度來看會多麼有趣。我實際上認為我們需要更多來自哲學家和神學家的此類思考和工作。所以我希望新教皇真的對此感興趣。

Kevin Roose: 最後，我們來回答一個問題，我最近聽到泰勒·考恩問 Anthropic 的傑克·克拉克，我覺得這個問題非常好，所以我決定直接引用：在正在進行的人工智能革命中，什麼年齡最糟糕？

Demis Hassabis：天哪，我還沒想過這個問題。但我認為，只要你能活到那個時候，就是一個好年齡，因為我認為我們將在醫學等領域取得巨大進步，所以我認為這將是一段不可思議的旅程。我們誰也不知道它究竟會如何發展，這很難說，但去探索它將會非常有趣。

Casey Newton：如果可以的話，儘量保持年輕。

Demis Hassabis：是的，年輕總是更好。總的來說，年輕總是更好。