Anthropic首席執行官Dario Amodei近日公開回擊了外界對其"過度渲染人工智能風險"的批評。 

他直言，公衆對AI的牴觸情緒"從根本上是一場信任危機"，責任不在於AI高管們的"危言聳聽"，而在於行業尚未兌現造福世界的承諾。

AI牴觸本質是信任危機

這場交鋒始於投資者Gavin Baker的公開質疑。Baker在播客節目及社交平台X上表示，Dario頻繁強調AI風險，助長了美國社會對AI數據中心等基礎設施的反彈情緒。

Baker甚至直言，Dario在AI監管辯論中「已經輸了」，並建議這位即將帶領公司成為全球最重要擬上市公司之一的CEO「更積極地為自己所在的行業代言」。

Baker並非唯一持有此觀點的人。越來越多聲音認為，AI懷疑論（skepticism）乃至政府層面的打壓，正是對部分高管「末日式」警告的自然反應。

然而，Dario在連串推文中明確反駁了「自己的言論過於負面」這一說法。他稱，自己的公開表述「在風險與收益之間大致均衡」，並舉例說，他撰寫長篇長文《Machines of Loving Grace》（仁慈機器），恰恰是因為「覺得AI行業未能描繪出足夠鼓舞人心的技術變革藍圖」。

儘管如此，Dario坦承：「公衆對AI的看法確實負面，這的確是個大問題。」但他不同意這種負面情緒「主要由我或任何其他AI領袖的風險警告所引發」。

他認為：「我認為這本質上是一場信任危機。普通人並不信任企業、政府或科技行業，他們總懷疑我們在醞釀某種新的手段來損害他們的利益。」

他進一步指出：「我認為對包括Anthropic在內的AI公司最準確的批評是，我們尚未兌現惠及世界的重大承諾。這完全是我們自己的問題，你們應該批評這一點，而不是糾纏於什麼公關話術和營銷策略。」

他直言，承諾AI能治癒癌症「更像是陳詞濫調而非激勵」，真正能改變人們看法的，是「真的治癒癌症」。

他透露，Anthropic正在生物學和醫學領域迅速加大力度，希望在未來幾年取得令人難以置信的成果，並在未來幾個月內看到一些初步的曙光。

監管不等於權力集中

在監管議題上，Dario反駁了Baker提出的「虛假選擇」——即在不加監管地廣泛分發AI與通過監管將技術集中於少數公司之間做取捨。

他表示：「我知道硅谷有一種簡化的說法，認為監管等於監管俘獲，等於權力集中。但我一直認為這是對世界的過度簡化。在這個圈子之外，許多人視監管為約束企業權力、造福普通民衆的手段。」

Dario補充說，自己「未必完全讚同那種視角」，但這正是「Anthropic始終審慎制定政策建議的原因」。他透露：「我們非常努力地提出那些會對前沿AI公司造成不利（減緩其發展）同時有利於小型競爭對手的提案。」

為何要提出這類方案？Dario解釋，在他看來，「AI從結構上是一種傾向於集中權力的技術」，而「開放權重模型雖有一定幫助，但遠非充分解決方案，因為它們只是將集中點轉移到了擁有最多算力和芯片的實體上」。

他主張：「相反，我認為正確的‘遊戲規則’能夠同時（a）應對AI的網絡、生物及對齊風險；（b）從制度上約束前沿AI公司的權力；（c）為開放權重模型留出空間，同時應對其帶來的特定風險。」

以下為 Dario amodei 的帖子全文——

感謝Gavin進行了一次特別深思熟慮的交流。我通常不會在社交媒體上花費太多時間，但我想在這裏參與討論，因為這確實突出了一個重要對話的核心。

首先，關於監管，我認為「要麼通過監管將其集中在少數選定公司和政客手中，要麼廣泛分發」是一種虛假的選擇。

我知道硅谷有一種簡化的說法，即監管 = 監管俘獲 = 權力集中，但我一直覺得這是一種對世界的過度簡化描繪。

在這個圈子之外的許多人認為，監管是約束企業權力並惠及普通人的東西。我並不一定同意這種觀點，而是認為這很複雜，真正取決於「監管」具體包括什麼。

但特別是，我認為那些持「監管 = 監管俘獲 = 權力集中」觀點的人往往低估了客觀公正的制度流程的去中心化力量。

一個粗糙的類比是，正式的法院系統有時會讓人覺得古板和精英化，但它在捍衛弱勢個體權利方面做得比另一種選擇——暴民正義——好得多。

在其最佳狀態下，制度可以將權力賦予理念而非個人，從而實現權力的去中心化。

這就是為什麼Anthropic在制定政策提案時總是非常謹慎。

我們非常努力地提出那些會削弱（減緩）前沿AI公司同時*有利於*較小競爭者的提案。

加州的SB53（我們支持的），甚至備受詬病的SB 1047（我們對此持矛盾態度），都完全豁免了收入或模型訓練成本低於一定金額的公司（SB 53為5億美元，1047更低但我們對此提出異議）。

最近我們在CAISI和白宮倡導的測試流程，對前沿模型的要求比非前沿模型更嚴格——這是一種差異化有利於挑戰者的方式。

同樣，「Pacing the Frontier」信件設想（或至少Anthropic偏好的實施方式設想）在不約束追趕者的情況下調節最先進模型的步伐。這損害了前沿實驗室的商業利益，同時幫助了挑戰者，包括開源權重模型！

總的來說，我的觀點是AI從結構上是一種傾向於集中權力的技術，其原因與監管無關（更多與縮放定律的極端含義有關）。

開源權重確實在一定程度上有助於緩解這個問題，但遠非充分解決方案，因為它們只是將集中程度略微轉移到擁有最多計算資源和芯片的那些實體（大致上是前沿實驗室加上可能的硬件提供商）。

相比之下，我認為正確的「遊戲規則」可以同時（a）應對AI的網絡/生物/對齊風險，（b）從制度上約束前沿AI公司的權力，以及（c）為開源權重模型留出空間，同時也應對它們帶來的特定風險。

順便說一句，我並不認為過去幾個月的進展「未能導致[我]偏好的監管路徑」。

據報道美國政府將採取的方法——對前沿模型進行部署前測試，以及當開源權重模型接近前沿時對其進行測試——是我非常支持的，當然我必須看到細節才能確定。

我也支持Demis Hassabis關於類似FINRA實體的想法。這與六個月前形成鮮明對比，當時行業大多數人仍在推動優先廢除所有州監管，也沒有明顯的聯邦方法。

其次，關於人工智能的傳播信息。我不同意我的傳播信息過於負面。

事實上，它在風險和益處之間基本保持了平衡：我寫了一篇關於風險的主要文章，也寫了一篇關於益處的文章，甚至在討論風險的訪談中，我也確保經常提到令人難以置信的益處，並提出可能的解決方案來應對這些風險（我的訪談片段在社交媒體上流傳時往往顯得過於負面，因為那樣能吸引點擊）。

事實上，我寫《仁慈機器》（Machines of Loving Grace）是因為我覺得人工智能行業沒有描繪出足夠鼓舞人心的願景，來展示這項技術如何徹底改變世界，讓它變得更好。

這篇文章的主要部分致力於反駁人們對人工智能在健康和生物學領域潛力的懷疑，並解釋為什麼我認為在未來約5-10年內治癒大多數人類疾病是可能的，儘管這聽起來對普通人——坦白說，對生物學家也是如此——可能很瘋狂（我以前就是生物學家！）。

而且，如果你讀我最近的文章《Policy on the AI Exponential》，我會討論一些具體的提議，比如如何簡化FDA流程，以確保人工智能加速藥物的大量湧入不會被監管程序拖慢。

我在這裏感受到緊迫性：我的父親死於丙型肝炎，那時距離直接作用抗病毒藥物（索非布韋）的開發僅幾年，這種藥物能治癒95%的患者，很可能也能治癒他。

我確實同意公衆對人工智能持負面看法（這確實是個大問題），但我不認為這主要是由我或其他人工智能領導者警告人工智能風險引起的。

我認為這本質上是一個信任危機。我覺得普通人不信任公司、政府或科技行業，總懷疑我們在醞釀某種新的方式來坑害他們。這種情況的根源可以追溯到幾十年前，而人工智能只是它的最新表現形式。

我不認為通過一個光鮮的營銷活動來施加正面宣傳（有些人主張Anthropic這麼做）是贏回信任的方法——在這一點上，說人工智能將治癒癌症更多是陳詞濫調，而不是鼓舞人心，大多數人認為這是欺騙性的。真正有效的方法是真正治癒癌症。

我認為，對包括Anthropic在內的人工智能公司最準確的批評是，我們還沒有兌現我們造福世界的宏大承諾。這完全是我們自己的責任，我認為這纔是你應該提出的批評，而不是所有這些關於傳播信息和營銷的東西。

不過，我們正在盡最大努力修復這個問題：Anthropic正在生物學和醫學領域迅速加大力度，我們希望在未來幾年取得令人難以置信的成果，並在未來幾個月內看到一些初步的曙光。當我們真正實現一些實質性成果時，整個世界都會儘可能大聲地聽到，你相信我的話。

但在那之前，我不想做出空洞的承諾，同時我感到有必要誠實地談論人工智能非常真實的那些風險，以及如何應對它們。

誠實本身就是正確的做法，從公衆可信度和信任的角度來看，它並不比忽略或轉移人們本能地理解為真實的那些風險的做法更糟，事實上可能更好。

以下為Gavin baker 的質疑帖子全文——

Sholto，謝謝你澄清事實。更大的問題是，硅谷的許多非常嚴肅的人聽到了這種說法的各種變體，並相信這是真的。

而它之所以對這麼多人來說可信，是因為它與Dario的公開信息以及你在文章中分享的他概述的內容一致：這項技術可能以多種方式對人類構成危險，可能導致經濟權力的極端集中（正如文章所述），因此需要審慎監管。

我同意這些潛在風險，我相信Dario是善意地提出所有這些論點的。

正如在播客中討論的，如果一個人同意AI可能是危險的，那麼應對這種潛在風險有兩種方式。

要麼通過監管將其集中在少數選定的公司和政治家手中，要麼廣泛分發。本質上，這歸結為一個人是否認為AI太危險而不能集中，或者太危險而不能分發。

雙方都有合理的論據，但我深刻同意Zuckerberg的聲明：「AI如此危險，以至於唯一安全路徑是極端權力集中的觀念，似乎本質上就有問題。從歷史上看，寄希望於絕對權力如果足夠開明就會仁慈地為人類提供福祉，並沒有帶來安全或積極的結果。」

扎克伯格萬字公開信:避免超級智能成為新的權力中心

正如Dario在上述文章中所說，「有些人可能反對，我們只需通過許多AI系統之間的權力平衡來控制AI，就像我們對人類所做的那樣。」

我相信這是前進的最佳路徑：我希望儘可能多地擁有AI，以最大化其中一個分享我自己特定價值觀的機會。

而且正如Dario指出的，沒有人類曾經能夠征服世界。

在這一點上，我認為可以安全地說Dario已經輸掉了這場辯論。他的信息未能導致他偏好的監管路徑。

最近一起未發布的高級OpenAI模型入侵Hugging Face的事件，其唯一解決方案是一個開源模型，這很可能終結了短期嚴格監管的任何機會。

除了Anthropic之外，本質上每一家主要公司都簽署了Jensen的信函。

然而，Dario的信息對美國這裏禁止數據中心的努力產生了巨大的幫助。

我懷疑我們將看到反數據中心倡導團體播放廣告，使用Dario警告AI對人類可能多麼危險的片段。

他支持監管的善意努力，現在正在增加AI對美國人和全世界人類不利的可能性。

我相信AI有合理的機會幫助我們治癒大多數疾病形式，從而延長壽命，並在像《星際迷航》那樣富足的未來享受這些漫長的人生。那是我想要的未來，我認為Dario此時正在降低那種未來的可能性。

他即將成為世界上最重要的上市公司之一的CEO，鑑於支持監管的努力已經失敗（至少目前是這樣），我恭敬地認為他應該努力成為自己行業的更積極倡導者。

如果我錯了，而我們確實需要監管這項技術，那麼在未來他將作為更有效的倡導者，因為他曾對替代方案保持開放心態。

為了清晰起見，正如我在播客中概述的，我認為Anthropic擁有深刻的競爭優勢，是一家了不起的公司。

諷刺的是，幾個月前我看到Anthropic的主要風險是由於Dario自己的言論和行為而導致的國家化。