微軟聯合創始人比爾·蓋茨周三（8月26日）在個人網站 Gates Notes 刊出近6000字長文，稱人工智能將帶來「人類歷史上最動盪的時期之一」，並寫下「目前沒有方案」來緩衝這場轉型。同一天，他在西雅圖辦公室接受採訪時說，按現在的速度，「淨負面結果的概率非常高」。
長文標題是《我們現在對人工智能做出的選擇至關重要》。蓋茨寫：人工智能「要麼成為有史以來最大的平等器，要麼成為最糟的不公來源」。他還列了三條已經同時出現的風險：大量工作崗位永久消失、作惡門檻下降、兒童成長與人際關係被替代。政府是否立法、稅怎麼改、哪些崗位留給人，目前都沒有拍板。
蓋茨改口：三年前說「可管理」，現在說崗位會少一大塊
三年前，蓋茨曾寫過，人工智能帶來的就業衝擊會「顛簸」，但過渡仍「可管理」，技術會幫人把活幹得更有效率。周三對 Semafor 他說，自己處在一種震驚裏：「我差不多是第一個站出來說‘這太瘋狂了，這太荒唐了’的人。」「我被沉默震聾了。」
他對 Axios 說，好事走得偏慢，除了機器人，「壞事已經近在眼前」。按當前路線，淨負面結果的概率非常高。他同時說，自己認識的業內人士幾乎都在擔心；對 GeekWire，他補了一句：他所認識的人裏，「基本上除了埃隆，人人都擔心」。
長文把就業衝擊寫成結構性問題，而不是一輪經濟周期裏的失業。蓋茨引用1933年美國大蕭條時約25%的失業率作對照，寫明人工智能「未必到這個水平」，但衝擊「不會隨着經濟周期消失」。白領裏，客服、軟件工程、律師助理會先被替換；藍領一側，他寫「很多美國人沒意識到靈巧機器人進步有多快」，建築和酒店業的部分體力活，到本十年末可能開始和人對打。沒有干預的情況下，新創造的崗位會「遠少於」今天的就業總量。轉型會在大約十年裏完成，而不是幾代人。
他對 Semafor 說，多數職業裏，人最終會「遠遠不如做這份工作的人工智能」。他問，崗位消失之後的反彈會有多大：「會讓數據中心那檔事看起來像小事。」基金會解決不了社保缺口。他說，政府規模大約是全部慈善的20倍；蓋茨基金會一年約100億美元，「遠遠不夠」。回應不能是「行業自己搞定」。
三條風險已經並排寫進同一篇長文
第一條是工作。蓋茨寫，最危險的是入門級和中間層級崗位，新崗位大多要求要學很多年才能掌握的技能。他特別點到年輕人：入門崗位先沒，再就業的台階跟着變窄。等待「人已經被擠走或就業不足」再動手，會太晚。
第二條是作惡能力下降。詐騙、深度僞造、虛假信息、監控，會先進入日常生活。網絡攻擊的資源門檻在下降，醫院和電網這類基礎設施被點名為薄弱點。生物一側，他寫人工智能會加快藥物和疫苗，也會讓設計致命新疾病變得更容易，「正面能力和危險能力很難拆開」。對 GeekWire，他把過去業內口頭劃過的警戒線又數了一遍：更容易做生物武器、更容易發動網絡攻擊、做出讓人情感依賴的機器、抹掉大量崗位、技術本身失控。「我們正在越過每一條線。」
第三條是孩子和關係。長文引用斯坦福與卡內基梅隆一項超過1100人的研究：用人工智能伴侶越重，自我報告的幸福感越差。蓋茨寫，自己小時候花力氣學社交、交朋友，「如果當時就有人工智能伴侶，我懷疑自己不會下同樣的功夫」。他還提到，初步調查顯示，用得越重，批判性思維越弱，年輕群體更明顯。
他把這幾類風險說成「黃燈或紅燈已經在閃」。他批評現行自願安全安排：閾值是什麼、越過之後做什麼，「整套東西在我看來空空如也」。若一直沒有紅線和後果，「我們回頭看，會把現在當成風暴眼裏的片刻」。有人拿出可信的全球減速方案，他寫自己「多半會支持」，但「不認為這會發生」。地緣和政治力量太大。
他提出三件事：新機構、給人留崗、向代幣和機器人徵稅
第一件是建新機構。蓋茨寫，現有機構不是為一種同時碰到就業、安全、衛生、能源和選舉的技術設計的。他要國內新設能跨部門定優先級的機構，國際上要有一個組織，零件分別來自核檢查、民航規則和臭氧層條約。這是倡議，不是已經成立的機構。對 Axios，他評美國兩黨：「兩邊對這件事都談不上懂，也談不上認真想過。」對 GeekWire，他問「白宮這邊該找誰談」。華盛頓的立法日程沒有因此改寫。
第二件是「人類保留」（Human Reserved）崗位：機器已經能幹，社會仍決定留給人。比喻是自然保護區——地可以蓋樓修路，但選擇不蓋，因為失去的東西太大。例子包括兒童看護、陪審，以及告知「你得了不治之症」。他寫：「技術上沒有理由做不到。但不該這麼做。」照料失智父親的護工，被他寫成「無法被替代的人的工作」。教育和醫療不要全面禁止人工智能，而是崗位受保護、人繼續掌舵、工具給人用。保留可以分兩種：一種永遠由人做；一種是臨時保護轉行困難的人，比如職業生涯後段的製造業工人。極端情形下，他告訴 Axios，起初可以想象把約40%的崗位劃給人，「這是我能想到的上限」。具體劃哪些、怎麼執行，長文寫明「必須公開討論」。各國進度可以不同，可以分年、分十年推進，而不是第二天全部替換。這些都還不是法律。
第三件是稅。蓋茨主張對人工智能代幣（模型把文本和其他數據切成的計費單位）和機器人徵稅，用來減弱「用機器替人」的財務激勵，並給再培訓和安全網籌資。現行稅制是：僱人要繳工資稅，買機器人通常可以當作經營開支抵扣。「稅制在推你用機器換人。」他對 Axios 說，這等於「我這輩子見過的最大一次稅制改動」，又碰上「我這輩子見過的最分裂的政治」。機器人稅他九年前就提過，當時被廣泛擱置，現在仍堅持。他承認這不「經濟最優」，但創新加速後，社會付得起一點效率損失，用來把人留在崗位上。稅率、稅基、誰徵、錢怎麼分，長文沒有給出法案文本。
蓋茨基金會仍按既定的20年計劃往下花剩餘約2000億美元，還剩19年，並會把人工智能用到衛生、農業和教育項目裏。他同時說，慈善填不上國家層面的安全網。模型公司「不是政策的人」，對外談自家產品的負面時「有一點回避」。行業自己解決不了這件事。
已經發出的是警告，還沒有落地的是規則
蓋茨把這篇長文寫成系列的第一篇，後續還要單獨寫生物風險。70歲的他說，自己三十多歲時覺得五六十歲的人什麼都不懂，現在由他來發這種警告「有點怪」，但「我非常擔心。一對一談話時，他們也是」。他對自己的就業判斷願意押聲譽：「我希望有人說服我看錯了就業市場，但沒有。這件事對就業市場會非常糟。」
周三發出的是一份個人倡議和一組訪談口徑：風險三條已經寫死，減速方案他不指望出現，國內新機構、國際組織、人類保留崗位、代幣稅和機器人稅都還停在紙上。哪些崗位劃給人、稅徵多少、白宮對接人是誰，長文和採訪都沒有給出已經生效的規則。