Gerhard Mey

路透庫姆諾克，蘇格蘭9月17日 - 隨着關於人工智能潛在風險的警告日益增多，英國國王查爾斯將於周四在蘇格蘭會見人工智能領域的主要高管，屆時他將敦促他們確保這項技術「堅定不移地服務於人類」。

查爾斯將在此行業關鍵時刻接待來自英偉達、谷歌DeepMind、OpenAI、Anthropic等公司的高管。目前，人們日益擔憂，人工智能安全措施 (link) 未能跟上日益強大的系統 (link) 快速發展的步伐。

最近幾周，關於該行業能否進行自我監管，還是應被強制放緩發展步伐的爭論日益激烈。

查爾斯將呼籲就自主智能體問題作出保證

查爾斯將告訴高管們，該行業需要向公衆保證，人們不會因自主人工智能代理而失去對生活的控制。

據王宮發布的演講節選，國王將在蘇格蘭鄧弗里斯府為會議致開幕詞時表示：「在這個關鍵時期做出的決定，將塑造後代所繼承的世界。」

「你們面前的任務不僅僅是推動技術進步，更要確保技術始終堅定地服務於人類、社會和自然世界。」

預計與會者包括英偉達創始人兼首席執行官黃仁勳、谷歌DeepMind創始人兼董事長德米斯·哈薩比斯、OpenAI首席財務官莎拉·弗里爾以及英國人工智能部長卡尼什卡·納拉揚 (link)。

教皇利奧十四世的顧問保羅·貝南蒂（Paolo Benanti）也預計將出席，他此前曾呼籲 (link) 各國政府放緩人工智能的發展步伐。

關於對人類威脅的辯論

在兩名Anthropic研究人員警告稱，快速發展的⁠技術可能在不久的將來導致人類滅絕 (link) 後，關於人工智能的爭論再次成為焦點。

Anthropic首席執行官達里奧·阿莫代伊（Dario Amodei）也呼籲各公司放緩人工智能的發展步伐。

然而，這引發了一場國際辯論 (link)，爭議焦點在於某些高管是否別有用心——例如制定規則以維持特定企業的領先地位、趁早行動以避免更廣泛的政府反制，抑或僅僅是為了在人工智能研發競賽中放緩支出。

儘管預計此次在蘇格蘭舉行的會議不會產生任何具有約束力的協議，且查爾斯國王並不以技術專長着稱，但這凸顯了他——先是作為威爾士親王，如今作為國王——如何利用自己的地位，就一系列全球性議題召集討論。

在提及人工智能帶來的風險時，查爾斯還警告了其對環境的潛在影響，這反映了他數十年來為自然世界發起的倡導活動。

白金漢宮表示，討論將探討是否能制定一套共同原則來指導人工智能的未來應用，使其「不僅作為能力與效率的推動力，更作為維護人類尊嚴、促進人類與地球共同繁榮的工具」。