全文中補充了引語和背景信息
路透日內瓦9月7日 - 聯合國人權事務高級專員沃爾克·特克周一警告稱,人工智能可能變得強大到足以威脅人類,並表示他將在未來幾天敦促相關企業降低相關風險。
「我認同業界人士的擔憂,即先進的人工智能可能對人類構成生存威脅,」特克在下月開始其第二個任期之前,在日內瓦聯合國人權理事會發表了一場內容廣泛的演講時表示。
「今天,我在此呼籲各方全力以赴,在為時已晚之前,就人工智能的安全與保障問題建立堅如磐石的保障機制。」
特克雖未點名,但警告稱,僅少數幾人就掌握着「對人工智能近乎無限的權力」。頂尖的人工智能公司 (link) 包括Meta META.O、Anthropic、OpenAI和谷歌 GOOGL.O。
「至少,我們需要部署人工智能的國家以及參與其供應鏈的各方共同商定並遵守紅線,」他表示。
特克的言論呼應了人工智能高管們此前關於人工智能滅絕風險的警告,其中包括OpenAI首席執行官薩姆·阿爾特曼。聯合國已呼籲制定統一規則 (link) 以降低相關風險,並於7月召開了首屆全球人工智能治理會議。