Anthropic

鳳凰網科技訊 北京時間9月11日，據《金融時報》報道，隨着專家越來越擔心AI對公共安全構成的威脅，Anthropic公司表示，已在今年阻止了多起科學家利用其技術開展相關研究的嘗試，這些研究可能有助於研發生物武器。

Anthropic列舉了五個案例。在這些案例中，相關行為者「繞過了管控措施」，並採取了其他手段來「混淆」其研究目的，以規避安全防護措施。

Anthropic在一份關於其模型被用於惡意活動的報告中表示：「我們希望通過分享這些案例，引發AI行業以及各國政府就新興生物風險以及如何最好地應對這些風險展開討論。」

該公司提供的AI可能被濫用於生物領域的案例研究包括，一名來自「不受支持地區」的研究人員使用Anthropic的AI模型Claude，用「數周時間規劃」涉及禽流感的實驗。Anthropic表示，其安全過濾機制將這項研究限制在性能最弱的模型上。

Anthropic強調，它無法確定上述案例中的科學家是否有意造成傷害。研發製造生物武器所需的相同信息，也可能被用於研發疫苗。

Anthropic表示，已封禁報告中提到的相關賬戶，但沒有透露這些研究人員所屬研究機構的名稱，也沒有公布事件發生的國家。

本周早些時候，一場圍繞AI安全的輿論風暴拉開帷幕。Anthropic安全研究人員雅各布·考克森(Jacob Coxon)宣佈辭職，稱該公司的開發人員「真心相信AI可能在這個十年結束前殺死我們所有人」。

今年早些時候，隨着Anthropic的Mythos等先進模型的發布，人們對這項技術的擔憂開始升級。OpenAI也在7月引發恐慌，當時它表示其模型已自主入侵了AI公司Hugging Face。

隨着AI模型日益先進，AI高管和生物安全研究人員之間正形成越來越廣泛的共識：AI技術在生物學領域的應用需要進行安全防護和監管。專家越來越擔心，AI可能被恐怖組織、國家行為體或獨狼式襲擊者用來製造生物武器、創造病毒或釋放現存的有害病原體。

但是，即便AI能夠被用於設計一種理論上的生物武器，仍存在一些潛在障礙，例如能否在現實中將其製造出來，以及製造所需的資源。 (作者/簫雨)

更多一手新聞，歡迎下載鳳凰新聞客戶端訂閱鳳凰網科技。想看深度報道，請微信搜索「鳳凰網科技」。