美國參議院談判人員正在討論一項立法，該法案將要求AI公司證明自己正在採取合理的預防措施，以防止其工具造成傷害。據一名了解談判情況的參議院助理和一名遊說人士透露了上述消息。

上周，在Anthropic研究員雅各布·考克森（Jacob Coxon）表示自己辭職後，外界對AI潛在危險的擔憂進一步加劇。他表示，辭職部分原因是因為「開發AI的人真心相信，到本十年結束時，AI可能會殺死我們所有人」。周一，在一些業內最大型公司的負責人呼籲放慢AI技術發展速度後，全球AI相關股票紛紛下跌。

據上述參議院助理和遊說人士透露，參議員們正在討論賦予美國商務部長權力，要求AI開發商提供證據，證明其正在採取合理措施防止傷害，這種義務被稱為「注意義務」（duty of care）。他們表示，商務部長還將有權派遣政府審計人員，對相關公司的產品進行實際測試。

路透社無法立即確定什麼樣的措施纔會被認定為「合理」。

這項立法目前仍在討論之中。即使美國國會批准該措施，它最終成為法律的可能性也很低。美國總統唐納德·特朗普周一表示，現有的政府部門已經擁有足夠的工具來監管和起訴科技公司，這表明他可能不會簽署一項針對AI制定新規則的法案。

這項提案正在由美國參議院多數黨領袖約翰·圖恩（John Thune）、參議院商務委員會主席特德·克魯茲（Ted Cruz）以及參議員艾米·克洛布徹（Amy Klobuchar）共同討論，克洛布徹是參與談判的民主黨最高層議員。

克魯茲的一名發言人沒有立即回應路透社的置評請求。

圖恩周一對記者表示：「國會可以通過某種方式，為這些影響更加重大的威脅設定安全護欄，同時完全不會損害我們在AI競賽中保持領先的能力。」

克洛布徹在一份聲明中表示：「我將繼續努力推動達成一項兩黨協議，就政府如何監督AI模型帶來的最大風險制定相關立法。」

「這包括要求開發商與政府專家合作，對模型進行驗證和測試，以確保AI是安全的。」

克魯茲領導的參議院委員會負責監督美國商務部，而商務部內部設有AI安全研究人員。據消息人士透露，參議院商務委員會民主黨最高層議員瑪麗亞·坎特韋爾（Maria Cantwell）也參與了這項立法的討論。

路透社周五報道稱，談判人員還在討論，如果美國政府希望阻止發布某些其認定為不安全的AI模型，是否應讓聯邦法院參與其中。

相關公司將能夠在聯邦法院對這一決定提出挑戰，而美國政府究竟能夠擁有多大的權力，目前仍在討論之中。

據另一名遊說人士和一名參議院助理透露，該措施中涉及聯邦法院的部分內容還將阻止各州執行各自針對AI模型所帶來某些風險制定的法律。

目前已知擁有最先進AI模型的美國公司包括Anthropic和OpenAI。