路透9月14日 - 據The Information周一報道,包括Palantir TechnologiesPLTR.O、Nvidia(輝達/英偉達)NVDA.O和Booz Allen HamiltonBAH.N在內的大型科技公司,可能會限制或停止使用先進人工智能$(AI)$模型,除非Anthropic和OpenAI保證不會濫用這些企業客戶的知識產權。
報道援引知情人士的話稱,與此同時,微軟MSFT.O正藉助企業對這些問題的擔憂,推介隔離式雲環境和自有AI產品,以爭取更多業務。
Anthropic首席執行官達里奧·阿莫德伊(Dario Amodei)周六呼籲AI公司放慢前沿模型的開發步伐,並警告稱,模型能力提升的速度已經快於研究人員理解或控制這些能力的速度。這一立場很快得到OpenAI首席執行官阿爾特曼(Sam Altman)和馬斯克的支持。
據報道,Anthropic在6月調整Fable模型的相關政策後遭到客戶抵制。調整後的政策賦予該公司保留使用日誌30天的權利,以防範「複雜且新型的攻擊」。
據報道,OpenAI也面臨類似質疑,有人指稱該公司可能曾使用用戶數據訓練模型,協助解決一道數學題。
Palantir、Nvidia、Booz Allen、Anthropic和OpenAI均未立即回應路透的置評請求。
報道援引一位熟悉相關討論的人士的話稱,Palantir已敦促Anthropic在通過Palantir的軟件提供其模型之前,作出不可撤銷的「零數據保留」保證。
據報道,Nvidia僅在敏感程度較低的任務中使用Anthropic的模型,內部工作則依賴自有Nemotron模型。Booz Allen已禁止員工在涉及公司專有信息的網絡安全工作中使用Anthropic的商用模型。
報道還稱,這兩家AI實驗室均表示,除非企業主動選擇允許使用其數據,否則默認情況下不會利用客戶數據訓練模型。不過,兩家公司會收集匿名化元數據以改進產品。