OpenAI一名專注於人工智能安全的員工已從公司離職，並警告稱，頂尖人工智能公司在降低風險方面做得還不夠。

　　此前負責OpenAI安全團隊透明度工作的大衛·羅賓森（David Robinson）在為《大西洋月刊》撰寫的一篇文章中稱，這家ChatGPT開發商「一直通過反覆試錯發展壯大」。但是，這種方式不可避免會有失敗的時候，隨着AI技術的能力不斷提升，這些失敗造成的風險也在加大，他還以OpenAI未能阻止其人工智能在測試過程中失控作為例證。

　　羅賓森在文章中寫道：「我以前的同事都很聰明、工作努力，也努力做出正確的選擇。但隨着公司從一個產品發布衝向下一個產品發布，它並沒有達到我認為所需要的謹慎程度。」他補充稱，真正需要的是「第一次就做到更接近完美」。

　　最近幾周，多家頂尖人工智能公司的員工都對該技術可能帶來的災難性風險發出警告。一些人甚至表示，AI有朝一日可能會消滅人類。

　　在這一背景下，Anthropic首席執行官達里奧·阿莫迪呼籲放慢開發最前沿模型的速度，並表示其公司將引入第三方評估人員，協助審查以保證安全。業內其他人士，包括OpenAI的薩姆·奧特曼，也公開支持Amodei的計劃。

　　羅賓森在文章中表示，人工智能公司應該更像核電站那樣運營，「設定多層冗餘機制，並進行謹慎且耗時的規劃，以免偶發且不可避免的人為錯誤打開通往災難的大門。」

　　他說，目前「人工智能公司不知道該怎麼做，但其他人知道。」