Byron Kaye

路透社悉尼3月5日 - 谷歌（Google）已通知澳大利亞當局，在近一年的時間裏，它在全球範圍內收到了250多起投訴，稱其人工智能軟件被用於製作深度僞造的恐怖主義材料。

據澳大利亞電子安全委員會（Australian eSafety Commission）稱，這家由Alphabet控股的GOOGL.O科技巨頭還表示，它已收到數十份用戶報告，警告稱其人工智能程序Gemini被用於製作虐待兒童的材料。

根據澳大利亞法律，科技公司必須定期向電子安全委員會提供有關傷害最小化工作的信息，否則將面臨罰款風險。報告期涵蓋 2023 年 4 月至 2024 年 2 月。

自2022年底OpenAI的ChatGPT進入公衆視野以來，世界各地的監管機構都呼籲建立更好的防護欄，以防止人工智能被用於恐怖主義、欺詐、深度僞造色情和其他濫用行為。

澳大利亞電子安全委員會將谷歌的披露稱為 "全球首次洞察 "用戶如何利用該技術製作有害和非法內容。

"電子安全專員朱莉-英曼-格蘭特（Julie Inman Grant）在一份聲明中說："這突出表明，對於開發人工智能產品的公司來說，建立並測試防止這類材料生成的保障措施的有效性是多麼重要。

谷歌在報告中稱，它收到了 258 份用戶報告，內容涉嫌使用 Gemini 人工智能生成深度僞造的恐怖主義或暴力極端主義內容，另有 86 份用戶報告稱人工智能生成了剝削或虐待兒童的材料。

監管機構稱，谷歌並未透露覈實了多少起投訴。

谷歌使用艙口匹配（一種將新上傳的圖片與已知圖片自動匹配的系統）來識別和刪除使用 "雙子座 "製作的虐待兒童材料。

但監管機構補充說，谷歌並沒有使用同樣的系統來清除用 Gemini 生成的恐怖主義或暴力極端主義材料。

監管機構已對 Telegram (link) 和 Twitter（(link) 後更名為 X）處以罰款，原因是它們在報告中存在所謂的缺陷。 (link) X 已就其 610,500 澳元的罰款($382,000) 上訴失敗，但計劃再次上訴。Telegram 也計劃對其罰款提出質疑。

(為便利非英文母語者，路透將其報導自動化翻譯為數種其他語言。由於自動化翻譯可能有誤，或未能包含所需語境，路透不保證自動化翻譯文本的準確性，僅是為了便利讀者而提供自動化翻譯。對於因為使用自動化翻譯功能而造成的任何損害或損失，路透不承擔任何責任。)