澳大利亞的人工智能打擊行動針對有害內容的年齡驗證
eSafety 警告不遵守年齡限制將被罰款
路透審查發現，大多數平台都沒有公開有關年齡保證系統計劃的信息
Byron Kaye
路透悉尼3月1日 - 澳大利亞互聯網監管機構表示，它可能會推動搜索引擎和應用商店屏蔽那些未能驗證用戶年齡的人工智能服務，因為路透的審查發現，在下周的最後期限之前，半數以上的平台沒有公布任何合規措施。
這一警告反映了全球為控制人工智能公司所做的最積極的努力之一，這些公司面臨着越來越多的訴訟 (link)，因為它們未能阻止--甚至鼓勵--自殘或暴力，而研究人員警告說，這些平台對青少年心理健康的危害比社交媒體更大。
12 月，澳大利亞成為第一個 禁止青少年使用社交媒體的國家 (link) ，理由是心理健康問題，這引起了 世界各國領導人 (link) ，紛紛表示他們也將這樣做。澳大利亞現在表示，它將帶頭對人工智能進行類似的打擊，對人們可以使用該技術訪問的內容設定年齡限制。
從3月9日起， 澳大利亞的互聯網服務，包括OpenAI的ChatGPT等搜索工具和不太知名的伴侶聊天機器人必須 限制18歲以下的澳大利亞人接收色情、極端暴力、自殘和飲食失調等內容，否則將面臨高達4950萬澳元的罰款（3500萬美元）。
該專員的一位發言人表示："eSafety 將在出現違規行為時使用我們的全部權力"，包括 "對把關服務採取行動，如搜索引擎和應用程序商店，它們提供了獲取特定服務的關鍵點"。
OpenAI和配套聊天機器人初創公司Character.AI因與年輕用戶互動而面臨過失致死訴訟，而OpenAI本周承認 (link)，它在加拿大大規模槍擊案發生前幾個月，在未告知當局的情況下停用了一名青少年嫌犯的ChatGPT賬戶。
澳大利亞尚未接到與聊天機器人相關的暴力或自殘報告，但監管機構已接到報告稱，有年僅 10 歲的兒童每天與人工智能交互工具交談長達 6 小時。
eSafety 發言人說，"人工智能公司正在利用情感操縱、擬人化和其他先進技術來引誘、誘導和鞏固青少年過度使用聊天機器人"。
頂級應用商店運營商蘋果AAPL.O沒有回應，但 上周 在其網站上表示，它將使用 "合理的方法 "阻止未成年人在澳大利亞和其他引入年齡限制的司法管轄區下載18歲以上的應用，但沒有說明具體方法。
谷歌GOOGL.O是澳大利亞主要的搜索引擎提供商和第二大應用程序商店運營商，該公司發言人拒絕發表評論。
互聯網行業組織DIGI的政策主管珍妮弗-達克斯伯裏（Jennifer Duxbury）在監管機構簽署人工智能守則之前領導了該守則的起草工作，她說，eSafety正在努力通知聊天機器人服務有關新規則，但 "最終，在澳大利亞運營的任何服務都有責任了解其法律義務並確保履行這些義務"。
合規者佔少數
路透的審查發現，在澳大利亞的最後期限前一周，在 50 個最受歡迎的基於文本的人工智能產品中，有 9 個已經推出或宣佈了年齡保證系統計劃。路透的審查基於各平台對限制內容和審核政策提示的回覆、發布的聲明（包括服務條款）以及對路透的聲明。
審查發現，另有 11 個平台有全面的內容過濾器，或計劃阻止所有澳大利亞人使用其服務，這些措施通過阻止所有用戶使用受限內容來遵守新法律，剩下的 30 個平台沒有采取明顯措施來遵守新規則。
大多數基於聊天的大型搜索助手，如 ChatGPT、Replika 和 Anthropic's Claude，都已開始推出年齡保證系統或全面過濾器。聊天機器人提供商 Character.AI 關閉了針對 18 歲以下青少年的開放式聊天。
同伴聊天機器人提供商 Candy AI、Pi、Kindroid 和 Nomi 告訴路透，他們計劃遵守規定，但沒有詳細說明，而 HammerAI 表示，它最初會阻止澳大利亞用戶使用其服務以遵守該守則。
但這只是少數。在配套的聊天機器人中，四分之三沒有運行或計劃運行過濾或年齡保證功能，而六分之一沒有公布用於報告可疑違規行為的電子郵件地址，而這也是要求的。
路透發現，埃隆-馬斯克（Elon Musk）的聊天搜索工具 Grok 因涉嫌未能停止製作兒童合成性圖像而在全球範圍內受到調查，該工具沒有年齡保證措施或基於文本的內容過濾器。Grok 的母公司 xAI 沒有回應置評請求。
皇家墨爾本理工大學人類-人工智能信息環境中心（Centre for Human-AI Information Environments）主任麗莎-紀梵（Lisa Given）說，路透的發現並不令人驚訝，因為 "這些工具中的大多數在設計時都沒有考慮到潛在的危害以及對此類安全控制的需求"。
"她說："感覺就好像......我們在為這些公司測試所有這些東西，他們想看看社會願意被推到什麼程度。"
(1美元 = 1.4085澳元)
(為便利非英文母語者，路透將其報導自動化翻譯為數種其他語言。由於自動化翻譯可能有誤，或未能包含所需語境，路透不保證自動化翻譯文本的準確性，僅是為了便利讀者而提供自動化翻譯。對於因為使用自動化翻譯功能而造成的任何損害或損失，路透不承擔任何責任。)