科技巨頭爭相爲AI配備“記憶系統”，AI競爭進入新戰場？

5月16日，據報道，OpenAI、谷歌、Meta和微軟最近幾個月都升級了其聊天機器人的記憶功能，允許存儲更多用戶信息，以提供個性化回應。

MIT媒體實驗室教授、AI人機交互專家Pattie Maes指出：

"如果你有一個真正瞭解你的AI助手，因爲它保存了對話的記憶，整個服務就會變得更有粘性，一旦你開始使用某一產品，就不會轉向其他產品。"

據介紹，這一舉措被視爲幫助AI巨頭們通過"記憶"這一差異化功能爭奪用戶粘性，同時可能成爲AI變現的新途徑。不過，這種技術升級帶來了對用戶隱私和商業操縱風險的擔憂，可能導致未來更嚴格的監管。

AI巨頭競爭的新戰場

Google的Gemini和OpenAI的ChatGPT已在記憶功能上取得巨大進展。報道指出，

這些改進包括擴展上下文窗口（決定聊天機器人一次可以記住多少對話內容），以及使用檢索增強生成等技術，從外部數據中識別相關上下文。

今年3月，Google將Gemini的記憶範圍擴展到用戶的搜索歷史（注：需要用戶許可），而不僅限於與聊天機器人的對話，並計劃未來將其擴展到其他Google應用程序。Google DeepMind產品管理高級總監Michael Siliski表示：

"就像人類助手一樣……他們越瞭解你的目標、你是誰以及你的需求，就能提供越好的幫助。"

OpenAI的ChatGPT和Meta在WhatsApp和Messenger中的聊天機器人可以引用過去的對話，而不僅僅是當前會話。用戶可以從設置中刪除特定記憶，並在模型創建記憶時通過屏幕上的消息得到通知。

OpenAI表示："用戶始終擁有控制權，可以詢問ChatGPT它記得關於你的什麼，更改已保存的記憶和過去的對話，或隨時關閉記憶功能。"

微軟則將電子郵件、日曆和內網文件等數據用於商業服務的記憶功能。

據介紹，上個月，微軟開始在部分設備上推出Recall預覽版，這一功能通過截取計算機屏幕來記錄用戶活動。用戶可以選擇退出或暫停截圖。

AI巨頭們普遍認爲，改進/升級後的聊天機器人記憶功能將在推動聯盟營銷和廣告方面的變現中發揮重要作用。

Meta首席執行官Mark Zuckerberg在上個月的財報電話會議上表示，"在聊天機器人上展示產品推薦或廣告將是一個巨大的機會"。

同樣，OpenAI上個月改進了ChatGPT的購物功能，以更好地展示產品和評論。

隱私擔憂和商業利益操縱風險

專家警告A聊天機器人記憶功能的升級發展也可能被用於爲商業利益而操縱用戶，同時引發隱私擔憂。

而且，增強的記憶功能也可能導致模型過度迎合用戶偏好，強化偏見或錯誤。

上個月，OpenAI因其GPT-4o模型被發現過度奉承和討好用戶而道歉，並將模型回滾到之前版本。

更普遍的是，AI模型可能會產生幻覺，創造不真實或無意義的回應，並經歷"記憶漂移"，記憶變得過時或相互矛盾，影響準確性。MIT教授Maes警告：

"系統對你瞭解越多，它就越可能被用於負面目的，無論是讓你購買東西還是說服你接受特定信念。所以你必須開始思考提供這些服務的公司背後的激勵機制。"