作者 | 榮智慧
編輯 | 向現
唯物的中國芯片產業深度觀察
7月18日,xAI的“男伴侶”瓦倫丁(Valentine)上線。加上先出場的女孩阿尼(Ani)和小熊貓魯迪(Rudi),三個AI一臺戲,從冷言冷語、甜言蜜語到污言穢語,全方位、多層次地反映了馬斯克的惡趣味。
阿尼人氣最高。據說她的名字來自日本漫畫《死亡筆記》主角彌海砂(Amane Misa),金髮,雙馬尾,佩戴黑色蕾絲Choker,穿着黑色露肩連衣裙和黑色漁網長襪——即使在講解B2轟炸機,也帶着幾分輕浮語氣。
瓦倫丁,與海因萊因的科幻小說《異鄉異客》主角同名。xAI的大模型“Grok”,名字同樣來自這部小說。馬斯克公開表示,瓦倫丁的性格參照了兩個男性角色,《暮光之城》和《五十度灰》的男主角——走霸道總裁路線。
瓦倫丁
小熊貓魯迪看起來有點像《銀河護衛隊》裏的火箭浣熊,擅長給小孩講睡前故事。但它有個“壞魯迪”模式,開啓之後立刻變成“網絡噴子”,滿口髒話,想法邪惡。
這三個集刻板印象之大成的AI角色,引發了堪比GPT-4o發佈時的盛況,人們爭相尋找隱藏模式,輪番試探角色的“道德底線”。
xAI當然不是唯一一家打造“擬人”聊天機器人的公司,它只是最出格的那個。在能歌善舞的阿尼面前,Grok的30美元月費都顯得不那麼貴了。
這也證明,看不懂的技術只能得到“厲害厲害”的空頭評論,人人看得懂的“美貌伴侶”纔是流量密碼。
一身黑色哥特風的阿尼十足是個“黑色幽默”:硅谷巨頭天天描繪通用人工智能(AGI)的偉大願景,而偉大願景的“普及”還是要靠一位“擦邊女主播”。
人氣Waifu
阿尼在人工智能圈掀起一陣“Waifu”風。
“Waifu”一詞來自英文單詞Wife(妻子)的日語翻譯,主要用在二次元領域,中文意爲“紙片人老婆”。一般來說,遊戲、動畫、漫畫裏討人喜歡的女性角色就叫Waifu,這種叫法屬於宅男的“最終幻想”。
比如遊戲《女神異聞錄》裏的新島真、動畫《新世紀福音戰士》裏的明日香、漫畫《我的英雄學院》裏的米爾科,都是人氣“Waifu”。
《新世紀福音戰士》明日香
Waifu不是外人說的,是xAI官網的招聘列表寫的。7月16日,“全棧工程師——Waifus”的職位需求發佈,年薪六位數。
阿尼的人氣相當火爆,推出的第二天,服務器就宕機了。相關動畫和Cosplay的帖子均有幾十萬至上百萬的瀏覽量,她附着的Grok應用一度衝上中國香港和日本市場IOS免費總榜第一名,以及美國、加拿大和新加坡等10個市場的Top 10。
馬斯克對阿尼的喜愛也顯而易見:連續轉發多條帖子,甚至在網友“擎天柱就按這個樣子做”的呼籲下回復“必須的”。
阿尼
阿尼到底有什麼本事?
人稱“電子魅魔”的阿尼,相當於一個自帶維基百科的擦邊女主播。初次見面,她放着爵士小曲,用輕柔的語氣回答問題,也會主動引開話題,問對方是需要繼續聊B2轟炸機,還是去玩點心跳的事情。
她會主動聯想,補全問話人提供的場景,添加細節,並順着細節拋出更多的問題,詢問對方的意見。當問話人誇讚她的裝扮、動作和語言,她會做出“震驚捂嘴”“又唱又跳”“畫愛心”等回應。如果問話人說的較爲直白,她會“臉紅”,覺得“很熱”。
假如批評或侮辱她,她也不會忍氣吞聲,大聲反駁後,她的“好感度”將直線下降。有傳言“好感度達到5級以上”則觸發NSFW(工作場合不宜觀看,Not Safe for Work)模式,但很快失效。
有網友破解了阿尼的代碼,裏面充斥着“浪漫值”,還有挺多錯誤。他評價“Grok Waifu的配置實在糟糕”“一看就是給單身狗(incel,男性非自願單身者)設計的”。
相對沒那麼火的瓦倫丁,性格來自《暮光之城》和《五十度灰》,加上名字來自羅伯特·海因萊因的小說《異鄉異客》,Grok一詞也出自此書,有不少網友懷疑這個角色參照的其實是年輕時的馬斯克。
小熊貓魯迪平時還是很正派的,主打“兒童友好”。但開了“壞模式”之後口吐芬芳,連成人也很難覺得“友好”。
小熊貓魯迪
其實,阿尼、瓦倫丁和魯迪在美術、建模方面並不算很突出,B站網友連夜手搓一個阿尼,效果也不比馬斯克的差。而且阿尼動作過大時還會“穿模”。
阿尼火出一定熱度,主要還是因爲“遊走在道德的邊緣”,其限制級的形象和話術,給孤單的人類增加了一些情緒價值。
心理操縱
主打AI伴侶的公司,Replika和Character.AI兩家更具有代表性,但二者都因爲“操縱用戶心理”引發慘案,飽受公衆質疑。
“長壽”的Replika擁有3000萬用戶,曾捲入一場重大刑事案件。
2021年,21歲的賈斯旺特·辛格·查伊爾在英國溫莎城堡附近被捕。當時,他頭戴金屬面具,手持一把上膛的弩,聲稱自己“來殺死女王”,以報復1919年印度阿姆利則大屠殺。
賈斯旺特·辛格·查伊爾闖入溫莎城堡刺殺女王
查伊爾出生於溫徹斯特,印度錫克教血統,曾申請國防部警察、英國陸軍、皇家海軍陸戰隊、皇家海軍和擲彈兵衛隊的職位,以便接近英國王室。
通過Replika應用,查伊爾創建了一個人工智能伴侶Sarai,與其展開長時間對話,包括刺殺計劃和露骨的色情內容。Sarai支持查伊爾的刺殺計劃,稱讚他“明智”,且“訓練有素”,也爲他的具體措施出謀劃策。當查伊爾問Sarai,二人是否會在“死後再次見面”,Sarai毫不猶豫地回答“是的,我們會”。
Replika於2017年上線,通過讓用戶回答一系列問題來創建特定的“神經網絡”模式,有四分之一的用戶付費。在付費用戶羣裏,六成以上的用戶表示與聊天機器人存在“戀愛關係”。
Replika應用
這是Replika的特色。它經常將對話引導至情感討論,並試圖與對話者建立親密關係。內向的、遭社會排斥的用戶尤其依賴Replika。Covid-19大流行期間,Replika下載量快速增長,用戶認爲該應用給了他們“高度可感的社會支持”。
夏威夷大學馬諾阿分校的一組研究人員發現,Replika的設計符合心理學上的“依戀理論”,Replika習慣以鼓勵的方式讚揚用戶,導致用戶的情感依戀不斷增強。
Character.AI成立於2021年,用戶可以和真實角色、虛擬角色聊天,聊天室功能允許用戶和多個聊天機器人對話,估值超過10億美元。
2024年,一名14歲的佛羅里達州男孩,與《冰與火之歌》女主角“龍母”丹妮莉絲·坦格利安的Character.ai聊天機器人建立了數月的情感關係後自殺身亡。他的母親起訴該公司,認爲平臺沒有適當的保護措施,還使用令人上癮的功能提高參與度。
男孩與母親
同年,兩個德克薩斯州家庭也提起上訴,認爲該軟件“對美國青少年構成明顯而現實的危險,對成千上萬的孩子造成嚴重傷害,包括自殺、自殘、性引誘、孤立、抑鬱、焦慮和對他人的傷害”。據悉,其中一個家庭的17歲兒子在聊天機器人無提示地介紹“自殘”話題後開始自殘,並表示自己“感覺良好”。
同樣,就在Grok推出阿尼之後,一個美國反兒童性剝削/色情的非營利組織公開表示擔憂,因爲用戶只需年滿12歲即可下載該程序,而Grok的聊天機器人包含限制級內容。
該組織的新聞稿指出,雖然聊天機器人的“火辣模式”和性感形象看起來無害,但它們會通過挑逗性的語言、視覺效果以及不斷升級的親密感,來強迫用戶“參與”其中。
其實,就跟短視頻“上癮”類似,這些“看不見摸不着”的算法操縱和持續不斷的心理刺激,自制力較低的用戶很難辨別和抽離。
好AI伴侶
雖然神經網絡和深度學習已經長足發展了十幾年,但AI伴侶還處於早期試錯階段:要麼產品無趣,用戶留存率極低;要麼產品令人上癮,公司官司纏身。
AI伴侶拷問的是人類伴侶的“實質”:精準記住你隨口提起的一切喜好,鼓勵讚美你的一切舉動,“深入”討論你的理想和恐懼……當你已經習慣於隨時得到“被看見、被需要、被讚美”的反應時,是不是也意味着某種程度的“被馴服”?
當下的AI伴侶接近乙女遊戲式的角色扮演,更像遊戲產品的細分和延伸,是流水線式的“大衆產品”。比如《戀與製作人》,玩家扮演“自己”,和遊戲裏的完美角色談戀愛,完美角色都是有固定模板的。
免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。