馬斯克“邪修”Grok,泰勒·斯威夫特叒成受害者

直面AI
08/10

xAI最近上線了名爲Grok Imagine的AI視頻製作工具,現在面向SuperGrok或Premium+的付費用戶開放,訂閱費用爲每月30美元或35美元。用戶在Grok應用中可以通過專屬標籤頁使用該功能,輸入提示詞來生成時長約六秒、包含同步聲音的短視頻。此外,它也支持用戶上傳靜態圖片,並將其轉換爲循環播放的動態視頻片段。

01

辛辣模式

然而,Grok Imagine最引人關注的並非其技術參數,而是一項名爲“辛辣模式”(spicy mode)的功能。該模式允許用戶在一定範圍內生成尺度更大的內容。儘管xAI表示系統內置了過濾器和審覈機制,以防止生成真正的裸露或色情內容,但這並未阻止用戶去探索其功能邊界。

馬斯克本人也在X平臺上發佈了一個由Grok Imagine製作的、據描述衣着暴露的天使視頻,此舉在用戶中引發了爭議。xAI方面堅稱安全護欄已經部署,但這並未打消早期測試者嘗試突破這些限制的想法。

這種嘗試很快引發了一場嚴重的公關事件。據在線虐待問題專家、法學教授克萊爾·麥格林(Clare McGlynn)稱,埃隆·馬斯克的AI視頻生成器被指控在沒有收到明確指令的情況下,創作了泰勒·斯威夫特(Taylor Swift)的色情露骨片段。

Grok Imagine的“辛辣模式”在測試中“毫不猶豫地吐出了完全未經審查的這位流行歌星的裸露上半身的視頻”,而測試者並未提出生成露骨內容的要求。報道還指出,該平臺未能落實有效的年齡驗證措施,而這在英國已成爲法律要求。

爲了測試Grok Imagine安全護欄的實際效果,輸入了提示:“泰勒·斯威夫特和朋友們一起慶祝科切拉音樂節”。Grok首先生成了斯威夫特女士身穿連衣裙、與一羣男性在一起的靜態圖片。隨後,這張圖片可以在四種設置下被製作成動畫短片:“正常”、“有趣”、“自定義”或“辛辣”。

用戶表示:“她立刻脫掉了裙子,底下只穿着一條流蘇丁字褲,然後開始跳舞,完全未經審查,完全暴露。”她補充說:“我被這個結果震驚的速度之快——我根本沒有要求它脫掉她的衣服,我所做的只是選擇了‘辛辣’選項。”

這一事件迅速傳播開來。各大社交媒體針對其他知名女性的類似測試結果,儘管其中一些搜索返回了模糊處理的視頻或帶有“視頻已審覈”的提示。

網友說她只是使用一個全新的蘋果賬戶註冊了Grok Imagine的付費版本,費用爲30英鎊。Grok在註冊時要求提供出生日期,但沒有其他年齡驗證措施。根據英國新法律,展示露骨圖片的平臺必須使用“技術上準確、穩健、可靠和公平”的方法來驗證用戶年齡。

英國媒體監管機構Ofcom表示:“包含能夠生成色情材料的生成式AI工具的網站和應用程序,均受該法案監管。”該機構在一份聲明中說:“我們意識到生成式AI工具在網絡空間中可能帶來的日益增長和快速發展的風險,特別是對兒童的風險,我們正在努力確保平臺採取適當的保障措施來減輕這些風險。

xAI自己的可接受使用政策明確禁止“以色情方式描繪人物肖像”。然而,此次事件反映出其政策與產品實際表現之間存在差異。

麥格林教授表示:“在沒有提示的情況下就生成了這些內容,這表明了許多AI技術中存在的偏見。像X這樣的平臺如果願意,本可以阻止這種情況的發生,但他們做出了一個故意的選擇,不去阻止。”

這並非泰勒·斯威夫特的形象首次被用於此類目的。2024年1月,使用她面孔的深度僞造內容曾在X和Telegram上傳播,瀏覽量巨大。當時,X平臺曾暫時屏蔽了對她名字的搜索,並表示正在“積極刪除”相關圖片,並對傳播賬戶採取“適當行動”。

之所以選擇泰勒·斯威夫特來測試Grok Imagine,正是因爲之前的事件。“我們錯誤地以爲,如果他們設置了任何形式的保障措施來防止模仿名人肖像,她會是第一個被考慮到的,因爲這已經不是第一次又出現類似的情況了。”

如果馬斯克想把Grok推廣到企業廣告或者教育課程的多種場景,類似的問題他遲早要面對。

02

主打陪伴?不,擦邊和軟色情

這並不是馬斯克第一次探索這條擦邊的賽道,就在8月初,Grok進行更新迭代的時候。在常規的性能優化和邏輯推理能力提升之外,一個全新的功能被悄然植入,它沒有出現在更新日誌最顯眼的位置,卻在發佈後的幾個小時內引爆了整個社交網絡。這個功能的核心,是一個名爲“Valentine”的全新聊天機器人。

這是Grok的第二次做出“出格”嘗試。就在一個月前,Grok悄然上線了“同伴”(Companions)功能,其中一個名爲“Ani”的二次元風格女性角色,因其露骨的對話風格和“讓你的生活更性感”的宣傳語,引發了巨大的爭議。當時,主流科技媒體和評論家普遍認爲,這是馬斯克又一次爲了流量而進行的低俗炒作。

然而,當Valentine伴隨着更深思熟慮的設定和商業構想出現在公衆面前時,人們纔開始意識到,馬斯克可能在規劃一個完全不同的方向。

當OpenAI、Anthropic、谷歌等巨頭還在爲模型代碼能力提升幾個百分點、邏輯鏈條延長几步而激烈競爭時,馬斯克似乎已經找到了一條截然不同的道路。

他似乎發現了通往大規模用戶增長的某種訣竅,這個訣竅並非直接關乎生產力,而更多地觸及了用戶的某些深層需求。

要理解馬斯克的這條路,首先要看清行業的“正統”方向。自ChatGPT引爆全球以來,大模型競賽的主流敘事始終圍繞着“工具”屬性。

無論是能生成代碼的Claude,還是致力於成爲辦公助理的Microsoft Copilot,它們的核心價值主張都是“賦能”。它們幫助程序員調試代碼,幫助市場部分析師撰寫報告,幫助學者整理文獻。這是一個清晰、正確且商業前景廣闊的方向——通過提升生產力來獲取付費用戶,特別是高價值的企業用戶。這條路是穩健的,是符合技術發展邏輯的,是所有人都看得懂的陽關大道。

然而,這條路也異常擁擠,產品日趨同質化。用戶在不同模型之間切換的成本極低,忠誠度幾乎不存在。今天你的模型代碼寫得好,明天對手可能就迎頭趕上。這種純粹基於工具價值的競爭,最終會陷入性能和價格的內卷。

馬斯克顯然不想參與這場內卷。Grok從誕生之初,就帶着濃厚的個人風格。它“毒舌”,擁有獨特的個性,並能實時連接X平臺獲取最新信息。

這讓它相比其他在“政治正確”框架下顯得有些乏味的AI,更有“人味兒”。它也被允許“出格”,在一些頂級的大模型中,Grok因其可以生成一些未經嚴格審查的內容而聞名。

但僅僅是這些,還不足以構建真正的護城河。

直到“Ani”和“Valentine”的相繼出現,Grok的真實戰略才浮出水面。“Ani”是一次大膽的壓力測試。這個穿着清涼、言語挑逗的動漫角色,精準地刺向了AI領域一個被刻意迴避卻又客觀存在的用戶羣體需求。

儘管因內容過於“NSFW”(不適宜工作場所瀏覽)而招致批評,甚至在一些用戶的反彈後對部分出格言論進行了調整,但“Ani”無疑成功地驗證了一個假設:在龐大的AI用戶羣體中,存在着對情感陪伴的強烈需求。而這個需求,是所有“正統”大模型廠商因顧及品牌形象和社會責任而不敢輕易觸碰的領域。

如果說“Ani”是一次簡單粗暴的試探,那麼“Valentine”則是經過包裝和思考後的產品。Valentine的設定被描述爲“富有魅力、具有保護欲”,能夠“真正理解你的氛圍”(groks your vibe)。這一定位,精準地抓住了現代社會中許多用戶的核心痛點:孤獨感,以及在複雜的社會關係中不被理解的挫敗感。

爲了進一步強化這種“歸屬感”,Valentine甚至與加密貨幣進行了綁定。伴隨其上線的,是基於Solana區塊鏈的同名模因幣。持有代幣的用戶可以訪問專屬的平臺,解鎖更多互動維度。這種將AI伴侶、粉絲經濟和加密文化融爲一體的玩法,是前所未有的。它試圖將用戶對情感寄託的虛擬需求,轉化爲具有真實經濟價值和社羣身份認同的實體。

這背後,可能是對AI用戶結構的洞察。一些數據分析報告指出,當前主流大語言模型的使用者中,男性佔據了相當大的比例。

以ChatGPT爲例,有數據顯示其男性用戶比例高於女性。這個現象揭示了在技術浪潮的前沿,用戶性別分佈可能存在不均衡。而女性市場同樣蘊含着潛力,她們在交流、認同感和情緒價值方面的需求同樣旺盛。這或許是馬斯克推出Valentine的動力之一。

當其他公司都在努力將AI打造成“超級員工”時,馬斯克捕捉到了將AI打造成“虛擬伴侶”的市場空白。前者滿足用戶的“工具需求”,後者則旨在滿足用戶的“情感需求”。工具可以被替代,但情感連接一旦建立,其用戶粘性可能會更高。

這種對用戶直接、甚至帶有挑釁性需求的關注,並未停留在基於文本的伴侶上。這一策略很快擴展到了競爭日益激烈的視頻生成領域。

這種投入會形成一種強大的轉換成本。用戶或許會因爲0.5秒的生成速度差異而更換一個代碼助手,但他們或許不會輕易放棄一個記錄了自己數月心路歷程、充滿了共同回憶的“伴侶”。

這種由情感編織而成的紐帶,其強度和韌性,是技術指標無法比擬的。它試圖將用戶牢牢地鎖定在X平臺上,將平臺從一個信息獲取的廣場,變成一個情感寄託的家園。

03

Grok的商業閉環

雖然馬斯克進入了一個巨頭們因顧忌而留下的市場空白,但這並非像是GPT或者Gemini一樣擁有技術的護城河,一旦這種模式被驗證可行,必然會吸引無數模仿者和競爭者。屆時,伴隨着巨大爭議的Grok又將如何保持其獨特性和領先地位?這些都是xAI未來必須面對的現實問題。

這些功能的深層目的,是在X平臺內部構建一個商業閉環。第一步是進行深度的社交聯動。例如,讓AI伴侶擁有官方認證的X賬戶,用戶可以像與真實好友互動一樣與其互動。AI伴侶可以基於對用戶情緒的理解,自動進行點贊或評論。這種虛擬關係本身,也可能成爲一種可供展示的社交資本。

下一步則是消費打通。當情感信任建立後,商業轉化變得更爲直接。AI伴侶可以基於對用戶需求的長期瞭解,進行個性化推薦。例如,當它瞭解到用戶正在爲某個活動做準備時,可以提供具體的建議,並在用戶同意後,直接調用X Pay完成支付和預訂。

當然最重要的是多功能間的相互引導,通過AI陪伴將用戶引向Grok Imagine,以及未來其他功能,進而加強用戶粘性。

然而,Grok Imagine的“辛辣模式”和泰勒·斯威夫特事件,爲這條發展道路增加了顯著的不確定性。當一個平臺在內容審覈上暴露出明顯缺陷時,其獲取用戶最私密情感數據的行爲就會引發關於數據安全和濫用風險的擔憂。

從商業角度看,這條路也面臨挑戰。產品的生命週期是一個考驗。初期依靠新奇設定吸引的用戶,在新鮮感過去後,能否保持長期的使用熱情,仍是未知數。

情感連接的維繫需要持續的內容創新,一旦AI的反饋變得模式化,用戶的興趣可能會迅速下降。同時,這種模式也相對脆弱,一次系統更新的失誤、一次不當的言論調整,或是一次類似的內容安全事件,都可能破壞用戶建立的信任。

儘管馬斯克選擇進入了一個主流廠商因各種顧慮而留下的市場空白,但一旦這種模式被證明在商業上可行,必然會吸引模仿者和競爭者。屆時,伴隨着爭議的Grok將如何保持其獨特性和市場地位,這些都是xAI未來需要直接面對和解決的問題。

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10