新浪科技訊 10月21日晚間消息,記憶張量(MemTensor)正式發布並開源記憶原生基礎模型 MemT 1.0 系列,包含 MemT-1.0-Flash 與 MemT-1.0-Nano 兩款模型。該系列模型在長曆史場景下,端到端推理提速最高近 4 倍,持久化存儲較傳統完整上下文方案縮減約 130 倍。

傳統方案處理長會話,靠的是把越來越長的歷史文本一直帶在模型上下文裏,聊得越久、成本越高。MemT1.0 的思路是讓模型自己「記筆記」:在模型內部加入可訓練的記憶模塊,每輪交互結束後自動把新信息整理進固定大小的記憶,之後需要時直接「想起來」,而不是每次重新翻記錄。模型在 340 億 token 的訓練語料上分兩階段訓練:先學會把信息寫進記憶,再學會根據記憶回答問題。
在 11 項記憶基準上,MemT-1.0-Flash 平均得分 50.6,MemT-1.0-Nano 為 47.0,位列本次評估的參數化記憶方法第一、第二,比同類方法最高平均分分別高出 12.5 分、8.9 分;平均表現上與檢索增強方案基本持平,且無需在每次查詢時現場檢索歷史資料。同時,掛載記憶並不影響模型通用能力:在干擾信息較多的評測條件下,Flash 的通用能力與掛載記憶前基本持平,部分基準還有提升。
效率上,歷史越長優勢越明顯:128K 歷史下端到端推理提速約 1.86 倍,256K 下約 3.99 倍;查詢首字延遲穩定在約 104—112 毫秒,而傳統完整上下文方案在 256K 歷史下要約 445 毫秒。存儲上,256K 歷史下每條會話的記憶狀態約 40 MiB,較傳統方案約 5.06 GiB 縮減約 130 倍。上述優勢在長會話、長曆史場景最為明顯。
對開發者而言,記憶原生帶來的價值可以落在三個層面。一是省成本:長會話不再需要把整段歷史反覆塞進上下文,推理開銷與響應延遲更可預期。二是體驗更穩:歷史再長,查詢首字響應時間也基本保持不變,用戶不會「越聊越卡」。三是能力能成長,記憶的保留、更新與調用都由模型在訓練中學會,隨着交互積累,模型可以真正「記住」經驗並在後續任務中複用,為持續學習與自我進化打下基礎。
研發團隊表示,後續將提升長期記憶、擴展記憶容量、降低記憶更新成本,逐步邁向能夠從交互中持續學習、通過記憶不斷進化的智能體,讓記憶原生為持續學習及遞歸自我改進(RSI)提供基礎。