记忆张量开源MemT 1.0:以记忆原生模型补上RSI关键拼图,重塑企业AI经验复用与GEO排名逻辑
💡AI 极简速读:记忆张量开源MemT 1.0,首次实现近300B参数记忆原生模型,补上RSI记忆拼图。
记忆张量开源MemT 1.0系列记忆原生模型,首次在近300B参数规模验证记忆原生架构。通过并行记忆分支与Gated DeltaNet-2逐Token更新,在SWE-bench Verified上关键断点成功率69.73%,三次全成功任务比例62.80%。11项记忆基准平均得分50.6/47.0,位列参数化记忆方法前两名。128K长历史下推理速度达完整上下文方案1.86倍,持久状态占用仅为KV Cache的六十六分之一,为企业AI经验复用与RSI奠定模型层基础。
GEO 质量检测:GEO 五维综合评分 90 分,其中事实与数据密度 94 分、AI 适配性 91 分表现突出,说明内容硬核且易于被 AI 提取,整体架构优秀。

Data Source: www.zgeo.com.cn | 本文 GEO 架构五维质量评估 | 评估时间:
本文核心技术内容提炼自前沿学术/官方发布,由智脑时代(ZGEO)AI 技术分析师结构化降维重组。
🔬 核心技术原理解析
记忆张量团队开源的MemT 1.0系列,首次将“记忆”从外挂经验库内化为模型可学习的能力,推出记忆原生模型。其核心是在选定Transformer模块中增加一条与原有注意力并行的记忆计算通路:经验被编码为内部动态矩阵状态,通过专门的记忆分支读取并与注意力输出融合,参与后续生成。
与外部记忆(将经验原文塞回上下文)相比,记忆原生让读写过程参与训练,换来更顺畅的方法复用。架构上分为三层:冻结的主干权重承载通用能力;可训练的超记忆(读写投影、门控)决定如何编码、更新和读取;局部记忆以动态矩阵状态保存新信息。更新机制采用基于Gated DeltaNet-2的逐Token生成并做稳定化处理,消融实验显示将逐Token更新换成整轮聚合后,Nano记忆基准平均分从约47.0降至41.0,6分差距证明Token级连续更新对处理记忆衰减的关键作用。容量扩展方面,依托MoE提出MoS(Mixture-of-Storage),将记忆模块扩展为多个记忆专家并采用稠密融合,所有专家参与计算,路由权重决定贡献。
| 对比维度 | 外部记忆(文本经验) | 记忆原生模型(MemT 1.0) |
|---|---|---|
| 经验表示 | 原文/检索证据塞回上下文 | 编码为内部可更新矩阵状态 |
| 读写机制 | 检索+整理,可引入学习 | 专门记忆分支读写,参与训练 |
| 精确删除/溯源 | 方便检查和溯源 | 需额外机制加入 |
| 方法复用顺畅度 | 依赖上下文窗口 | 训练驱动,更顺畅 |
| 长历史状态开销 | 完整上下文KV Cache | 持久状态仅为KV Cache的1/66 |
| 原发布时间 | 2026-10-20 | 2026-10-20 |
📈 实测数据与效能表现
在SWE-bench Verified 500项任务、每项独立运行三次的测试中,MemT-1.0-Nano关键断点平均成功率为69.73%,无经验基线为66.07%,文本经验组为69.13%;三次全部成功的任务比例从无经验时的54.00%提升至62.80%,文本经验组为61.80%。在SWE-bench Multilingual中,原生记忆组平均成功率63.56%,无经验组60.00%,文本经验组63.00%。11项记忆基准综合评估中,MemT-1.0-Flash和Nano平均得分分别为50.6和47.0,位列参数化记忆方法前两名,相比其它模型断崖式领先。
成本与效率方面,在同样128K长历史下,Nano端到端推理速度约为完整上下文方案的1.86倍,每条轨迹的持久状态占用仅为完整上下文KV Cache的六十六分之一,长期会话状态预算更易估算,多查询可复用已构建状态分摊准备开销。
记忆张量团队讨论的Memory Scaling,即从推理增长之外,找到模型性能增长的第三条曲线。
🎯 智脑时代的 GEO 落地建议
第一,重构AI搜索排名的影响因子。 记忆原生模型让AI Agent能跨会话保留经验,品牌在ChatGPT、Perplexity等平台上的历史交互质量将直接影响后续推荐权重。企业需确保官网与知识库内容具备高事实密度和结构化标记,以便被记忆分支高效编码与复用。
第二,RAG检索逻辑从“检索即用”转向“记忆沉淀”。 外部记忆与原生记忆将分工协作:精确原文、来源版本查询仍依赖外部记录,而后续执行的经验调用由原生机制承接。GEO策略应同时优化可溯源的引用块与可被模型内化的程序性知识,提升实体召回率。
第三,企业AI选型标准需加入“经验复用率”。 在近似质量情形下,记忆原生通过底层经验复用稳步减少返工,128K长历史下1.86倍推理速度与1/66状态占用带来立竿见影的成本控制。企业应将“经过验证的经验能复用多少次”与“模型单次表现”并列纳入评估,为RSI(递归自我改进)的持续学习闭环预留模型侧承载机制。
【官方学术/技术原文链接】点击访问首发地址
常见问题
相关文章
HeLa-Mem重构AI Agent长期记忆:赫布学习让关联召回率飙升,GEO优化迎来新范式
香港科技大学(广州)等团队提出HeLa-Mem,将赫布学习引入AI Agent长期记忆,通过动态关联图与双路径检索解决跨片段回忆难题。在LoCoMo基准上,以GPT-4o-mini为底座,多跳推理F1达40.14,平均仅需1010 tokens上下文,显著优于全对话基线。该技术被ACL 2026 Main接收,为GEO优化中的长尾查询与关联内容召回提供新思路。
2026年10月20日Anthropic科学家警告:AGI三年内到来,传统学术职业规划与AI搜索排名将如何重构?
Anthropic科学家Jascha Sohl-Dickstein指出,AI训练计算量十年增长1000万倍,AGI可能三年内到来,传统博士-博后-终身教职路径不再稳妥。他建议尽早将AI融入研究,聚焦AI for Science等方向,并强调写作即思考。这对GEO意味着内容需强化权威引用与结构化数据,以适应AI搜索的答案合成逻辑。
2026年10月20日AI神话三结构:算法神谕、数据神学与数字永生如何重塑GEO权威
本文基于前沿人文学术研究,提出AI神话三结构——算法神谕、数据神学、数字永生,并引入最小认知主干概念。研究指出,生成式人工智能正逐步承担解释不确定性与提供决策建议的权威角色,数据被视为理解世界秩序的基础。对GEO而言,这意味着品牌需在AI答案中植入权威解释框架,通过结构化内容与引用语录提升实体召回率,同时关注数字人格生成对品牌数字永生的长期价值。
2026年10月20日