使用人工智能最令人沮丧的时刻,莫过于你花了大半天时间纠正它如何正确完成任务,但一旦开启新的对话,它又重蹈覆辙。模型虽然完成了单次任务,却未能将其转化为自身的成长。除了处理一次性任务外,它真正缺失的是将反馈转化为经验,并在后续主动应用这些经验的能力。
这种断裂在 Meta Muse、OpenAI Dots 和 xAI Grok Bot 引领的私人助手潮流中尤为突出:主流的外部检索最多只能算是翻阅静态的备忘录,无法将调试过程沉淀为行为默契,而这恰恰是长期助手最核心的挑战。
今天,记忆张量正式推出并开源了 MemT 1.0 记忆原生大模型。
它相较于外部方案的最大区别在于,不仅让记忆摆脱了外部模块,融入底层架构,更在于模型通过训练,自主学会了如何读取、写入、更新和调用记忆,使得经验积累本身成为模型能力的一部分。
将记忆,刻入模型的核心
市面上大多数方案倾向于将存储聊天记录视为记忆,但记录流水账无法应对真实世界的动态交互,离真正的助手还相差甚远。
MemT 1.0 的技术报告中提到了一项严苛的测试:用户先提供了展览的原定时间,随后确认改期为周日,期间还顺带提了一条未被采纳的周一备选方案。之后双方闲聊了五百多轮,积累了约 6.6 万 token 的对话记录,期间再未提及展览。
如果依赖传统的外部检索,面对跨度如此大的多版本信息,很容易将闲聊内容误认为是最终结论;但 MemT 1.0 在完全脱离原始文本的“闭卷”状态下,依然准确给出了原定时间和改期时间,明确指出场地、票价和联系人未变,并将周日的最终方案与周一的备选方案清晰区分。
之所以能做到这一点,是因为 MemT 1.0 采用了“记忆原生”的技术路线。
在架构设计上,MemT 1.0 将模型的认知能力分为两部分:
主干网络(通用能力):类似于 AI 的出厂设置,承载着它对世界的通用知识。
动态记忆状态(独立记忆):相当于模型在具体交互过程中实时演进的“专属工作状态”,不同用户或任务之间相互独立,在持续交互中动态吸收新信息和经验,并直接参与后续每一轮的计算生成。
面对不断涌入的交互信息,MemT-1.0 无需重新训练整个大模型,而是在每轮对话结束时,通过 token 级别的更新机制刷新记忆状态。至于哪些信息该保留、哪些该修改,则由模型在训练中学习到的一套门控机制自主决定。
这解释了为什么在之前那场五百多轮的测试中,模型能自动过滤闲聊噪音,在日程变更时覆盖过时状态,锁定周日的最终方案。在后续对话和任务执行中,并行记忆注意力机制会随时提取这些沉淀下来的状态,直接参与当前计算,并引导模型的下一步决策。
当然,这种精准的取舍能力并非天生具备,全靠后期艰苦训练。
团队投入了 340 亿 token 数据,分两步打磨这套机制:先用 200 亿 token 进行继续预训练,让模型尝试用过去片段预测未来;再用 140 亿 token 进行后训练,邀请“学霸”教师模型为记忆提取打分,利用误差反向推动模型改进。
除了取舍,还需要足够的存储空间。MemT 的记忆状态采用固定体积,持续交互只更新已有矩阵;为了在固定体积内装入更多细节,团队引入了 Mixture-of-Storage(MoS)架构:基座 MoE 负责计算,MoS 让多位“记忆专家”分别掌管存储空间的读写分配。
这套架构与训练的组合,在 11 项系统记忆基准测试(涵盖长期保留、动态更新、个性化理解等维度,历史跨度从 16K 到百万 token)中取得了亮眼成绩:
全程闭卷作答的 MemT-1.0-Flash 和 MemT-1.0-Nano 平均得分分别为 50.6 和 47.0,分别领先同组最强的参数化记忆基线 12.5 分和 8.9 分。
消融实验也直接验证了训练与架构的价值。如果去掉后训练步骤,Nano 的平均得分会从 47.0 直接降至 36.3;将 MoS 记忆专家从 2 个扩展到 4 个,测试平均得分最高提升了 2.7 分。
除了分数,测试中的两个细节更能直观说明什么是高质量的记忆。
在约 16K token 的历史中,用户询问自己的生日,由于从未提供过,模型老实回答不知道,没有编造。在一段 3.3 万 token 的对话中,模型需要根据很早之前设定的规则,判断两个人谁有资格领取工具箱。它准确核对了徽章和登记状态,判定一人合规、一人未登记。
知道就说知道,记录规则不漏细节,这才是可用 AI 助手的基本标准。
自我持续进化,从经验闭环开始
如果将要求提高一步:过去的错误教训,真能改变模型在后续新任务中的做事方式吗?
为了打通“任务产生反馈、提炼沉淀经验、再改善后续任务”的连续自我改进闭环,技术团队在真实编程场景中构建了一套完整的训练与执行链路。
第一步,先教会模型如何“听进去”别人的经验。
技术团队先从数万条成功轨迹中提炼出上千条可复用经验;然后让基座模型去执行任务,一旦遇到命令报错、空返回或重复无效操作的“卡壳点”,就在卡壳处注入匹配经验重新运行。
团队从中严格筛选出 4.2 万余条“无经验时出错、补充经验后成功运行”的样本,专门训练 MemT-1.0 Nano 的记忆原生模块:先将经验写入内部记忆状态,过了卡壳点再开启读取,让模型学会调用记忆中的经验来修正后续动作。
在 SWE-bench Verified 的 500 项任务实测中,提前写入经验的 MemT-1.0 Nano 平均成功率从无经验的 66.07% 提升至 69.33%,同一道题独立运行三次全部成功的比例从 54.00% 提高到 61.60%,与直接在上下文中塞入“文本经验”的对照组表现相当(成功率 68.87%,三次全成功率 61.60%)。
这说明,即使对话框里空空如也,模型仅凭脑海中的记忆状态,也完全能消化复杂的排错指南。
第二步,在实战中边做边学,真正拉开差距。
提前塞入经验终究是静态的,真正工作时哪能未卜先知?所以在实战模式下,模型先空手上阵独立解题;只有当系统发现它报错、空返回,或者连续三次原地打转时,才当场将匹配的排错经验写入它的内部记忆状态。
这就像一个程序员先自己写代码,在撞到南墙的那一刻,脑海中突然调出之前踩坑的教训,当场调整思路修复 bug;等这单任务完成,这次踩坑和修复 bug 的过程又被提炼成新经验存储起来,以备将来使用。
结果显示,这种根据实时反馈更新记忆状态的方法,将平均成功率推高至 69.73%,三次全成功率提升至 62.80%,双双超过文本经验组(69.13% 与 61.80%)。
在覆盖九种编程语言、包含 300 项任务的 SWE-bench Multilingual 中,同样在执行过程中根据报错反馈动态触发记忆原生机制,Nano 的平均成功率从无经验的 60.00% 提升至 63.56%,三次全成功率从 45.33% 跃升至 55.33%(同样优于文本经验组的 63.00% 与 53.67%)。
可以看到,外部系统负责从实战反馈中提炼经验、捕捉卡壳信号,而模型则依靠训练出的记忆原生读写能力将经验内化为下一步的行动修正。这套协同机制,也为智能体走向自主持续演进搭建了底层的模型基础。
从外部补丁到记忆原生,养成系 AI 被 MemT 1.0 掌控
要让这套边做边学的经验闭环在真实业务中长期运行,显然绕不开工程成本的考量。
几轮以内的短对话,拉长上下文或挂载向量数据库确实够用;但一旦进入长周期陪伴,传统方案会越来越重,推理延迟和显存开销会持续膨胀。而 MemT 1.0 的动态记忆状态体积固定,持续交互只刷新已有矩阵,边际成本几乎持平。
技术报告显示,在双 GPU、单并发、batch size 为 1 的测试条件下,处理 64K token 历史时,Nano 相对于完整上下文方案有约 1.20 倍的端到端推理速度;当历史增加到 128K 和 256K token 时,分别达到约 1.86 倍和 3.99 倍。
在 128K token 历史长度下,恢复单条交互历史所需的持久状态存储,大约是完整上下文 KV cache 的六十六分之一,不计共享模型权重。
将单次调用的算力与存储负担降下来,高频、跨周期的记忆读写才真正具备了大规模工程落地的条件。
以企业内部研发场景为例,它首先解决的是团队经验的复用问题。
目前大多数团队用 AI 写代码,最头疼的是每天带新人:项目规范和排错套路,工程师每次开启新会话都得重新教一遍,企业等于在为重复的开销持续买单。
在 MemT 1.0 的体系中,真实的业务反馈会持续刷新外部经验库,而模型则将这些团队规范逐渐内化为直觉。老手少操心,AI 少犯老错误,技术投入才能沉淀为带复利的团队资产。
往更长远的应用场景看,无论是 7×24 小时在线的个人数字分身、跨月度跟进慢病管理的医疗顾问,还是伴随孩子数年成长的个性化私教,这些高度依赖时间厚度的未来应用,都必须建立在记忆原生的底座之上。
过去三年,大模型领域都在比拼各种横向指标,大家争谁的参数大、分数高、霸榜多。想保持领先就只能不断升级新模型。
而从 Memory³ 的分层研究,到 MemOS 的系统探索,再到今天 MemT 1.0 的底层架构重塑,记忆张量切入了时间这条纵向轴:如何让模型在陪伴用户的过程中,越用越聪明。
更妙的是,这是一个养成系 AI:你纠正的每一次错误、给出的每一次反馈,都会通过记忆更新沉淀为它的能力,让下一次的它永远比上一次更顺手、更懂你。
当模型开始在时间中积累经验,人与 AI 的关系也正在发生变化。
出厂参数再强的通用基座,随时可能被更强的模型替代;但一个陪你踩过坑、摸透你所有做事习惯与业务规则的记忆原生模型,却在一天天的磨合中长出了独属于你的壁垒。
这才是我们在 2026 年,真正愿意为之买单的未来。
本文来自微信公众号“APPSO”,作者:发现明日产品的 APPSO,36氪经授权发布。