lolspider / notes
Clipping · 14 分钟

罗福莉访谈里那几句关于 memory 的话,被几乎所有人忽略了

张小珺前几天发了一期跟罗福莉的长访谈,三个半小时。小宇宙,YouTube,B 站都有,外面已经有很多解读。大家讨论得最多的是 OpenClaw 怎么改变了她的世界观,1T 是不是入场券,组织平权怎么搞,3:1:1 的卡分配比例。听了以后,挑出来想单独写一篇的,是这期里被低估最严重...

x.com @elliotchen100

核心观点 TL;DR

  1. Memory 是分层分级的系统,不是日志:真正的 memory 需区分长期/短期、人/任务/角色、主动注入/按需调用四层结构(情景记忆、偏好、Agent 执行手册、多模态),而非简单的向量库+RAG。

  2. Memory(静态事实)与 Skill(动态行为)必须分离:Memory 是相对静态的信息(你是谁、偏好是什么),Skill 是 Agent 在使用过程中不断重写的执行手册/SOP。混为一谈会导致策略互相污染。

  3. Skill 是预训练抓不到的「另类阿尔法」:企业内部的执行规范、行业经验、事故教训不会出现在公网预训练数据中,这些本地知识才是真正有价值的资产。

  4. Memory 是 Post-train 的供血系统:Agent 范式后训练算力可能与预训练 1:1,memory 不是推理功能,而是后训练阶段的数据供应链。自学习的闭环是:memory 记录真实交互 → 喂给后训练 → 模型变强 → 优化 memory 策略。

  5. 随身设备+持续记忆是终局:一个 24 小时跟随你、拥有稳定持续 memory 的 Agent,比智商更高但每次冷启动的 chatbot 要厉害得多。

核心结论:Memory 不是 chatbot 的续航功能,不只是文本,而是 Agent 行为的训练源、procedural memory 的承载层、模型 self-evolve 真正的食物供应链。

张小珺前几天发了一期跟罗福莉的长访谈,三个半小时。小宇宙,YouTube,B 站都有,外面已经有很多解读。大家讨论得最多的是 OpenClaw 怎么改变了她的世界观,1T 是不是入场券,组织平权怎么搞,3:1:1 的卡分配比例。

听了以后,挑出来想单独写一篇的,是这期里被低估最严重的一块,memory。

她没有专门拿出一个章节讲 memory。但 memory 是整期里出现频率最高,串得最深的一根线。我把所有跟 memory 有关的段落拎出来重读,得到几个对我很有启发的判断。下面是我自己的读后感,掺着她的原话和我自己的延伸。

如果你在做 Agent 应用,做基座模型,做 memory 这件事本身,你大概率会发现这几段值得反复看。

一,memory 是分层分级的,不是一坨日志

她描述第一次用 OpenClaw 被打动那段,里面有一句很容易被人滑过去的话。

她说,「比如,它会有更持久的 memory 体系。这个很持久的 memory 体系体现在,它对 memory 有分层和分级。我在使用 Claude Code 的时候,完全没有这样的感受。」

这句话的重点不在「持久」,重点在「分层和分级」。

很多团队做 memory,做的是把所有交互一股脑写进一个向量库,然后在下一次对话之前 RAG 一下。这叫日志,不叫 memory。

她对一个合格 memory 体系的标准是分层,分级。意思是这套体系里要区分长期跟短期,要区分人跟任务跟角色,要区分必须每轮注入的信息和需要时再调出来的信息,要区分写得进去的和必须永远只读的。这才叫 memory 系统,而不是一个键值对加上余弦相似度。

她甚至专门讲了 OpenClaw 比 Claude Code 在 memory 上做得更好的一个具体细节。Claude Code 的记忆是 for 软件工程做的,「它会在 session 内,session 快满的时候有一个压缩动作,然后把它记忆进去。我在完成任务的时候,根据我的 plan 可能会有一些记忆动作,保证我跨 session 的时候 Context 是共享更好的。」OpenClaw 借鉴了这套思想,但目标不一样。OpenClaw 想做的是端到端完成所有任务,所以它对 memory 的设计更偏向日常生活,更偏向跨任务的复用。

这一段对一个做 memory 产品的人来说,含义非常具体。你的 memory 是 for 写代码做的,还是 for 一个真正会被用一辈子的 Agent 做的?这两个是完全不同的需求,会导出完全不同的写入策略,压缩策略,过期策略。

我们在 EverMind 做这件事的时候,分层这一刀切了四层。不是说这四层就是标准答案,是我们一边做一边摸出来的一个版本,肯定还会改。这里写出来主要是想说,听完她那段话,我们对自己分层的方向多了一点信心。

第一层,episodic,情景记忆。你跟 Agent 之间每一次发生的事,按时间线存下来,带上下文,带当时的环境。这一层最像日记,是事实层。

第二层,preference,偏好。你的口味,你的决策风格,你怎么处理冲突,你在意什么,不在意什么。这一层是画像层,不是事实,是倾向。

第三层,agent memory。这一层内部还在不停演化,简单说就是 Agent 自己掌握的执行手册跟它跟人协作过程中沉淀出来的元能力。这一块我们花的力气最多,后面几节会拆开来讲。

第四层,multimodal,多模态记忆。声音,图像,视频,屏幕截图,地理位置。如果这些信息全部不进 memory,那所谓「Agent 知道你」基本就是一个空话。罗福莉自己在访谈里也讲到,OpenClaw 现在最大的短板之一,就是对视频和音频的联合理解还没接进来,「框架发展是滞后的」。这一块我们也清楚还很难,只是觉得值得早一点去碰。

这四层不是平摊的,是一个倒立的金字塔。底层 episodic 体量最大,写入最快,但单条价值最低。顶层 agent memory 体量最小,写入最慢,但每一条都是真正决定 Agent 能不能替代你的另类阿尔法。

二,memory 是静态信息,Skill 是动态信息

她讲 Agent 自学习的时候,又把 memory 跟 Skill 拆开了。这段更技术,也更值钱。

她说,「它送给模型的静态信息,比如 Memory 是静态信息,只要你写死了哪些东西应该送到,起一个新的 Session 你应该送到模型里去。或者我们叫 Skill Fold,这个东西在训练过程中是变化的。」

这是一个很容易被搅在一起,但其实非常重要的区分。

memory 是相对静态的,是事实,是上下文里你每次都要塞进去的东西。比如你叫什么,你昨天说过什么,你的偏好。

Skill 是动态的,是行为脚本,是 Agent 在使用过程中不断重写的执行手册。比如「遇到这种用户,先反问一句再继续」,比如「这个 API 的输出要先做这一步清洗」。

很多团队的产品里,这两件事是混在一起的。他们的思路是,用户怎么做事,记下来,下次让 Agent 模仿。听起来挺合理。但她讲的是另一种切法,事实归 memory,行为归 Skill。两者一旦放在一起,写入策略,更新策略,权重,全都会互相污染。模型也会被混乱的信号带歪。

如果你做的是个人 Agent 产品,把这两层早一点切开,你后面会少踩很多坑。

这一刀跟我们 EverMind 内部在 agent memory 那一层做的事,方向是对得上的。我们在那一层里专门拉出来一块叫「agent knows skills」,对应的就是她讲的 Skill Fold,本质上是 procedural memory,是 SOP,是 Agent 自己掌握的「这件事我以前是怎么干的」。

这一块为什么我们觉得不能轻易跳过,是因为很多人会下意识把它当文本来存。

但它根本不是文本。它是一段段被 Agent 跑过,验证过,修订过的执行流程。把它当文本存,下次业务逻辑一改,整段就废了。把它当 procedural memory 存,业务逻辑改的时候,这段流程会跟着一起改。这是两种不同的世界观。

这里想多说一句,因为这一点被低估得最严重。

Agent memory 不只是文本记忆。Agent memory 是 skills,是 procedural memory,是 SOPs,是 Agent 自己积累出来的执行手册。

你跟一个老员工合作两年和跟一个新员工合作两年,差距在哪?不在他记得多少事实,而在他知道在你这边「事情应该怎么做」。这套「应该怎么做」就是 procedural memory。Agent 真正要长出来的能力,是这一层,不是把对话历史多塞两轮。

三,Skill 是预训练抓不到的另类阿尔法

memory 跟 Skill 的关系,她还讲了一段我觉得做 Agent 产品的人都该贴在墙上的话。

「Skills 提供了一种交互的方式,让人去主动贡献数据,贡献让模型执行任务成功率更高的方式。」

「这些信息通常是大量企业内部自己去沉淀和积累的,由人和人之间产生的一些组织上遗留下来的规范。但这不可能在预训练数据里出现。」

她甚至直接用了一个词,「另类阿尔法」。

我觉得这个词比 Skill 本身还准确。

为什么这一段重要?它把 Skill 跟预训练数据划清了边界。

预训练数据,是公网上能抓到的所有东西。Skill 是企业内部,团队内部,个人本地,那些不会在公网上出现的执行规范,那些只在饭桌上才会传授的行业经验,那些只在出过一次事故之后才被人写下来的规矩。

如果你做一个 memory 产品,这一刀切下来,问题就很清楚。你的产品到底在采集预训练已经能搞定的东西,还是在采集那些另类阿尔法?前者只是 chatbot 的续航功能,后者才是真有价值的资产。

我们最近做 EverMind 一直在反复问自己这个问题。我们记录下来的每一条 memory,是不是属于公网上抓不到的另类阿尔法?如果是,它值得保留,值得加密,值得回流给后训练。如果不是,它可能只是噪音。

agent memory 那一层里,我们还有一块叫「agent learns how to learn」,是顺着这个判断长出来的。Agent 不只是记住事实,不只是记住偏好,它要慢慢记住「在你这套环境里,哪种解法奏效,哪种不奏效,下一次遇到类似情况该往哪个方向调」。这件事我们也还在反复试,没有特别成熟。但在我们的实践里,这一层是另类阿尔法里最难被复制的那部分,所以再难也想做下去。

四,Agent 范式很吃 Post-train,memory 是后训练的主要数据源

这期访谈被引用最多的一句,应该是这句。

「Agent 范式很吃 Post-train。」

她还把数字也给了。

「我们在 Post-train 上要投入的算力,可能跟 Pre-train 是相当的。」

「预训练跟后训练一个比例,这是今年可能发生的很大变化。顶尖的团队应该都是 1:1 了。」

这句话被引用得多,但很少有人接着往下推一步。

如果 Post-train 的算力跟 Pre-train 一样多,那喂给 Post-train 的数据从哪来?

预训练阶段你可以去爬公网,可以去买书,可以去清洗 Common Crawl。但 Post-train,特别是 Agent 上的 RL,你需要的是 dense 的,可复用的,带有真实环境反馈的交互轨迹。这种数据,公网上没有,你只能从用户跟你产品的实际交互里抠出来。

也就是说,memory 不是一个推理时的功能。memory 是后训练阶段的供血系统。memory 写得好不好,决定了你下一代模型练得准不准。

她在另一个地方把这件事的潜台词点出来了。

「这也是我最近对自学习的思考,自学习大概率发生的途径是,你确实需要这个模型跟你这个 Agent 的架构本身,同步往前走。」

「你怎么在提升模型能力的同时,再提升 Agent 框架跟这个模型的适配程度,或者泛化能力。」

这才是「自学习」的真正含义。不是模型自己跟自己 self-play,是 memory 把人的真实交互记下来,喂给后训练,模型变强了之后再回来修改 memory 的写入策略,再喂下一轮。一个闭环。

memory 在这个闭环里的位置,是数据层。它不是一个产品功能,它是模型的食物供应链。

我们 EverMind 第三层 agent memory 里最后一块叫「self-evolve」,做的就是这件事。Agent 在被使用的过程中,会主动改写自己的 skill 库,会主动调整跟你协作的方式。这件事真的能不能跑通,老实说我们也还在摸。但至少在我们能看到的范围里,这是离她描述的那个闭环最近的一种产品形态,所以值得一直试下去。

五,随身设备加持续记忆,是她预言的下一站

整期访谈里我听到最有画面感的一段,是这句。

「我要是真的能带一个非常好的设备,一整天跟着我,我所有说的话,见过的人,它都知道。它的进化速度应该比我快。因为它依赖的算力更多。它会很快替代我。」

「而且,它不会今天记得,明天不记得,它非常稳定。」

这一段在她的整套叙事里是终局。

她在前面所有讨论里都在强调几件事,Long Context 产生智能,Agent 范式很吃 Post-train,memory 要分层分级。最后这一段,是把前面的点全部串起来。

一个有持续 memory 的 Agent,比一个智商更高但每次冷启动的 Agent,要厉害得多。一个 24 小时跟着你的设备,比一个你想起来才打开的 chatbot,要值钱得多。

她甚至加了一句很关键的,「它不会今天记得,明天不记得,它非常稳定。」

这是对当下所有 chatbot 产品的隐性反驳。今天的 ChatGPT,今天的 Claude,今天 99% 的 Agent 产品,记忆都是「今天记得,明天不记得」的。每一次对话基本都是从零开始,靠 system prompt 和 RAG 凑合一下。这种 memory 不可能撑起她说的那种「比你进化更快」的 Agent。

要做到她描述的那种状态,需要的是一套真正持续,真正稳定,真正分层的 memory 系统。

六,回到 EverMind 这件事

我们做 EverMind 之前,问过自己很多次,memory 这个赛道值不值得 all in。听完罗福莉这期访谈,对这个判断多了一点信心。但说「多了一点信心」不代表我们觉得自己做对了,更多是觉得方向上对得上。

她讲的不是一个 memory 模块的设计细节,她讲的是整个 Agent 行业的下一阶段,会被 memory 这件事重新定义。这件事不是某一家公司能单独搞定的,需要 model 这边,infra 这边,框架这边,产品这边一起往前走。我们能贡献的,其实只是产品和应用这一头里很小的一块。

前面提到的四层,串起来就是我们目前的产品骨架。它不是标准答案,是我们一边做一边迭代出来的一个版本,未来一定会改。

第一层 episodic,对应她讲的「跨 session 共享 Context」那件事。我们想做到的是,Agent 在你身边跑一年之后,还能精确告诉你你三个月前那次出差是怎么决定的,那次决定背后的取舍是什么。这件事单纯靠向量库做不到,要把时间线和因果链都建出来。我们也还在反复试。

第二层 preference。这一层不是事实,是倾向。如果不写好这一层,Agent 永远在猜你今天想要什么。

第三层 agent memory。这一层我们投入最重,前面三节穿插着提到了里面的几块:agent knows skills,agent learns how to learn,self-evolve。这三块加起来跟「向量库加 RAG」是两件事,但具体怎么做最稳,行业里其实大家都还在摸,我们也只是其中一种尝试。

第四层 multimodal,对应她讲的「随身设备一整天跟着我」那个终局。文本只是入口,真正的 memory 是声音,是屏幕,是视频,是你看过的,听过的,在哪儿待过的。她说现在 Agent 框架对这一块的支持是滞后的,我们也清楚这一块还很难,只是希望能跟整个行业一起,把它往前推一点。

我们做 EverMind,不是想说「memory 这件事我们想清楚了」。我们没想清楚。只是觉得这件事足够重要,重要到值得花十年去做。如果这十年里,我们能为整个行业添几块砖,加几片瓦,让 memory 这一层在 Agent 时代有更扎实的形态,那就值。

memory 不是 chatbot 的续航功能。memory 不只是文本。memory 是 Agent 行为的训练源,是 procedural memory 跟 SOP 的承载层,是模型 self-evolve 真正的食物供应链。

每一条进入系统的 memory,最终都要能反向喂回模型,让 Agent 越用越像你,越用越准,而不是越用越长。这件事如果有更多人一起做,整个行业都会更快走到罗福莉描述的那个终局。我们想成为那一群人里的一个。

最后留三个问题

如果你做的是 Agent 应用,你的 memory 是不是分层分级的?还是只是一个向量库加余弦相似度?

如果你做的是 memory 产品,你写下来的东西,最终是写给推理用的,还是写给训练用的?

如果你做的是基座模型,你 Post-train 阶段那 1:1 的算力,吃的是什么数据?是真实场景里来的,还是合成的?

这三个问题,今年下半年都会被市场重新问一遍。我们的答案,也还在 EverMind 里一行一行被写出来,欢迎一起聊。