如何摆脱大模型的“金鱼记忆”困境

从持续理解业务、沉淀经验到交付结果，拥有记忆能力的Agent能够作为智能伙伴完成这些工作，而不再是“用完即忘”的单点工具。

图片由AI生成

你或许也碰到过类似情形：向客服机器人讲了许久个人信息、诉求和喜好，又交流了好几轮；稍后重新打开对话框，它却礼貌地问：“请问有什么可以帮到你？”

如果换个模型、换个Agent，再一股脑提交上数十页的文档素材，无论反复输入怎样的提示词，你会发现，AI输出的可能只有开头和结尾的内容，对于中间说了什么，它其实并不记得。

AI虽然聪明，却十分健忘。这不是错觉，而是当前大模型“无状态交互”的结构性缺陷：一旦对话结束，全部历史信息都会被清除。

健忘造成的不只是体验割裂。进入企业场景后，为保持上下文连续，用户不得不反复输入历史对话，导致Token消耗长期偏高、计算负荷迅速增加，大量资源浪费在低质量沟通上。

当AI产业逐渐告别单纯堆参数和算力竞赛，行业开始关注一个更本质的问题：大模型记忆的关键并非知道得更多，而是怎样有效记住并理解。

红熊AI已经围绕这个答案坚持了两年。

AI越聪明，反而越健忘？

归根结底，记忆与幻觉一样，都是大模型的先天缺陷，其背后是多项技术局限叠加：固有上下文窗口与注意力衰减会遗忘长对话前期的关键信息；相似信息难以区分、冲突信息引发逻辑混乱，又会使回复变得含糊甚至错误。

作为外 挂记忆产品的早期方案，包括RAG检索增强生成和向量数据库——它们只是保存聊天记录，并在任务触发时检索文本后投喂模型，无法自主管理记忆；既不是真正的长上下文，更谈不上“记住”。

2024年9月，红熊AI落地AI客服营销场景时发现，客户再次咨询后，AI完全不记得上一次交互。客户每次都得重新说明问题、提交账户信息并交代背景，严重限制了个性化服务的业务准确率。

团队起初试遍市场主流方案，包括大模型微调、知识库增强和Agent框架搭建，经过多番尝试，准确率仅从30%勉强升至70%。但在红熊AI创始人兼CEO温德亮看来，70分准确率依然远未及格。

当时，温德亮带领核心团队查阅海量学术论文，并尝试多种方案，最终意识到：症结可能并非模型不够智能，而是缺少记忆。大模型固有的“近因效应”，或许才是幻觉与业务断层的根源。若采用“类人脑记忆”驱动推理，并以记忆约束用户提问的上下文，模型回复准确率可能得到大幅提升。

为了约束上下文，团队随后让动态记忆锚点覆盖用户的每一次提问，使回复始终由模型沿记忆推出。经过多轮尝试，业务准确率先由70%提高至90%，最后稳定超过98%。

这次成功实践彻底改变了红熊AI的创业方向，团队开始锁定“记忆”赛道，在短期内实现净利润后，又迅速得到500多家企业客户认可。红熊AI近日宣布数亿元A+轮融资已经完成，投后估值达到30亿元。

全球两大长期记忆权威评测榜单 LoCoMo、LongMemEval目前均由红熊AI登顶，对应成绩分别为91.54%和95.0%。这表明其记忆能力既经受了产业侧检验，也获得学术界最高认可。

LoCoMo测评结果

LongMenEval测评结果

从单点走向全栈，将记忆建设成基础设施

“许多企业可能走偏了方向。AI记忆机制应当形成于和人的持续互动，而不能只靠预训练或数据单向灌输来建立。”

温德亮认为，AI正在朝“人”的方向继续发展，深入层面将从记忆延伸至认知乃至脑科学。像人一样成长和学习，是让AI更符合第一性原理的路径。随着这一进程推进，下一代AI正把记忆作为核心基础设施。

记忆机制与大模型底层架构的深度结合，是这条路线的核心。红熊AI在实现技术时参考人类大脑认知机制，搭建出MemoryBear（记忆熊）分层记忆体系，并区分“瞬时记忆—工作记忆—长期/永久记忆”存储体系。人类记忆发生巩固与遗忘的过程，由智能管理机制和自我反思引擎共同模拟；自动遗忘机制+3D反思机制这两大仿生机制也被内置其中，用于自主剔除过时、错误的信息，实现AI“选择性记忆”，并在交互越久后越善于识别有效信息。

完整流程包含三步：1、萃取：过滤海量对话交互中的无效冗余内容，筛选并提取高价值情境事实；2、关联：通过知识图谱存储，为不同用户、不同场景的记忆点构造网状关联关系；3、匹配：针对当前任务，利用混合检索机制迅速匹配所需历史记忆，并精准调用关键信息。

在Agent从“问答工具”走向“可交付结果的智能伙伴”的进程里，核心基础设施已成为记忆的新定位，而不再只是边缘能力；红熊AI向更多业务场景拓展，也为这一趋势提供了印证。面向企业培训、ChatBI、智能营销、智能客服等场景的Agent应用，已由红熊AI陆续纳入产品架构。其路径从最初客服起步，先覆盖售前、售中、售后的客服营销，再延伸到企业员工培训与数据分析ChatBI；每次场景扩展，驱动力都来自客户的真实需求。

红熊AI还自行研发OpenBear（通用全模态大模型）与CodeBear（记忆型编程大模型）。前者承担AI操作员角色，类似当前的Workbuddy，是AI超级员工入口；后者旨在解决工程化开发任务繁重的核心难题，例如任务中断、任务项目背景或项目方式发生极大变化时，记忆无法延续会造成工程代码偏差。

对红熊AI来说，这两款模型目前或许没有很高的市场预期，却是现阶段必须投入的事情。温德亮认为，B端客户并不在意软件企业采用哪个模型，更关心核心问题能否解决。客服属于典型高并发场景，业务量骤增时，如果上游模型厂商无法及时响应并发需求，软件企业就无法弹性扩容，并进一步影响下游客户体验，“被迫走向自研，是因为我们的这种需求长期未被满足。”

记忆怎样改变Agent时代的规则

今年年初以来，业内已多次提到“记忆”并逐步认同其价值，不过在更广泛的企业与行业场景中，客户仍不清楚如何真正落地记忆，以及怎样将其融入自身业务。

温德亮表示，客户落地时遇到的问题十分具体：行业专属数据Know-how、不同业务流程以及侧重点各异的客户话术体系，如何转化成经验并沉淀为知识，再让模型有效理解；同时，模型迭代还可能稀释已有知识，各类技术难点不断出现。

与此同时，许多客户仍沿用传统软件标准评价AI效果，业务精准度、AI问题解决率和业务转化率等依旧属于传统业务指标。记忆最终仍须体现为实际业务成果，例如缩短执行时间、提高精准度和改善用户满意度。

对客户来说，AI落地通常要求重新梳理业务流程、实施数据治理并明确交付结果。例如，模型“偏好”的数据往往不同于业务系统实际提供的数据，而且各家企业的情况并不相同。

记忆机制可以明显减少Token消耗，但也会增加推理时延。在准确率得到保证的情况下，延迟会由800毫秒上升至约1.8秒，这是红熊AI目前可实现的最优水平。关键是把选择权交给客户：选择更快但准确率稍低，还是稍慢却更精准，都应根据具体场景自行决定。

温德亮在回答红熊AI壁垒问题时表示，过去的软件与AI原生软件有着本质差异。业务逻辑在传统软件中被硬编码写死，导致跨行业复用度不高，基本只能依靠定制开发。由Agent驱动的AI原生应用则无需更改产品适配性和核心业务逻辑，跨行业应用时调整工作流与参数即可。记忆产品沿用同样的设计逻辑，保证Agent在需要的时候调用对应的历史信息。

近期，大洋彼岸的初创公司Engram与红熊AI同期获得融资，仅依靠“记忆”概念即获得近1亿美元。这两笔融资传递出强烈信号：一旦AI的记忆能力接近人类，依旧通过RAG或上下文窗口处理长内容的模型机制，便将遭受深刻冲击。

客户的选择说明，他们既不需要模型机械背诵，也不愿用大量Token消耗换取所谓效率。以往所说的降本增效，如今已不能直接等同于业务价值；Token推理不存在边际成本递减，成本反而可能随业务增长逐渐上升。不确定的账单正在迫使企业精确计算投入产出，而在成本和效率之外，记忆驱动的推理准确率提升才是创造业务价值的关键。

经过产业有效验证且拥有切实商业价值，记忆已经成为可落地的能力，而非停留在技术概念。Agent以记忆为驱动力，正在逐渐进入日常应用。

7月31日18:00，红熊AI“记忆觉醒 · 智能新生”线上产品发布会将正式启幕，不仅MemoryBear 记忆引擎迎来重磅升级，还将发布红熊AI自研的OpenBear 、 CodeBear两款记忆型大模型，以及基于原生记忆底座的AI客服、AI营销、ChatBI、AI教育四大场景化Agent应用。

见证AI如何被记忆重构，欢迎观看直播并保持关注。（作者 | 杨丽，编辑｜盖虹达；本文首发于钛媒体APP）