Agent的记忆：上下文

2026-09-25 · 彬城AI AI科普系列

这是抖音创作者斗牛最近做的AI短片《第48版》，三天点赞就超过了四万，B站有17万播放。这部短片最打动人的就是记忆机器人记住了和莫奈相处的点滴，这些记忆让它从一个冷冰冰的机器变成了一个有感情的伙伴。那么今天我们这期视频就来讲AI的记忆，也就是上下文。

那么上下文是什么呢？首先我们来看它的英文叫Context，简单理解可以理解成一个对话记录。比如说你和AI聊天，你问"李白是谁"，这个AI给你回答"他是唐代诗人"，这个是第一轮对话。那么你又接着问他"最出名的是哪首诗"，AI就回答"静夜思"。

那么你有没有想过一个问题，你说他为什么AI就能知道你说的"他"就是李白呢？用拟人的说法就是说AI它有记忆，记忆就是我们今天要讲的这个上下文。

那么怎么来理解这个事情？第一次你问问题的时候，他只看到了你这个问题"李白是谁"，他就给出回答，这个我们好理解。那第二次你问问题"他最出名的是哪首诗"，他是把第一轮的问题的答案也放进来了，所以相当于第二个问题他回答了你两次：第一次回答"李白是唐代诗人"，然后"他的最出名是哪首诗"。那么以此类推，我们看第三个问题，你又问"那杜甫呢"，那么我们就理解了，他回答这句话的时候，他相当于是回答了前面两个问题再加上这一次的问题：回答了"李白是谁"是唐代诗人，"他最出名的是哪首诗"是《静夜思》，"那杜甫呢"。你再问他第四个问题，他是怎么回答的？第四个问题是他把前三轮的问题再加上这个问题一并给你回答了。这个就是上下文的记忆功能。

所以我们会发现一个严重的问题，就是第一轮回答可能只消耗了100多个Token，当第二轮回答，这100个Token就已经涨到了，比如说哈，我们是500个Token，第三轮他可能就已经是800或者是1000个Token了。那么如果我们接着再问，比如说我们问到第七轮第八轮，可能你消耗的Token就已经达到了恐怖的一万个Token了。你和AI聊天机器人聊的越多，AI的反应速度就越慢，回答的可能也就没那么准确了。

那么我们可以打个比方，AI上下文的记忆容量就可能就是一张办公桌，那么每一个模型它的桌子的大小都是有限的，也就是说它的记忆是有限的。那么到目前为止，我们国产的大模型，月之暗面公司出的Kimi K3模型，上下文最大容量达到了100万Token，相当于十本长篇小说。现在这个是我们国内大模型上下文窗口做得最多的一个。

所以这里有一个建议提醒大家，像我们经常和豆包聊天的时候，最好养成良好的习惯：如果你这个问题是跟以前的聊天记录没有关系的话，最好新建一个对话窗口。尤其是当你现在已经接触了编程智能体，当你给它提出一个需求，它消耗的Token可不是一般普通聊天机器人消耗的一个量级，可能它两个问题就翻倍，或者是乘以十倍百倍的Token消耗量了。那么这个习惯当然也有个坏处了，坏处就是你清空的聊天记录，相当于你用智能体或者是聊天的时候，你的上下文、你的故事背景就已经全部都清空了。

那么我们来看相关的大模型厂商是怎么解决记忆的这个事情呢？他们用了一个非常巧妙的方式，就是"桌子加文件柜"。桌子就代表AI模型的上下文最大容量，文件柜里面装的都是文件，每一份文件提炼了聊天记录中重点的笔记。

比如说像TRAE Work这个智能体，它就内置了三个文件柜。第一个它叫项目规则，它记录了我每一个项目规定的项目功能还有项目需求。第二个，用户偏好，就是我这个用户在做项目的时候，他都记住了我的一些要求，不用我每一次做项目重新跟他说，我要让他输出中文，然后还有我是非程序员。

再多说一句，我做这个视频的初衷呢，就是因为我之前在网上搜过很多AI的教程嘛，我发现那些博主可能都是学院派，他们都是比较专业的，学编程的，所以说的一些专业术语也太多了，我也听不懂。所以呢我就想把我学过的东西用一种非常直白简单的话告诉大家，让大家学会怎么用AI。那么其实说白了，AI它是两极分化特别严重的，一方面做AI理论研究的都是全球高智商顶尖的人才，最下面做AI应用的话都是非常简单的操作。那么就像我说的，不会用智能体的话，就像十年前你不会用智能手机一样。所以说我希望大家能尽快尽早地学会怎么用AI。

那么回到这里，第三个，他还有一个叫话题记录的一个文件柜。我们每跟他聊过一轮对话，他都记住了这个对话里面的一些事项，还有修改了一些文件，还有做了哪些决定。

推荐给大家一个非常实用的小技巧，就是我们做项目的时候，在你觉得上下文已经很多的时候，你可以发一句提示词，你就说"请帮我写一个交接提示词，我要在新对话开始继续我的任务"。这样你消耗的Token又少，反应速度又越快。

上面说的这些解决方案，其实都是治标不治本的。就算你的重点提炼得再好，终究还是会像聊天微信记录这个一样，越来越多。所以说现在就有专门做记忆方向的公司，上期我视频也说过，就红熊AI公司和记忆张量公司。那么红熊AI公司它仅仅成立15个月，它现在估值就已经将近有30个亿了。所以说做专门记忆方向，未来真的是一个大市场。

这里再打一个比方，你公司有两个员工。员工A他这个是属于记性差的，但是他是清华博士，你每次给他一个任务的话，当天他都可以很好地完成。那么第二天他来上班的时候，你又要从头到尾跟他讲项目背景、注意事项。员工B它是属于记性好，虽然能力一般，但是他是公司的老员工，你只要给他发任务，不用说项目背景。他才会适合做一些系统性的长期工程，比如说我们做项目一定要经历的我们的测试、维护还有修改，每一次版本的迭代都需要记录大量的这个上下文。做AI记忆的这件事情，非常的有含金量。

那么记忆它的意义到底是什么呢？按我的理解，AI的记忆就是一句话：它让AI从一次性的工具，能够变成长期合作的伙伴。有记忆的AI，才是长期能用的生产力工具。

本文整理自彬城AI《AI科普》系列科普视频，文字略有整理。更多内容见行业洞察。彬城AI（彬城工程咨询（南昌）有限公司）提供人工智能体开发、信息化系统建设与AI实战培训服务，业务交流请致电 182 7919 8383。