文章 ·
AI 长期记忆：记住以后，怎样改口
以前怕它忘。以后可能要开始怕它记错。
以前用 AI，我最烦它忘事。
聊了半天，换个对话又得从头来，好像每天都在跟一个聪明的失忆人重新认识。今年这种感觉已经越来越少了。它开始能记住你喜欢怎么做事，记得以前聊过什么，知道项目到哪了。有些东西隔很久了，它还能重新拿出来继续用。
按理说这是个好事，但我一念忽生，真正有意思的问题可能反过来了：以前怕它忘，以后可能要开始怕它记错了。
人记错一件事很常见。小时候一段记忆，过了二十年，自己都分不清到底是真的，还是后来听人讲多了，慢慢把别人的版本补进去了。
AI 的问题是，它以后能记住的东西越来越多，而这些东西也不一定全是你亲口告诉它的。可能是一封邮件、一个网页、一份文件、某次项目记录，甚至是一段看起来很正常、实际上本身就是错的信息。
而且这已经不是想象了。先让一条错误信息混进 AI 长期记忆里，当时可能什么都不发生，几次对话、换个任务，它又把这条东西翻出来，当成自己原本就知道的事实。
这件事最让我在意的，不是「AI 也会被骗」。那不稀奇。麻烦在于，以前一次错误只活在这一次对话里，现在它有可能留下来。
所以，我觉得让 AI「记得住」，其实只解决了最简单的那部分。记得住，不代表记得对，更不代表它知道什么值得记，什么应该忘，什么后来发现错了，要改。
人其实天天都在做这事儿。
一个同事跟我说：「这个 sb 事儿特多。」我先想的是，你俩是不是有私人恩怨？后来三个人都这么说，我就从「私人恩怨」升级到「群众反映」，多少提高点警惕了。但接触半年以后发现人家挺正常，我对他的判断也就慢慢改了。
真正的经验，好像从来不是把见过的东西全部留下来。里面还有怀疑、取舍、更新，甚至遗忘。有些事情该记牢，有些后来发现错了就该改，还有些东西压根不值得占脑子。
所以，我现在觉得 AI 有了长期记忆以后，一个以前不太显眼的问题开始变得重要了：谁有资格往它的「过去」埋东西？
一封邮件、一个短视频，最后会不会被它当成可靠背景？如果今天记住的东西和半年前的东西互相打架，它又该相信哪一个？
AI 越来越像一个长期合作的人以后，对它的要求反而不能只是「记性好」。一个什么都记、什么都信、从不怀疑、也不会改口的人，真挺吓人的。
我现在反而更希望它知道一件事是从哪来的，为什么当时相信它，后来有没有新东西跟它冲突。如果发现以前记错了，也真能改掉。
以前总想让 AI「更懂我」。现在看，还有后半句：它可以越来越懂我，但最好别越来越自信地误解我。