个人智能体应该记住什么?记忆需要规则,不只需要容量。

个人智能体应该记住哪些信息,哪些应当过期?本文提供一套 AI 智能体记忆框架,涵盖查看、纠正、删除、有效期与上下文隔离。

Today 团队 · 发布于 更新于

AI 智能体将个人信息分为长期记住、到期删除与不应保存三类

摘要

个人智能体不该把用户说过的一切永久保存。真正有用的长期记忆应当经过筛选,保留来源和时间,允许用户查看、纠正、删除,并按人物与场景隔离。

  • 长期记忆不等于聊天记录。它只保留未来仍有价值的一小部分信息。
  • 稳定偏好、持续约束、进行中的目标、重要关系、承诺和用户纠正适合进入记忆。
  • 密码、未经证实的敏感推断、一时情绪和无必要的他人信息,不应默认长期保存。
  • 每条记忆都应带有来源、状态、确认时间、适用范围和到期规则。
  • 用户应能查看、纠正、删除和隔离记忆;记住一件事,也不代表智能体自动获得行动权限。

一个什么都不记得的个人智能体,会让你反复交代自己的生活。一个什么都永久保存的智能体,则会积累出一份充满过期事实、私人谈话和错误猜测的档案,随后还可能拿它来影响真实行动。

更合理的中间状态是经过筛选的记忆:只保留确实能改善未来帮助的信息,同时记录来源,允许临时事实到期,并让用户直接查看、纠正和删除。真正困难的从来不是容量,而是取舍和控制。

本文只讨论这份「记忆契约」。如果你想先了解聊天机器人、助理与 AI 个人智能体的完整区别,可以阅读我们的类别指南。

聊天记录很长,不代表拥有长期记忆

产品会把几种不同能力都称为「记忆」。先把它们分开,才能避免一个常见误解:能翻查旧对话的系统,不一定已经形成了可靠的个人理解。

层级保存什么主要用途主要风险
当前上下文正在进行的对话和附件回答眼前的问题会话结束后,重要细节可能消失
历史记录过去的聊天、文件、邮件或活动找回来源和事情经过检索时可能带出无关或敏感内容
长期记忆筛选后的事实、偏好、关系、纠正和承诺跨时间提供个性化帮助错误或过期信息会持续影响未来判断
任务状态待办、批准、截止日期和执行结果让任务跨小时或跨天继续没有关闭或到期的旧状态可能触发错误行动

这些层级可以配合使用,却不能互相代替。OpenAI 的 Memory FAQ明确区分了已保存记忆与聊天记录:删除一段聊天,不一定会删除从中单独保存的记忆。Gemini 帮助文档也把调用过往聊天进行个性化视为一项独立、可关闭和管理的功能。

因此,可信的记忆界面不只要告诉你智能体「想起了什么」,还应说明这条信息究竟来自已保存事实、历史记录推断、连接应用,还是临时任务状态。

五类值得记住的信息

判断标准不该是「以后有没有可能用上」。几乎所有信息都能通过这道门。更合适的问题是:保留它是否能稳定改善未来帮助,收益是否足以抵偿长期保存的风险?

1. 稳定的偏好与约束

饮食要求、无障碍需求、习惯的工作时间、写作偏好和常用机场,都能减少重复设置。最适合保存的记忆,通常既相对稳定,也容易让用户一眼判断真伪。

偏好不应被当成永久身份。「我更喜欢早班飞机」以后可能改变。好的记忆会记录最近确认时间;用户做出不同选择时,它应更新旧偏好,而不是留下两条相互矛盾的「事实」。

2. 正在进行的目标与承诺

智能体可能需要记得:你答应周五前交出草稿、计划十二月搬家,或者希望每周训练三次。这类记忆能把一次谈话接到后续行动上,因此价值很高。

它们也必须有生命周期:状态、截止日期、来源和完成结果。已经结束的项目,不该永远留在优先事项里。任务记忆如果没有关闭机制,只会变成一堆拥有打扰能力的旧事项。

3. 来源清楚的关系信息

知道 Maya 是你的经理、父亲习惯接电话,或者某位客户每月要一份报告,可以避免不合时宜的建议。但涉及其他人的信息,需要更加克制。智能体应区分「用户明确告诉我的」与「我自己推断的」,不能把私人谈话扩写成笼统的人格档案,也不该保存与具体任务无关的细节。

当两个人说法不一或情况发生变化时,来源尤其重要。「Jordan 说发布日期改到五月」比直接写成「发布日期是五月」更安全。

4. 用户纠正与稳定的做事方式

当你说「下午四点后不要安排会议」,或总把正式寒暄改成更短的开头,这些纠正往往比原始对话更值得记住。保留它们,可以避免同一个错误不断回来。

智能体仍应说明:保存的是明确指令,还是从重复行为中推断出的习惯。重复行为可以作为偏好的证据,却不等于每一种模式都应自动升级成永久规则。

5. 决策与行动结果

如果智能体能够使用工具,记忆还应区分做了什么决定、用户批准了什么、最后真正发生了什么。「草稿已准备」「发送已批准」和「邮件已发出」是三种不同状态。只有记录清楚,智能体才能在恢复任务时不凭空假设工作已经完成。

一次批准也不应自动扩展成长期权限。你同意改期一次,不代表智能体今后可以自行改动与这个人的所有会议。

哪些信息不应默认成为长期记忆

有些信息对眼前任务有用,一旦被带进其他场景,却会变得危险或误导。

密码与认证信息

密码、一次性验证码、恢复短语和完整支付凭证,应进入专门保护凭证的系统,而不是出现在可对话检索的记忆里。智能体可以调用安全凭证库,却不需要把秘密本身「记住」。Meta 对 Muse 的公开说明称,凭证会进入智能体不可读取的受保护存储。这正好说明「能够使用」与「能够回忆」是两回事。

未经证实的敏感推断

智能体不应因为一次深夜谈话,就对某人的健康、政治立场、财务状况、性取向或情绪形成永久结论。即便信息由用户主动说出,未来使用也应限于当时提供它的目的。

「我很担心明天的演讲」只是一段情境信息,不能据此生成「患有焦虑症」这样的长期标签。即使确有保留必要,系统也应忠实记录用户说过什么,不能自行把它升级成诊断或身份判断。

一时状态与单次选择

短期旅行、昨晚没睡好、临时饮食安排、亲友来访和一次餐厅选择,此刻可能重要,很快也可能失效。它们更适合留在任务状态中,或附上到期时间,而不是被写成长期偏好。

可以用一条事实代替的完整记录

把所有谈话都存下来「以后再说」,会扩大暴露范围,也让纠错变得困难。如果未来只需要知道「我偏好书面更新」,就没有必要把提到这件事的整场会议永久保存成记忆。

没有明确必要的他人隐私

个人智能体难免接触其他人的姓名、消息和日程。能够访问,不代表每个细节都适合长期保存。保留范围应限于用户正当任务所需,不同人物的信息也不能混进一份含糊的个人画像。

每条记忆都需要附带信息

「Sam 喜欢素食餐厅」看起来很简单。等智能体要用它时,问题马上出现:Sam 是用户、同事还是孩子?这句话是不是 Sam 自己说的?三年前的偏好现在还有效吗?今天订餐时能不能直接采用?

一条可用的记忆,至少应带有以下信息:

  • 主体:这条信息说的是谁或什么;
  • 来源:来自哪次对话、哪个文件、哪款应用或哪个人;
  • 状态:明确指令、已发生事件、暂定推断或确认事实;
  • 时间:何时获得,最近一次何时确认;
  • 范围:允许在哪些项目、人物关系或任务里使用;
  • 保留规则:长期保存、到期复核、自动删除,还是只留到任务结束;
  • 行动影响:只能影响建议,能否触发提醒,使用前是否必须再次确认。

因此,记忆质量不能用保存了多少细节来衡量。一份规模更小、治理清楚的记忆,往往比缺少来源和有效期的庞大档案更有用。

保存期限要跟着信息类型走

同一条保存规则,无法适用于所有记忆。

记忆类型合理的默认处理
明确且稳定的约束保留到用户修改;会造成重要影响时定期复核
偏好可以保留;出现矛盾行为后降低置信度或请用户确认
截止日期或旅行完成后到期,只有确有价值时才保留结果
临时状态设置复核日期或较短的自动到期时间
暂定推断未经确认,不升级为长期事实
任务产物或来源按任务、账户及连接服务的政策处理

不能只看新旧。一条十年前确认的过敏信息,可能比昨天选过的午餐更重要。到期策略需要同时考虑稳定性、敏感程度,以及记错之后的代价。

用户必须能查看、纠正和删除

记忆控制应当落到错误实际发生的层级。

查看。 用户应该能问「你记得我的哪些信息」,并看到实际记忆、来源和使用位置。友好的总结很有帮助,却不能用来遮住底层条目。

纠正。 修改一条记忆时,应当替换旧结论或保留清楚的版本关系,避免系统同时找回两个相互冲突的答案。界面还需要允许用户表达「以前是真的,现在变了」,这和「从来就不对」不是一回事。

删除。 所有可能重新带回这条信息的位置,都应纳入删除范围。OpenAI 的说明指出,彻底移除某项信息可能需要同时删除已保存记忆及其来源聊天;Google 则说明,来自连接应用的信息可能要同时删除相关聊天并断开来源应用。各产品实现不同,分享敏感内容之前,用户应先弄清楚「忘记」具体覆盖哪些地方。

暂停。 临时对话或不写入记忆的模式非常必要。它允许信息只服务当前请求,不再影响以后的个性化。Gemini Apps Privacy Hub就明确建议:不希望信息用于未来个性化时,可以使用 Temporary Chat。

导出或查看版本。 记忆发生变化后,版本历史或活动记录能帮助用户查明改动,并从错误纠正中恢复。

把人物、角色和场景分开

一个个人智能体可能同时看到工作邮件、家庭安排、健康记录,以及多个不同人物的谈话。如果把这些内容全塞进同一份无差别记忆,错误几乎可以预见:机密工作信息出现在家庭计划里,一个人的偏好被安到另一个人身上,私人笔记影响了对外发送的消息。

隔离至少应出现在五个层面:

  • 人物:用户本人的事实,不应与伴侣、孩子、同事或客户混淆;
  • 角色:工作语境不应自动影响私人沟通;
  • 项目或工作空间:为一个项目提供的信息,应留在该边界内,除非用户主动移动;
  • 敏感程度:健康、财务和亲密信息,需要更严格的检索与行动规则;
  • 受众:一条信息可以用于私人建议,不代表它适合写进邮件或共享文档。

隔离并不要求智能体忘掉一个人生活中的关联。它要求每一次跨界都有明确理由,也能被用户看见。

记忆可以影响行动,却不是行动许可

智能体能够行动之后,记忆的后果会明显放大。记错餐厅偏好可能只是扫兴,记错日程承诺却可能改动另一个人的时间。

可信的系统会把三个问题分开:

  1. 当前任务是否允许调用这条记忆?
  2. 它是否足够可靠、足够新,可以影响建议?
  3. 智能体是否获得了执行相应动作的权限?

前两个问题的答案是「可以」,也绝不能自动推出第三个。知道邮寄地址不等于获得购买许可,记得写作风格也不等于可以直接发送消息。批准、审计和可撤销连接仍然是独立的控制环节。

如果你想看记忆怎样参与多步骤任务,可以继续阅读个人 AI 智能体的实际用例。

用一条低风险信息测试记忆

在真正依赖一款 AI 个人智能体之前,可以先告诉它一条低风险事实,再故意进行一次纠正。随后检查下面这些问题是否都有答案:

  • 我能不能看到具体记忆,而不只是让模型口头总结?
  • 我能不能知道它来自哪里,最近何时确认?
  • 我能不能把它标为临时信息,设置到期时间,或限制使用范围?
  • 我能不能纠正它,同时不让冲突版本继续生效?
  • 我能不能删除记忆,以及可能重新生成它的来源?
  • 我能不能从一开始就让某段对话不进入记忆?
  • 工作、家庭和其他人物的语境是否彼此隔离?
  • 智能体能否解释,某条记忆何时影响了建议或行动?
  • 真正执行动作时,是否仍会经过对应的权限或批准?

如果一款产品回答不了这些问题,「更多记忆」也许会带来更多个性化,却也会制造更多用户看不见、管不到的系统状态。

好记忆是一段经过整理的关系

AI 个人智能体不该像监控档案一样记住你的生活。它应该只保留一组足够小、足够稳定、确实相关且可以核验的事实,用来跨时间帮助你。

这意味着,记得承诺,却不必永久保存每一句私密谈话;学会偏好,却不把它固化成身份;使用上下文,也不把上下文当成授权。最好的记忆不是永不忘记,而是知道什么值得留下,什么需要再确认,什么应该消失。

分享

关于 Today 的常见问题

AI 的记忆和聊天记录是一回事吗?

不是。聊天记录保存的是过往对话,可作为查找来源;长期记忆只选取会在未来反复使用的事实、偏好、关系、承诺和纠正。产品可能同时支持两者,也可能只支持其中一种。

AI 个人智能体应该记住什么?

应优先记住稳定且会反复产生价值的信息,例如长期偏好、持续约束、正在推进的目标、重要关系、承诺,以及用户对错误理解的纠正。

哪些信息不该成为 AI 的长期记忆?

密码、验证码、完整支付凭证和未经证实的敏感推断,不应作为普通记忆保存。一时情绪、已经失效的信息和与任务无关的他人隐私,也应当过期或留在长期记忆之外。

AI 记忆需要设置有效期吗?

很多记忆需要。食物过敏可以一直保留,直到用户纠正;旅行计划、短期伤病或项目截止日期,则应设置复核时间或自动到期。保存期限应与信息变旧的速度匹配。

怎样彻底删除 AI 记住的信息?

需要检查产品的记忆设置,以及所有可能重新提供该信息的来源,包括已保存记忆、聊天记录、文件和已连接应用。关闭记忆或只删除一段聊天,不一定会移除单独保存的记忆。

和 Today 一起开启新一天。

Today 记住重要的事,主动推进下一步,让你打开一天时,事情已经在向前走。

开始使用