AI 助手想通过长期记忆提供个性化,但用户担心它记住了不该记的信息。你会怎样设计这项能力?
考察说明
考查个性化记忆的价值、隐私和控制设计。
回答思路
- 只保存跨任务持续有价值的稳定偏好,并说明记忆能改善什么体验,不把所有聊天记录默认转成永久个人画像。
- 敏感信息、临时情境和推断属性应默认不写入,重要记忆由用户明确确认,并展示来源、更新时间和使用范围。
- 提供查看、修改、暂停和删除记忆的统一入口,删除后同步清理索引和下游副本,不只隐藏界面记录。
- 读取记忆时结合当前任务相关性和权限,过期或冲突内容应触发澄清,不能让旧偏好悄悄覆盖用户的新指令。
- 团队需要设定保留期限、加密、审计和第三方模型传输边界,并对跨账户泄露开展专门测试。
- 评估同时衡量个性化带来的任务提升、错误记忆率、用户纠正和关闭比例,价值不足时不应强迫用户承担隐私成本。