如果模型无法保证每次都答对,你会怎样设计失败体验,让用户仍然敢用这个功能?
考察说明
考查设计可控、可恢复的 AI 失败体验的能力。
回答思路
- 根据错误后果划分任务等级:低风险内容允许生成后编辑,高风险决策必须提供依据、人工确认或禁止模型直接执行。
- 在信息不足或置信依据薄弱时让系统明确表达限制,并通过追问补齐条件,而不是输出看似确定的猜测。
- 对知识型回答展示可访问的来源和更新时间,让用户能够快速核验,不用仅凭模型语气判断可信度。
- 对会改变外部状态的操作采用预览、确认、权限校验和可撤销机制,避免模型一次误判造成不可逆结果。
- 提供清晰的重试、修改输入、切换人工和反馈错误入口,使用户能从失败状态继续完成任务。
- 持续监控拒答率、人工接管率、纠错率和高风险错误,并用这些数据调整自动化边界,而不是一味减少拒答。