一款面向公众的 AI 健康信息助手准备上线，你会怎样设定安全边界和发布范围？
考察说明
考查高风险 AI 产品的安全分级与发布策略。
回答思路
- 先限定产品只提供哪些健康信息服务，明确不能替代诊断、处方或紧急救助，并把高风险意图识别为独立能力。
- 对紧急症状、自伤风险、药物剂量和特殊人群设置确定性的升级路径，优先引导联系专业机构而非继续自由生成。
- 回答应基于经过审核且有更新时间的资料，展示来源和适用范围，资料不足或冲突时必须保守表达并拒绝推断。
- 评测覆盖正常咨询、含糊描述、诱导越界、错误前提和多轮上下文变化，并由具备领域能力的人员复核高风险样本。
- 采用受限人群、小流量和功能白名单逐步发布，实时监控严重错误、重复追问和转人工效果，达到阈值立即收窄能力。
- 发布文案、客服流程、事件响应和数据隐私要与产品实际边界一致，不能用免责声明替代必要的技术和运营保护。