AI 如何进入服务而不取代责任

【背景】人机协同不是'AI 接管'，而是四种模式的组合：辅助、建议、分级、代理。 【步骤】1. 阅读 Babylon Health 人机协同旅程；2. 分析其 AI 扮演的角色（信息收集/初步分诊/转人工）；3. 判断它属于哪种协同模式、边界在哪。 【输出】Babylon 人机协同模式分析。

【背景】识别身边 AI 服务中 AI 的真实角色，是建立'协同'认知的第一步。 【步骤】1. 想一个你最近用的含 AI 服务（推荐/客服/人脸支付/导航）；2. 分析 AI 扮演什么（决策/辅助/执行）以及人在哪里介入；3. 判断该服务'AI 做主'还是'人做主'。 【输出】AI 服务角色分析。

【背景】有些决策 AI 不该独立做：能力不足、需要情感理解、或责任重大。 【步骤】1. 列出至少 3 种 AI 不应独立决策的场景；2. 对每种说明原因（能力/情感/责任）；3. 指出人类应保留哪些最终裁决权。 【输出】'AI 禁区'清单（≥3 条）。

【背景】GOV.UK Verify 是'AI/自动认证 → 人类兜底'交接设计的政府案例。 【步骤】1. 阅读 GOV.UK Verify 案例；2. 分析在线认证失败时如何交接到人工（电话/线下/邮件）；3. 记录其交接的触发、通道与上下文传递。 【输出】Verify 交接设计笔记。

【背景】交接失败的体验暴露设计缺陷：上下文丢失、责任不清、用户被踢皮球。 【步骤】1. 回忆一次 AI 出错且交接失败的体验（客服转人工但看不到历史）；2. 记录失败点：上下文丢失/等待过长/重复说明；3. 分析根因。 【输出】交接失败案例 + 根因。

【背景】好的交接点设计要明确：触发条件、上下文传递、责任转移、用户知情。 【步骤】1. 为你的失败案例重新设计交接点；2. 设计应包括：①AI 触发转人的条件 ②传递给人工的上下文 ③责任与时限 ④对用户的告知；3. 画出交接流程。 【输出】交接点设计方案。

【背景】AI 偏见不是 bug 而是 feature：它放大训练数据与社会结构中的既有偏见。 【步骤】1. 回顾'价值敏感设计'中 AI 偏见内容；2. 理解偏见的四个来源（数据/标注/模型/部署）；3. 各配一个例子。 【输出】偏见来源清单（数据/标注/模型/部署）。

【背景】偏见审计是识别'谁被这个 AI 服务系统性亏待'。 【步骤】1. 选一项熟悉 AI 服务（招聘筛选/信用评分/内容推荐）；2. 思考哪些群体可能被亏待、以何种方式；3. 设计一个审计问题列表（准确率分群/样本构成/拒绝率）。 【输出】偏见审计问题清单。

【背景】公共 AI 的偏见风险远高于商业 AI：商业失败是流失用户，公共失败是剥夺权利。 【步骤】1. 对比一个商业 AI（电商推荐）与公共 AI（税务审核）的偏见风险；2. 分析为什么公共 AI 要求更高（不可退出/影响权利/责任对公民）；3. 给出公共 AI 的额外设计要求。 【输出】商业 vs 公共 AI 偏见风险对比 + 要求。

【背景】责任归属的三种模型：AI 是工具（人负全责）、AI 是队友（分担）、AI 是代理（AI 负部分责）。 【步骤】1. 阅读'人机协同服务设计'流派卡片，理解三种模型；2. 为每种模型找一个现实案例；3. 判断哪种模型最符合'服务设计'的伦理。 【输出】三种责任模型的理解 + 案例。

【背景】责任归属矩阵让'谁为哪种决策负责'可视化，避免责任真空。 【步骤】1. 为你的 AI 服务建立责任矩阵；2. 对每种决策类型（信息提供/建议/分级判断/最终决策）标注：AI 角色、人类角色、责任方；3. 检查是否有'无人负责'的格子。 【输出】责任归属矩阵。

【背景】终局自问：明天部署你的 AI 服务，最大的不安是什么？ 【步骤】1. 明确你最大的不安（技术/伦理/法律）；2. 针对该不安提出至少 2 条'上线前必须完成'的改进；3. 写一句你的'负责任的 AI 服务'定义。 【输出】上线前改进清单 + 责任定义。