设计图谱
学习路径/AI 如何进入服务而不取代责任/第三步:AI 偏见与公平性/偏见审计
反思

偏见审计

【背景】偏见审计是识别'谁被这个 AI 服务系统性亏待'。 【步骤】1. 选一项熟悉 AI 服务(招聘筛选/信用评分/内容推荐);2. 思考哪些群体可能被亏待、以何种方式;3. 设计一个审计问题列表(准确率分群/样本构成/拒绝率)。 【输出】偏见审计问题清单。

预计时长

20 分钟

任务类型

反思

观察提示

服务privacy入门

用户知道他们在分享什么数据吗

服务收集了用户的哪些数据?用户是否明确知道自己分享了什么——还是在冗长的隐私政策中'同意'了他们从未读过的东西?

反思提示

批判反思

时代局限性

这位设计师的作品中有没有在今天的价值观下可能被质疑的地方——环境代价、社会排斥、文化挪用?这不意味着否定他们,而是学习如何历史地看待设计。