‹ 上一集 ☰ 目录 EP23 · 政策伦理 下一集 ›
EP23 · 政策与伦理

偏见从哪来:三层不同源

总体准确率好看,少数群体可能很差——这就是必须分组测试的原因

偏见模拟器:拖动三个偏见源滑杆,观察总体、多数群体、少数群体准确率的分化;切换中美欧三条治理路线。

偏见的三层来源

训练数据偏差
奖励函数设计缺陷
环境感知局限

透明度三件套(缺一不可)

日志管事后追责、分值管事前判断、对比管取舍解释。隐藏算法 = 放弃追责,随机化响应 = 失去可复现性。

散热与延迟是工程问题,别误判成伦理问题。伦理三原则有主次:人类监督是元原则,伤害最小化是底线,可解释性是手段。