总体准确率好看,少数群体可能很差——这就是必须分组测试的原因
偏见模拟器:拖动三个偏见源滑杆,观察总体、多数群体、少数群体准确率的分化;切换中美欧三条治理路线。
偏见的三层来源
透明度三件套(缺一不可)
日志管事后追责、分值管事前判断、对比管取舍解释。隐藏算法 = 放弃追责,随机化响应 = 失去可复现性。
散热与延迟是工程问题,别误判成伦理问题。伦理三原则有主次:人类监督是元原则,伤害最小化是底线,可解释性是手段。