算法偏见

算法偏见是什么？

AI 不是天然公平的——它从数据里学规律，数据里的偏见，就会「传染」给模型。算法偏见，指的是 AI 系统因为训练数据有偏差、或者设计上的缺陷，而对特定人群做出系统性、不公平的判断，比如招聘时更偏向某一性别、贷款审批时对某些地区更苛刻。

偏见是从哪来的？

历史数据带偏见
如果过去招聘数据里男性占多数，模型就可能「学到」男性更合适。
样本不均衡
训练集里某类人太少，模型对这类人就判断不准。
特征选择不当
用了「邮编」「学校」这类与目标无关但高度相关的特征，间接引入了歧视。

它会造成什么后果？

机会不均
招聘、信贷、升学里的算法偏见，会把人挡在机会之外。
强化既有不平等
模型反复放大社会里原本就存在的差距，形成恶性循环。
失去信任
一旦被曝出不公，用户对 AI 和企业的信任都会崩塌。

怎么减少偏见？

从源头清理和平衡数据、在训练中引入公平性约束、上线后持续监测和审计，都是常见做法。更重要的是，偏见无法完全消除，只能不断发现、不断修正——这需要把它当成一件长期的事来做。

一句话记住：算法偏见，是 AI 从「有偏见的世界」里学来的坏习惯，需要人持续去发现和纠正。