公平的机器学习（第一部分）

目录

1. 机器学习中的公平
2. 问题的证据
3. 基本概念：歧视、偏见和公正

1. 机器学习中的公平

机器学习算法在教育、就业、广告和警务等领域对日常生活产生了重大影响。尽管机器学习（ML）算法可能看起来客观，但偏见的倾向已嵌入ML的本质中。ML在各种敏感领域的广泛使用使人们认为基于ML的决策仅基于事实，并不受人类认知偏差、歧视倾向或情感的影响。事实上，这些系统从（直接或间接）受人类偏见影响的数据中进行学习。有压倒性的证据表明，算法在其决策中可以继承或甚至延续人类偏见 [1]。

在某些领域，尤其是涉及社会影响的领域，例如刑事司法、社会福利政策、招聘和个人财务，在数据集包含敏感属性（例如种族、性别、年龄、残疾状况）和/或与这些属性密切相关的特征时，确保自动化决策遵守公平原则很重要。这意味着忽视公平考虑可能会产生社会上不能接受的后果。在自动顺序决策的背景下，尤其令人担忧的是“保持不公平、强化不公平或甚至引入不公平敏感特征、决策和结果之间的相互依赖” [2]。

因此，机器学习中的偏见影响正在以难以察觉的变化速度增长。 AI系统的日常影响巨大，不仅限于公司和/或国家系统，而是每当我们在浏览器上获取信息时，都可以实实在在地感受到。