人工智能（AI），特别是生成式人工智能，持续超出预期，具备理解和模仿人类认知和智能的能力。然而，在许多情况下，AI系统的结果或预测可能反映出各种类型的AI偏见，例如文化和种族。
Buzzfeed的“世界芭比娃娃”博客（现已删除）清楚地展示了这些文化偏见和不准确性。这些“芭比娃娃”是使用Midjourney（一种领先的AI图像生成器）创造的，旨在了解世界各地的芭比娃娃是什么样子的。我们以后会更详细地讨论这个问题。
但这并不是AI第一次出现“种族主义”或产生不准确的结果。例如，在2022年，苹果公司因被控其Apple Watch的血氧传感器对有色人种存在偏见而被起诉。在另一个报道中，推特用户发现Twitter的自动图像剪裁AI偏向白人的面孔而不是黑人和女性而不是男性。这些都是重要的挑战，解决它们极具挑战性。
在本文中，我们将探讨AI偏见是什么，它如何影响我们的社会，并简要讨论从业者如何减轻它以解决文化刻板印象等挑战。
什么是AI偏见？
当AI模型对特定人群产生歧视性结果时，就会出现AI偏见。多种类型的偏见可能进入AI系统并产生不正确的结果。其中一些AI偏见有：
- 刻板印象偏见：刻板印象偏见是指AI模型的结果中包含刻板印象或对某一特定人群的认知观念。
- 种族偏见：种族偏见是指AI模型的结果基于种族或民族对某个个体或群体进行歧视和不公平对待。
- 文化偏见：文化偏见出现在当AI模型的结果偏向一种文化而不是另一种文化时。
除了偏见之外，其他问题也可能影响AI系统的结果，例如：
- 不准确性：不准确性发生在由于训练数据的不一致导致AI模型产生不正确结果的情况下。
- 幻觉：幻觉是指AI模型生成基于事实数据之外的虚构和错误的结果。
AI偏见对社会的影响
AI偏见对社会的影响可能是有害的。有偏见的AI系统可能产生不准确的结果，进一步放大社会中已经存在的偏见。这些结果可能增加歧视和侵犯权利，影响招聘过程并减少对AI技术的信任。
另外，有偏见的AI结果经常导致有严重后果的不准确预测。例如，2020年8月，由于芝加哥警察部门的预测警务算法将罗伯特·麦克丹尼尔标记为“涉案人员”，他成为犯罪行为的目标。
类似地，有偏见的医疗保健AI系统可能产生严重的患者结果。2019年，《科学》杂志发现一种广泛使用的美国医疗算法对有色人种存在种族偏见，导致黑人患者得到较少的高风险护理管理。
世界芭比娃娃
2023年7月，Buzzfeed发布了一个包含全球各地194个由AI生成的芭比娃娃的博客。该帖子在Twitter上迅速传播开来。虽然Buzzfeed写了一份免责声明，但这并没有阻止网民指出种族和文化上的不准确之处。例如，AI生成的德国芭比娃娃的形象穿着“纳粹党卫队”（SS Nazi）将领的制服。
同样地，南苏丹芭比娃娃的AI生成图像显示她手持一把枪，反映了AI算法中根深蒂固的偏见。
除此之外，还有一些其他图像显示文化不准确，比如卡塔尔芭比娃娃戴着Ghutra，这是阿拉伯男性传统的头巾。
这篇博客帖子因文化刻板印象和偏见受到了大规模的批评。伦敦跨学科学院（LIS）称这为必须通过提出质量标准和建立AI监管机构来加以控制的“代表性伤害”。
AI模型的限制
AI有潜力改变许多行业。但是，如果像上面提到的情况大量存在，可能导致普遍的AI采用率下降，从而导致错失机会。这种情况通常是由于AI系统的重大局限性，比如：
- 缺乏创造力：由于AI只能根据给定的训练数据做出决策，它缺乏超越常规思维的创造力，这妨碍了创造性问题的解决。
- 缺乏上下文理解：AI系统难以理解区域的语境细微差别或语言表达，这经常导致结果错误。
- 训练偏见：AI依赖可能包含各种歧视性样本的历史数据。在训练中，模型很容易学习到产生不公平和有偏见的模式。
如何减少AI模型的偏见
专家估计到2026年，90%的在线内容可能是合成生成的。因此，迅速降低生成AI技术中存在的问题至关重要。
可以实施几个关键策略来减少AI模型中的偏见。其中一些策略包括：
- 确保数据质量：将完整、准确、干净的数据输入AI模型可以帮助减少偏见并生成更准确的结果。
- 多样化数据集：将多样化的数据集引入AI系统可以帮助减轻偏见，因为随着时间的推移，AI系统变得更具包容性。
- 反馈循环：通过持续的反馈和学习循环，AI模型可以逐渐改善其结果。
- 增加监管：全球AI监管对于维护跨境AI系统的质量至关重要。因此，国际组织必须共同努力确保AI标准化。
- 加强负责任AI的采用：负责任的AI策略对于缓解AI偏见，培养公平和准确的AI系统，并确保其为多样化的用户群体提供服务，并不断追求改进，起到积极作用。
通过融入多样化的数据集、伦理责任和开放交流的VOAGI，我们可以确保AI成为全球积极变革的源泉。
如果您想了解更多关于偏见和人工智能在我们社会中的角色的内容，请阅读以下博客。