一场令人瞩目的机器学习错误和失败之旅
![当人工智能迷失方向:现实世界中备受关注的机器学习失误 四海 第1张-四海吧 Photo by NEOM on Unsplash](https://miro.medium.com/v2/resize:fit:640/format:webp/1*RFoDNWCboF8av2nhj9oLLw.jpeg)
人工智能(AI)和机器学习的变革潜力经常成为新闻头条,大量报道显示它在从医疗保健到金融等各个领域的积极影响。
然而,没有任何技术能免受错误。成功故事描绘了机器学习出色能力的画面,同样重要的是要强调它的缺点,以便全面了解其影响的范围。
在本文中,我们将探讨许多备受关注的机器学习失败案例,以便为未来更有见地的实施汲取教训。
目录
具体而言,我们将分别从以下类别中选择一个值得注意的案例:
(1) 经典机器学习(2) 计算机视觉(3) 预测(4) 图像生成(5) 自然语言处理(6) 推荐系统
以下 GitHub 仓库“Failed-ML”收集了众多备受关注的机器学习失误案例:
GitHub – kennethleungty/Failed-ML: 高调真实案例的汇编
github.com
(1) 经典机器学习
标题
亚马逊 AI 招聘系统:亚马逊的 AI 驱动自动招聘系统因存在对女性候选人的歧视证据而被取消。
详细信息
亚马逊开发了一款基于 AI 的招聘工具,旨在从十年的简历中找出顶级候选人。然而,由于科技行业以男性为主导,该系统对女性申请者存在偏见。
例如,它会降低包含词语“women’s”或那些来自两所女子学院的毕业生的简历评分,同时偏好某些术语(如“executed”)的出现…