如今，我们生活的方方面面几乎都与在线网络有关。尽管这在很大程度上改善了生活的许多方面，例如我们随时可以通过手持设备获取信息，但它也带来了一定的风险。
这些风险不仅限于传统的黑客和数据泄露，例如进入我们的银行账户。更重要的是，我在这里指的是我们今天生活中许多方面都受到人工智能（AI）使用的算法的影响。我们假设这种AI本质上利用的是符合我们最佳利益的算法。然而，当错误类型的偏见进入这些算法时会发生什么？这可能会对某些结果产生什么影响？
当有偏见的算法渗透到AI系统中时会发生什么？
举个例子，在YouTube上，AI算法推荐近70%的所有视频，而在Instagram和TikTok等社交媒体平台上，这个百分比甚至更高。尽管这些AI算法可以帮助用户找到他们感兴趣的内容，但它们引发了严重的隐私问题，并且有越来越多的证据表明，人们在网上消费的一些推荐内容甚至是危险的，因为其中包含了错误信息或者可能包含了一定的观点，被设计成暗示性地影响一个人的政治思想或信仰。
创建一个全面、适应性强的人工智能是一个具有挑战性的技术和社会事业，但却是至关重要的。
我们可以理解，人工智能可能对社会规范和在线使用模式产生负面影响的同时，也要关注技术的积极影响。在线资源对我们的社会具有重要影响力，而在线算法中的偏见将无意中培养不公正，塑造人们的信念，传播虚假信息，并在不同群体间培养冲突。
这就是“坏的人工智能”可能对我们生活的一个非常重要的方面产生真正重大的影响的地方。
有偏见的人工智能如何对交通路口产生不利影响
以交通路口为例，作为一个更实际的例子。由于在全国各地市场上部署了新的人工智能技术，交通信号灯的长时间等待正在成为过去。这些交通优先解决方案利用实时交通数据，并根据交通模式的变化调整信号灯，保持交通畅通，减少拥堵。
这些系统使用深度学习，其中一个程序可以在不良运行时理解并尝试不同的行动方式，或者在取得进展时继续改进。
听起来是个好主意，对吧？但是，如果随着时间的推移，嵌入在交通传感器技术中的AI算法开始根据偏见的算法优先考虑更昂贵的车辆呢？这些偏见的算法被设计成认为开某种类型的车辆的人应该享有比其他人更高的优先权。
这就是“坏的人工智能”可能对我们生活的一个非常重要的方面产生负面影响的地方。
比如说，这些由人工智能驱动的交通优先系统是更大的智能交通系统的一部分，利用了连接车辆技术的力量。只有在这些智能交通系统所运行的不带偏见的云端数据共享平台上，这些数据共享平台才能发挥作用，而不是所有的都是平等的。
消除人工智能算法中的偏见
这些数据共享平台已被证明是非常有效的，但前提是城市和政府监管交通系统的机构将其开放以进行适当的数据共享，不允许有偏见的算法参与其中。不幸的是，许多城市仍与硬件和设备提供商签订了合同，这些提供商声称在“开放架构”下运作，但不愿意在开放数据平台下工作，这使得这些城市无法充分利用云端平台提供的真正可能性。
基于云的交通优先系统考虑了系统的整体情况，并使用无偏见的数据中心机器学习来预测在合适的时间授予交通工具绿灯的最佳时机。它最大程度地减少了相交路径的干扰，并同时最大化了持续行驶的概率。更重要的是，不带偏见的云端平台确保城市能够利用不断更新的系统来最大化交通潜力，而不受来自不良来源的影响。
有了现在可以随时使用的这项技术，城市、开发者和政府机构拥有了他们需要的技术，可以适当加速智能交通网络的建设，使该地区的每个人都能公平、公正地受益。
像圣何塞市这样的地区现在利用人工智能改进向居民提供服务的效果。随着城市越来越多地使用人工智能工具，确保这些人工智能系统的有效性和可信度比以往任何时候都更加重要。通过审查工具中使用的算法，数字隐私办公室（DPO）确保城市的人工智能技术采购能够准确运行、最小化偏见并且可靠。当城市部门希望采购一种人工智能工具时，DPO会按照特定的审查流程评估任何人工智能系统的利益和风险。
对于这个特定地区，我们很自豪能够与谷歌等公司一起成为少数几家获得批准参与整个城市技术部署的人工智能供应商之一，这是因为我们使用的算法是没有任何偏见的。随着越来越多的人工智能技术的发展，确保它们的建立没有任何偏见的算法对于实现真正公平和公正的地方政府服务的使用尤为重要。