近年来，人工智能（AI）的繁荣与AI能够更快地完成工作并减少努力有多大关系。现如今，几乎没有任何领域不使用AI。例如，从Amazon Echo和Google Home等语音助手中的AI代理到使用机器学习算法预测蛋白质结构，AI无处不在。因此，合理地相信与AI系统合作的人会做出比单独行动更优越的决策是合理的。但实际情况是否确实如此呢？
以往的研究表明，情况并非总是如此。在一些情况下，AI并不总是产生正确的反应，这些系统必须进行重新训练以纠正偏见或其他问题。然而，对人工智能决策团队有效性构成危险的另一个相关现象是AI过度依赖，即人们受到AI影响并经常接受不正确的决策而不验证AI的正确性。在进行诸如识别银行欺诈和提供医学诊断等关键和重要任务时，这可能非常有害。研究人员还表明，解释性人工智能并不能减少AI过度依赖问题，解释性人工智能是指AI模型在每一步解释为何做出某个决策而不仅仅提供预测。一些研究人员甚至声称，认知偏见或未校准的信任是过度依赖的根源，将过度依赖归因于人类认知的不可避免性。
然而，这些研究结果并未完全证实AI解释应该减少过度依赖的观点。为了进一步探索这一点，斯坦福大学人类中心人工智能（HAI）实验室的研究团队声称，人们在是否与AI解释进行交互方面是有策略选择的，表明在某些情况下，AI解释可以帮助人们减少过度依赖。根据他们的论文，当相关的AI解释比手头的任务容易理解，并且这样做有更大的利益（可以是财务奖励形式），个体更不可能依赖于AI的预测。他们还证明，当我们专注于与解释互动而不仅仅是让目标提供解释时，可以大大减少对AI的过度依赖。
该团队将这种策略性决策在成本收益框架中进行了测试。在这个框架中，主动参与任务的成本和效益与依赖AI的成本和效益进行了比较。他们邀请在线众包工人与AI合作解决三个不同复杂度的迷宫挑战。相应的AI模型提供答案，要么没有解释，要么提供了多个程度的解释，从下一步的单个指令到退出整个迷宫的逐步指导。试验结果表明，诸如任务难度和解释难度之类的成本以及货币补偿等利益大大影响了过度依赖。对于AI模型提供逐步指导的复杂任务，过度依赖并没有减少，因为解读生成的解释与独自解决迷宫一样具有挑战性。此外，当能够独立解决迷宫时，大多数解释对过度依赖没有影响。
该团队得出结论，如果手头的工作具有挑战性并且相关的解释清晰明了，它们可以帮助防止过度依赖。然而，当工作和解释都很困难或简单时，这些解释对过度依赖几乎没有影响。如果活动容易执行，那么解释并不重要，因为人们可以自己轻松地执行任务，而不是依赖解释生成结论。此外，当任务复杂时，人们有两个选择：要么手动完成任务，要么检查生成的AI解释，这些解释通常同样复杂。这主要是因为AI研究人员可用的解释工具很少，需要的验证工作比手动执行任务要少得多。因此，人们倾向于相信AI的判断而不质疑它或寻求解释，并不奇怪。
作为一项额外的实验，研究人员还将经济利益因素引入了方程式。他们向众包工人提供了独立完成不同难度的迷宫任务以获得一笔钱的选择，或者以较少的金钱换取AI的帮助，要么没有解释，要么提供复杂的逐步指导。研究结果显示，当任务具有挑战性时，工人更重视AI的帮助，并更喜欢简单明了的解释。此外，发现随着使用AI的长期好处增加（在本例中是财务奖励），过度依赖减少。
斯坦福研究人员对他们的发现寄予厚望，希望能给那些被事实解释不能减少过度依赖的学者们带来一些安慰。此外，他们希望通过提供引人入胜的论据，激励可解释的人工智能研究人员，以改进和简化人工智能的解释。
查看论文和斯坦福文章。此研究的所有荣誉归功于该项目的研究人员们。此外，请不要忘记加入我们的26k+ ML SubReddit、Discord Channel和Email Newsletter，我们在那里分享最新的人工智能研究新闻、酷炫的人工智能项目等等。
使用Tensorleap的可解释性平台揭示深度学习的秘密
这篇文章来源于MarkTechPost，介绍了斯坦福的一项新的人工智能研究，展示了解释如何在决策过程中减少对人工智能系统的过度依赖。