揭示Meta AI提出的新的可解释模型
机器学习和人工智能在各个领域的广泛应用带来了关于风险和伦理评估的提高挑战。就像ProPublica报道的犯罪再犯模型案例研究中所看到的那样，机器学习算法可能具有极高的偏见，因此需要强大的可解释机制，在将这些模型部署在高风险领域时确保信任和安全。
那么，我们如何在保持解释能力的同时平衡准确性和模型的表达能力呢？Meta AI研究人员提出了一种他们称之为“神经基础模型（NBMs）”的新方法，它是通用加性模型(GAM)的一个子家族，能够在基准数据集上实现最先进的性能，同时保持透明解释性。
在本文中，我将解释NBM和它成为一种有益模型的原因。像往常一样，我鼓励大家阅读原始论文。
如果您对可解释的机器学习和伦理人工智能的其他方面感兴趣，考虑阅读我的一些其他文章并关注我！
可解释和伦理人工智能
查看列表3篇故事
背景：GAMs模型
NBM被认为是通用加性模型(GAM)的一种。GAM是一种内在可解释的模型，它为每个特征学习一个形状函数，通过“查询”形状函数来进行预测。由于这些形状函数是独立的，可以通过可视化这些形状函数来理解特征对预测的影响，使其具有高度的可解释性。变量之间的相互作用通过将多个变量传入同一个函数并基于此构建形状函数来建模（通常将变量数量限制为2以实现互操作性），这种配置称为GA2M。
不同的GAM和GA2M模型使用不同的机制来开发这些形状函数。可解释提升机(EBM)[2]使用一组根据每个特征训练的提升树, 神经加性模型(NAMs)[3]为每个特征使用深度神经网络, NODE-GAM[4]使用合…