组织流程是机器学习系统可靠性的关键非技术决定因素。
在我们关于机器学习风险管理的系列文章中，我们已经开始探索确保机器学习（ML）系统值得信赖的关键要素。在我们的第一篇文章中，我们深入研究了“机器学习风险管理的文化能力”，探索了在这个复杂领域中导航所需的人类维度。其中提出的见解为我们目前的探索奠定了基础，因此，我强烈建议在继续阅读本文之前先阅读前一部分。
机器学习风险管理的文化能力
一个组织的文化是负责任的人工智能的重要方面。
towardsdatascience.com
在本文的第二篇文章中，我们将焦点转向ML系统背景下的另一个重要因素：组织流程。虽然技术细节常常掩盖了这些流程，但它们是确保机器学习模型的安全性和性能的关键。正如我们认识到文化能力的重要性一样，我们现在意识到组织流程是构建ML系统可靠性的基石。
本文讨论了组织流程在机器学习风险管理（MLRM）领域中的关键作用。在整篇文章中，我们强调从业者需仔细考虑、记录和主动解决其ML系统中已知或可预见的任何故障模式的重要性。
1️ ⃣. 预测故障模式
虽然在ML系统中识别和解决可能的问题至关重要，但将这个想法付诸行动需要时间和精力。然而，近年来出现了许多资源，可以帮助ML系统设计者更系统地预测问题。通过仔细筛选潜在问题，使ML系统在实际情况下更强大、更安全变得更容易。在这个背景下，以下策略…