如何将模式检测和模式开发提升到一个新水平
虽然我们大部分人没有意识到，但优化算法（OAs）无处不在发挥作用。它们为我们的杂货店计划货架存货，创建机场日程表，并为我们提供通往度假目的地的最短路线。特别是精确算法非常擅长利用已知结构，例如凸结构，在具有许多约束条件的大决策空间中找到解决方案。在过去几十年里，硬件和算法的改进使速度提升了百万倍。在90年代，一项可能需要计算机数月才能完成的计划任务，今天可能仅需一秒钟。
类似地，机器学习（ML）在过去的十年左右取得了惊人的发展。MuZero展示了无需了解游戏规则就能学习超人级游戏策略的能力，图神经网络学习了人眼无法察觉的复杂关系，而Transformer则催生了ChatGPT及其竞争对手。它们的共同点是这些算法都能够从环境中检测到模式，无论是文本数据库还是视频游戏。新颖而复杂的架构经常被引入，经常解决新问题并提供无与伦比的性能。尽管取得了许多成功和突破，但对于许多实际问题，端到端的机器学习仍然难以实现竞争优势。量身定制的优化算法往往仍然能够击败机器学习，但可能需要大量的计算时间。
然而，这两种方法并不需要竞争。有趣的是，优化算法在利用模式方面表现突出，而机器学习在检测模式方面表现出色。与其将它们对比作为基准，并查看哪一种表现更优秀，是否将这两个互补的部分结合起来更有意义呢？
当合并优化和机器学习时，通常可以简化为以某种形式使用统计学习来改进优化例程。通过这种方式，我们可以通过利用所学习的模式来加速搜索。这样的综合解决方案的开发近年来成为新兴的研究领域…