如何在每天发布的模型汪洋中航行？
过去几个月，各种生成模型的参数大小发生了大幅减少，比如最近发布的新的Mistral AI模型。大小的减小为你提供了自己的个人助手AI的可能性，可以通过本地计算机与你联系。这种本地推理非常诱人，以确保在你的数据上进行保密计算。随着所有这些新的发展，部署和管理AI工作负载与6个月前不同，且不断发展变化。如何使用其中一个模型来玩弄它，或者甚至将其托管在公司的基础设施上？
我认为，在使用任何由他人托管的API模型之前，尝试使用不同类型的模型是一个好方法，以了解这些不同模型系列的表现。所以假设你不会立刻使用API模型，那么你该如何下载和使用模型呢？
为此，你有两种类型的模型：专有模型和开放模型。专有模型包括OpenAI、Cohere等，它们都有自己的API。开放模型可以完全开放或半限制模型，取决于其许可证，比如商业、非商业、仅用于研究等。
寻找这些模型的最佳地方是在HuggingFace上。在模型页面上，你可以看到他们拥有超过350,000个各种任务的模型可供选择。所以你确实有几个可以选择的！
注意的一点是，并非所有这些模型都在使用/将会被使用。其中一些可能只是某人在一个下午尝试一些东西，然后再也没有更新过。找到最有用的模型的一个关键指标是看看多少人下载了模型并喜欢它。例如，你可以根据你正在寻找的任务类型进行过滤，比如文本分类，然后从那里可以看到哪些是最多人下载的并且是趋势模型的过滤结果…