用LlamaIndex从原型到生产的方式
LLMs是一项令人惊叹的创新，但它们有一个主要缺陷。它们的知识有限，并且有编造事实和凭空创造东西的倾向。危险在于LLM总是以有信心的回应，并且我们只需要稍微调整提示就可以欺骗LLM。RAG（Real Attentive Guide）来了，用于解决这个问题。RAG通过为LLM提供事实背景信息，显著提高了LLM的实用性，使其能够在回答查询时提供准确的上下文。
通过几行代码和一个快速入门指南，使用类似LlamaIndex的框架，任何人都可以构建一个与您的私人文档聊天的聊天机器人，甚至可以构建一个能够在互联网上搜索的全新代理。
但是
如果只是按照快速入门指南，您将永远无法做到准备就绪。
这五行代码不会产生一个非常实用的机器人。RAG在原型设计阶段简单易用，但在“生产”或达到顾客满意度的阶段却很困难。通过一些教程，RAG可能能够以可以接受的水平运行。然而，通常需要一些大规模测试和策略来优化以满足真实的生产级别要求。仍然需要不断发展最佳实践，并根据具体用例做出调整。发现最佳实践是值得的，从不同的索引技术到嵌入算法或更改LLM模型。
在本文中，我将讨论RAG系统的能力。它专为希望填补入门级设置和生产级性能之间性能差距的RAG构建者设计。
RAG管道包括3个阶段：
- 索引阶段
- 查询阶段
- 响应阶段
在本文中，改进是一个泛指，指涉可以用于改善管道的任何内容，通常指提高系统识别相关上下文并生成合适答案的查询百分比。
我假设读者已经对LlamaIndex和RAG管道有所了解。如果还不熟悉，你可以……