要求LLM自我诊断和自我纠正提示，以提高答案质量。
检索增强生成（RAG）无疑是一个强大的工具，可以使用诸如LangChain或LlamaIndex的框架轻松构建。这样的集成便利性可能会给人一种印象，认为RAG是一个易于构建适用于每种用例的神奇解决方案。然而，在我们升级我们的编辑文章搜索工具以提供语义更丰富的搜索结果和直接答案的旅程中，我们发现基本的RAG设置和存在许多挑战。为演示目的构建RAG是快速且容易的，通常在一小部分场景下产生令人满意的结果。然而，要达到生产就绪状态，追求卓越质量，会遇到重大挑战。当涉及到充满了数千个专业领域文章的广泛知识库时，这一点尤为重要。
我们对RAG的方法包括两个不同的步骤：
- 相关文档检索：通过使用密集和稀疏嵌入的融合，我们从Pinecone数据库中提取相关的文档块，考虑内容和标题。然后，基于标题、内容和文档的年龄对这些文档块进行重新排序。然后选择前四个文档：既作为潜在的搜索结果，也作为生成直接答案的文档上下文。值得注意的是，这种方法与常见的RAG设置有所不同，更有效地解决了我们独特的文档检索挑战。
- 直接答案生成：在这里，问题、指令和先前检索到的前四个文档块（文档上下文）被输入到一个大型语言模型（LLM）中生成直接答案。
我在以前的讨论中深入探讨了通过使用混合搜索和分层文档排序技术来提高文档检索质量的方法。在本博客中，我旨在分享有关完善和疑难解答…的见解。