Press "Enter" to skip to content

LlamaIndex 最新版本:从基础到高级技术的Python学习指南-(第三部分)

LlamaIndex 最新版本:从基础到高级技术的Python学习指南-(第三部分) 四海 第1张

这是LlamaIndex系列的第三部分。你应该先读第二部分。

在本系列的第二部分中,我们讨论了文档存储、服务上下文、LLM预测器等内容。如果你还没有阅读过,请去看一下。

LLM预测器

LLMPredictor是用于获取文本回复(完成)的语言模型的一部分。

下面你可以看到一个名为LLMPredictor的类已经被设置了

list_index.service_context.llm_predictor

<llama_index.llm_predictor.base.LLMPredictor at 0x7f076a4e1db0>

LlamaIndex的LLM类提供了一个统一的接口,用于定义LLM模块,无论是OpenAI、Hugging Face还是LangChain。

最初,它是LangChain的LLMChain类的一个包装器,但后来作为一个独立模块进行了开发。

LLM – LlamaIndex 🦙 0.7.9

选择合适的大型语言模型(LLM)是构建任何LLM时需要考虑的第一步之一…

gpt-index.readthedocs.io

下面是一个模块列表,除了OpenAI之外,你还可以使用Anthropic、Hugging Face、Palm等。

模块 – LlamaIndex 🦙 0.7.9

OpenAI代理 + 查询引擎实验性手册

gpt-index.readthedocs.io

你可以在下面检查LLMPredictor的属性。

list_index.service_context.llm_predictor.__dict__

{'_llm': OpenAI(model='text-davinci-003', temperature=0.0, max_tokens=None, additional_kwargs={}, max_retries=10), 'callback_manager': <llama_index.callbacks.base.CallbackManager at 0x1fdbee5b040>}

作为LLM,使用了OpenAI类,它负责主要的处理过程。

type(list_index.service_context.llm_predictor.llm)

llama_index.llms.openai.OpenAI

你可以在下面检查OpenAI类的属性。

Leave a Reply

Your email address will not be published. Required fields are marked *