Press "Enter" to skip to content

认识LMQL:一个用于大型语言模型(LLM)交互的开源编程语言和平台

认识LMQL:一个用于大型语言模型(LLM)交互的开源编程语言和平台 四海 第1张认识LMQL:一个用于大型语言模型(LLM)交互的开源编程语言和平台 四海 第2张

大型语言模型风靡了人工智能社区。它们最近的影响帮助了医疗、金融、教育、娱乐等多个行业的发展。众所周知的大型语言模型,例如GPT、DALLE和BERT,执行了非凡的任务,改善了生活。DALLE 2可以根据简单的文本描述创建图像,GPT-3可以写出优秀的文章,完成代码,总结长篇文本段落,像人类一样回答问题,并仅凭一个简短的自然语言提示生成内容。这些模型正在帮助人工智能和机器学习迅速进行范式转变。

最近,一支研究团队推出了LMQL,一种开源的编程语言和语言模型交互平台。LMQL是Language Model Query Language的缩写,通过结合提示、约束和脚本,改进了大型语言模型(LLM)的能力。作为一种基于Python的声明性SQL语言,LMQL通过控制流、约束引导解码和工具增强,扩展了静态文本提示的功能。借助这种类型的脚本,LMQL可以用很少的代码简化多部分提示流程。

研究人员使用LMQL实现了LMP(Language Model Programming),将语言模型提示从纯文本提示扩展到文本提示和脚本的组合。LMQL从LMP提示中提取约束和控制流,生成高效的推理过程。这些超逻辑和高级约束通过一些评估语义转换为令牌掩码,并在生成过程中严格执行。

团队推出了LMQL,以避免重新查询和验证生成的文本所带来的高成本。这可以帮助LMQL在第一次尝试时生成更接近所需输出的文本,而无需后续迭代。此外,LMQL约束允许用户根据其期望的规范引导或控制文本生成过程,例如确保生成的文本遵循某些语法规则,或避免使用特定的单词或短语。

研究人员提到了LMQL如何捕捉一系列先进的提示方法,如交互式流程,这些方法在现有API中很难实现。评估结果显示,LMQL在许多下游任务上保持或提高了准确性,同时显著降低了计算或使用付费API的成本,节省了13-85%的费用。

LMQL可以简洁明了地表达各种常见和高级提示技术。它与Hugging Face的Transformers、OpenAI API和Langchain集成。相关的开发资源可在lmql.ai上获得,并提供基于浏览器的Playground IDE供实验使用。

总之,LMQL似乎是一个有前途的发展,因为评估表明,LMQL是一个强大的工具,可以提高语言模型编程的效率和准确性。它可以让用户在更少的资源下实现他们期望的结果。

Leave a Reply

Your email address will not be published. Required fields are marked *