这是如何反击
我相信你一定听说过SQL注入攻击。当攻击者向前端应用程序使用的字段或参数中注入恶意的SQL代码时，就会发生SQL注入。
例如，上面的代码片段可能会迅速导致数据外泄，即窃取和讴歌整个SQL数据库。随着LLM的兴起，一种类似的攻击类型正在威胁着革命的发展。在本文中，您将学到：
- LLM提示注入是什么
- 为什么会发生
- 以及您作为应用程序所有者如何减轻其影响
谁应该阅读这篇文章？
这篇博文对谁有用？有人正在实施LLM到他们的应用程序中吗？
这篇文章有多高级？任何之前了解LLM术语的人都应该能够跟上。
什么是大型语言模型（LLMs）中的提示注入？
类似于SQL，LLM提示注入已成为LLM（如GPT-4）的令人头痛的能力。此方法允许用户注入特定提示，以策略性地引导模型揭示其在前端为用户学到的不应该暴露的数据。
这里有一个例子：
为什么会发生LLM提示注入？
- 过于广泛的训练数据：LLM使用来自互联网的多样化数据集进行训练，其知识涵盖了广泛的主题。在某些情况下，训练数据可能无意中包含敏感或机密信息。
- 训练过程中缺乏内容过滤：在训练阶段，语言模型不主动过滤敏感或机密数据，而是依靠模型在交互过程中不会分享此类信息的假设。
- 数据来源中的固有偏见：如果…