近年来，LLM在自然语言处理（NLP）领域越来越受欢迎。基于神经网络的机器学习模型的扩展使得最近取得了一些进展，产生的自然语言几乎和人类产生的语言难以区分。
LLM可以提高人类的生产力，从代码生成到辅助写邮件和共同撰写大学作业，都有很好的效果，并在法律、数学、心理学和医学等领域展现出了惊人的成果。尽管取得了这些进展，学术界对其文本生成技能的有害使用问题提出了许多问题。
因此，蒂尔堡大学和伦敦大学学院的研究人员对LLM的安全研究现状进行了调查，并根据危险、预防措施和安全漏洞对现有技术进行了分类。LLM复杂的生成能力使其成为制造网络钓鱼邮件、恶意软件和虚假信息等威胁的天然滋生地。
包括内容过滤、从人类反馈中强化学习和红队测试在内的现有努力都旨在减少这些能力带来的风险。然而，由于不足的防范措施和遮掩技术（如越狱和即时注入），漏洞会出现，之前被禁用的威胁重新出现。研究人员澄清了关键术语，并针对每个广泛领域提供了学术和现实示例的全面参考文献。
该论文解释了为何任何不能完全消除LLM不良行为的技术都会使模型容易受到快速对抗的攻击。研究也提出了类似的观点，认为大型人工智能模型（LAIMs），包括语言领域以及超越语言的基础模型，由于其训练数据所具有的三个特征，本质上是不安全和脆弱的。他们还指出，如果我们要增加模型的安全性，那么与基准模型相比，准确性将显著下降。这种论点进一步质疑了LLM的安全和可靠程度。鉴于LLM的实用性和安全性之间的紧张关系，LLM的提供者和用户都应该仔细考虑这种权衡。