人工智能（AI）系统在引入大型语言模型（LLM）后取得了显著的进展。由OpenAI发布的ChatGPT、Google发布的Bard和Llama-2等领先的LLM在进行创新应用方面展示了卓越的能力，包括帮助工具使用和增强人类评估，以及模拟人类的互动行为。这些LLM的广泛部署得益于它们的非凡能力，但这也带来了确保其响应的安全性和可靠性的重大挑战。
在非自然语言，特别是密码方面，最近团队的一项研究引入了几个重要的贡献，推动了对LLM的理解和应用的进一步发展。这些创新旨在提高LLM在特定语言环境下交互的可靠性和安全性。
该团队推出了CipherChat，这是一个专门创建的框架，旨在评估从自然语言领域到非自然语言领域的安全对齐方法的适用性。在CipherChat中，人类通过基于密码的提示、详细的系统角色分配和简洁的加密演示与LLM进行交互。这种架构确保了对LLM对密码的理解、对对话的参与以及对不适当内容的敏感性进行全面的检查。
这项研究强调了在处理非自然语言（如密码）时，即使是LLM也需要创建安全对齐方法，以成功匹配底层LLM的能力的重要性。虽然LLM在理解和产生人类语言方面表现出非凡的技能，但研究表明它们也展示了在理解非自然语言方面的意外能力。这些信息突显了开发涵盖这些非传统沟通形式以及传统语言学范畴内的安全规定的重要性。
使用各种现实人类密码对现代LLM（如ChatGPT和GPT-4）进行了一系列实验，以评估CipherChat的表现。这些评估涵盖了11个不同的安全主题，并提供中英文版本。研究结果指出了一个令人震惊的模式，即某些密码能够成功绕过GPT-4的安全对齐程序，在一些安全领域几乎100%的成功率。这一实证结果强调了为非自然语言（如密码）创建定制的安全对齐机制以确保LLM在各种语言环境中的回答的稳健性和可靠性的紧迫性。
该团队表示，该研究揭示了LLM内存在秘密密码的现象。与其他语言模型中观察到的秘密语言概念相类似，该团队假设LLM可能具有解密某些编码输入的潜在能力，从而暗示了一种独特的与密码相关的能力的存在。
基于这一观察，引入了一种名为SelfCipher的独特有效的框架，它仅依靠角色扮演场景和少量自然语言演示来调用和激活LLM内部的潜在秘密密码能力。SelfCipher的有效性展示了利用这些隐藏的能力来增强LLM在解密编码输入和生成有意义的回应方面的潜力。