评估内部语言模型部署中的漏洞和风险缓解
在AI安全领域，聚光灯经常集中在突出的外表上——提示。它作为公开接口，在捕捉我们的想象力的同时，也暴露了漏洞：生成恶意内容的潜力、数据隐私的担忧、注入和利用的潜在威胁，以及对抗性对话的广泛领域。然而，我的关注点在这个表面之下，深入到未知领域。
我被操作自己的大型语言模型（LLM）部署的复杂机制所吸引，以及那些试图突破其防御的恶意行为者所带来的即将到来的挑战。随着公司越来越多地采用内部LLM，安全成为一个重要关注点。
事实上，对于许多大型企业来说，这将成为唯一可行的选择，使他们能够利用AI与他们的专有数据，就像企业内部版本的工具（如Githhub和Jira）一样不可或缺。这一趋势甚至促使像苹果和三星这样的技术巨头禁止他们的员工使用外部LLM资源。例如，思科最近将阻止功能整合到他们自己的安全产品中以解决这个问题。
虽然像谷歌、OpenAI和Anthropic等基于订阅的提供商在可预见的未来可能仍然主导着对大型和强大的LLM的访问，但形势正在发生变化。多亏了开放获取模式的不断增长势头（得益于Meta！）以及不断出现的新技术，如微调、蒸馏和量化，一个“人人都有LLM”的未来正在向我们展望。从长远来看，没有一座堡垒能抵挡住进步的浪潮。
当我们面对操作和保护自己的LLM时，我们必须应对与这个不断发展的领域固有的独特挑战…