Safety & Security – 四海吧

上个月，我们推出了安全AI框架（SAIF），旨在帮助解决AI系统的风险，并以负责任的方式推动技术的安全标准为了建立这一势头，今天我们发布了一份新的报告，探讨我们用来支持SAIF的一个关键能力：红队测试我们相信，红队测试将在为每个组织应对对AI系统的攻击方面发挥决定性作用，并期待共同努力，帮助每个人以安全的方式利用AI该报告研究了我们建立专门的AI红队的工作，并包括三个重要方面：1）红队测试在AI系统背景下的含义及其重要性；2）AI红队模拟的攻击类型；3）我们从中学到的经验教训，可以与他人分享什么是红队测试？Google红队由一组黑客组成，模拟各种对手，从国家机构和知名的高级持续性威胁（APT）组织到黑客激进主义者、个体犯罪分子甚至恶意内部人员这个术语来自军事领域，用来描述指定团队扮演对抗角色（“红队”）与“主队”对抗的活动