北卡罗来纳州立大学的Tianfu Wu及其同事开发了QuadAttacK软件，用于测试深度神经网络的对抗性漏洞。
Wu解释说，使用干净数据对受过训练的人工智能(AI)系统进行测试时，其行为将按预期发生。
他说：“QuadAttacK观察这些操作，并学习AI在与数据相关的决策方面是如何进行的。这使得QuadAttacK能够确定如何操纵数据以欺骗AI。然后，QuadAttacK开始向AI系统发送操纵后的数据，以观察AI的响应。如果QuadAttacK发现了漏洞，它就能迅速使AI看到QuadAttacK想让它看到的东西。”
研究人员使用他们的QuadAttacK软件测试了四个广泛使用的深度神经网络，并发现这四个网络都存在漏洞。来自NC State University News 查看完整文章
摘要版权 © 2023 SmithBucklin，华盛顿特区，美国 