随着数字时代的发展，我们发现自己身处于众多传输和存储信息的方式之中。从居住在我们家中的智能设备到推动行业的先进人工智能系统，技术与我们日常生活的交织从未如此复杂。然而，随着这种深度融合，也带来了一个艰巨的现实：我们创建的信息渠道和存储库越多，潜在威胁的范围就越大。这些威胁不仅数量增加，而且影响的程度也增大。当涉及物联网行业中的人工智能安全时，这一点更加明显。尽管物联网引入了革命性的潜力，但也提出了需要我们高度关注的新的安全挑战。
本文旨在将读者沉浸于物联网行业中的人工智能安全世界，探索其中的漏洞、潜在威胁以及确保更安全数字未来的策略，同时让读者更加了解构成该主题的不同种类的“安全性”。
IT安全、信息安全和网络安全：理解区别
如今，IT安全、信息安全和网络安全等术语经常被混用。这不可避免地导致了对其含义的普遍困惑，甚至在技术行业的专业人士中也是如此。随着我们深入物联网和人工智能安全领域，区分这些术语变得至关重要。虽然一开始可能有些令人困惑，但我们将会尝试通过一步一步的讲解来揭示这个多层系统。
让我们先看一下图表。
处理安全问题是我们所称之为风险管理。风险管理可能涉及到各种与IT相关的问题，但在现代世界的某个时刻，它不可避免地与信息技术交叉。这个交叉包括IT安全、信息安全和网络安全。让我们更仔细地研究每个方面。
IT安全专注于保护数字数据和处理数字数据的系统。它强调保护计算机系统免受盗窃、损坏或未经授权访问。这可能涉及到保护免受恶意软件、钓鱼等的措施。
如果您看一下IT安全的类型，您可能会看到一些新的方面。它包括网络安全、互联网安全、端点安全、云安全和应用安全。
信息安全本质上是关于保护信息免受未经授权的访问、使用、披露、干扰、修改或破坏。信息安全的主要目标是维护数据的机密性、完整性和可用性。信息安全的类型包括应用安全、云安全、基础设施安全、事件响应、密码学、灾难恢复和漏洞管理。
网络安全则是信息安全的一部分，并占据了它的主要部分。网络安全专门处理保护系统、网络和数据免受网络威胁。然而，网络安全也属于信息安全，并与IT安全部分重叠。网络安全的策略可能涉及防火墙、入侵检测系统、加密协议等。如果您想了解更多关于网络安全的类型，它包括网络安全、云安全、端点安全、应用安全和物联网安全。
在网络安全框架下，物联网攻击是指针对物联网设备或系统的网络攻击。一旦受到攻击，网络犯罪分子可以接管设备、提取信息，或将其纳入一系列受损设备的集合中，形成僵尸网络以发起拒绝服务或分布式拒绝服务攻击。
近期由诺基亚威胁情报实验室的调查结果显示，这类恶意物联网僵尸网络活动频繁出现，自2022年以来有了巨大的浪潮。实验室创始人Kevin McNamee的见解表明，在网络中观察到的恶意软件活动中，大约60%可以归因于物联网僵尸网络。
在一次专门讨论5G时代移动僵尸网络增加的采访中，Kevin McNamee讨论了与之前的几代相比，5G网络在安全方面提供了增强的功能，特别是在移动核心领域。随着移动时代的来临，与之前的个人电脑时代不同，活跃的移动用户数量显著增加。随着移动和物联网设备的兴起，5G的增加带宽扩大了潜在的攻击面，特别是随着物联网设备的增长。一项创新的5G功能，”网络切片”，允许为不同应用程序设计专门的安全措施。
然而，可以说物联网领域的攻击与其发展的步伐一致，这是一种低估。随着人工智能能力的提升，攻击者可以通过日常使用的设备侵入个人生活，并利用它们来实现他们追求的目的。
在美国系列节目《Next》中，将IoV（车联网）领域中的漏洞置于重要位置。在这里，计算机科学家理查德·魏斯（Richard Weiss）在注意到一系列复杂的非人类网络攻击后，对使用电子设备变得越来越多疑，并开始完全避免使用它们。尽管他采取了预防措施，但他仍然成为人工智能发起的车辆攻击的目标。这次攻击导致了一次接近致命的事故，唯一的证据是他的电脑被清除之前保存的一张代码快照。这样的故事揭示了当车辆变得更加互联和依赖技术时，恶意人工智能驱动的攻击可能带来的潜在危害。
另一个例子可以在更实际的场景中找到。据《Verdict》报道，智能家居设备越来越受到人们关注，因为它们存在潜在的网络安全漏洞。文章指出，许多设备缺乏安全基础设施，如传统操作系统，并且通常带有硬编码密码，使它们容易受到攻击。另一个令人担忧的因素是，一个被入侵的设备可能成为同一网络中其他设备的入口。因此，智能家居生态系统中的一个薄弱环节，无论是门铃、摄像头还是甚至是鱼缸，都可能危及整个网络的安全。
此外，工业物联网（IIoT）将数字技术整合到工业环境中。其核心是工业控制系统（ICS），这是专门监管交通、能源和水务等关键基础设施的专用网络设备。由于它们在重要基础设施中的作用，任何一次入侵都可能造成灾难性后果，这已经在各种威胁评估和事件中有所记录。
《工业控制系统网络事件历史》（Hemsley, Kevin E.和E. Fisher, Dr. Ronald, 2018）中提到的2012年工业控制系统-计算机应急响应团队（ICS-CERT）发现针对天然气管道行业的网络入侵，描绘了潜在的破坏力，这些威胁能够摧毁整个城市。同样，该文章提供了对石油、石化和能源制造等重要行业的各种攻击。
下表汇集了上述研究的信息，包括网络安全公司、独立安全专家和新闻媒体等多个来源。这份汇编突出了对ICS设备和基础设施的主要网络威胁、事件和行动（尽管事件数量不限于这些示例）。从图表可以看出，网络攻击以不同形式出现，并产生各种后果。但是必须记住，人工智能攻击的潜力是巨大的。例如，对核能行业的人工智能驱动攻击可能会带来灾难性后果，足以摧毁整个国家。
什么是人工智能安全及其在物联网保护中的作用？
人工智能安全指的是为了保护人工智能系统、机器学习模型和相关技术免受潜在威胁、漏洞和恶意活动而实施的一系列实践、策略和措施。它包括一系列保护措施，以确保AI系统在其整个生命周期中的完整性、机密性、可用性和道德使用。人工智能安全的类型包括：
数据安全确保AI系统使用的数据的机密性、完整性和可用性，并包括加密、访问控制、安全数据存储和数据匿名化等措施，以防止未经授权的访问或数据泄露。
隐私保护作为人工智能安全的一个重要组成部分，可以分为两个领域。差分隐私包括通过在数据中引入受控的扰动来保护个人隐私，同时不影响数据的总体有用性。相反，联邦学习允许将训练过程分散到各个设备上，以防止原始数据的泄露。
信息安全也有几种类型，与人工智能相关。例如，AI系统也可能成为恶意软件和入侵企图的目标。实施入侵检测系统和实时监控有助于识别和缓解此类威胁，即漏洞管理。
值得注意的是，安全措施需要持续监控和调整，以应对新的威胁和人工智能系统的演变。威胁情报使人们能够及时了解不断演变的威胁和漏洞，而补丁管理则意味着定期应用更新和补丁以修复漏洞，这是必要的保护方法之一。
除了上述方法，还需要进行事件响应和恢复。安全事件响应包括应对安全漏洞或攻击的协议。作为事后措施，灾难恢复帮助规划在事件发生后恢复正常运营。
可解释性和透明性作为AI安全的另一个层面，确保AI模型是可解释和透明的。这对于识别漏洞和理解决策的方式至关重要。透明的模型更容易进行审计和调试。
人工智能与人类交互安全确保人类与AI系统之间的交互是安全的。这包括保护用户数据，防止冒充攻击，并确保AI生成的输出不被用于恶意目的。
模型安全则着重保护AI模型本身免受对抗性攻击、模型反转攻击和中毒攻击等攻击，例如：
- 对抗扰动：恶意输入，用于欺骗AI模型产生错误预测。
- 迁移攻击：适用于不同AI模型的对抗性攻击。
- 白盒和黑盒攻击：这取决于攻击者对目标模型架构的了解。
偏见和公平性安全在AI中涉及检测和减少数据和模型中的偏见，同时确保预测是公正的。这个层面围绕着偏见缓解-一种用于识别和减少训练数据中的偏见的技术，以及公平感知学习-用于设计在不同人口群体中进行公正预测的模型。
生命周期安全涵盖了在整个AI系统的生命周期中应该实施的措施，从设计和开发到部署和废弃。这包括安全编码实践、定期更新和正确处置系统。
合规性监管确保AI系统必须符合相关法规，例如数据保护法（例如GDPR）、行业特定法规和伦理准则。这使我们进一步审视AI伦理安全，确保AI系统在开发和部署过程中遵守伦理使用政策。
最后，混合人工智能和人类安全同样重要，它提供了人工智能威胁检测和整体人类监督的人在环节安全。这有助于确保人工智能决策经过人类审查。
可以采取哪些措施？
使用AI安全来防止物联网和工业物联网攻击需要采取多面手。处理数据时必须特别小心，确保在AI模型中负责任地使用数据。此外，通过防止用户端上传不必要的数据来保护个人数据。
智能设备易受攻击的例子告诉我们，对用户端点（如移动设备、笔记本电脑和物联网设备）进行持续更新和修补漏洞是至关重要的。
此外，企业责任变得更加重要。AI公司必须理解并融入全球责任的深刻意识。尽管通过道义义务来灌输这种意识可能具有挑战性，但立即采取立法和监管措施可以弥合差距。将其推广到更广泛的层面，立法修订也是至关重要的。
除此之外，还应限制AI对物联网领域的不必要访问，确保只进行必要和安全的交互。
最后，我要坚持三重强调安全。安全、安全，再次强调安全，强调保护系统的至高重要性。就像IT安全、信息安全和网络安全有其重要角色一样，AI安全现在也加入了这一行列。AI安全类型必须与上述解决方案配对，确保全面保护。