在ChatGPT之后，每家公司都在努力制定自己的AI战略，但这很快引发了一个问题：安全性如何？ 有些人可能对保护新技术感到不知所措。好消息是，今天已经有了一些政策和实践，这些都是很好的起点。 事实上，前进的道路在于扩展企业和云安全的现有基础。这是一个可以总结为六个步骤的旅程： 扩大对威胁的分析 拓宽应对机制 保护数据供应链 利用AI扩大努力 保持透明 持续改进 AI安全是在现有的企业保护基础上构建的。 拓展视野 第一步是熟悉新的领域。 安全现在需要覆盖AI开发的整个生命周期。这包括新的攻击面，如训练数据、模型以及使用它们的人员和流程。 通过对已知类型的威胁进行推演，以识别和预测新出现的威胁。例如，攻击者可能会在云服务上训练模型时访问数据，试图改变AI模型的行为。 过去进行漏洞探测的安全研究人员和红队将再次成为重要资源。他们需要访问AI系统和数据，以识别和应对新的威胁，并帮助与数据科学人员建立良好的工作关系。 拓宽防御 在威胁情况清楚之后，确定对抗这些威胁的方法。 密切监控AI模型的性能。假设它会漂移，出现新的攻击面，就像传统安全防御会被攻破一样。 同时建立已经存在的PSIRT（产品安全事件响应团队）实践。 例如，NVIDIA发布了涵盖其AI产品组合的产品安全政策。包括Open Worldwide Application Security Project在内的一些组织已经发布了针对AI的关键安全要素的实施，例如用于识别传统IT威胁的常见漏洞枚举方法。 将传统的防御措施如下列应用于AI模型和工作流中：…
Leave a CommentTag: NGC
一支由五位机器学习专家组成的NVIDIA团队遍布四大洲，在一场激烈竞争的声望赛事中赢得了三项任务，建立了最先进的推荐系统。 这些结果反映了该团队运用NVIDIA人工智能平台解决数字经济引擎的实际挑战的能力。推荐系统每天为数十亿人提供数以万计的搜索结果、广告、产品、音乐和新闻故事。 在亚马逊KDD Cup ’23中，超过450支数据科学家团队参赛。这场为期三个月的挑战经历了不少曲折和紧张的结局。 进入高速挡 在比赛的前10周，该团队一直处于领先地位。但在最后阶段，组织者切换到新的测试数据集，其他团队迎头赶上。 NVIDIAN团队加班加点，夜以继日地工作，以迎头赶上。团队成员从柏林到东京的不同城市留下了一串串日夜不停的Slack消息。 “我们一直在不停地工作，这非常令人兴奋，”圣地亚哥的团队成员Chris Deotte说道。 换个名字也是产品 最后一个任务是最难的。 参赛者需要根据用户浏览会话的数据预测用户会购买哪些产品。但训练数据中并没有包含许多可能的选择的品牌名称。 “我从一开始就知道，这将是一个非常非常困难的测试，”Gilberto“Giba”Titericz说道。 KGMON来拯救 Titericz位于巴西库里奇巴，是Kaggle竞赛中四位伟大大师级别的团队成员之一，这是数据科学的在线奥林匹克。他们是一支机器学习忍者团队，赢得了数十个比赛。NVIDIA创始人兼首席执行官Jensen Huang称他们为KGMON（NVIDIA的Kaggle大师），这是对宠物小精灵的戏仿。 Titericz在数十次实验中使用大型语言模型（LLMs）构建生成性人工智能来预测产品名称，但都没有成功。 在一次创造性的灵光乍现中，团队发现了一个变通方法。使用他们的新的混合排序/分类器模型进行预测非常准确。 最后冲刺 在比赛的最后几个小时里，团队争分夺秒地将所有模型打包在一起进行最后的提交。他们整夜在多达40台计算机上进行实验。 东京的KGMON成员小野寺一直感到紧张。“我真的不知道我们的实际得分是否与我们估计的一致，”他说。 四位KGMON成员（从左上角顺时针）：小野寺、Titericz、Deotte和普吉特。 同样是KGMON成员的Deotte回忆说：“大约100个不同的模型一起工作，产生一个单一的输出……我们将其提交到排行榜，然后一触即发！” 该团队在AI界相当于照片结束线上稍微领先于最接近的对手。…
Leave a Comment