Jonathan Dambrot是Cranium AI的首席执行官兼联合创始人，该企业帮助网络安全和数据科学团队了解AI在其系统、数据或服务中的影响。
Jonathan曾是KPMG的合伙人，网络安全行业领袖和远见者。在加入KPMG之前，他带领Prevalent成为Gartner和Forrester在第三方风险管理领域的行业领导者，后来于2016年底被Insight Venture Partners收购。2019年，随着公司在新领导下继续增长，Jonathan将Prevalent的首席执行官职位移交给了其他人。他在许多出版物中发表过评论，并经常向客户群体讲解IT、信息安全和合规趋势。
您能分享一下Cranium AI背后的创立故事吗？
我在2021年6月左右担任KPMG的合作伙伴，全球领导第三方安全服务时，有了创建Cranium AI的想法。我们为一些最大的客户构建和提供了由AI驱动的解决方案，但我发现我们对抗敌对威胁的安全措施几乎为零。于是，我把同样的问题提给我们最大客户的网络安全领导者，得到的答案同样糟糕。许多安全团队甚至从未与数据科学家交谈过，当涉及技术时，他们使用完全不同的语言，根本无法看到企业中运行的AI。所有这些，再加上不断增长的法规发展，促使我们构建一个能够为AI提供安全性的平台。我们开始与KPMG Studio孵化器合作，并引入一些最大的客户作为设计合作伙伴，以指导大型企业的需求开发。今年1月，Syn Ventures参与完成了种子资金，我们于3月独立于KPMG，并于2023年4月揭开面纱。
Cranium AI Card是什么，它能揭示哪些关键见解？
Cranium AI Card允许组织高效地收集和共享有关其AI模型的信任度和合规性的信息，同时可以了解供应商的AI系统的安全性。最终，我们希望为安全和合规团队提供能力，以可视化和监控其供应链中的AI安全性，使其自身的AI系统与当前和未来的合规要求和框架保持一致，并轻松地分享其AI系统的安全性和可信度。
人们对AI的信任问题有哪些，这个解决方案如何解决这些问题？
人们通常想知道他们正在使用的AI背后是什么，特别是随着越来越多的日常工作流程以某种方式受到AI的影响。我们希望为客户提供能力回答他们自己的客户即将提出的问题，例如“这是如何管理的？”，“有什么措施来保护数据和模型？”，“这些信息是否经过验证？”AI Card为组织提供了快速解答这些问题的方式，并展示其AI系统的透明性和可信度。
在2022年10月，白宫科学技术政策办公室（OSTP）发布了《人工智能权利法案蓝图》，该蓝图提供了一个非约束性的为负责任使用AI的指导路线图。您能谈一下对此法案的利弊的个人观点吗？
尽管白宫首次迈出了为负责任的AI定义指导原则的重要一步，但我们认为它并不足以提供给组织的指导，而不仅仅是个人担心申诉基于AI的决策。未来的监管指导应该不仅适用于AI系统提供商，也适用于用户，以便他们能够以安全和可靠的方式理解和利用这项技术。最终，主要的好处是AI系统将更安全、更包容和更透明。然而，如果组织没有基于风险的框架来为未来的监管做好准备，尤其是在满足透明度和可解释性要求在技术上不可行的情况下，有可能减缓创新的速度。
Cranium AI如何帮助企业遵守这项权利法案？
Cranium Enterprise帮助企业开发和交付安全可靠的系统，这是权利法案中的第一个关键原则。此外，AI Card通过允许组织分享其AI系统的实际工作方式和使用的数据，帮助组织满足通知和解释的原则。
NIST AI风险管理框架是什么，Cranium AI将如何帮助企业实现其对该框架的AI合规义务？
NIST AI RMF是一个框架，用于帮助组织更好地管理与人工智能相关的个人、组织和社会风险。它与NIST的其他框架非常相似，通过概述成功的人工智能风险管理计划的结果来进行结构化。我们将我们的AI卡片与框架中概述的目标进行了映射，以支持组织跟踪其AI系统与框架的一致性，并且由于我们的企业平台已经收集了很多这方面的信息，我们可以自动填充和验证一些字段。
欧盟AI法案是我们近期看到的一项重大AI立法之一，为什么非欧盟公司应遵守该法案？
类似于数据隐私的GDPR，AI法案将从根本上改变全球企业开发和运营其AI系统的方式。总部位于欧盟以外的组织仍需要关注并遵守这些要求，因为任何使用或影响欧洲公民的AI系统都将受到要求的约束，无论公司的所在地如何。
Cranium AI如何为欧盟AI法案做准备？
在Cranium，我们从一开始就一直关注AI法案的发展，并根据其多年来的演变来定制我们的AI卡片产品，以支持公司满足合规要求。我们认为，由于我们对AI法案的早期了解以及它的演变，我们已经取得了很大的先机。
为什么负责任的AI应成为企业的重要任务？
人工智能嵌入到每个业务流程和功能中的速度意味着如果不负责任，事情很快就会失控。在人工智能革命的开始阶段优先考虑负责任的AI将使企业能够更有效地扩展，并且不会在后期遇到重大障碍和合规问题。
您对Cranium AI的未来愿景是什么？
我们希望Cranium成为安全可信的真正类别领导者。虽然我们无法解决诸如道德使用和可解释性等复杂挑战，但我们希望与负责任AI其他领域的领导者合作，推动生态系统的发展，使我们的客户可以简单地涵盖所有负责任AI领域。我们还希望与创新生成AI解决方案的开发者合作，支持这些能力的安全性和可信度。我们希望Cranium使全球企业能够以安全可信的方式继续创新。
感谢这次精彩的采访，希望想了解更多的读者可以访问Cranium AI。