麻省理工学院的衍生企业Verta提供工具，帮助企业安全地引入、监控和管理机器学习模型，并实现规模化
当今，企业将人工智能融入到业务的各个角落。这个趋势预计将持续下去，直到机器学习模型被纳入到我们每天互动的大部分产品和服务中。
随着这些模型成为我们生活中更重要的一部分，确保它们的完整性变得更加重要。这就是Verta的使命，它是一家从麻省理工学院计算机科学和人工智能实验室（CSAIL）中分离出来的初创公司。
Verta的平台帮助企业安全地、规模化地部署、监控和管理机器学习模型。数据科学家和工程师可以使用Verta的工具追踪不同版本的模型、审核它们的偏见、在部署之前测试它们，并在现实世界中监控它们的性能。
Verta的创始人兼首席执行官Manasi Vartak SM’14，PhD’18表示：“我们所做的一切都是为了让更多的产品能够使用人工智能构建，并确保它们能够安全地运行。我们已经看到AI ChatGPT如何生成数据、工件等，看起来是正确的，但实际上却是不正确的。特别是为提供AI解决方案的企业，需要更多的治理和控制。”
Verta目前正在与医疗保健、金融和保险等大型企业合作，帮助他们了解和审核他们的模型的建议和预测。它还与许多高增长的科技公司合作，希望加速部署新的AI-enabled解决方案，同时确保这些解决方案得到适当的使用。
Vartak表示，该公司已经成功将客户部署AI模型的时间缩短了数倍，同时确保这些模型可解释和公平，这对高度监管的行业尤为重要。
例如，医疗保健公司可以使用Verta改进基于AI的患者监测和治疗建议。在使用这些系统之前，必须对其进行全面的错误和偏见审核。
Vartak说：“无论是偏见、公平性还是可解释性，它都回归到我们的模型治理和管理哲学。我们将其视为预飞检查清单：在飞机起飞之前，需要进行一系列的检查。AI模型类似。您需要确保您已经完成了偏见检查，您需要确保有一定程度的可解释性，您需要确保您的模型是可重现的。我们提供所有这些帮助。”
从项目到产品
在来到麻省理工学院之前，Vartak曾在一家社交媒体公司担任数据科学家。在一个项目中，她花了数周的时间调整了机器学习模型，以便展示在人们的信息流中的内容，但事实上她发现一位前员工已经做过同样的事情。不幸的是，没有记录他们做了什么或者它们如何影响模型。
在麻省理工学院攻读博士学位期间，Vartak决定构建工具，帮助数据科学家开发、测试和迭代机器学习模型。在CSAIL的数据库组工作期间，Vartak招募了一支由研究生和麻省理工学院本科研究机会计划（UROP）参与者组成的团队。
Vartak说：“如果没有我的工作和麻省理工学院的生态系统，Verta是不会存在的。麻省理工学院汇集了处于技术前沿的人才，帮助我们建立下一代工具。”
该团队与CSAIL联盟计划中的数据科学家合作，决定要构建哪些功能，并根据早期采用者的反馈进行迭代。Vartak表示，由此产生的名为ModelDB的项目是第一个开源的模型管理系统。
Vartak在攻读博士学位期间还参加了麻省理工学院斯隆管理学院的多门商业课程，并与同学一起开展了推荐服装和追踪健康的初创公司，花费了无数个小时在马丁·特拉斯特创业中心，并参加了该中心的delta v暑期加速器。
Vartak说：“麻省理工学院让您可以在安全的环境中冒险和失败。麻省理工学院为我探索创业提供了探索和展示如何构建产品和寻找第一批客户的机会，所以当Verta出现时，我已经在小规模上做过了。”
ModelDB帮助数据科学家培训和跟踪模型，但Vartak很快看到，一旦模型在规模上部署，赌博和意外破坏模型可能会对公司和社会产生重大影响。这一想法促使Vartak开始构建Verta。
Vartak解释道：“在Verta中，我们帮助管理模型、运行模型，并确保它们按预期工作，我们称之为模型监控。所有这些都源于我的博士论文和麻省理工学院的根基。Verta真正演变自我在麻省理工学院的博士项目。”
Verta的平台帮助公司更快地部署模型，确保它们随着时间的推移继续正常工作，并管理模型以符合合规和治理要求。数据科学家可以使用Verta来跟踪模型的不同版本，并了解它们是如何构建的，回答诸如如何使用数据以及运行哪些可解释性或偏差检查等问题。他们还可以通过运行部署检查清单和安全扫描来审核它们。
“Verta的平台将数据科学模型添加了半打层，将其转换为可用于推动整个网站上的完整推荐系统等内容的东西，”Vartak说道。“其中包括性能优化、扩展和循环时间，即您可以多快地将模型转换为有价值的产品，以及治理。”
支持AI浪潮
Vartak表示，大公司通常使用数千个不同的模型，影响他们运营的几乎每个部分。
“例如，保险公司将使用模型进行核保、理赔、后勤处理、营销和销售等所有事务，”Vartak说道。“因此，模型的多样性非常高，数量也很大，企业需要对这些模型进行高度审查和合规性。他们需要了解诸如：您是否使用了应该使用的数据？谁审核了它？您是否运行了可解释性检查？您是否运行了偏差检查？”
Vartak表示，不采用AI的公司将落后于时代。与此同时，将AI用于成功的公司需要建立明确定义的流程来管理他们日益增长的模型列表。
“在未来的10年中，我们与之交互的每个设备都将具备智能功能，无论是烤面包机还是您的电子邮件程序，它都将使您的生活变得更加轻松，”Vartak说道。“将使这种智能成为可能的是更好的模型和软件，例如Verta，它可以帮助您非常快速地将AI集成到所有这些应用程序中。”