Press "Enter" to skip to content

NVIDIA NeMo与初创公司合作,创造了生成式人工智能的成功故事

机器学习帮助了Waseem Alshikh在大学中翻阅教科书。现在,他正在利用生成式人工智能为数百家公司创建内容。

Alshikh出生并长大在叙利亚,他不会讲英语,但对软件非常熟悉,这个才能在他进入黎巴嫩的大学时对他非常有帮助。

“第一天他们给了我一堆教科书,每本都有一千页,而且都是用英语写的,”他回忆道。

所以,他写了一个程序——一个简单但有效的统计分类器来总结这些书籍——然后他学习了这些总结。

从概念到公司

2014年,他与在迪拜工作时认识的企业家May Habib分享了他的故事。他们约定创建一家初创公司,利用机器学习帮助市场部门——这些部门总是面临做更多事情用更少资源的压力——快速创建网页、博客、广告等内容。

“起初,技术还不成熟,直到变形金刚模型被宣布出来——我们可以在这个基础上进行开发,”这家初创公司的首席技术官Alshikh说。

NVIDIA NeMo与初创公司合作,创造了生成式人工智能的成功故事 四海 第1张
作家兼联合创始人Habib,首席执行官,和Alshikh,首席技术官。

“我们找到了几名工程师,花了将近六个月的时间构建我们的第一个模型,一个几乎无法工作且具有大约1.28亿参数的神经网络,这是衡量AI模型能力的常用指标之一。”

在发展过程中,这家年轻的公司赢得了一些业务,改名为Writer,并与NVIDIA建立了联系。

加速的初创公司

“一旦我们接触到NVIDIA NeMo,我们就能够用三个、然后是20个,现在是40亿个参数构建工业级模型,而且我们还在不断扩展,”他说。

NeMo是一个应用框架,帮助企业整理训练数据集,构建和定制大型语言模型(LLMs),并在生产中进行规模化运行。从韩国到瑞典的组织都在使用它来为本地语言和行业定制LLMs。

“在使用NeMo之前,我们花了四个半月的时间构建一个新的百亿参数模型。现在我们可以在16天内完成——这简直让人难以置信,”Alshikh说。

模型创造机会

今年上半年,这家初创公司的不到20名AI工程师使用NeMo开发了10个模型,每个模型都有300亿个或更多参数。

这意味着巨大的机会。现在有数百家企业使用Writer为金融、医疗保健、零售等垂直市场定制的模型。

NVIDIA NeMo与初创公司合作,创造了生成式人工智能的成功故事 四海 第2张
Writer的Recap工具根据采访或活动的音频记录创建书面摘要。

这家初创公司的客户名单包括德勤、欧莱雅、Intuit、优步和许多财富500强公司。

Writer在NeMo上取得的成功只是故事的开始。许多其他公司已经下载了NeMo。

这个软件将很快对任何人都可用。它是NVIDIA AI Enterprise的一部分,是针对生成式人工智能工作负载进行优化的全栈软件,拥有企业级支持、安全性和应用程序编程接口稳定性。

NVIDIA NeMo与初创公司合作,创造了生成式人工智能的成功故事 四海 第3张
Writer为企业用户提供全栈平台。

每月万亿次API调用

一些客户在自己的系统或云服务上运行Writer的模型。其他人请Writer托管模型,或使用Writer的API。

“我们的云基础设施由两个人管理,每个月托管一万亿次API调用——我们每秒生成9万字,”Alshikh说。“我们提供高质量的模型,与拥有更大团队和更大预算的公司的产品竞争。”

NVIDIA NeMo与初创公司合作,创造了生成式人工智能的成功故事 四海 第4张
NVIDIA NeMo支持从数据整理到推理的生成式人工智能的端到端流程。

Writer使用与NeMo捆绑在一起的Triton推理服务器为客户的模型进行生产运行。Alshikh报告说,Triton可以实现比其他程序更低的延迟和更大的吞吐量,许多运行LLMs的公司都在使用它。

“这意味着你可以以2万美元的价格运行一个服务,而不是10万美元,因此我们可以在构建有意义的功能方面投入更多资金,”他说。

广阔的视野

作者也是NVIDIA Inception的成员,这是一个培育尖端初创公司的计划。他说:“多亏了Inception,我们提前获得了NeMo和一些了不起的人的支持,他们指导我们找到并使用我们需要的工具。”

现在,Writer的文本产品正在获得关注,Alshikh将自己的时间分配在佛罗里达和加利福尼亚两个家之间,他正在寻找下一个目标。在当今广阔的生成式人工智能领域,他看到了在图像、音频、视频、3D等方面的机会,也许以上都有。

“我们将多模态视为未来,”他说。

请查看此页面以开始使用NeMo。并了解多模态NeMo的早期访问计划。

如果您喜欢这个故事,请使用作者建议的以下摘要告诉社交网络上的人们:

“了解初创公司Writer如何使用NVIDIA NeMo软件为数百家公司生成内容,并以小团队和预算实现可观的收入。”

Leave a Reply

Your email address will not be published. Required fields are marked *