Press "Enter" to skip to content

“第一款为电信行业量身定制的原生LLM(网络与信息安全法硕士)”

Kinetica成立于2016年,作为创新倡议的一部分为军方开发了一种追踪和分析国家安全威胁以及实时分析的技术。

如今,他们是GPU引擎空间和时间序列分析的先驱者。Kinetica刚刚推出了面向电信行业的SQL-GPT —— 这是业界第一款专为电信行业量身定制的大型语言模型解决方案。此项创新旨在通过启用与实时数据进行自然语言交流,获取可操作的见解,赋予电信专业人员更强大的能力。

正如Kinetica的CMO Chad Meley解释的那样:“我们将自然语言作为SQL的前端。这使得组织中的每个人都能够利用电信机构通常进行的时间序列和空间连接。”将纯英语问题转化为适用于常见电信数据集和用例的高效SQL,无需专业的数据科学技能。

例如,现场技术人员只需简单地询问系统:“显示需要立即处理的设备”,即可获得即时排序的问题列表。

消除分析瓶颈,加速见解获取

一个重要的好处是实现获取决策所需的快速见解的普及。正如Meley所解释的那样:“有限的资源是企业从数据中获得价值的瓶颈。大多数企业只是触及了表面。因此,让人们能够提出一个简单的问题并得到答案是一种解放。一些问题听起来可能并不复杂,但可能需要冗长的代码来回答。我们使企业能够了解以前无法回答的问题的答案。”

Kinetica的产品副总裁Phil Darringer提供了一个客户案例,展示了通过其解决方案实现的改变性洞察所需的时间。对于复杂的地理空间网络分析,他们的解决方案仅需30至45分钟即可获得结果,而传统平台可能需要数月甚至数年。这种巨大的加速令电信公司能够在客户受到影响之前近实时地分析和处理新兴网络问题。

针对电信行业数据和行话的微调

那么,SQL-GPT是如何实现这一点的呢?Darringer解释道:“这涉及几个层面,首先是基础模型。第一步是让它了解Kinetica特定的语法和我们提供的功能。” 这样可以教会人工智能核心Kinetica的功能。

“接下来是在行话和电信相关数据集方面添加这些功能。”在业界术语和常见电信数据模式上训练模型,建立与电信从业人员每天需要回答的实际问题相关的自然对话能力。

为速度和规模而量身定制

在处理电信公司从网络、设备和传感器生成的大量数据时,处理性能和规模至关重要。正如Darringer所解释的那样:“由于电信公司非常关注他们的数据,该模型将部署在他们的环境中,无论是在他们的数据中心还是在他们的云端,VPC中还是他们自己建立的环境中的公共云中。”

这样可以确保数据的隐私性,并利用Kinetica的GPU加速架构,正如Meley所强调的:“我们使用NVIDIA的GPU来执行推理以生成SQL。它会根据请求的数量和生成这些查询的频率进行线性扩展。”

定制的本地部署还减轻了电信领域对大型公共语言模型中数据保密性的担忧。通过将微调模型隔离在每个电信运营商的环境中,他们的数据将完全保密。正如Meley总结的那样,客户表示“他们不想将任何数据,甚至是元数据,暴露给公共API。”

SQL-GPT for Telecom将自然语言的简洁性与实时性能和规模相结合,同时确保高度敏感的电信数据资产的安全。这使组织中的更多人员能够进行更快速的数据分析,并最大限度地提高网络质量和客户满意度。

Leave a Reply

Your email address will not be published. Required fields are marked *