为什么ChatGPT很快将成为您最好的有薪合作伙伴
欢迎来到企业解决方案的未来：一个被人工智能（AI）以及更具体地说，OpenAI的新的B2B关注所占领的空间。
随着工具和技术的爆炸性增长，企业正在经历前所未有的创新浪潮。但随着产品不断涌现和更新以惊人的速度推出，要在这个领域中导航并决定对公司而言什么是正确的，这可能是一个令人眩晕的挑战。
这就是本文的目的。作为AI领域的指南，带您了解今年夏天发生的两个最重要的变化，迫使行业重新思考工作场所中关于AI SaaS的想法。
- ChatGPT的微调 — 创建一个可以与您聊天并了解您想训练它的任何内容的模型。
- 企业版ChatGPT — 私人公司部署的ChatGPT，拥有所有Plus用户提供的功能以及更多！
继续阅读以了解这些重大更新的真正含义。
这不仅仅是为了跟上最新的趋势；它是为了充分利用AI当前所能提供的最高水平。相信我们，您不希望错过这次机会。最新的更新不再给那些一直在等待加入这场浪潮的公司找借口。即使是最怀疑的人也能够看到，企业级隐私和灵活定制的结合将使OpenAI终于在优秀的产品市场契合度上实现积极的收入增长。
可定制的AI企业工具的崛起
当OpenAI发布GPT-3.5 Turbo的微调功能时，游戏发生了变化。如果您认为AI已经在企业领域引起了波澜，那么请重新考虑。这种新的功能为企业带来了一个只有较小规模和开源模型才能实现的东西 —— 定制化。但是这对您的企业意味着什么，为什么您应该关注呢？嗯，因为定制化已被证明是性能和可扩展性的决定性因素，尤其是在追求特定用例时。
GPT-3.5 Turbo和微调
GPT-3.5 Turbo不仅仅是另一个预训练的语言模型；它已经准备好遵循指令（作为聊天代理工作得很好）。但现在它具备了以前版本无法触及的精细调整能力。这本质上允许您使模型“属于您自己”，教它您领域的微妙之处、您品牌声音的复杂性，甚至您所需的特定问题解决策略。
OpenAI的最新发布表明，进行微调的GPT-3.5可以比GPT-4在设计用例上产生更好的结果。此外，与GPT-4（8k上下文窗口）相比，与经过微调的3.5进行交互的每个标记的成本要便宜60-80％。
有趣的是，输入/输出成本的速率是不同的，这使得对于预期需要低输入大输出的用例来说，使用经过微调的GPT-3.5变得更加有趣。
什么是微调？
好了，你对GPT-3.5 Turbo带来的可定制超能力感到兴奋。但是，让我们退一步，深入了解一下微调到底是什么。因为，说实话，“微调”听起来很酷，但对某些人来说可能有点技术性。
微调的本质
想象一下，你有一辆跑车。它从生产线上下来就已经非常快了。但是现在你决定让它成为特定赛道上最好的。你不会只是更换整个发动机；相反，你会调整现有的机械装置——也许你会修改齿轮比例，或者可能你会投资更好的空气动力学。你正在对它进行微调。
类似地，微调是对已经训练好的AI模型进行定制，以适用于特定的任务或领域。你不是从头开始构建一个新模型；你只是对现有模型进行“轻微”的改造，以提高其在你所期望的领域中的性能。
微调步骤
- 数据准备：收集特定领域的数据。
- 预处理：清理和格式化这些数据，使其兼容。
- 训练：进行微调本身-使用定制数据对模型进行训练。
- 评估：评估模型在特定领域中的性能。
- 部署：将模型整合到您的应用程序中。
那么，为什么它很重要？
好吧，听起来很有趣，但你应该在意吗？是的，以下是原因：
降低API成本
当你对模型进行微调时，它在生成相关输出方面变得更高效。这意味着API调用次数减少，进而降低成本。公司报道称，在微调模型后，API成本可以降低多达40%。如果您将您的用例分解为每个步骤使用最不智能（最便宜）的模型，但仍能实现您的目标，这一降低可能会更大。
性能提升
通用模型试图成为万能的。但是经过微调的模型成为特定领域的专家。结果是？提高准确性，减少对人工干预的需求。
差异化解决方案
通过使用您选择的数据进行微调的模型将与任何其他版本有所不同。这使得公司能够真正创建独特的输出，为那些正在构建LLM封装器的初创公司提供机会，使其解决方案不那么容易被复制。
提示工程的优先性
虽然微调类似于将您的跑车变成赛道冠军，但您可以在不进行全面改装的情况下实现性能提升。这当然是我们众所周知的提示工程——您在AI优化花园中的低成本收益。
微调并不总是第一步
别误会，微调是一种强大的工具。但是，它需要计算资源和特定领域的数据，因此资源密集型。因此，在深入定制之前，请问自己：“我能否在不改变基础模型的情况下获得足够好的结果？”
提示工程：您的快速胜利
如果您对这个术语还不熟悉，提示工程基本上是以指导AI模型生成所需输出的方式来构建查询或指令的艺术。无需进行模型调整，无需额外的成本。简单的文本调整可以产生截然不同且高度针对性的输出。
这是一个基本的例子：
- 通用查询：“告诉我有关咖啡的信息。”
- 工程化提示：“总结咖啡的历史、健康益处和冲泡方法。”
第二个提示旨在引出更结构化和全面的答案，使您能够最大限度地利用基本模型。
高级技术：提示链接和函数调用
让我们升级一下。提示链接涉及将复杂的任务分解为更小、易于理解的查询，并将一个查询的输出作为另一个查询的输入。例如，首先让模型对文件进行摘要，然后将摘要翻译成另一种语言。
函数调用是一种较新的创新，它可以在聊天会话中使用预先构建的函数来完成特定任务。这就像给您的模型提供一组可供使用的实用程序，进一步简化数据提取或文本摘要等过程。
为什么要优先考虑提示工程？
有三个原因：
- 速度：实时结果，无需等待模型训练。
- 成本效益：零额外成本，尤其适用于您仍在尝试AI能力的情况。
- 灵活性：易于调整和改进，实现敏捷迭代以满足不断变化的需求。
在投资于调优模型之前，先通过提示工程来试水。有时，一个好的解决方案和最佳解决方案之间的区别只在于一个经过良好设计的问题。
控制和合规性：企业版
企业AI部署的基石：安全性和合规性。让我们客观地看待问题；如果一个技术解决方案不能达到您的组织所需的严格安全标准，那么它所有的花哨功能都是无意义的。这就是OpenAI的企业版在8月28日宣布发布的原因。
虽然这个公告刚刚在本周发布，但OpenAI显示，已经有一长串非常受尊敬的客户在使用他们的企业版，尽管这还不对外公开。
详细信息仍然稀缺，目前的实施需要与OpenAI的销售团队进行专门的互动。不过，这个解决方案承诺满足行业一直在寻找的四个C——控制、合规性、定制化和协作。
控制：管理控制台
企业版将配备一个直观的管理控制台。这是您的控制中心，提供一个仪表板来管理API密钥、监控使用情况，并以细粒度设置权限。这是治理与敏捷性的结合——从设置配额到委派角色，控制台让您坐在驾驶座上。
合规性：企业级安全
这是企业版构建的基石。期望在静止状态和传输状态下都有最先进的加密技术。符合GDPR和SOC 2等合规标准（关于HIPAA，Anthropic提供的信息尚未公开），确保您永远不会违反法律义务。
定制化：定制保留和微调
除了我们讨论过的调优功能，OpenAI确保您可以控制数据的处理方式。企业版提供了自定义数据保留策略的选项，确保您可以遵守任何关于数据保留时间的规定或内部指南。
此外，尽管我无法验证这一点，但公司的通信表示，添加公司知识将具有一个易于使用的界面，以为模型添加可以在整个公司范围内生效的数据源。
协作：可共享的聊天模板
自ChatGPT问世以来，独自工作一直是个问题。首先是可共享的对话，现在是模板，OpenAI认识到现代工作空间的关键在于协作。通过聊天模板，团队将能够分发、测试和改进对话设计，而不会冒着未经授权的访问或修改的风险。是的，这些是遵循隐私和保护最佳实践的安全链接。
特定用例的收益
微调在不同领域都有出色的表现，其潜力是巨大的：
- 客户服务：不再使用机械化的回答。现在，企业正在微调GPT-3.5 Turbo，使其深入了解其产品，提供既自动化又出色的客户支持。
- 内容撰写：我们的客户经常询问如何确保由AI编写的内容符合其品牌风格和准则。通常通过红队测试来实现，但仍然不够准确。通过这些改变，您的品牌可以传达出一条明确的信息，这将在您的生成内容中得到尊重。
- 格式化输出：目前基于LLM构建的应用通常尝试从响应中提取JSON、Markdown或其他特定格式。这通常存在风险，因为模型可能并不总是以完美的格式回复。因此，开发人员必须构建测试和重试流程。现在，您可以教育您的模型更好地满足您的格式需求。
- 法律行业：根据您的公司已经处理的文件进行调整的模型可以筛选出法律术语，生成摘要，甚至起草符合法律论点并使用最新判例法的法律文件的初步版本。如果您不想因引用虚构案例而上了新闻，这就是要走的路。
- 医疗保健和研究：定制的模型可以根据多年的期刊和研究为医学诊断提供初步建议。
早期采用者及其成功
从全球巨头到新兴创业公司，许多人都加入了微调的行列，并获得了实质性的好处。一个显著的案例是Salesforce，他们将经过微调的GPT-3.5 Turbo集成到其客户关系管理（CRM）软件中。结果如何？客户支持查询的平均处理时间减少了35%。
关于未来的一点说明
虽然我们已经介绍了OpenAI新推出的企业版所承诺的各种功能，但值得一提的是，具体细节仍然在OpenAI的销售活动的幕后。因此，请密切关注此领域，本文可能会根据新的见解进行更新。
此外，随着企业领域对微调选项的更深入探索，预计会有更多文章深入研究新兴的使用案例、性能指标和最佳实践。在一个快速发展的领域中，保持了解不仅有利，而且对于竞争优势来说是必要的。
来源
- OpenAI开发者指南：微调
- OpenAI博客：ChatGPT企业版
- OpenAI博客：函数调用和其他API更新
- OpenAI定价：每千个标记的API成本
- Deeplearning.ai — 大型语言模型的微调
- Salesforce研究如何将生成式AI用于善