介绍 近年来，将人工智能（AI）整合到股票交易中已经改变了投资者的决策方式。随着大型语言模型（LLMs）如GPT-3和GPT-4的出现，发生了一场范式转变，使个人投资者和交易者更容易获得复杂的市场分析和见解。这种革命性的技术利用大量的数据和复杂的算法，提供了以前仅由机构投资者独占的市场理解深度。本文重点介绍使用LLMs开发个性化AI交易顾问，旨在根据风险偏好、投资时间、预算和期望回报来匹配个人投资者的投资配置，为零售投资者提供个性化、战略性的投资建议。 由GPT-3和GPT-4等大型语言模型（LLMs）驱动的股票交易顾问已经彻底改变了金融咨询服务。它们可以利用人工智能来分析历史股票数据和当前的财经新闻，为投资者提供与其独特投资组合和财务目标相符合的个性化投资建议。我们将尝试构建一个顾问来预测市场行为和趋势，根据个人风险承受能力、投资期限、可用资本和期望回报提供量身定制的建议。 学习目标 通过本文，读者将能够： 了解AI和像GPT-3这样的LLMs如何改变股市分析和交易。 认识到基于个人风险偏好和投资目标的AI驱动工具提供个性化投资建议的能力。 了解AI如何利用历史和实时数据制定投资策略和预测。 了解股票交易中的AI如何使复杂的投资策略对更广泛的受众（包括零售投资者）可行。 发现如何利用AI驱动的工具进行个人投资和股票交易决策。 了解利用LLMs构建股票交易顾问的概念。 本文作为数据科学博文马拉松的一部分进行发布。 关于数据集 该项目的数据集从纽约证券交易所获取，并在Kaggle上提供，包括覆盖七年的四个CSV文件。其中包括关键的财务指标“fundamentals.csv”，提供历史股价和股票分割调整的“prices.csv”和“prices-split-adjusted.csv”，以及提供附加公司信息（如部门分类和总部）的“securities.csv”。这些文件的综合提供了对公司业绩和股票市场动态的全面了解。 数据准备 使用类似GPT-4这样的大型语言模型（LLMs）来实现股票交易顾问，需要进行关键的数据准备。这个过程包括重要的任务：数据清洗、归一化和分类，使用提供的数据集：fundamentals.csv、prices.csv、prices-split-adjusted.csv和securities.csv。 步骤1：数据清洗 在“基本数据集”中，我们使用中值插补来处理“For Year”、“Earnings Per Share”和“Estimated Shares Outstanding”的缺失值（173个、219个和219个缺失值）。 我们将“Period Ending”列转换为日期时间格式，使其适合进行数字字段分析。…
Leave a CommentTag: Models
介绍 你准备好了吗，要在没有依赖OpenAI和LM Studio的情况下创建你的AI团队了吗？不再需要花大钱或下载应用程序。从设置llama-cpp-python到使用autogen框架探索本地LLM的强大功能。准备好在不依赖OpenAI API的情况下发挥Autogen的全部潜力了吗。 学习目标 在我们深入了解细节之前，让我们概述本文的关键学习目标： 学习如何评估和比较不同的AI库和工具。 探索llama-cpp-python作为OpenAI API的替代方案。 将所获知识应用于两个真实世界的用例：构建算法导师团队和自动化财务图表生成。 通过集成的IPython探索AutoGen改进的用户体验，实时执行代码并看到结果。 本文是数据科学博客马拉松的一部分。 认识你的工具：Llama-cpp-python，AutoGen和本地LLMs 但是你可能会问，这个技术工具包有什么特别之处？Llama-cpp-python是你在本地运行LLMs的入口，包括像LLaMA这样的大牌。就像你的电脑上有AI超级明星，而且支持不同的BLAS后端，速度超乎想象！ AutoGen AutoGen是一个统一的多代理对话框架，作为使用基础模型的高级抽象。它结合了能力强大、可定制和可对话的代理，通过自动对话集成LLMs、工具和人类参与者。它使代理能够自主沟通和协作，有效地简化复杂任务并自动化工作流程。 如果你渴望深入了解AutoGen的能力，并探索它如何促进战略性的AI团队建设，不妨看看我们专门的博客：“借助AutoGen轻松实现战略性AI团队建设。”这个综合资源提供了见解、用例和更详细的介绍，展示了AutoGen如何改变你的AI开发方式。 库/工具 一些库/工具提供了一个Web服务器，旨在替代OpenAI API。 除了上述选项，还有其他选择，但最佳选择取决于你的偏好和需求。 Llama-cpp-python Llama-cpp-python是llama.cpp库的Python绑定。它通过ctypes接口提供对C API的低级访问，提供了高级Python API用于文本补全、类似OpenAI的API和LangChain兼容性。它支持多个BLAS后端以加快处理速度，也支持硬件加速。…
Leave a Comment周三，印度人工智能初创公司Haptik，作为Reliance Jio Infocomm的一部分，推出了一个专门的生成型人工智能平台，旨在帮助企业客户构建虚拟助手和后台信息支持。该平台名为“Contakt”，已经进行了初步试点部署，并表示有望在未来扩展。随着技术的不断进步，Contakt成为一个关键性解决方案，满足了对以业务为中心的人工智能解决方案不断增长的需求。 Contakt的强大功能 源于对先进业务解决方案日益增长的需求，Haptik CEO Aakrit Vaish揭示了Contakt背后的灵感。该平台目前正在与Upstox、Tira、星巴克和印度商学院等知名公司进行严格测试。 Contakt的独特之处在于其能够通过聊天界面接收文本、音频和图像查询，利用OpenAI的GPT-3.5和GPT-4模型的强大能力。这个多功能平台通过协作功能实现了自助选项和自动化例行任务，并提高了代理人的工作效率。据Haptik的CTO Swapan Rajdev表示，Contakt可以提高机器人性能高达15％，减少约40％的人工智能培训工作量，并提高客户满意度20％。 品牌定制LLM Contakt赋予每个品牌培养定制的大规模语言模型（LLM）助手的能力，确保在各种接触点上实现端到端的客户体验。这个生成型人工智能助手发挥着多重角色，提供售前对话引导、客户自助、代理人协同生产力功能，以及智能分析来跟踪和优化关键指标。Vaish强调，OpenAI的LLMs，特别是GPT-3.5和GPT-4模型，将Contakt置于市场竞争对手之上，证明了其默认部署的合理性。 Reliance Retail的AI飞跃 Jio Haptik透露了另一个计划。Reliance Retail打算在Tira电子商务网站上引入一个生成型人工智能美容顾问聊天机器人。Reliance Retail的首席产品技术官Anand Thakur预计会实现这一整合。他希望将类似ChatGPT的能力融入到网上销售助手中，以简化购买流程，提高整体客户体验。Thakur将此举视为重要的进展，它在塑造零售技术未来方面发挥关键作用，为每个Tira客户提供个性化体验。 我们的观点 当我们在人工智能不断进化的领域中航行时，Contakt成为了一个改变游戏规则的因素。Haptik巧妙地集成了OpenAI强大的语言模型，将Contakt定位为市场上的领先者。这个承诺在机器人性能、人工智能培训效率和客户满意度方面无与伦比。Contakt的推出标志着人工智能与业务运营融合的重要里程碑。随着行业的发展，Haptik和Reliance Jio的发展轨迹进一步巩固了人工智能的角色。它是塑造商业和客户更高效个性化未来的动力。
Leave a Comment在人工智能快速发展的领域中，出现了一个新的竞争者，挑战着已经建立起来的人工智能模型的主导地位。Nexusflow是一个在科技圈中引起轰动的名字，他们推出了一款开源生成式人工智能模型NexusRaven，不仅为开发者提供更易于使用的工具，还声称在零-shot函数调用方面超越了强大的GPT-4。让我们深入了解这一开创性的发展。 NexusRaven的崛起 Nexusflow最新的创新成果NexusRaven，凭借其出色的能力引人注目。”探索苹果开创性的开源MLX框架，实现苹果芯片上的高效机器学习。了解熟悉的API、可组合的函数转换、惰性计算和统一的内存模型，革新模型开发。通过多功能示例揭开MLX的威力。使用’pip install mlx’简化安装，提供升级的机器学习体验。苹果最新的创新增强了模型开发的协作和效率。 通过开源赋能开发者 NexusRaven最引人注目的一个方面是它的开源性质。Nexusflow通过提供技术社区对其人工智能模型的访问权，做出了一次具有战略意义的举措。这使得人工智能的开发可以更加民主化，使更广泛范围的开发者能够进行实验、创新并为模型的演进做出贡献。开源的方式是一个改变游戏规则的因素，有助于加速人工智能领域的进步。 超越GPT-4 Nexusflow宣布NexusRaven在零-shot函数调用方面超越了GPT-4，人工智能界对此表示关注。考虑到GPT-4作为领先的人工智能模型的声誉，这不是一个小小的成就。NexusRaven在这个领域的优越性能表明它在理解用户意图方面可能更加直观和高效，这对于从编程助手到聊天机器人等各种应用都至关重要。 人工智能副驾驶的新时代 NexusRaven不仅仅是一个人工智能模型，它还是一辆使用户能够更轻松高效地利用人工智能工具的副驾驶。它在特定任务上超越GPT-4的能力表明我们正在进入一个人工智能副驾驶的新时代。这些先进的模型将彻底改变我们与技术的互动方式，使之比以往更加流畅和直观。 我们的观点 Nexusflow推出NexusRaven标志着人工智能行业的一个重要里程碑。它的开源模型和对抗GPT-4的出色表现表明人工智能解决方案正向更加具有协作性和先进性的方向发展。随着开发者和技术爱好者探索NexusRaven的潜力，我们可以预期会出现一股创新浪潮，重新定义人工智能的边界。Nexusflow的大胆举动可能成为下一波人工智能演进的催化剂。
Leave a Comment加州大学伯克利分校的研究团队引入了Starling-7B，一个采用AI反馈强化学习（RLAIF）的开源大型语言模型（LLM）。借助先进的GPT-4标记的排名数据集Nectar以及精心设计的奖励训练和策略调整流程，Starling-7B-alpha在语言模型性能方面树立了新的标准，在MT-Bench上超越了所有模型，除了OpenAI的GPT-4和GPT-4 Turbo。 强化学习的潜力 虽然监督微调在聊天机器人系统开发中已经表现出了有效性，但是强化学习从人类反馈（RLHF）或AI反馈（RLAIF）中提升模型在规模上的潜力一直受到了有限的探索。早期的模型，如Zephyr-7B和Neural-Chat-7B，在与领先的监督微调（SFT）模型相比没有充分展示RLHF的潜力。 为了弥补这一差距，研究团队推出了Nectar，一个精心设计的高质量排名数据集，专门为聊天而量身定制，包括183K个提示和380万个成对比较。该数据集旨在促进对RLHF的更全面研究，提供了从各种模型中获取的多样化的提示。 奖励模型Starling-RM-7B-alpha的发布以及在HuggingFace上进行的精调LLM模型Starling-LM-7B-alpha的发布，标志着开源人工智能研究的重要进展。值得注意的是，该模型的MT-Bench分数从7.81上升到令人印象深刻的8.09，伴随着AlpacaEval的显著提高，将聊天机器人的有用性从88.51%提升至91.99%。 还阅读： 什么是强化学习以及它如何工作（2023年） 模型评估 评估Starling-7B存在独特的挑战。随着RLHF后LLM表现出卓越的有用性和安全特性，MT-Bench和AlpacaEval分数的提高证明了这一点。然而，它在基于知识的问答、数学和编码方面的基本能力仍然保持稳定或略有下降。 将其纳入LMSYS聊天机器人竞技场进行直接聊天和匿名比较提供了测试人类偏好的平台。评估还突出了使用OpenLLM排行榜作为聊天模型基准的局限性，强调了Alpaca Eval和MT-Bench提供的微妙评估的重要性。 合成偏好数据的Goodhart定律 需要考虑的一个关键方面是合成偏好数据的Goodhart定律。虽然更高的MT-Bench分数表示根据GPT-4的改进模型性能，但不一定与人类偏好相关。RLHF主要增强了响应风格，特别是在有用性和安全性等方面，展示了在线RL方法在广泛的偏好数据上的扩展潜力。 局限性 尽管Starling-7B表现出色，但在涉及推理或数学任务方面仍存在局限性。此外，对越狱提示的敏感性和偶尔输出过于冗长的问题也得到了承认。研究团队致力于持续改进，欢迎社区的合作，以加强开放数据集、奖励模型和使用RLHF的语言模型。 我们的观点 以其RLAIF方法和细致入微的数据集创建，Starling-7B体现了强化学习在语言模型中的潜力。尽管仍面临挑战和限制，但对改进的承诺以及与更广泛社区的合作，使Starling-7B成为人工智能研究领域中前沿的标杆。请继续关注更多更新，团队将深入探讨RLHF机制的优化和对人工智能安全研究的贡献。
Leave a CommentOpenAI近期为GPT-6和GPT-7在中国申请了商标，从战略角度表明了其在推进人工智能（AI）方面的承诺。这是继该公司早前为GPT-4和“Whisper”申请商标之后的一系列举措。尽管OpenAI的服务在中国不可访问，但这一积极的举步显示了该公司的全球愿景和在推出下一批LLM方面不断努力推动AI技术边界的努力。 OpenAI在中国的商标申请 OpenAI是AI领域的领先力量，在中国为GPT-6和GPT-7提交了商标申请。这些申请目前正在审查中，属于第9类，涵盖用于科学或研究目的的器具和仪器，以及第42类，涵盖技术服务和设计。这些申请反映了OpenAI在全球AI技术前沿的坚定，以保持领先地位。 大型语言模型的进展 自ChatGPT（OpenAI的生成式AI应用）推出以来，该公司始终在大型语言模型（LLM）方面不断突破界限。ChatGPT最初建立在具有1750亿个参数的GPT-3.5上，展示了卓越的语言理解和生成能力。值得注意的是，OpenAI在3月份推出了GPT-4，其估计的参数数量超过了1万亿，展示了该公司对LLM发展的承诺。 持续创新——GPT-5及未来 OpenAI首席执行官Sam Altman透露正在进行GPT-5的工作，并计划从微软获得额外资金用于支持研究和开发工作。这表明OpenAI尽管最近发生了包括Altman作为CEO的暂时撤职在内的内部争议，仍然致力于创新。有报道称该争议与人工通用智能（AGI）的潜在突破有关，凸显了强大AI发展所涉及的道德考量。 还需要阅读：OpenAI与微软合作发展GPT-5 平衡创新与道德考量 Altman重新担任CEO职务，并加强了对前进的研究计划以及投资安全措施的重视。OpenAI意识到人工智能发展所带来的道德责任，旨在在创新和安全之间取得平衡。该公司对AGI的追求是一项谨慎而重要的目标，体现了对强大AI技术潜在风险和社会影响的深思熟虑的态度。 我们的看法 OpenAI在中国的商标申请意味着其在全球AI领域树立存在的战略举措。GPT模型方面的持续进展显示了该公司塑造AI未来的承诺。加上对新商标的追求，该公司展示了其努力。在OpenAI应对内部争议和外部挑战的过程中，道德AI发展始终是其使命的基石。OpenAI在追求卓越的AI过程中的发展史仍然吸引着科技界，为创新和责任手牵手的未来承诺。
Leave a Comment介绍 检索增强生成（Retrieval Augmented Generation）已经存在一段时间了。许多工具和应用程序围绕这个概念进行了构建，比如向量存储、检索框架和LLMs，使得处理自定义文档尤其是具有Langchain的半结构化数据变得方便。处理长、密集的文本从未如此轻松而有趣。传统的RAG对于不结构化的文本重型文件（如DOC、PDF等）效果良好。然而，这种方法对于嵌入在PDF中的半结构化数据（如嵌入式表格）效果不佳。 在处理半结构化数据时，通常有两个问题。 传统的提取和文本分割方法无法处理PDF中的表格。它们通常会破坏表格，从而导致信息的丢失。 嵌入表格可能无法转化为精确的语义搜索。 因此，在本文中，我们将使用Langchain构建一个用于处理半结构化数据的检索生成（Retrieval Generation）流水线，以解决这两个半结构化数据的问题。 学习目标 了解结构化、非结构化和半结构化数据之间的区别。 对检索增强生成和Langchain进行简要回顾。 学习如何使用Langchain构建一个用于处理半结构化数据的多向量检索器。 本文作为数据科学博文马拉松的一部分发表。 数据类型 通常有三种类型的数据：结构化数据、半结构化数据和非结构化数据。 结构化数据：结构化数据是标准化的数据，遵循预定义的模式，例如行和列。SQL数据库、电子表格、数据帧等。 非结构化数据：与结构化数据不同，非结构化数据没有数据模型。数据是随机的，例如PDF、文本、图像等。 半结构化数据：它是前两种数据类型的结合。与结构化数据不同，它没有严格的预定义模式。然而，数据仍然基于某些标记保持着分层次的顺序，这与非结构化类型形成了对比。例如CSV、HTML、嵌入式PDF中的表格、XML等。 什么是RAG？ RAG代表检索增强生成（Retrieval Augmented Generation）。这是为大型语言模型提供新信息的最简单方法。现在，让我们对RAG进行一个快速介绍。 在典型的RAG流程中，我们有知识来源，如本地文件、网页、数据库等，一个嵌入模型，一个向量数据库和一个LLM。我们从各种来源收集数据，拆分文档，获取文本块的嵌入并将它们存储在向量数据库中。现在，我们将查询的嵌入传递给向量存储，从向量存储中检索文档，最后使用LLM生成答案。 这是传统RAG的工作流程，适用于如文本等不结构化数据。然而，当涉及到半结构化数据时，例如嵌入在PDF中的表格，它通常无法表现良好。在本文中，我们将学习如何处理这些嵌入式表格。…
Leave a Comment在最新的进展中，DeepSeek LLM在语言模型领域崭露头角，拥有令人印象深刻的670亿个参数。DeepSeek LLM在庞大的英语和中文数据集上经过精心训练，并通过开源其7B/67B基础版和7B/67B聊天版，为研究合作设定了新标准。本文深入探讨了该模型在各个领域的卓越能力，并评估了其在复杂评估中的表现。 卓越的通用能力 DeepSeek LLM 67B基础版已通过在推理、编码、数学和中文理解等关键领域中胜过Llama2 70B基础版证明了其实力。该模型的实力延伸到多个领域，标志着语言模型演进的重要飞跃。 精通编码和数学 DeepSeek LLM 67B聊天版在编码方面表现出色，其HumanEval Pass@1得分为73.78。该模型在数学能力方面也表现卓越，GSM8K 0-shot得分为84.1，Math 0-shot得分为32.6。值得注意的是，它在具有挑战性的匈牙利国家中学考试中获得了惊人的65分，彰显出出色的泛化能力。 中文语言掌握能力 在与GPT-3.5的中文语言能力对比中，DeepSeek LLM 67B聊天版成为中文语言掌握能力的领先者。评估结果凸显了该模型的优势，标志着自然语言处理的重大进展。 评估见解 为了公正评估DeepSeek LLM 67B聊天版，开发者提供了新的问题集，减少了数据污染，并考虑到特定的测试集。匈牙利国家中学考试成为评估该模型数学能力的试金石，揭示了该模型在解决复杂问题方面的实力。 此外，谷歌于2023年11月15日发布的“指令遵循评估数据集”为评估DeepSeek LLM…
Leave a Comment介绍 11月在人工智能领域发生了许多重大事件。从GPT存储的推出，到GPT-4-turbo的发布，再到OpenAI的惨败，这一切都引发了一个重要的问题：封闭模型和背后的人员有多可靠？当你在生产中使用的模型因为一些内部公司事件而崩溃时，这将会是一次不愉快的经历。这对于开源模型来说并不是一个问题。您对部署的模型拥有完全控制权。您对数据和模型都有主权。但是是否可以用GPT代替开源模型？值得庆幸的是，许多开源模型已经达到或超过了GPT-3.5模型的性能。本文将探讨一些性能最佳的开源LLMs和LMMs替代方案。 学习目标 讨论开源大型语言模型。 探索最先进的开源语言模型和多模态模型。 对大型语言模型进行轻量化介绍。 了解在本地和云端运行LLMs的工具和服务。 本文作为数据科学博文马拉松的一部分发表。 什么是开源模型？ 当模型的权重和架构是自由可用的时，我们称之为开源模型。这些权重是大型语言模型的预训练参数，例如Meta的Llama。这些通常是基础模型或未经调优的原始模型。任何人都可以使用这些模型，并将其在自定义数据上进行微调，以执行下游操作。 但是它们是否是真正的开源？数据呢？由于有关版权内容和数据敏感性的种种问题，大多数研究实验室都不会公开发布训练基础模型时所使用的数据。这也涉及到模型的许可问题。每个开源模型都有类似于任何其他开源软件的许可证。许多基础模型（例如Llama-1）配有非商业许可证，这意味着您不能使用这些模型来赚钱。但是像Mistral7B和Zephyr7B这样的模型配有Apache-2.0和MIT许可证，可以在任何地方使用而不会有顾虑。 开源替代方案 自从Llama发布以来，开源领域一直在追赶OpenAI模型。迄今为止，取得了令人鼓舞的成果。在GPT-3.5发布一年内，我们已经拥有了参数更少但在性能上与GPT-3.5相媲美甚至更好的模型。但是GPT-4仍然是执行从推理和数学到代码生成等各种一般任务的最佳模型。进一步观察开源模型领域的创新和资金支持的步伐，我们很快将会有越来越接近GPT-4性能的模型。现在，让我们讨论一些出色的开源模型的替代方案。 Meta’s Llama 2 Meta在今年7月发布了他们最好的模型Llama-2，并因其令人印象深刻的能力而迅速走红。Meta发布了四个不同参数规模的Llama-2模型，分别是Llama-7b、13b、34b和70b。这些模型在各自的类别中足以击败其他开源模型。但是现在，诸如mistral-7b和Zephyr-7b等多个模型在许多基准测试中优于较小的Llama模型。Llama-2 70b仍然是其类别中最好的之一，可以作为GPT-4在摘要、机器翻译等任务上的替代品。 Llama-2在许多基准测试中表现优于GPT-3.5，并且能够接近GPT-4，使其成为GPT-3.5甚至在某些情况下是GPT-4的一个有价值的替代品。以下图表是由Anyscale提供的Llama和GPT模型的性能比较。 有关Llama-2的更多信息，请参阅HuggingFace上的博客。这些LLM经过微调后在自定义数据集上表现良好。我们可以对模型进行微调，以在特定任务中发挥更好的性能。 不同的研究实验室也发布了经过微调的Llama-2版本。这些模型在许多基准测试中显示出比原始模型更好的结果。这款经过微调的Llama-2模型，Nous-Hermes-Llama2-70b，由Nous Research经过超过300,000个自定义指令进行了微调，使其比原始的meta-llama/Llama-2-70b-chat-hf更好。 查看HuggingFace的排行榜。您可以找到比原始模型效果更好的经过微调的Llama-2模型。这是开源模型的优点之一。根据需求，可以选择多种模型。 Mistral-7B Mistral-7B发布以来，它已成为开源社区的宠儿。它的性能要远远优于同类模型，并接近GPT-3.5的能力。这个模型可以在许多情况下替代Gpt-3.5，比如摘要、改写、分类等。…
Leave a Comment介绍 想象一下热爱一档播客节目，希望记住最精彩的部分，但这个节目只有声音没有文字。你会怎么做？这就是像LLMs和语音转文本翻译工具这样的酷工具派上用场的地方。它们可以神奇地把口语转化为书面笔记，让你轻松找出亮点，创建实用的要点。所以，你最喜欢的播客时刻只差一步就能变成文字记录！自2022年11月首次亮相以来，LLM一直风靡一时。LLM可以用于各种任务，文本摘要是其中重要的应用之一。我们不仅可以对文本进行摘要，还可以对音频和视频等其他模式进行摘要。我们可以使用LLM增强播客的可访问性，并生成简洁的亮点以便使用或做未来参考。 PaLM（Pathways Language LLM）是谷歌AI于去年2022年4月成立的重要LLM。今年2023年3月，PaLM 2的第二版发布，这是一个改进和更新的版本。它旨在具有卓越的双语、编码和思维能力。与其他LLMs相比，使用PaLM 2 LLM API的优势在于其API是免费提供的。与OpenAI的ChatGPT相比，它的性能更好，推理能力更强。 在本文中，我们将学习如何使用这些工具，即PaLM 2 API和Maker Suite，创建一个简单的播客文本亮点显示器，并学习如何优化LLM模型的设置以生成更好的纲要。了解这些工具的特点，并尝试理解它们可以使用的不同用例。现在让我们开始吧！ 学习目标 了解PaLM模型和其特点。 了解PaLM的模型设置。 实现一个生成播客音频简洁摘要的Python项目。 本文作为Data Science Blogathon的一部分发表。 PaLM 2概述 PaLM 2是一个庞大的NN模型，具有5400亿个参数，通过使用Pathways方法进行扩展以实现突破性能。PaLM 540B在各种多步骤推理任务上超越了当前的技术水平，并在最新发布的BIG-bench基准测试中超越了平均人类表现，取得了突破性的性能。它学习了词语和短语之间的关系，并可以将这种知识用于不同的任务。…
Leave a Comment介绍 踏上一段激动人心的旅程，探索多智能体框架的基础知识，并进入软件开发的未来，这就是“自动产生：探索多智能体框架基础”的主题。在OpenAI的ChatGPT之后，一个名为LLM（LLM agent）的专业领域正在经历前所未有的飞速发展，彻底改变了AI代理开发。从自动化繁琐任务到解决动态决策中的挑战，LLM代理正在挑战曾经被认为不可能的界限。 随着我们进入空间计算时代，设想一个世界，计算机与现实无缝融合，AI代理的重要性变得至关重要。想象一下通过语言和手势指令代理完成任务，具有无与伦比的推理和行动能力。然而，我们正处于AI代理革命的黎明期，见证着新的基础设施、工具和框架的诞生，这些赋予代理应对越来越复杂任务的能力。剪裁多智能体聊天系统的先进框架Autogen，在我们的探索中扮演重要的角色。 在这篇文章中，让我们一起揭开AI代理革命的早期阶段的细节，深入了解Autogen的能力，并探索如何让这些智能实体焕发生机。 学习目标 了解什么是LLM代理 学习Autogen是什么，并探索使用Autogen构建代理的基础知识 使用Autogen和OpenAI API构建代理 探索LLM代理的现实世界应用案例 本文是《数据科学博文马拉松》的一部分。 什么是LLM代理？ 传统的语言模型在许多方面都表现出色，例如翻译、问答等。然而，它们的知识和能力是有限的。这就像是一名泥瓦工在修筑房子时缺少工具一样。然而，有观察发现，LLM代理在给予必要的工具后能够进行推理和行动。大多数LLM代理对世界的了解有限，但我们可以通过提示将它们与自定义来源的信息进行增强。 我们可以通过两种方法实现这一目标：检索增强生成和LLM代理。在检索增强生成中，我们通过自定义的硬编码流程将信息提供给模型。但对于代理来说，基于其推理，LLM代理将利用其掌握的工具。例如，带有Serp工具的GPT-4将浏览互联网并相应地回答，或者在可以访问雅虎金融工具时，它可以获取和分析股票表现。因此，LLM模型、工具和用于推理和采取行动的框架的组合就是AI代理的概念。 构建LLM代理的平台和工具急剧增长。Autogen就是其中之一。让我们了解一下Autogen是什么，以及如何使用它来创建LLM代理。 什么是Autogen？ Autogen是微软推出的一款面向构建稳定多智能体应用的开源工具。该工具从头开始设计，充分考虑到多智能体之间的通信。它允许我们创建LLM应用程序，其中多个代理互相对话以找到解决方案。这些代理是高度可定制的，意味着我们可以引导它们执行特定的任务。它还与Langchain工具生态系统完美集成，这意味着我们可以利用现有的Langchain工具来增强我们的代理。 为了完成任务，Autogen提供了不同类型的代理，包括： 助理代理：负责完成编码、审核等任务 用户代理：如其名称所示，这些代理代表最终用户行动。这些代理将人类引入代理循环，以引导对话 可教授代理：该代理被配置为易于教授。我们可以向代理提供LLM中缺失的显式信息 我们在大多数情况下只需要一个助理代理和用户代理进行配置。所以，让我们看看如何使用 Autogen 配置代理。RAG…
Leave a Comment介绍 在人工智能时代，API是解决企业面临的重要挑战之一，即将AI模型整合到软件和应用中时的高计算要求的一种解决方案。这种解决方案被称为应用程序编程接口（API）。API可以帮助你摆脱维护的麻烦，让你专注于业务逻辑和用户体验。这意味着任何人都可以利用这些API构建和商业化应用。本文将探讨稳定扩散API，这是一组专注于图像生成的生成式AI模型，这些模型对于各种应用程序至关重要。 我们首先将看到Segmind API，这是一个非常高效和有效的选择。这些API已经彻底改变了开发人员、设计师和创作者处理视觉内容生成的方式。我们将探索一些排名前五的稳定扩散API，重点介绍它们的特点、用途、定价等等。 学习目标 深入了解稳定扩散模型。 了解稳定扩散模型的基础知识，包括它们的应用。 了解现代软件开发中的API。 探索API在简化软件和应用开发中的关键作用。 本文是数据科学博文马拉松的一部分。 了解稳定扩散模型 什么是稳定扩散模型？ 稳定扩散模型是一类专注于生成高质量图像的生成式AI模型。这些模型旨在生成具有各种应用的逼真、高分辨率图像。它们的特点是稳定和可靠，对于图像合成、风格转移和数据增强等任务非常有帮助。 稳定扩散模型使用扩散过程生成图像，从而逐渐向图像添加噪声，直到演化为复杂而连贯的输出。这个过程确保生成的图像具有高质量并展现出细节。 什么是API？ API，或应用程序编程接口，是一组规则和协议，允许一个软件应用程序与另一个应用程序、服务或平台的功能或数据进行交互。API是中介，实现软件之间的集成。 在软件开发中，API为开发人员提供了一种访问功能、服务或数据的方式，包括云服务、数据库或AI模型等源，而无需理解底层复杂性。这简化了开发过程，加速了功能丰富应用的创建。 API可以采用多种形式，包括RESTful API、gRPC API和WebSocket API，每种都针对特定的用例。在现代软件中，它们发挥着关键作用，使开发人员能够利用第三方服务和功能的强大能力，同时专注于核心应用程序逻辑。 前五稳定扩散API 让我们来看看我们列表上排名靠前的稳定扩散API，首先是用户友好的Segmind API。 1.…
Leave a Comment介绍 Segmind AI 自豪地发布了 SSD-1B（Segmind Stable Diffusion 1B），这是一种具有颠覆性的开源文本到图像生成模型革命。这个闪电般快速的模型具有前所未有的速度、紧凑设计和高质量的视觉输出。人工智能在自然语言处理和计算机视觉方面取得了快速进展，并展示出重新定义界限的创新。由于其关键特征，SSD 1B 模型是计算机视觉的开拓之门。在这篇全面的文章中，我们深入探讨了该模型的特点、用例、架构、训练信息等等。 学习目标 探索 SSD-1B 的架构概述，了解它如何从专家模型中进行知识蒸馏。 通过在 Segmind 平台上使用 SSD-1B 模型进行快速推理和使用代码推理，获得实践经验。 了解下游用例，了解 SSD-1B 模型如何用于特定任务。 认识 SSD-1B 的局限性，特别是在实现绝对照片逼真度和在某些场景中保持文本清晰度方面。…
Leave a Comment介绍 在一个数字前沿无边界的世界中，AutoGen以一种变革性范式的建筑师的身份出现。想象一下拥有个性化的人工智能团队，每个团队都擅长不同领域，无缝协作，无障碍沟通，不知疲倦地处理复杂任务。这就是AutoGen的本质，它是一种开创性的多智能体对话框架，赋予您创建个性化的人工智能团队的能力。在这篇文章中，我们揭开AutoGen的神奇之处，探索它如何使您能够组建自己的数字梦想团队并实现非凡成就。欢迎来到一个人与机器之间的边界消失，协作无限的未来。 学习目标 在我们深入了解细节之前，让我们概述一下本文的主要学习目标： 全面了解AutoGen作为多智能体对话框架的能力。 了解智能体在多智能体对话框架中的自主沟通和协作。 了解config_list在AutoGen运行中的关键作用。了解保护API密钥和管理配置以实现智能体高效性能的最佳实践。 探索各种对话风格，从完全自主到人类参与的交互。了解AutoGen支持的静态和动态对话模式。 了解如何利用AutoGen根据验证数据、评估函数和优化指标调整LLM。 探索示例，如构建协作内容创作团队和带有文化背景的语言翻译，以了解AutoGen如何在不同场景中应用。 本文作为数据科学博文马拉松的一部分发表。 AutoGen是什么？ AutoGen是一个统一的多智能体对话框架，作为使用基础模型的高级抽象。它将能力强大、可定制、可对话的智能体通过自动化聊天集合在一起，与LLMs、工具和人类参与者整合。本质上，它使智能体能够自主沟通和协作，有效地简化复杂任务并自动化工作流程。 为什么AutoGen很重要？ AutoGen解决了与人工智能进行高效灵活的多智能体通信的需求。它的重要性在于它能够： 简化复杂LLM工作流程的编排、自动化和优化。 充分发挥LLM模型的性能，同时克服其局限性。 以最少的工作量基于多智能体对话开发下一代LLM应用。 设置开发环境 创建虚拟环境 创建虚拟环境是一种良好的实践，可以隔离特定项目的依赖项，避免与系统范围的软件包冲突。以下是设置Python环境的方法： 选项1：Venv python -m venv…
Leave a Comment介绍 在人工智能中，出现了两个不同的挑战：在云环境中部署大型模型，产生了巨大的计算成本，阻碍了可扩展性和盈利能力，以及需要支持复杂模型的资源受限的边缘设备。这些挑战的共同问题是在不影响准确性的情况下缩小模型尺寸。模型量化是一种流行的技术，可以提供潜在解决方案，但也引发了对潜在准确性的担忧。 量化感知训练成为一个有力的解决方案。它将量化无缝地集成到模型训练过程中，可以显著减小模型尺寸，有时可以减小两到四倍以上，同时保持重要的准确性。本文深入探讨了量化，在后训练量化（PTQ）和量化感知训练（QAT）之间进行了比较。此外，我们提供了实际见解，展示了如何使用Deci开发的开源训练库SuperGradients来有效地实现这两种方法。 此外，我们还探讨了用于移动和嵌入式平台的卷积神经网络（CNNs）的优化，解决了尺寸和计算需求的独特挑战。我们着重于量化，研究了数字表示在优化移动和嵌入式平台模型中的作用。 学习目标 了解人工智能中模型量化的概念。 了解典型量化级别及其权衡。 区分量化感知训练（QAT）和后训练量化（PTQ）。 探索模型量化的优势，包括内存效率和能源节省。 发现模型量化如何实现更广泛的人工智能模型部署。 本文是Data Science Blogathon的一部分。 理解模型量化的需求 模型量化是深度学习中的一种基本技术，旨在解决与模型尺寸、推理速度和内存效率相关的关键挑战。它通过将模型权重从高精度浮点表示（通常为32位）转换为较低精度浮点（FP）或整数（INT）格式（例如16位或8位）来实现这一目标。 量化的好处是双重的。首先，它显著减小了模型的内存占用，并提高了推理速度，而不会造成显著的准确性降低。其次，它通过减少内存带宽需求和增强缓存利用来优化模型性能。 在硬件架构上，INT8表示通常在深度神经网络的上下文中被称为“量化”，但是根据不同的模型，还会使用其他格式，如UINT8和INT16，这取决于硬件架构。不同的模型需要不同的量化方法，通常需要先有先验知识，并进行细致的微调以在准确性和模型尺寸减小之间取得平衡。 量化引入了挑战，特别是对于INT8等低精度整数格式，由于其有限的动态范围。将FP32的广阔动态范围压缩为只有255个INT8值可能导致准确性损失。为了解决这个挑战，可以通过通道或层级缩放调整权重和激活张量的比例和零点值，以更好地适应量化格式。 此外，量化感知训练可以在模型训练过程中模拟量化过程，使模型能够优雅地适应较低的精度。通过校准来实现的挤压或范围估计是这个过程的一个重要方面。 总之，模型量化对于部署高效的人工智能模型非常重要，在限制性计算资源的边缘设备上准确性和资源效率之间取得微妙的平衡。 模型量化技术 量化级别 量化将模型的高精度浮点权重和激活转换为较低精度的定点值。 “量化级别”指的是表示这些定点值的比特数。典型的量化级别有8位、16位，甚至是二进制（1位）量化。选择适当的量化级别取决于模型准确性与内存、存储和计算效率之间的权衡。 详细介绍量化感知训练（Quantization-Aware…
Leave a Comment简介 有监督学习的目标是构建一个在一组新数据上表现良好的模型。问题在于您可能没有新数据，但您仍然可以通过像训练-测试-验证分割的过程来体验到这一点。 看到模型在数据集上的表现是不是很有趣？是的！专注工作的最好一面就是看到您的努力以一种良好的方式被充分利用，以创建一个高效的机器学习模型并产生有效的结果。 什么是训练-测试-验证分割？ 训练-测试-验证分割在机器学习和数据分析中非常基础，尤其在模型开发过程中。它涉及将数据集分成三个子集：训练集、测试集和验证集。训练-测试分割是一个模型验证过程，可以检查您的模型在新数据集上的表现。 训练-测试-验证分割有助于评估机器学习模型在新的未见数据上的泛化能力。它还可以防止过拟合，即模型在训练数据上表现良好，但无法泛化到新实例。通过使用验证集，实践者可以迭代地调整模型的参数，以在未见数据上获得更好的性能。 数据分割在机器学习中的重要性 数据分割涉及将数据集分成训练、验证和测试子集。数据分割在机器学习中的重要性涵盖以下几个方面： 训练、验证和测试 数据分割将数据集分成三个主要子集：训练集用于训练模型，验证集用于跟踪模型参数并避免过拟合，测试集用于检查模型在新数据上的表现。每个子集都在机器学习模型开发的迭代过程中发挥着独特的作用。 模型开发和调优 在模型开发阶段，训练集对于将算法暴露于数据中的各种模式是必要的。模型从这个子集中学习，调整其参数以最小化错误。验证集在超参数跟踪过程中很重要，有助于优化模型的配置。 过拟合预防 过拟合发生在模型在训练数据上很好地学习到了噪声和无关模式的情况下。验证集充当检查点，可以检测到过拟合的情况。通过评估模型在不同数据集上的性能，您可以调整模型的复杂性、技术或其他超参数，以防止过拟合并增强泛化能力。 性能评估 测试集对于机器学习模型的性能至关重要。在训练和验证后，模型面对测试集，检查真实世界的情况。在测试集上表现良好的模型表明它已成功适应了新的未见数据。这一步骤对于在实际应用中部署模型时获得信心非常重要。 偏差和方差评估 训练-测试-验证分割有助于理解偏差折衷。训练集提供了关于模型偏差的信息，捕捉了内在模式，而验证和测试集有助于评估方差，指示了模型对数据集中波动的敏感性。在偏差和方差之间取得适当的平衡对于实现在不同数据集上良好泛化的模型至关重要。 交叉验证提高稳健性 除了简单的训练-验证-测试分割外，像k折交叉验证这样的技术进一步增强了模型的稳健性。交叉验证涉及将数据集分成k个子集，在k-1个子集上训练模型，并在剩余一个子集上验证。这个过程重复k次，并对结果进行平均。交叉验证更全面地了解模型在数据的不同子集上的性能。 数据分割在模型性能中的重要性 数据分割在模型性能中的重要性包括以下几个方面： 模型泛化能力的评估 模型不仅应该记住训练数据，还应有很好的泛化能力。数据分割可以创建一个测试集，对模型在新数据上的表现进行真实世界的检验。如果没有专门的测试集，当模型过度适应训练数据时，过拟合的风险会增加。数据分割通过评估模型的真实泛化能力来减轻这种风险。 防止过拟合…
Leave a Comment介绍 2023年是一个人工智能的年份，从语言模型到稳定的扩散模型。其中一个新的玩家登上了舞台，那就是由微软开发的KOSMOS-2。它是一个多模态大型语言模型（MLLM），在理解文本和图像方面具有开创性的能力。开发语言模型是一回事，而为视觉创建模型是另一回事，但拥有同时具备这两种技术的模型则是另一个全新层次的人工智能。在本文中，我们将深入探讨KOSMOS-2的特点和潜在应用，以及它对人工智能和机器学习的影响。 学习目标 了解KOSMOS-2多模态大型语言模型。 了解KOSMOS-2如何执行多模态接地和指称表达生成。 深入了解KOSMOS-2在现实世界中的应用。 在Colab中使用KOSMOS运行推理。 本文是作为 数据科学博客马拉松 的一部分发布的。 了解KOSMOS-2模型 KOSMOS-2是微软研究团队的一项成果，他们在一篇名为“Kosmos-2：将多模态大型语言模型接地到世界”的论文中介绍了这个模型。KOSMOS-2旨在同时处理文本和图像，并重新定义我们与多模态数据的交互方式。KOSMOS-2基于基于Transformer的因果语言模型架构构建，类似于其他著名模型如LLaMa-2和Mistral AI的7b模型。 然而，KOSMOS-2的独特训练过程是其与众不同之处。它使用一组庞大的图像-文本对训练数据集，称为GRIT，其中文本以特殊令牌形式包含了对图像中物体的引用边界框。这种创新的方法使KOSMOS-2能够提供对文本和图像的新理解。 什么是多模态接地？ KOSMOS-2的一个亮点功能是其执行“多模态接地”的能力。这意味着它可以为图像生成描述对象及其在图像中的位置的字幕。这大大减少了语言模型中的“幻觉”问题，极大地提高了模型的准确性和可靠性。 这个概念通过独特的令牌将文本与图像中的对象联系起来，有效地将对象“接地”到视觉环境中。这减少了幻觉，增强了模型生成准确图像字幕的能力。 指称表达生成 KOSMOS-2在“指称表达生成”方面也表现出色。这个功能允许用户以图像中特定边界框和问题的方式提示模型。然后，模型可以回答有关图像中特定位置的问题，为理解和解释视觉内容提供了强大的工具。 这种令人印象深刻的“指称表达生成”用例允许用户使用提示，并为与视觉内容的自然语言交互打开了新的途径。 使用KOSMOS-2进行代码演示 我们将看到如何在Colab上使用KOSMOS-2模式进行推理。在这里找到完整的代码：https://github.com/inuwamobarak/KOSMOS-2 步骤1：设置环境 在这一步中，我们安装必要的依赖库，如🤗 Transformers、Accelerate和Bitsandbytes。这些库对使用KOSMOS-2进行高效推理至关重要。 !pip install…
Leave a Comment介绍 你是否曾经思考过智能手机语音识别的机制，以及天气预报的复杂性？如果是的话，你可能会对隐藏马尔可夫模型（HMM）所起的关键作用感到好奇。这些数学结构在语音识别、自然语言处理和生物信息学等领域产生了深刻的变革，使系统能够解开顺序数据的复杂性。本文将简要介绍隐藏马尔可夫模型、它们的应用、组成部分、解码方法等内容。 学习目标 了解隐藏马尔可夫模型（HMM）的基本组成部分，包括状态、观测、转移概率、发射概率和初始状态概率。 探索HMM的主要解码算法：前向算法、维特比算法和鲍姆-韦尔奇算法，以及它们在语音识别、生物信息学等领域的应用。 认识到HMM的局限性和挑战，并学会如何减轻这些问题，比如对初始化的敏感性、独立性假设和数据数量需求。 隐藏马尔可夫模型 来源：Wisdom ML 隐藏马尔可夫模型（HMM）是由Baum L.E.于1966年引入的强大统计模型。它们利用观察数据揭示了马尔可夫过程中的隐藏状态。HMM在语音识别、字符识别、移动通信、生物信息学和故障诊断等领域起着关键作用。它们通过概率分布将关注事件和状态之间的差距连接起来。HMM是双重随机的，结合了一个主要的马尔可夫链和连接状态和观测的过程。它们在解码监控数据的趋势、适应变化的模式以及包含季节性等元素方面表现出色。在时间序列监视中，HMM是无价的，甚至可以扩展到空间信息应用。 HMM的应用 由于其对顺序数据和隐藏状态建模的能力，隐藏马尔可夫模型（HMM）在多个领域有着广泛的应用。让我们探索HMM在不同领域的应用： 使用步态进行人类识别：HMM在基于独特步态模式识别个体的身份方面发挥着重要作用。通过对人们独特的行走风格建模，HMM可以帮助区分一个人和另一个人。这个应用在安全系统和访问控制中至关重要，通过融合人类步态分析来增强生物特征识别方法。 从时间顺序图像中识别人类动作：HMM在识别和分类从顺序图像或视频帧中的人类动作方面至关重要。通过捕捉不同姿势和动作之间的时间依赖性和转换，HMM可以准确地识别个人的各种活动。这个应用在监视、视频分析和体育表现评估等领域广泛应用。 通过视频识别面部表情：在情感计算和人机交互中，HMM用于分析视频中的面部表情。通过捕捉面部肌肉运动和表情的时间动态，它们帮助识别和解释情绪和情绪变化。这个应用对于理解用户体验、情感反应和各种交互系统中的非语言沟通线索至关重要。 HMM的基本组成部分 隐藏马尔可夫模型（HMM）具有定义其结构和功能的几个基本组成部分。了解这些组成部分对于有效地使用HMM非常重要。以下是HMM的基本组成部分： 状态（S） 观测（O） 转移概率（A） 发射概率（B） 初始状态概率（π） 状态空间（S） 观测空间（O）…
Leave a Comment介绍 生成AI目前在全球范围内广泛使用。大型语言模型能够理解提供的文本并基于此生成文本的能力，已经导致了从聊天机器人到文本分析器的众多应用。但是，这些大型语言模型通常以非结构化的方式生成文本。有时候，我们希望LLM生成的输出以结构化的形式呈现，比如JSON（JavaScript对象表示）格式。假设我们正在使用LLM来分析社交媒体帖子，并且我们需要LLM生成的输出在代码中本身作为JSON/Python变量，以执行其他任务。通过Prompt Engineering可以实现这一点，但需要花费大量时间来调整提示。为了解决这个问题，LangChain引入了输出解析功能，可以用于将LLM的输出转换为结构化格式。 学习目标 解释大型语言模型生成的输出 使用Pydantic创建自定义数据结构 了解提示模板的重要性，并生成一个格式化LLM输出的模板 学习如何使用LangChain创建LLM输出的格式化指令 了解如何将JSON数据解析为Pydantic对象 本文是数据科学博文马拉松的一部分。 LangChain和输出解析是什么？ LangChain是一个Python库，可以让您在短时间内构建与大型语言模型相结合的应用程序。它支持多种模型，包括OpenAI GPT LLM、Google的PaLM，甚至是Hugging Face中提供的开源模型，如Falcon、Llama等等。借助LangChain，定制大型语言模型的提示变得轻而易举，它还配备了一个开箱即用的向量存储库，可以存储输入和输出的嵌入。因此，可以使用它来创建在几分钟内查询任何文档的应用程序。 LangChain使大型语言模型能够通过代理从互联网上获取信息。它还提供了输出解析器，允许我们从大型语言模型生成的输出中结构化数据。LangChain提供了不同的输出解析器，如列表解析器、日期时间解析器、枚举解析器等等。在本文中，我们将介绍JSON解析器，它可以将LLM生成的输出解析为JSON格式。下面，我们可以观察到一个典型的流程，即将LLM输出解析为Pydantic对象，从而创建出一组可供Python变量直接使用的数据。 入门-设置模型 在本节中，我们将使用LangChain来设置模型。在本文中，我们将始终使用PaLM作为我们的大型语言模型。我们将使用Google Colab作为我们的环境。您可以将PaLM替换为任何其他大型语言模型。我们将首先导入所需的模块。 !pip install google-generativeai langchain 这将下载LangChain库和与PaLM模型一起使用的google-generativeai库。 需要langchain库来创建自定义提示并解析大型语言模型生成的输出。…
Leave a Comment介绍 由于人工智能对人们手工劳动的日益影响，在我们几乎每天都在谈论人工智能。建立AI-enabled软件在短时间内迅速增长。企业和商家相信将可靠和负责任的AI集成到他们的应用程序中以产生更多的收入。将AI集成到应用程序中最具挑战性的部分是在训练模型时使用的模型推理和计算资源。已经存在许多技术来通过使用较少的计算资源在推理过程中优化模型以提高性能。基于这个问题陈述，英特尔推出了OpenVINO Toolkit，这是一个绝对的游戏改变者。OpenVINO是一个用于优化和部署AI推理的开源工具包。 学习目标 在本文中，我们将： 了解OpenVINO Toolkit及其在优化和部署AI推理模型方面的目的。 探索OpenVINO的实际用例，特别是其在边缘人工智能未来中的重要性。 学习如何在Google Colab中使用OpenVINO在图像中实现文本检测项目。 了解使用OpenVINO的关键功能和优势，包括其模型兼容性和对硬件加速器的支持以及它如何影响各个行业和应用。 本文是数据科学博客马拉松的一部分。 什么是OpenVINO？ OpenVINO代表开放的视觉推理和神经网络优化，是由英特尔团队开发的开源工具包，旨在促进深度学习模型的优化。OpenVINO工具包的愿景是通过更高效和更有效的方法在本地、设备上或云中部署您的人工智能深度学习模型。 OpenVINO Toolkit特别有价值，因为它支持许多深度学习框架，包括像TensorFlow、PyTorch、Onnx和Caffe这样流行的框架。您可以使用您喜欢的框架训练模型，然后使用OpenVINO将其转换和优化以在Intel的硬件加速器（如CPU、GPU、FPGA和VPU）上部署。 在推理方面，OpenVINO Toolkit提供了各种模型量化和压缩工具，可以显著减小深度学习模型的大小而不损失推理准确性。 为什么使用OpenVINO？ AI的热潮目前没有减缓的迹象。随着它的流行，显然会开发更多应用程序在本地和设备上运行人工智能应用程序。OpenVINO在以下几个具有挑战性的领域表现出色，这些是选择使用OpenVINO的理想选择的原因： OpenVINO模型库 OpenVINO提供了一个模型库，包含用于稳定扩散、语音、目标检测等任务的预训练深度学习模型。这些模型可以作为您项目的起点，节省时间和资源。 模型兼容性 OpenVINO支持许多深度学习框架，包括TensorFlow、PyTorch、ONNx和Caffe。这意味着您可以使用您喜欢的框架训练模型，然后使用OpenVINO Toolkit将其转换和优化以进行部署。…
Leave a Comment介绍 2023年即将结束，对计算机视觉界而言，令人兴奋的消息是，谷歌最近在零样本目标检测领域取得了重大进展，并发布了OWLv2。这款尖端模型现在已经在🤗 Transformers中可用，并代表着迄今为止最强大的零样本目标检测系统之一。它基于去年推出的OWL-ViT v1模型打下了坚实的基础。 在本文中，我们将介绍该模型的行为和架构，并展示如何进行推理的实践方法。让我们开始吧。 学习目标 了解计算机视觉中零样本目标检测的概念。 了解谷歌OWLv2模型背后的技术和自我训练方法。 使用OWLv2的实际方法。 本文作为Data Science Blogathon的一部分发表。 OWLv2背后的技术 OWLv2的强大能力归功于其新颖的自我训练方法。该模型在一个包含超过10亿个示例的Web规模数据集上进行了训练。为了实现这一点，作者利用了OWL-ViT v1的强大功能，使用它生成伪标签，然后用这些伪标签来训练OWLv2。 此外，该模型还在检测数据上进行了微调，从而提高了其前身OWL-ViT v1的性能。自我训练为开放世界定位提供了Web规模的训练，与目标分类和语言建模领域的趋势相呼应。 OWLv2架构 尽管OWLv2的架构与OWL-ViT相似，但其目标检测头部有一个显著的补充。现在它包括一个目标性分类器，用于预测预测框中包含物体的可能性。目标性得分提供了洞察力，并可用于独立于文本查询对预测进行排序或筛选。 零样本目标检测 零样本学习是一个新的术语，自从GenAI的趋势以来变得流行起来。它通常在大型语言模型（LLM）的微调中见到。它涉及使用一些数据对基础模型进行微调，使其扩展到新的类别。零样本目标检测是计算机视觉领域的一个改变者。它的核心是使模型能够在图像中检测物体，而无需手工注释边界框。这不仅加快了处理速度，还减少了手工注释的需求，使其对人类更具吸引力和乐趣。 如何使用OWLv2？ OWLv2遵循与OWL-ViT类似的方法，但使用了更新的图像处理器Owlv2ImageProcessor。此外，该模型依赖于CLIPTokenizer对文本进行编码。Owlv2Processor是一个方便的工具，结合了Owlv2ImageProcessor和CLIPTokenizer，简化了文本编码过程。以下是使用Owlv2Processor和Owlv2ForObjectDetection进行对象检测的示例。 在此处找到完整的代码：https://github.com/inuwamobarak/OWLv2 步骤1：设置环境…
Leave a Comment简介 在一个正在经历技术革命的世界中，人工智能和医疗保健的融合正在重新塑造医学诊断和治疗的格局。在这一转变背后默默支持的是大型语言模型（LLMs）在医疗、健康领域和主要的文本分析中的应用。本文深入探讨了LLMs在基于文本的医疗应用领域的作用，并探索了这些强大的人工智能模型如何革新医疗保健行业。 图片来源-约翰·斯诺实验室 学习目标 了解大型语言模型（LLMs）在医学文本分析中的作用。 认识现代医疗保健中医学影像的重要性。 了解医学影像在医疗保健中所面临的挑战。 理解LLMs在自动化医学文本分析和诊断中的辅助作用。 欣赏LLMs在分诊关键医疗案例中的效率。 探索LLMs如何根据患者病史贡献个性化治疗计划。 理解LLMs在协助放射科医师中发挥的协同作用。 发现LLMs在医学生和医疗从业人员教育中的作用。 本文是数据科学博文马拉松的一部分。 医学影像和医疗保健的未见世界 在我们深入了解LLMs的世界之前，让我们先停下来欣赏医学影像的存在。它是现代医学中的支柱，帮助可视化和检测疾病，并监测许多治疗进展。尤其是放射学在X射线、核磁共振、CT扫描等医学影像方面依赖重大。 然而，这些医学影像的宝库也带来了一个挑战：庞大的数量。医院和医疗机构每天使用大量的医学影像。人工分析和解读这一泛滥的数据是困难、耗时且容易出错的。 图片来源-一步到位诊断 除了在分析医学影像方面发挥关键作用外，大型语言模型在理解和处理基于文本的医学信息方面也表现优秀。它们有助于理解复杂的医学术语，甚至帮助解释笔记和报告。LLMs提供更高效、更准确的医学文本分析，提升医疗专业人员和医学分析的整体能力。 有了这样的认识，让我们进一步探索LLMs在医学影像和文本分析中如何革新医疗保健行业。 LLMs在医学文本分析中的应用 在了解大型语言模型在医疗保健领域中扮演的多面角色之前，让我们简要看一下它们在医学文本分析领域的主要应用： 疾病诊断和预后：LLMs可以搜索大量的医学文本数据库，协助医疗保健提供者诊断各种疾病。它们不仅可以帮助初步诊断，还可以根据足够的上下文信息对疾病的进展和预后进行有根据的猜测。 临床记录和电子健康记录：处理广泛的临床文件可能对医疗专业人员来说是耗时的。LLMs提供了一种更高效的方法来转录、总结和分析电子健康记录（EHR），使医疗保健提供者能够更专注于患者护理。 药物发现和重用：通过挖掘大量的生物医学文献，LLMs可以找到潜在的药物候选，并提出现有药物的替代用途，加速了药理学中的发现和重用过程。 生物医学文献分析：不断增长的医学文献库可能令人不知所措。LLMs可以筛选出大量的科学论文，识别关键发现，并提供简洁的摘要，帮助更快地吸收新知识。…
Leave a Comment介绍 迈入语言处理的前沿！在语言成为人类与技术之间的重要纽带的领域中，自然语言处理取得了一些非凡的成就。在这一进展中，有一项具有突破性意义的大型语言模型，它正在重塑我们与基于文本的信息的互动方式。在这个全面的学习之旅中，你将深入了解 LangChain，这是一种前沿工具，正在重新塑造我们与基于文本的信息的互动方式。你是否曾经想过，“Langchain”是什么链条？ LangChain作为大型语言模型领域的门户独树一帜，它提供了深入理解这些模型如何将原始输入转化为精细和类似人类回答的能力。通过这种探索，你将揭开 LangChain 的基本构建模块，从LLMChain和Sequential Chains到Router Chains的复杂运作。 学习目标 了解 LangChain 的核心组成部分，包括LLMChains和Sequential Chains，看看输入是如何在系统中流动的。 学会以连贯的方式整合不同的元素，探索提示模板和语言模型之间的联系。 获得在实际任务中创建功能性链条的实际经验。 培养通过微调结构、模板和解析技术来提高链条效率的技能。 本文是“数据科学博文马拉松”的一部分。 什么是LLM？ 大语言模型（LLM）是一种旨在理解和生成类似人类文本的人工智能类型。这些模型（如OpenAI的GPT-3.5）通过训练大量文本数据来了解人类语言的模式和结构。它们可以执行各种与语言相关的任务，包括翻译、内容生成、回答问题等。 LLMs是自然语言处理中宝贵的工具，广泛应用于聊天机器人、内容生成和语言翻译等领域。 什么是LangChain？ 在我们揭开 LangChain Chains 的复杂性之前，让我们先理解…
Leave a Comment介绍 生成式人工智能，常被称为GenAI，处于人工智能革命的前沿，使机器人拥有无限的创造力和问题解决潜力。在人工智能不断推动可能性极限的世界中，GenAI代表了尖端技术和人类创造力的重要融合。这个新的人工智能领域超越了简单的预测，通过使用机器来产生与人类信息密切相似的内容、数据和解决方案来进行分类。在本文中，我们将探讨GenAI的重要影响，从其基本理念到其实际应用和复杂实施，同时探索艺术、医学、商业、交通、游戏等领域。这场深入研究将探讨生成式人工智能如何重塑我们周围的一切。我们将带给您对GenAI能力的深入了解，并用实际应用的例子激发您的灵感。 学习目标 阅读本文后，您将对生成式人工智能的基础有所了解。 了解如何实际运用生成式人工智能产生重大效果。 了解这些用例如何运用生成式人工智能。 了解未来生成式人工智能技术的可能性。 本文是作为数据科学博文马拉松的一部分发表的。 理解生成式人工智能 生成式人工智能是一类人工智能模型和算法，可以产生与人类创造的数据、材料或其他输出非常相似的结果。这包括生成文本、音乐、图形，甚至更复杂的输出，如软件代码或学术研究文章。 什么是生成式人工智能？ 生成式人工智能，有时被称为“创建新内容、数据或解决方案的人工智能”，是人工智能的前沿子领域。与通常主要关注分析和预测的典型人工智能模型不同，生成式人工智能利用深度学习算法的能力产生与人类数据非常相似的结果。 这些尖端模型，例如Variational Autoencoders (VAEs)和Generative Adversarial Networks (GANs)，能够理解复杂的数据分布并提供独特、与上下文相关的信息，使它们在广泛的应用中非常有价值。 生成式人工智能的应用案例 现在，让我们更深入地了解生成式人工智能的几个应用案例，以及它如何重塑我们周围的一切。 艺术和创造力 随着机器创作音乐和艺术的能力，生成式人工智能引发了一场创造力的革命。音乐家和艺术家正在使用这些模型来尝试新的表达方式。例如，AIVA（Artificial Intelligence Virtual Artist）音乐创作系统使用深度学习来创作与人类音乐家创作的作品相媲美的独特古典音乐。…
Leave a Comment简介 在商业竞争中，将人工智能（AI）整合到我们的应用程序中变得愈发必要。添加这些AI功能可以提升用户体验、自动化任务并提供有价值的见解。由于我们拥有多种多样的GenAI模型，所以有很多可能性。然而，将AI整合到您的应用程序中可能会很复杂，特别是与GenAI这种新趋势相结合，其中许多过程仍在试验阶段。因此，假设您想了解如何将GenAI整合到您的个人应用程序或软件中，例如时尚应用程序，那么本文旨在通过使用Segmind API和Postman实现GenAI应用程序集成以简化此过程。 学习目标 了解Segmind模型和API 了解Segmind中的GenAI集成API 使用Segmind API中的Postman 本文是发布在数据科学博客马拉松的一部分。 理解Segmind模型API 要全面了解Segmind的GenAI API，您必须了解其目的、功能和优点。一些值得关注的潜在用例包括电子商务应用程序的图像识别、时尚设计、动画、背景去除、艺术作品、绘画、漫画等。除了易于使用，Segmind AI还通过网站上的API和游乐场提供可用的GenAI模型，网址为https://www.segmind.com/models。在本文中，我们将使用API推断调用。选择适合您任务的模型并使用可用的API脚本非常简单。下面是一个示例，展示了一个可在https://www.segmind.com/models/sd1.5-outpaint/api找到的稳定扩散1.5超出模型。 import requestsfrom base64 import b64encodedef toB64(imgUrl): return str(b64encode(requests.get(imgUrl).content))[2:-1]api_key = “YOUR API-KEY”url =…
Leave a Comment简介 语言不仅仅是沟通的形式，更是文化、身份和遗产的储藏室。然而，许多语言面临灭绝的风险。语言复兴旨在扭转这个趋势，生成式人工智能已经成为这一努力中的强大工具。 语言复兴对于保护濒危语言和文化遗产至关重要。生成式人工智能凭借其自然语言处理能力，在这一任务中具有重要作用。本指南将探讨以下内容： 如何利用生成式人工智能进行语言复兴 实用的Python实现 了解语音合成、文本生成和度量 本文作为“数据科学博文马拉松”的一部分发表。 理解语言复兴 语言复兴涉及到振兴濒危或休眠语言的努力。它包括语言文献记录、教学和语言资源的创建。 理解AI语言复兴意味着认识到人工智能在保护和复兴濒危语言方面的变革潜力。人工智能系统，特别是GPT-3等自然语言处理（NLP）模型，可以理解、生成和翻译语言，使其成为记录和教学濒危语言的宝贵工具。这些由人工智能驱动的倡议可以创建大规模的语言语料库、自动翻译服务，甚至是互动式语言学习应用程序，使语言复兴更加可行。 此外，人工智能还可以为创作具有文化敏感性的内容做出贡献，促进语言和文化遗产之间的更深层次的联系。通过理解人工智能在语言复兴中的微妙挑战和机遇，利益相关者可以利用这项技术弥合语言差距，吸引年轻一代，确保这些语言蓬勃发展。 最终，AI语言复兴是一项多学科的努力，将语言学家、社区和技术人员汇聚在一起，以保护语言多样性，保存濒危语言所编码的丰富人类文化图谱。 生成式人工智能和自然语言处理 基于深度学习的生成式人工智能可以理解和生成类似人类的文本。自然语言处理（NLP）致力于使计算机能够理解、解释和生成人类语言。 构建语言语料库 在应用生成式人工智能之前，您需要一个大规模的语言数据集。本节将介绍如何收集、组织和预处理用于人工智能应用的语言数据。 使用Python和GPT-3生成文本 OpenAI的GPT-3是一个可以生成类似人类文本的强大语言模型。我们将指导您设置OpenAI API并创建Python实现，用于在目标语言中生成文本。 # 使用GPT-3生成文本的Python代码import openai# 设置OpenAI API密钥api_key =…
Leave a Comment介绍 欢迎来到客户反馈分析的世界，在这里，客户意见的未开发财富可以塑造您的业务的成功。在当今激烈的竞争和大型语言模型的背景下，理解客户的想法不再是一种奢侈，而是一种必要性。客户反馈分析既是一门艺术，也是一门科学——一种从调查、评论、社交媒体和支持互动等多种来源中提取可操作见解的方法论。 在当今数字领域中，客户反馈比以往任何时候都更加丰富，企业不断寻求方法来利用这一财富。本文介绍了人工智能与客户反馈分析的融合，探讨了自然语言处理（NLP）和机器学习等技术如何提取可操作见解。我们揭示了人工智能在提高客户满意度和推动业务成功方面的转变潜力。让我们一起踏上这段启迪之旅，探索人工智能与优化客户体验之间的协同作用。 学习目标 人工智能基础：掌握基本的人工智能概念，包括自然语言处理和大型语言模型，以及它们与客户反馈分析的相关性。 人工智能应用：探索人工智能在调查、情感分析、反馈分类和自动化响应等方面的实际应用，突出其效率。 现实世界的影响：通过各种行业案例研究了解人工智能在改善客户体验方面的实际影响。 挑战和伦理：认识客户反馈分析中的人工智能挑战和伦理考虑，如数据质量和隐私。 战略性采用人工智能：学习如何战略性地利用人工智能获取竞争优势，在反馈分析中提高决策能力、客户关注度、效率、智能和创新。 本文是Data Science Blogathon的一部分。 理解人工智能：简要概述 人工智能（AI）是一项革命性的技术，旨在在机器和系统中复制类似人类的智能。这个简要概述提供了有关AI核心概念和功能的见解。 模仿人类智能 在本质上，人工智能旨在通过使机器能够从数据中学习、识别模式、做出决策和执行通常需要人类认知的任务来模拟人类智能。它通过算法和数据的结合来实现这一目标。 算法的作用 算法，或预定义的规则和指令集，构成了人工智能的基础。这些算法处理大量数据，识别相关性，并利用这些信息进行预测或决策。机器学习和深度学习是人工智能的子集，专注于通过对数据的迭代学习来提高算法性能。 数据作为燃料 数据是人工智能的命脉。人工智能系统可以访问的质量数据越多，其性能和准确性就越好。这些数据可以包括文本、图像、音频或任何其他形式的信息，人工智能系统被设计用来分析或处理这些信息。 人工智能的类型 人工智能可以分为两种主要类型：狭义或弱人工智能和广义或强人工智能。狭义人工智能专为语言翻译或图像识别等特定任务而设计，而广义人工智能具有类似人类智能的能力，可以执行各种类似人类认知的任务（尽管这种水平的人工智能在很大程度上仍然是理论性的）。 人工智能的应用 人工智能在医疗、金融、客户服务和自动驾驶等各个领域都有应用。它驱动着聊天机器人、推荐系统和GPT-3等大型语言模型。这些应用利用了人工智能分析数据、理解自然语言和做出明智决策的能力。 这个简要概述为我们展示了人工智能及其多面功能的迷人世界。当我们深入探索本文时，我们将看到人工智能在提高客户反馈分析中的关键作用。…
Leave a Comment介绍 机器学习（ML）领域正在迅速扩展，并在许多不同的行业中应用。随着机器学习实验使用MLflow进行跟踪和管理所需的试验变得越来越复杂，跟踪它们变得更加困难。这可能会给数据科学家带来许多问题，例如： 实验丢失或重复：跟踪所有进行的实验可能具有挑战性，这会增加实验丢失或重复的风险。 结果的可重现性：可能很难复制实验的发现，这使得故障排除和提高模型变得困难。 透明度不足：可能难以相信模型的预测，因为难以理解模型是如何创建的。 CHUTTERSNAP在Unsplash上的照片 鉴于上述挑战，拥有一个可以跟踪所有ML实验并记录度量指标以实现更好的可重现性并促进协作的工具非常重要。本博客将探索和学习MLflow，一个开源的ML实验跟踪和模型管理工具，并提供代码示例。 学习目标 在本文中，我们旨在对使用MLflow进行机器学习实验跟踪和模型注册有一个清晰的理解。 此外，我们将学习如何以可重复和可重用的方式交付ML项目。 最后，我们将了解LLM是什么，以及为什么需要跟踪LLM对于应用程序开发。 什么是MLflow？ MLflow标志（来源：官方网站） 称为MLflow的机器学习实验跟踪和模型管理软件使处理机器学习项目变得更加容易。它提供了各种工具和功能来简化ML工作流程。用户可以比较和复制结果，记录参数和度量指标，并跟踪MLflow实验。此外，它还简化了模型打包和部署。 使用MLflow，您可以在训练运行过程中记录参数和度量指标。 # 导入mlflow库 import mlflow # 开始mlflow跟踪 mlflow.start_run() mlflow.log_param(“learning_rate”, 0.01) mlflow.log_metric(“accuracy”,…
Leave a Comment