发现微软Azure对现代企业和技术环境的影响探索关键功能，优势和使用案例
Leave a Comment90 search results for "云计算"
本文讨论了有助于成功扩展数据科学项目的关键组件它涵盖了如何使用API收集数据，如何将数据存储在云中，如何清理和处理数据，如何可视化数据以及如何利用数据可视化的威力…
Leave a Comment简介 在人工智能（AI）、机器学习（ML）和深度学习（DL）的时代，对强大计算资源的需求已经达到了一个高潮。这场数字革命将我们推进到了未知的领域，在这里，数据驱动的洞察力是创新的关键。但要打开这些领域，我们需要与我们的壮志相匹配的工具。 这就是神奇的云GPU世界，我们数字时代的无名英雄。这些通用计算单元，通常简称为GPU，不仅仅是计算资源，它们更是无限动力的引擎。云GPU为用户提供了使用超级计算能力的非凡能力，而无需承担沉重的前期硬件投资负担。 本指南将带你踏上一段激动人心的旅程，探索主要云供应商，揭示它们的优势和隐藏的亮点，让你在AI/ML/DL的道路上变得更强大。 最佳GPU概览 供应商 GPU选项 定价 免费层 独特功能 最佳用途 亚马逊网络服务（AWS） T4，G4ad（Radeon Pro V520） 按需与竞价实例 是（有限制） 多样的GPU选择，广泛的生态系统 大型企业，对工作负载要求高的场景 微软Azure T4，A100，V620，M60，MI25 按使用量付费与预留实例 是（有限制） 高性能N系列GPU AI，机器学习，科学计算…
Leave a Comment探索微软Orca-2在可持续智能人工智能领域所取得的突破性进展Orca-2摆脱了大型语言模型（LLMs）的高能耗特性，通过强调智能设计而不是规模，挑战了现状了解这种转变如何打开新的可能性，使先进的人工智能更具包容性、环保责任和影响力探索Orca-2在塑造可持续人工智能未来方面的重要性，将技术进步与环境责任承诺相一致
Leave a Comment数据科学的世界非常复杂，隐藏着超出预算限制的隐藏成本数据科学家对于任何组织都是一项重大投资然而，不幸的是，像闲置等效率低下的问题…
Leave a Comment向一边去，韦伯斯特：今年企业发现了许多候选词来评选年度词汇。紧随其后的是诸如“生成式人工智能”和“生成式预训练变压器”之类的术语，整个行业都将注意力转向变革性的新技术，如“大型语言模型”和“检索增强生成”（RAG）。 一开始，“生成式人工智能”只是一个较小的关注点，但最后却以耀眼姿态收场。许多公司正在迅速利用其能够处理文本、语音和视频的能力，产生革新性的内容，从而彻底改变生产力、创新力和创造力。 企业正在顺应这一趋势。根据麦肯锡公司的数据，像OpenAI的ChatGPT这样的深度学习算法，再加上企业数据的进一步训练，每年可以为63个商业用例带来相当于2.6万亿至4.4万亿美元的价值。 然而，管理大量的内部数据往往被认为是扩展人工智能的最大障碍。一些AI领域的NVIDIA专家预测，2024年将成为联络朋友的一年——与云服务提供商、数据存储和分析公司以及其他掌握处理、优化和高效部署大数据的技能的公司建立伙伴关系和合作。 大语言模型是这一切的核心。NVIDIA专家表示，LLM研究的进展将越来越多地应用于商业和企业应用领域。通过几乎任何平台，诸如RAG、自主智能代理和多模态互动等AI功能将变得更加易于获取和部署。 听取NVIDIA专家对未来一年的预测： MANUVIR DAS企业计算副总裁 一刀切不适用于所有情况：定制化即将进入企业。企业将不会只有一两个生成式人工智能应用，它们会有数百个定制应用，使用适合于业务不同部分的专有数据。 一旦投入生产，这些定制化的LLM将具备RAG功能，将数据源与生成式人工智能模型连接起来，以获得更准确、更明智的响应。像Amdocs、Dropbox、Genentech、SAP、ServiceNow和Snowflake这样的领先公司已经在构建使用RAG和LLM的全新生成式人工智能服务。 开源软件引领潮流：得益于开源预训练模型，解决特定领域挑战的生成式人工智能应用将成为企业运营策略的一部分。 一旦公司将这些先导模型与私有或实时数据结合起来，他们就可以开始在整个组织中看到加速的生产力和成本效益。从基于云计算和人工智能模型铸造服务到数据中心、边缘和桌面，AI计算和软件将在几乎任何平台上变得更加易于获取。 现成的人工智能和微服务：生成式人工智能促使应用程序编程接口（API）端点的采用增加，这使得开发人员能够构建复杂的应用程序更加容易。 到2024年，软件开发工具包和API将升级，开发人员将使用生成式人工智能微服务（例如RAG作为服务）来定制现成的AI模型。这将帮助企业充分发挥以智能助手和摘要工具为代表的以AI驱动的生产力的潜力，这些工具可以获取最新的业务信息。 开发人员将能够直接将这些API端点嵌入到他们的应用程序中，而无需担心维护支持这些模型和框架所需的基础设施。最终用户将能够体验到更直观、更具响应性和更符合需求的应用程序。 IAN BUCK超大规模和高性能计算副总裁 国家财富：人工智能将成为新的太空竞赛，每个国家都希望建立自己的卓越中心，推动研究和科学的重大进展，提高国内生产总值。 只需要几百个加速计算节点，各国就能迅速构建高效、高性能、百亿亿次量级的AI超级计算机。政府资助的生成式AI卓越中心将通过创造新的工作岗位和建设更强大的大学项目推动国家经济增长，培养下一代科学家、研究人员和工程师。 量子飞跃：企业领导者将以两个关键驱动因素启动量子计算研究项目：利用传统AI超级计算机模拟量子处理器的能力以及混合经典量子计算的开放统一开发平台的可用性。这使得开发人员可以使用标准编程语言而不需要定制的、专门的知识来构建量子算法。 曾经在计算机科学中被认为是一个隐晦的领域，随着企业加入学术界和国家实验室追求材料科学、制药研究、亚原子物理和物流的快速进展，量子计算探索将变得更加主流。 KARI BRISKI副总裁，AI软件 从试错到致富：随着企业采用这些AI框架，对试错增强生成技术（RAG）将会有更多的讨论。 当企业培训LLM来构建生成式AI应用程序和服务时，当模型在某种用例下没有足够准确、相关的信息时，RAG被广泛视为解决不准确或荒谬回答的方法。…
Leave a Comment阿里巴巴云计算最新的开源AI模型系列Qwen，将人工智能技术的边界推向了新的高度。阿里巴巴通过发布Qwen-1.8B和Qwen-72B以及专门的聊天和音频模型，进一步扩展了其AI解决方案。阿里巴巴通过这些模型展示了其对开发AI能力的承诺，这些模型在语言和音频处理方面提供了改进的性能和多功能性。 Qwen系列已经得到显著增强，通过发布Qwen-1.8B及其更大的版本Qwen-72B。Qwen系列已包括Qwen-7B和Qwen-14B。Qwen-1.8B基于1.8亿个参数的Transformer模型，预训练语料库超过2.2万亿个令牌。该模型在中文和英文的各种语言任务中胜过许多相同规模甚至更大的模型。该模型还支持8192个令牌的长上下文。 值得注意的是，Qwen-1.8B及其量化变体int4和int8提供了一种经济实惠的部署解决方案。这些特性使其成为各种应用的明智选择，通过大幅降低内存需求。超过150K个标记的广泛词汇进一步提高了其语言能力。 更大规模的模型Qwen-72B训练了3万亿个令牌。该模型在大多数任务中优于GPT-3.5，并在所有测试任务中优于LLaMA2-70B。尽管参数较大，阿里巴巴已经设计了这些模型以实现低成本部署；量化版本仅需大约3GB的最小内存使用。这一突破显著降低了使用以前在云计算上成本高达数百万美元的大规模模型所面临的障碍。 除了Qwen基础模型，阿里巴巴还推出了针对AI支持和对话能力进行优化的Qwen-Chat版本。Qwen-Chat除了生成材料和促进自然对话外，还能执行代码解释和摘要任务。 阿里巴巴的Qwen-Audio在多模态AI中能够处理各种音频输入，并生成文本输出，这代表了一项值得注意的进步。值得注意的是，Qwen-Audio在语音识别和各种音频理解标准上取得了最先进的性能，而无需进行精细调整。 在音频领域，Qwen-Audio作为基础音频语言模型树立了新的基准。它使用多任务学习框架处理多种音频格式。在多个基准测试中取得了令人瞩目的结果，包括在AISHELL-1和VocalSound等任务上的最先进得分。 Qwen-Audio的适应性包括从文本和音频输入操作多个聊天会话的能力，功能从语音编辑工具到音乐欣赏和声音解释等方面。
Leave a Comment<img alt=”” src=”https://ai.miximages.com/www.marktechpost.com/wp-content/uploads/2023/11/Blog-Banner-2-1-1024×576.png”/><img alt=”” src=”https://ai.miximages.com/www.marktechpost.com/wp-content/uploads/2023/11/Blog-Banner-2-1-150×150.png”/><p>机器学习运营，或MLOps，是一套用于通过将机器学习（ML）开发和ML部署结合起来，以标准化和简化在生产中连续交付高性能模型的过程。</p><p>制作和完善ML模型被称为ML开发。部署机器学习模型是将它们发布供在生产环境中使用。</p><p>通过自动化将ML模型从开发移至生产所需的过程，MLOps弥合了这两种方法之间的差距。这有助于快速和有效地部署ML模型，并保证其在工业环境中的持续成功。</p><p><strong>MLOps的好处有哪些？</strong></p><p>MLOps的价值在于它使企业能够：</p><ul><li>MLOps简化了将ML模型从开发到生产的流程，加快了部署速度，为组织提供了优势。</li><li>MLOps通过确保在训练环境一致的生产环境中部署ML模型，帮助企业提高机器学习（ML）模型的质量。这样做减少了模型随着基础数据分布的变化而逐渐失去准确性的可能性。</li><li>通过自动化管理和监控生产中的ML模型的过程，MLOps能够降低ML运营的高成本。员工因此可以将更多时间投入到其他项目中，如创建新的ML模型。</li></ul><p><strong>那么，MLOps到底是如何工作的呢？</strong></p><p>连续集成和交付（CI / CD）流水线通常用于实施MLOps。构建，测试和发布软件应用程序都是可以通过CI / CD流水线自动化的过程。</p><p>以下是MLOps CI / CD流水线中的典型步骤示例：</p><ul><li>使用过去收集的数据训练ML模型。</li><li>将ML模型与保留数据集进行比较进行测试。</li><li>将ML模型放入生产环境中，称为“部署”。</li><li>密切关注ML模型，确保其在生产中保持良好状态。</li></ul><p>您可以手动或自动启动CI / CD工作流。例如，当学习到机器学习模型的新版本时，可以激活流水线。</p><p><strong>用于MLOps的工具有哪些？</strong></p><p>对于MLOps，您可以选择各种有用的工具。常用工具包括：</p><ul><li>一套被称为ML框架的工具可用于训练和部署ML模型。最常用的ML框架包括TensorFlow，PyTorch和scikit-learn。</li><li>云计算平台提供了在生产中安装和管理ML模型所需的基础设施和服务。亚马逊网络服务（AWS），Google云平台（GCP）和Microsoft Azure是为MLOps而知名的云计算平台之一。</li></ul><p><strong>MLOps系统包括：</strong></p><ul><li>用于构建的集中式中心。</li><li>发布。</li><li>维护机器学习（ML）模型。</li></ul><p>Kubeflow，MLflow和Prefect是受欢迎的MLOps系统示例。</p><p><strong>如何开始使用MLOps</strong></p><p>您可以采取一些措施来开始使用MLOps：</p><p><strong>选择合适的工具：</strong>MLOps工具有各种形式。选择符合您的要求和预算的工具。</p><p><strong>设置CI / CD流水线：</strong>带有CI / CD流水线的自动化可以将ML模型从开发到生产的过程。</p><p><strong>监控您的ML模型：</strong>密切关注您的生产ML模型的表现。</p><p><strong>结论</strong></p><p>MLOps技术的目标是通过将ML开发和ML部署结合起来，标准化和简化在生产中连续交付高性能模型的过程。企业可以通过加快ML模型的部署速度，提高模型质量和降低ML运营成本从MLOps中受益。您可以采取多种措施开始使用MLOps，例如选择适当的工具，建立CI / CD流水线以及监控您的ML模型。</p> 机器学习运营，或称为MLOps，是一组流程，旨在通过将机器学习（ML）开发和ML部署结合起来，标准化和简化在生产中连续交付高性能模型的过程。 制作和优化ML模型被称为ML开发。部署机器学习模型是将它们发布供在生产环境中使用的过程。 通过自动化将ML模型从开发移到生产所需的过程，MLOps弥合了两种方法之间的差距。这有助于快速有效地部署ML模型，并使其在工业环境中保持成功。 MLOps的好处是什么？…
Leave a Comment领先的制药和技术生物公司的研究人员和开发人员现在可以通过亚马逊网络服务(AWS)轻松部署NVIDIA Clara软件和服务，加速医疗保健领域的发展。 该计划于AWS re:Invent上宣布，为使用AWS云资源的医疗保健和生命科学开发人员提供了灵活性，可以集成NVIDIA加速的产品，例如NVIDIA BioNeMo——一种用于药物发现的生成式人工智能平台，即将在AWS上推出NVIDIA DGX Cloud，目前可通过AWS ParallelCluster集群管理工具和Amazon SageMaker机器学习服务使用。 全球数千家医疗保健和生命科学公司使用AWS。现在，他们将能够使用BioNeMo访问专有数据构建或定制数码生物学基础模型，并使用NVIDIA GPU加速的AWS云服务器来扩大模型的培训和部署。 包括Alchemab Therapeutics、Basecamp Research、Character Biosciences、Evozyne、Etcembly和LabGenius在内的生物技术创新者已经是AWS的用户，并且已经在使用BioNeMo进行生成式人工智能加速的药物发现和开发。这种合作使他们能够更快速地扩展云计算资源，以开发基于生物分子数据的生成式人工智能模型。 此次宣布扩展了NVIDIA在AWS上已有的面向医疗保健的产品——用于医学成像工作流程的NVIDIA MONAI和加速基因组学的NVIDIA Parabricks。 AWS新推出：NVIDIA BioNeMo推进生成式人工智能的药物发现 BioNeMo是一个针对数码生物学生成式人工智能的领域专用框架，包括预训练的大型语言模型 (LLMs)、数据加载器和优化的训练配方，可以帮助加速计算机辅助药物发现的目标识别、蛋白质结构预测和药物候选筛选。 药物发现团队可以利用他们的专有数据使用BioNeMo构建或优化模型，并在基于云的高性能计算集群上运行这些模型。 其中的一个模型ESM-2是一款功能强大的LLM，支持蛋白质结构预测，几乎能够线性扩展至256个NVIDIA H100…
Leave a Comment物联网和人工智能相互融合，形成一种变革性的协同效应，通过实时数据、预测能力和无与伦比的效率，优化各个行业
Leave a Comment生成式人工智能是快速变化的数字领域中的最新转变。其中一个开创性的创新是一个相对较新的术语：SuperNIC。 什么是SuperNIC？ SuperNIC是一类新的网络加速器，旨在为以太网云中的超大规模人工智能工作负载提供超高速的网络连接。它利用基于收敛以太网（RoCE）技术的远程直接内存访问（RDMA），实现了GPU到GPU通信的闪电般快速的网络连接速度，最高可达到400Gb/s。 SuperNIC具备以下独特的特点： 高速的数据包重新排序，确保数据包按照原始传输的顺序接收和处理，从而保持数据流的顺序完整性。 使用实时遥测数据和网络感知算法进行先进的拥塞控制，以管理和预防人工智能网络中的拥塞。 在输入/输出（I/O）路径上进行可编程计算，以实现人工智能云数据中心网络基础设施的定制和可扩展性。 高效节能的低轮廓设计，以在有限的功率预算内有效容纳人工智能工作负载。 全栈人工智能优化，包括计算、网络、存储、系统软件、通信库和应用框架。 最近，NVIDIA推出了世界上第一个专为人工智能计算定制的SuperNIC，基于BlueField-3网络平台。它是NVIDIA Spectrum-X平台的一部分，能够与Spectrum-4以太网交换机系统无缝集成。 NVIDIA BlueField-3 SuperNIC和Spectrum-4交换机系统共同构成了一个专为优化人工智能工作负载而设计的加速计算架构的基础。Spectrum-X始终提供高网络效率水平，胜过传统以太网环境。 “在人工智能推动下一波技术创新的世界中，BlueField-3 SuperNIC是重要的部件，” NVIDIA数据处理器和网络接口卡产品副总裁Yael Shenhav表示，“SuperNIC确保您的人工智能工作负载高效而快速地执行，成为推动人工智能计算未来的基础组件。” 人工智能和网络的不断演变 由于生成式人工智能和大型语言模型的出现，人工智能领域正在发生巨大变革。这些强大的技术打开了新的可能性，使计算机能够处理新的任务。 人工智能的成功在很大程度上依赖于GPU加速计算，用于处理海量数据、训练大型人工智能模型和实现实时推理。这种新的计算能力开辟了新的可能性，但也对以太网云网络提出了挑战。 传统以太网作为支撑互联网基础设施的技术，最初是为了提供广泛的兼容性和连接松散耦合的应用程序而设计的。它并不适用于处理现代人工智能工作负载的要求，这些要求包括紧密耦合的并行处理、快速数据传输和独特的通信模式，它们都需要优化的网络连接。 基础网络接口卡（NIC）是为通用计算、通用数据传输和互操作性而设计的，它们从未被设计用于应对人工智能工作负载的计算强度所带来的独特挑战。 标准的网络接口卡缺乏有效数据传输、低延迟和决定性性能对于人工智能任务至关重要的特性和功能。而SuperNIC则是专为现代人工智能工作负载而构建的。 人工智能计算环境中的SuperNIC优势…
Leave a Comment在2024年，探索那些具备颠覆性能力的数据分析领域的顶级商业巨头从IBM云到Google云，这些以人工智能驱动的数据分析公司正在利用人工智能的力量，从海量数据池中挖掘出有价值的见解，并为企业提供可操作的智能洞察力
Leave a Comment如果2023年是大型语言模型（LLMs）的年份，那么2024年将是大型多模态模型（LMMs）的年份主要区别在于识别文本和图像用于生成…
Leave a Comment这篇文章探讨了亚马逊CodeWhisperer如何通过提高资源效率来帮助代码优化，从而实现可持续发展计算资源高效编码是一种旨在减少处理一行代码所需能源量的技术，从而帮助公司整体消耗更少能源在这个云计算时代，[…]
Leave a Comment在技术不断发展的世界中，两个全球巨头将在对话人工智能领域展开激烈竞争。电商巨头亚马逊和中国科技巨头阿里巴巴正积极改变以人工智能驱动的互动方式。在这篇博客中，我们将深入探讨这些发展的关键点以及他们主导对话人工智能市场的努力所带来的影响。 亚马逊的奥林匹斯-挑战者 亚马逊对创新并非陌生，在对话人工智能领域的最新尝试就是这种追求卓越的明证。他们即将发布的大型语言模型奥林匹斯，将与OpenAI和微软等行业领导者展开竞争。这不仅仅是为了增强他们的在线零售平台，奥林匹斯还将为Alexa语音助手提供动力，丰富Echo等设备的功能，并支持亚马逊网络服务(AWS)。舞台已经搭好，亚马逊已经准备好迎接挑战。 巨人的挑战 在亚马逊推进奥林匹斯的同时，AWS此前的产品Titan因其表现不及OpenAI的ChatGPT等语言模型技术而面临延迟。奥林匹斯的完成和部署时间表尚不确定，但亚马逊决心将强大的对话人工智能解决方案带到市场上。随着企业客户寻求先进的人工智能技术，奥林匹斯与竞争对手之间的战斗势必会异常激烈。 阿里巴巴的同一千问2.0-中国竞争者 为不甘示弱，云计算和电商领域的重要参与者阿里巴巴在对话人工智能领域取得了进展。他们最近推出了最新的大型语言模型同一千问2.0。在人工智能的宏大框架中，大型语言模型是生成式人工智能应用的基础，类似于OpenAI开发的著名ChatGPT。阿里巴巴的同一千问2.0被描述为较其前身的重大进展，意味着其意图与包括亚马逊和微软在内的美国技术对手竞争。 全球对决 随着亚马逊和阿里巴巴都力图争取人工智能霸权，对话人工智能市场正走向全球对决。这些科技巨头拥有资源、专业知识和决心，可以重新定义我们与以人工智能驱动的系统互动的方式。随着企业客户越来越需求先进的对话人工智能解决方案，这些行业巨头之间的竞争将无疑塑造这个新兴领域的未来。 我们的观点 亚马逊的奥林匹斯和阿里巴巴的同一千问2.0展示了对话人工智能领域的激烈竞争。随着消费者和企业从日益复杂的人工智能应用中受益，我们预测技术的未来将充满活力和令人兴奋。在这些巨人之间的竞争不断升级的过程中，可以明显看到对话人工智能的创新和进步将继续以深刻的方式塑造我们的数字互动。我们期待着见证这些卓越人工智能的演变。
Leave a Comment不，它们并不是同样的工作！了解它们不同的职责、技能和使用的工具然后，为自己选择正确的职业道路
Leave a Comment云原生应用领域出现了一个紧迫的挑战——即需要观测性。随着云计算的快速崛起和微服务的大量使用，现代应用变得复杂起来，分布在全球各地的服务器上，并每天处理大量数据。这种复杂性增加了企业应对观测性在实现核心目标上的关键重要性。即使短暂中断，也会导致收入损失并损害公司的声誉。这是许多组织今天面临的困境。 虽然对观测性的需求是清楚的，但现有解决方案往往必须及时提供对云原生应用程序复杂性的洞察。这种差距使得组织在寻求更高效的故障排除和主动问题管理时陷入困境。快节奏的数字领域要求迅速行动，因此实时识别和解决问题至关重要。 中间件介绍了一种有希望的解决方案来解决这个观测性难题，这是一款颠覆性的云原生观测性平台，利用先进的人工智能技术。该平台利用基于AI驱动的异常检测和解决方案，其中关键工具是AI顾问。该顾问指出基础设施和应用程序问题，并提供有效的解决方案来解决问题。该平台的独特之处在于它的预测能力，可以根据数据趋势预测即将发生的错误。这种主动的问题管理方法对于寻求降低不断演变的数字领域风险的组织来说是一个改变者。 这个创新平台最令人信服的方面之一是它强大的实时监控功能。通过用户友好的仪表板，组织可直观地访问关键指标、日志、追踪和事件，从而极大地增强了对技术栈的可见性。该平台的AI驱动功能将问题分类为三类——关键问题、VoAGI和低问题，使组织能够有效地优先处理并解决它们。AI顾问提供有关问题的详细信息，包括受影响的资源和详细解决方案，使用户能够快速修复。 这项革命性的解决方案来临之际，对观测性的需求达到了历史最高水平，有86%的组织认识到它是实现核心业务目标的重要推动因素。AI的引入，尤其是GPT-4，有可能彻底改变组织管理和故障排除云原生应用程序的方式。通过最近获得的650万美元种子资金注入，该平台正处于扩张、团队增长和进一步AI功能开发的阶段，为云原生时代的观测性带来了光明的前景。 总之，云原生应用程序带来的复杂性以及数字时代需要快速故障排除的需求催生了新的创新解决方案。这个借助先进AI技术赋能的观测性平台是组织在有效应对云原生应用程序挑战时的希望之光。其实时监控、预测能力和用户友好的仪表板使其成为一个引人注目的选择，在每一秒都至关重要的世界中。观测性的未来似乎比以往任何时候都更加积极和有希望。 这篇文章《Middleware.io推出基于生成式AI技术的云原生可观测性平台》最初出现在MarkTechPost上。
Leave a CommentACM和IEEE宣布2023年ACM-IEEE CS George Michael纪念HPC奖学金的获奖者
Leave a CommentAI 动力平台克服数字碎片化，赋予开发者权力，使企业能够更快地从数据中实现商业价值
Leave a Comment“云作为服务曾经是数据科学界的热门话题如今，话题已转向具有无限潜力的人工智能技术这种变化并不意味着云将成为过去的虚无缥缈之物人工智能的流行将使云得以改进云将成为最…”
Leave a CommentCan't find what you're looking for? Try refining your search: