Press "Enter" to skip to content

90 search results for "云计算"

Ray与NVIDIA AI携手合作，帮助开发者构建、调优、训练和扩展生产LLM

Published September 22, 2023 by 四海吧

大型语言模型的开发即将达到超音速速度，这要归功于NVIDIA和Anyscale的合作。 在其年度Ray Summit开发者大会上，Anyscale——快速增长的可扩展计算的开源统一计算框架背后的公司——今天宣布将NVIDIA AI引入Ray开源和Anyscale平台。它还将集成到Anyscale Endpoints中，这是一项今天宣布的新服务，可方便应用开发人员使用最流行的开源模型在其应用程序中以具有成本效益的方式嵌入LLMs。 这些集成可以显著加速生成式AI的开发和效率，同时提高生产AI的安全性，从专有的LLMs到诸如Code Llama、Falcon、Llama 2、SDXL等开源模型。 开发人员可以灵活选择使用Ray部署开源NVIDIA软件，或选择在Anyscale平台上运行NVIDIA AI企业软件，以进行全面支持和安全的生产部署。 Ray和Anyscale平台被广泛用于开发人员构建用于生成式AI应用程序的先进LLMs，这些应用程序可以驱动智能聊天机器人、编码协助和强大的搜索和摘要工具。 NVIDIA和Anyscale提供速度、节省和效率 生成式AI应用引起了全球企业的关注。调整、增强和运行LLMs需要大量的投资和专业知识。NVIDIA和Anyscale共同努力，可以通过多种应用集成帮助降低生成式AI开发和部署的成本和复杂性。 上周宣布的新的开源软件NVIDIA TensorRT-LLM将支持Anyscale的产品，以提高LLM的性能和效率，从而实现成本节约。在NVIDIA AI企业软件平台中也得到支持，Tensor-RT LLM可自动扩展推理以在多个GPU上并行运行模型，与上一代GPU相比，可以在运行NVIDIA H100 Tensor Core GPU时提供高达8倍的性能。 TensorRT-LLM可以自动扩展推理以在多个GPU上并行运行模型，并包括用于各种流行LLM模型的自定义GPU内核和优化。它还实现了NVIDIA H100 Tensor Core…

Continue readingRay与NVIDIA AI携手合作，帮助开发者构建、调优、训练和扩展生产LLM
Leave a Comment

2023年找工作要具备的前十个人工智能技能

Published September 8, 2023 by 四海吧

人工智能（AI）是技术领域中表现出色且充满机遇的领域之一。无论您目前的技能水平如何，要在AI领域找到工作并不容易，尤其是当招聘人员一直在寻找熟练的候选人时。提升技能并转行有很大且容易的可能性。因此，成为一名顶级AI技术人员需要激情和努力。本文介绍了能够构建您的AI技能，使您成为一流AI公司潜在候选人的顶级分支。 什么是AI技能？ AI技能包括一系列设计、开发和实施人工智能解决方案所需的能力和专业知识。这些技能包括熟练掌握Python等编程语言、机器学习算法、神经网络、自然语言处理、数据预处理、数据可视化、强化学习、数据分析、问题解决和伦理考虑。AI技能使专业人士能够创建能够学习、适应和执行类似人类智能的任务的智能系统，推动各行各业的技术进步。 前十个AI技能 以下是前十个AI技能及其子技能的列表： 了解AI领域 熟练掌握编程语言 精通机器学习 数据预处理和分析 深度学习和神经网络 自然语言处理（NLP）技能 计算机视觉熟练 AI伦理和偏见意识 云和AI部署 持续学习和适应 了解AI领域 人工智能是一个多学科平台，拥有各种分支，每个分支都具有不同的功能，可以将人类的知识和行为模拟到机器中。AI应用广泛应用于汽车、航空航天工程、生物技术、生物信息学、医疗保健等行业。 从基础到高级，开始掌握概念，以便将您的AI技能定制到AI的专门领域。一些主要的AI分支包括： 机器学习：作为人工智能的基础，它使用算法从数据中学习并随着时间的推移增强功能。 自然语言处理（NLP）：人工智能的一个分支，使机器能够模仿和解释人类语言。 机器人技术：将人工智能与工程学相结合，生成可以自主运行的模型或机器。 计算机视觉：人工智能可以帮助识别和理解视觉信息。 熟练掌握编程语言 在AI领域，有几种编程语言专门用于生成算法和设计模型。编程语言的能力使机器能够可视化、吸收和反映，从而使智能系统栩栩如生。 在AI中使用各种编程语言来完成不同的任务，例如：…

Continue reading2023年找工作要具备的前十个人工智能技能
Leave a Comment

VoAGI新闻，8月30日：7个基于生成性人工智能的项目•超越Numpy和Pandas：鲜为人知的Python库

Published September 8, 2023 by 四海吧

7个使用生成式人工智能构建的项目 • 超越Numpy和Pandas：释放不太知名的Python库的潜力 • 你可以用ChatGPT的代码解释器进行数据科学的5种方式 • GPT-4：8个模型合一；秘密揭晓

Continue readingVoAGI新闻，8月30日：7个基于生成性人工智能的项目•超越Numpy和Pandas：鲜为人知的Python库
Leave a Comment

英伟达首席科学家比尔·达利将在Hot Chips发表主题演讲

Published August 30, 2023 by 四海吧

Bill Dally是世界上最杰出的计算机科学家之一，也是NVIDIA研究工作的负责人。他将在Hot Chips大会的主题演讲中描述推动加速计算和人工智能的力量。Hot Chips是一年一度的领先处理器和系统架构师聚会。 Dally将详细介绍GPU芯片、系统和软件的进展，这些进展为各种应用带来了前所未有的性能提升。演讲将展示如何利用混合精度计算、高速互连和稀疏性等技术将推动生成式人工智能的大语言模型提升到新的水平。 “现在是成为计算机工程师的非常激动人心的时刻，” Dally在2月份入选硅谷工程理事会名人堂时如是说道。 Dally的主题演讲将于8月29日上午9点PT开启Hot Chips的第三天。可以在线注册参加虚拟活动。位于帕洛阿尔托的斯坦福大学的现场活动已经售罄。 Dally的职业涵盖近四十年，他开创了许多构成当今超级计算机和网络架构的基础技术。作为NVIDIA研究部门的负责人，他领导着一个由全球300多名发明家组成的团队，致力于发明各种应用的技术，包括人工智能、高性能计算、图形和网络。 在2009年加入NVIDIA之前，他曾担任斯坦福大学计算机科学系主任长达四年之久。 Dally是美国国家工程院的院士，也是美国艺术与科学院、电气和电子工程师学会以及计算机协会的会士。他撰写了四本教科书，发表了250多篇论文，拥有120多项专利，并获得了IEEE Seymour Cray奖、ACM Eckert-Mauchly奖和ACM Maurice Wilkes奖。 NVIDIA在Hot Chips的更多演讲 在另一场Hot Chips演讲中，NVIDIA网络副总裁Kevin Deierling将描述NVIDIA BlueField DPUs和NVIDIA Spectrum网络交换机在根据不断变化的网络流量和用户规则分配资源方面的灵活性。…

Continue reading英伟达首席科学家比尔·达利将在Hot Chips发表主题演讲
Leave a Comment

AWS vs Azure 云服务终极对决

Published August 24, 2023 by 四海吧

亚马逊网络服务（Amazon Web Services，AWS）和微软 Azure 是云计算领域的两大巨头。这两家行业领导者之间的竞争引发了“云战”。本文深入比较了 AWS 和 Azure，从功能、优势、劣势、就业机会等方面进行了全面的比较。 什么是 AWS？ 亚马逊网络服务（Amazon Web Services，AWS）是亚马逊提供的功能丰富的云计算平台。它提供许多按需服务，包括计算能力、存储选项、数据库、机器学习、分析等等。这些服务使企业和个人能够在没有物理硬件的情况下创建、分发和管理软件应用和服务，提高了云环境的灵活性、可扩展性和可负担性。 什么是 Azure？ Azure 是微软提供的云计算平台，提供处理能力、存储、数据库、网络、分析等各种服务。它使企业能够构建、实施和管理基于云的应用和服务，并与微软的软件生态系统实现可扩展性、灵活性和集成。 AWS vs. Azure：概述 让我们看一下 AWS 和 Azure 之间的基本区别：…

Continue readingAWS vs Azure 云服务终极对决
Leave a Comment

在Amazon SageMaker Studio上托管Spark UI

Published August 9, 2023 by 四海吧

亚马逊SageMaker提供了几种运行Apache Spark分布式数据处理作业的方式，Apache Spark是一种流行的用于大数据处理的分布式计算框架您可以通过将SageMaker Studio笔记本和AWS Glue交互式会话连接起来，在Amazon SageMaker Studio中交互式地运行Spark应用程序，并使用无服务器集群运行Spark作业通过交互式会话，您可以[…]

Continue reading在Amazon SageMaker Studio上托管Spark UI
Leave a Comment

康奈利斯网络软件工程副总裁道格·富勒 – 采访系列

Published July 28, 2023 by 四海吧

作为软件工程副总裁，Doug负责Cornelis Networks的软件栈的所有方面，包括Omni-Path架构驱动程序、消息软件和嵌入式设备控制系统在加入Cornelis Networks之前，Doug在Red Hat领导云存储和数据服务的软件工程团队Doug在HPC和云计算领域有着丰富的职业生涯[…]

Continue reading康奈利斯网络软件工程副总裁道格·富勒 – 采访系列
Leave a Comment

“赋能设备端人工智能：高通和Meta与Llama 2技术合作”

Published July 27, 2023 by 四海吧

Meta发布了新的开源Llama 2，引发了关于大型语言模型（LLMs）用例的讨论。然而，对于许多人来说，在本地硬件上访问和运行Llama 2仍然是一个重要的障碍。为了解决这个问题并使Llama 2的能力普及化，Meta与高通合作，优化该模型以在设备上使用，利用高通的AI能力骁龙芯片。 Meta和高通的合作旨在在设备上实现Llama 2，并利用新的AI能力骁龙芯片的功能。通过在设备上运行模型，开发人员可以减少云计算成本，并为用户提供增强的隐私，因为没有数据传输到外部服务器。设备上的AI处理还可以实现生成式AI而无需互联网连接，并且可以根据用户的偏好对模型进行个性化。 高通的Hexagon处理器为其骁龙芯片配备了各种AI功能，包括微瓦推断、张量核心以及SegNet、标量和矢量工作负载的专用处理。将Llama 2整合到高通AI堆栈中，进一步优化了在设备上运行AI模型。 Meta从第一款LLaMA模型的泄露中吸取了教训，该模型最初仅向研究人员和学术机构开放。然而，互联网上的泄露导致了开源LLM创新的爆发，产生了各种改进版的LLaMA。开源社区做出了重大贡献，创建了可以在设备上运行的版本，使LLM更加易于访问更广泛的受众。 为了应对泄露事件，Meta在Llama 2的发布中采取了不同的方式，积极接受开放和合作。与高通的合作使芯片制造商了解了模型的内部工作原理，使他们能够优化骁龙芯片上的性能。这种合作预计将与高通的骁龙8 Gen 3芯片在2024年发布同时进行。 开源社区也预计在Llama 2的开发中发挥关键作用。将行业对设备上AI的势头与开放的LLM生态系统结合起来，这一举措被视为朝着培育活跃的设备上AI生态系统的众多步骤中的第一步。 专家预测，开源LLM可能会引领一代新的以AI为动力的内容生成、智能助手、生产力应用等。在设备上本地运行LLM的能力为设备上的AI处理开启了众多可能性，并支持AI能力在边缘的不断增长趋势，例如苹果在M1芯片中加入神经引擎和微软的混合AI Loop工具包。 总的来说，Meta和高通之间的合作标志着向AI模型普及化迈出了重要的一步，为开发人员创造AI应用程序开辟了令人兴奋的机会，并引领着类似于iPhone应用商店繁荣的设备上AI生态系统的新时代。

Leave a Comment

PaLM AI | 谷歌自主研发的生成式人工智能

Published July 23, 2023 by 四海吧

简介 自从OpenAI推出了像GPT（生成预训练变压器）模型这样的生成式AI模型，特别是ChatGPT以来，谷歌一直在努力创建并推出类似的AI模型。虽然谷歌是第一个通过BERT模型将变压器引入世界的公司，通过其《Attention is All You Need》论文，但它未能像OpenAI开发的那些大型语言模型一样创建一个同样强大和高效的模型。谷歌首次引入的Bard AI似乎并未引起太多关注。最近谷歌发布了PaLM（Pathways语言模型）的API访问权限，该模型是Bard AI背后的技术。本指南将介绍如何开始使用PaLM API。 学习目标 学习如何使用Pathways语言模型 了解PaLM提供的关键功能 使用PaLM 2创建应用程序 利用MakerSuite快速原型化大型语言模型 了解如何使用PaLM API 本文章是Data Science Blogathon的一部分。 什么是PaLM？ PaLM代表Pathways语言模型，是谷歌自主开发的大型语言模型之一。它于2022年4月首次推出。几个月前，谷歌宣布了该模型的下一个版本，即PaLM 2。谷歌声称，与之前的版本相比，PaLM在多语言能力和功率效率方面更好。 PaLM 2并不是用英语训练的，而是包含了一百多种语言的混合体，甚至包括编程语言和数学。所有这些都是在不降低英语理解性能的情况下实现的。总体而言，谷歌的PaLM…

Continue readingPaLM AI | 谷歌自主研发的生成式人工智能
Leave a Comment

Can't find what you're looking for? Try refining your search: