英伟达今天在SC23上展示了下一波技术，将使全球科学和工业研究中心的性能和能效水平提升到新的高度。 “英伟达的硬件和软件创新正在创造一类新的AI超级计算机，”该公司高性能计算和超大规模数据中心业务副总裁Ian Buck在会议上的特别演讲中表示。 其中一些系统将搭载内存增强型NVIDIA Hopper加速器，其他系统将采用新的NVIDIA Grace Hopper系统架构。所有系统都将利用扩展的并行能力运行全套加速软件，包括生成AI、HPC和混合量子计算。 Buck将新推出的NVIDIA HGX H200描述为“世界领先的AI计算平台。” NVIDIA H200 Tensor Core GPU配备HBM3e内存，可运行不断增长的生成AI模型。 它最多可搭载141GB的HBM3e内存，是首个使用超快技术的AI加速器。与上一代加速器相比，NVIDIA H200 Tensor Core GPU在运行GPT-3等模型时性能提升了18倍。 在其他生成AI基准测试中，它们在Llama2-13B大型语言模型（LLM）上每秒能处理12,000个令牌。 Buck还透露了一种服务器平台，该平台在NVIDIA NVLink互连的基础上将四个NVIDIA GH200 Grace…
Leave a CommentTag: Supercomputing
数十台用于科学计算的新超级计算机即将上线，由NVIDIA的突破性GH200 Grace Hopper Superchip提供支持，可用于巨型AI和高性能计算。 NVIDIA GH200使科学家和研究人员能够通过加速运行数千亿字节数据的复杂AI和HPC应用程序来解决世界上最具挑战性的问题。 在超级计算展览SC23上，NVIDIA今天宣布该超级芯片即将应用于更多全球系统，包括来自戴尔科技、Eviden、惠普企业（HPE）、联想、QCT和Supermicro。 NVIDIA Grace CPU和Hopper GPU结合起来，使用NVIDIA NVLink-C2C互连技术，GH200还是全球科学超级计算中心的引擎。 总体而言，这些由GH200提供支持的中心将提供约200亿亿次的AI性能，推动科学创新。 HPE Cray超级计算机集成了NVIDIA Grace Hopper 在丹佛的展会上，HPE宣布将提供配备NVIDIA Grace Hopper Superchip的HPE Cray EX2500超级计算机。集成解决方案将采用四个GH200处理器，扩展至数以万计的Grace Hopper Superchip节点，为组织提供无与伦比的超级计算灵活性和更快的AI训练。这个配置也将成为HPE今天推出的生成式AI超级计算解决方案的一部分。…
Leave a Comment世界上最大的民主国家正准备在巨大的规模上拥抱人工智能，从而改变自己和世界。 在孟买的新闻发布会上，印度两个最大的企业集团Reliance Industries Limited和塔塔集团宣布后，NVIDIA创始人兼首席执行官Jensen Huang详细介绍了计划，旨在将人工智能技术和技能应用于解决这个世界上人口最多的国家面临的最大挑战。 “我认为这将成为世界上最大的人工智能市场之一，”结束了一周高层会议之后，黄仅表示，他在印度与总理Narendra Modi、领先的人工智能研究人员、顶级商业领袖、新闻界人士以及该国的4000多名NVIDIA员工进行了会谈。 这些公司将合作创建一个人工智能计算基础设施和平台，用于开发人工智能解决方案。它将基于NVIDIA的技术，如NVIDIA GH200 Grace Hopper超级芯片和NVIDIA DGX Cloud。 GH200标志着计算架构的一次根本性转变，提供了异常的性能和巨大的内存带宽，而DGX Cloud是一种云中的人工智能超级计算服务，使企业更容易培训员工使用人工智能技术，内部访问技术并为客户提供生成式人工智能服务。 在与印度十几位顶级技术记者交流后，黄强调说，计算机科学专业是印度的核心竞争力，有了技术和资本的支持，印度有望建立人工智能以解决国内外的挑战。 “你们拥有数据，你们拥有人才，”黄说。“我们愿意开展业务，并为建造超级计算机带来出色的专业知识。 在与媒体的自由交流中，黄强调了印度在信息技术方面的优势，以及人工智能加速发展印度信息技术行业的潜力。 “信息技术是你们的一种自然资源。你们以惊人的规模生产它。你们在这方面非常擅长。你们将它出口到世界各地，”黄说。 印度的“人工智能时刻” 此前，在与该地区许多顶级技术领导人会晤之后，包括初创公司的先驱、人工智能倡导者和印度数字公共基础设施的关键参与者，黄称赞“印度的时刻”，称该国即将成为全球人工智能强国的关键时刻。 NVIDIA首席执行官Jensen Huang与Infosys创始人、UIDAI创始主席Nandan Nilekani在与印度重要技术领导人的会议期间。 虽然印度拥有众所周知的技术能力，包括杰出的技术大学、2500所工程学院和大约150万名工程师，但位于广阔的大都市和约65万个村庄中的14亿人，共使用数十种语言，尚未充分从这一进展中受益。…
Leave a Comment在疫情以来的首次现场主题演讲中，NVIDIA的创始人兼CEO黄仁勋今天在台北举行的COMPUTEX大会上宣布了一些平台，这些平台可以帮助公司乘风破浪，参与到一波历史性的生成式人工智能浪潮中，这个浪潮正在改变从广告到制造业再到电信等行业。 “我们回来了，”黄仁勋在他的家中厨房进行了几年的虚拟主题演讲之后在舞台上大声喊道。“我已经有将近四年没有公开演讲了–祝我好运！” 他向约3500名观众演讲了近两个小时，介绍了加速计算服务、软件和系统，这些都使新的商业模式成为可能，也让现有的商业模式更加高效。 “加速计算和人工智能标志着计算机的重新发明，”黄仁勋说道，他在过去一周在家乡的旅行每天都被当地媒体追踪报道。 为了展示它的强大，他使用了他所在的巨大的8K墙，展示了一个文本提示，生成了一首主题歌，可以随意地唱，就像任何卡拉OK歌曲一样。黄仁勋偶尔用他的家乡语言和观众开玩笑，并短暂地带领观众唱了这首新歌。 “现在我们处于一个新的计算时代的临界点，加速计算和人工智能已经被全球几乎所有的计算和云计算公司所接受，”他说道，指出现在有40,000家大型公司和15,000家初创公司使用NVIDIA技术，去年CUDA软件下载量达到2500万次。 主题演讲的重要新闻公告 Grace Hopper提供大内存超级计算机，用于生成式人工智能。 模块化参考架构可以创建100多个加速服务器变体。 WPP和NVIDIA在Omniverse中创建数字广告内容引擎。 SoftBank和NVIDIA在日本建立5G和生成式人工智能数据中心。 网络技术加速基于以太网的人工智能云。 NVIDIA ACE for Games利用生成式人工智能为角色赋予生命。 全球的电子制造商都在使用NVIDIA人工智能。 企业人工智能的新引擎 对于需要最佳人工智能性能的企业，他推出了DGX GH200，一个大内存人工智能超级计算机。它使用NVIDIA NVLink将多达256个NVIDIA GH200 Grace Hopper超级芯片组合成一个单一的数据中心大小的GPU。…
Leave a Comment