本周AI动态
随着今年AI竞争的加剧，AI芯片的训练和推理能力已成为重要资源，我们在过去几周中注意到了一些进展。大型科技公司和年轻的AI初创公司都在争先恐后地争取获得Nvidia H100芯片的交付，我们非常期待在今年夏季生产规模扩大后，由这些芯片驱动的下一代模型的出现。许多AI初创公司一直在筹集大量投资，主要用于资助AI芯片的训练能力，这也导致了有趣的新融资途径的出现，比如CoreWeave最近通过其有价值的Nvidia芯片资产筹集了23亿美元的债务。
Nvidia最近发布了新的GH200 Grace Hopper超级芯片平台，配备了144GB的内存，并同时从Intel CPU过渡到他们自家的Grace CPU。这个新系统预计将在2024年第二季度发布。虽然Nvidia正在加速H100芯片的生产并推进新平台的开发，但我们也期待Google在其下一代TPU（v5）方面取得进展，并期待相关更新。Google/Deepmind越来越频繁地炒作下一代“Gemini” LLM模型的进展，但目前还不清楚这个模型是使用TPU v4、v5还是H100芯片进行训练。
除了大型科技公司的进展，我们还在AI芯片初创公司方面看到了越来越多的新闻，比如由Jim Keller领导的Tenstorrent最近筹集了1亿美元的资金。本周还见证了一个由之前负责Google TPU芯片和Palm模型的团队成立的新初创公司的推出。该项目名为MatX，其使命是“通过构建更强大的硬件，使AI变得更好、更快、更便宜。” MatX专注于为LLMs提供硬件支持。我们预计AI芯片的竞争将非常激烈，要跟上当前的领导者将会很困难，但在硬件创新和新技术、新思路方面有巨大的机会，以继续推动AI的进步。
– Louie Peters — Towards AI联合创始人兼首席执行官
热点新闻
- 大型科技公司与生成式AI第二季度更新
在第二季度的盈利电话会议中，一些知名科技公司强调了他们在生成式AI方面的进展。亚马逊强调了他们在训练和推理大型语言模型（LLMs）方面的努力，而微软则展示了AI在各个领域的整合…