由卡内基梅隆大学和Meta AI的研究人员开发的开源AI代理使机器人具备与三岁儿童相当的操作能力
Leave a CommentTag: hardware
I had trouble accessing your link so I’m going to try to continue without it. 正在进行的人工智能革命将重塑生活方式和工作场所,深度神经网络(DNN)在其中发挥了关键作用,尤其是基础模型和生成式人工智能的出现。然而,承载这些模型的传统数字计算框架限制了它们的潜在性能和能源效率。虽然出现了专门的人工智能硬件,但许多设计将内存和处理单元分开,导致数据洗牌和效率降低。 IBM研究一直致力于寻找创新的方法来重新构想人工智能计算,从而提出了模拟内存计算或模拟人工智能的概念。这种方法从生物大脑中的神经网络中汲取灵感,其中突触强度控制神经元之间的通信。模拟人工智能使用纳米级电阻器件(如相变存储器)将突触权重存储为电导值。相变存储器设备在非晶态和晶态之间转换,编码一系列值,并实现具有非易失性的权重的本地存储。 IBM研究在最近的《自然电子学》出版物中取得了使模拟人工智能成为现实的重要进展。他们推出了一款先进的混合信号模拟人工智能芯片,专为各种DNN推理任务量身定制。该芯片在IBM的奥尔巴尼纳米技术中心制造,具有64个模拟内存计算核心,每个核心都有一个256×256的交叉栅阵突触单元。集成的紧凑型基于时间的模拟-数字转换器实现了模拟和数字域之间的无缝切换。此外,每个核心内的数字处理单元处理基本的神经元激活函数和缩放操作。 该芯片的架构使每个核心能够处理与DNN层相关的计算。突触权重以模拟电导值的形式编码在相变存储器设备中。一个全局的数字处理单元位于芯片的中心,管理着特定神经网络执行所必需的复杂操作。芯片的数字通信路径连接了所有的瓷砖和中央的数字处理单元。 在性能方面,该芯片在CIFAR-10图像数据集上展示了令人印象深刻的92.81%的准确率,标志着模拟内存计算的重要成就。该研究将模拟内存计算与数字处理单元和数字通信结构无缝集成,从而实现了更高效的计算引擎。该芯片的每单位面积的吉博操作每秒(GOPS)吞吐量超过了以往基于电阻性存储器的内存计算芯片的15倍以上,同时保持能源效率。 借助模拟到数字转换器、乘积累加计算能力和数字计算块的突破,IBM研究实现了快速和低功耗的模拟人工智能推理加速器芯片所需的许多关键组件。以前提出的加速器架构将众多模拟内存计算瓷砖与通过并行2D网格连接的专用数字计算核心相结合。这种愿景和硬件感知的训练技术预计将在可预见的未来在各种模型上提供与软件等效的神经网络准确性。
Leave a Comment这个漏洞可能会让攻击者利用信息泄漏来窃取敏感细节,比如私人消息、密码和加密密钥
Leave a Comment美国国家航空航天局在发射停止一周多之后,依然接收到了来自旅行者2号探测器的信号
Leave a CommentImpossible Metals的采矿解决方案开发者Renee Grogan设想水下机器人将成为从海底收获贵金属的关键,而不会对生态系统造成伤害
Leave a CommentMeta发布了新的开源Llama 2,引发了关于大型语言模型(LLMs)用例的讨论。然而,对于许多人来说,在本地硬件上访问和运行Llama 2仍然是一个重要的障碍。为了解决这个问题并使Llama 2的能力普及化,Meta与高通合作,优化该模型以在设备上使用,利用高通的AI能力骁龙芯片。 Meta和高通的合作旨在在设备上实现Llama 2,并利用新的AI能力骁龙芯片的功能。通过在设备上运行模型,开发人员可以减少云计算成本,并为用户提供增强的隐私,因为没有数据传输到外部服务器。设备上的AI处理还可以实现生成式AI而无需互联网连接,并且可以根据用户的偏好对模型进行个性化。 高通的Hexagon处理器为其骁龙芯片配备了各种AI功能,包括微瓦推断、张量核心以及SegNet、标量和矢量工作负载的专用处理。将Llama 2整合到高通AI堆栈中,进一步优化了在设备上运行AI模型。 Meta从第一款LLaMA模型的泄露中吸取了教训,该模型最初仅向研究人员和学术机构开放。然而,互联网上的泄露导致了开源LLM创新的爆发,产生了各种改进版的LLaMA。开源社区做出了重大贡献,创建了可以在设备上运行的版本,使LLM更加易于访问更广泛的受众。 为了应对泄露事件,Meta在Llama 2的发布中采取了不同的方式,积极接受开放和合作。与高通的合作使芯片制造商了解了模型的内部工作原理,使他们能够优化骁龙芯片上的性能。这种合作预计将与高通的骁龙8 Gen 3芯片在2024年发布同时进行。 开源社区也预计在Llama 2的开发中发挥关键作用。将行业对设备上AI的势头与开放的LLM生态系统结合起来,这一举措被视为朝着培育活跃的设备上AI生态系统的众多步骤中的第一步。 专家预测,开源LLM可能会引领一代新的以AI为动力的内容生成、智能助手、生产力应用等。在设备上本地运行LLM的能力为设备上的AI处理开启了众多可能性,并支持AI能力在边缘的不断增长趋势,例如苹果在M1芯片中加入神经引擎和微软的混合AI Loop工具包。 总的来说,Meta和高通之间的合作标志着向AI模型普及化迈出了重要的一步,为开发人员创造AI应用程序开辟了令人兴奋的机会,并引领着类似于iPhone应用商店繁荣的设备上AI生态系统的新时代。
Leave a Comment由硅谷初创公司Cerebras制造的新型超级计算机在人工智能繁荣推动下,面向芯片和计算能力的需求而揭幕
Leave a Comment美国正在投入数十亿美元来促进半导体制造业为了使新的工厂能够生产硅芯片,它们需要采购数百万加仑的超纯水
Leave a Comment根据约翰·霍普金斯大学的研究人员,稳定手眼机器人能够比外科医生更快更准确地将药物注射到眼球后面,用于治疗视网膜静脉阻塞
Leave a Comment