Press "Enter" to skip to content

Tag: Artificial intelligence

可以不使用GPU加速实时绘制大规模场景吗?这篇AI论文介绍了基于先进LiDAR定位和网格生成的‘ImMesh’

提供与实际世界相匹配的虚拟环境,包括元宇宙、VR/AR、视频游戏和物理模拟器等3D应用程序的广泛兴起改善了人类的生活方式并提高了生产效率。这些程序基于三角形网格,代替了实际环境的复杂几何。目前大多数的3D应用程序都依赖于三角形网格,这些网格是由顶点和三角形面组成的,作为对象建模的基本工具。由于它能够简化和加速渲染和光线追踪,三角化网格在传感器模拟、密集映射和测量、刚体动力学、碰撞检测等方面也非常有用。然而,目前的网格主要是由天才的3D建模师使用CAD软件制作的,这限制了大规模制作大场景网格的能力。因此,在3D重建领域,一个显著的问题是开发一种能够进行实时场景重建的高效网格方法,特别是对于大场景。 计算机、机器人和3D视觉中最困难的挑战之一是从传感器测量中实时重建大场景的网格。这涉及在附近的三角形面之间重新创建场景表面,并通过边缘连接。精确构建几何框架对于这个困难的挑战至关重要,重建真实世界表面上的三角形面也是如此。 为了实现实时网格重建和同时定位的目标,香港大学和南方科技大学最近进行的一项研究提出了一种名为ImMesh的SLAM框架。ImMesh是一个精心开发的系统,它依赖于四个相互依赖的模块共同提供精确和高效的结果。ImMesh使用LiDAR传感器同时实现网格重建和定位。ImMesh包含一个建立在他们早期工作VoxelMap之上的创新网格重建算法。具体而言,所提出的网格化模块使用体素将三维空间分割,快速识别包含新扫描数据点的体素。高效网格化的下一步是降维,将体素级的三维网格问题转化为二维问题。最后一阶段使用体素级的网格推拉和推送程序来逐步重建三角形面。该团队声称,这是使用传统CPU在线重新创建大规模场景三角网格的初次发表的努力。 研究人员通过使用合成和真实数据对ImMesh的运行性能和网格化精确性进行了全面测试,并将结果与已知基准进行了比较。他们首先展示了在数据收集过程中网格正在快速重建的实时视频演示,以确保整体性能。之后,他们利用四个不同情景下由四个单独的LiDAR传感器获取的公共数据集对ImMesh进行了全面测试,验证了系统的实时能力。最后,他们将ImMesh在实验3中的网格化性能与现有的网格化基准进行了比较,以建立一个基准。根据结果,ImMesh在维持最佳运行时性能的同时实现了高度的网格化精确性。 他们还演示了如何将ImMesh用于LiDAR点云增强;这种方法在规则模式下产生了密集的、具有更大视野(FoV)的强化点,比原始LiDAR扫描结果更细密。在应用2中,他们通过将他们的工作与R3LIVE++和ImMesh相结合,实现了场景纹理重建无损。 该团队强调他们的工作在空间分辨率方面并不容易扩展,这是一个重要的缺点。由于固定的顶点密度,ImMesh在处理大而平坦的表面时倾向于以许多小的面元来低效地重建网格。所提出的系统还没有循环校正机制,这是第二个局限性。这意味着由于在重访区域中的累计定位错误,可能会出现逐渐偏离的问题。如果出现重访问题,重建结果可能不一致。利用最近使用LiDAR点云进行循环识别的工作将有助于研究人员在这项工作中克服这个问题。通过利用这种循环检测方法,就有可能实时识别循环并进行循环校正,以减少偏移的影响并提高重建结果的可靠性。

Leave a Comment

每个人工智能(GenAI)爱好者应该阅读的5本书

介绍 随着技术不断前进,人工智能(AI)领域不仅在扩大,而且正在多样化发展,生成式人工智能(GenAI)在其中引领潮流。 GenAI,即创造力和AI的融合,注定将改变全球各行各业。根据业界预测,到2032年,GenAI部门的规模预计将达到惊人的1.3万亿美元。对于那些希望开辟自己领域的专业人士来说,排他性书籍中有大量的知识等待着他们。在这里,我们为每个GenAI爱好者提供了一个经过筛选的五本必读书目。 《人工智能和生成式AI圣经:[5合1]最新最全指南》 – Alger Fraley 评分:4.4 《人工智能和生成式AI圣经》是一本包罗万象的书,简化了GenAI的复杂领域。分为五个基本部分,涵盖了AI基础知识,深度学习,NLP,伦理学和未来应用。该书通过解释复杂的概念,并提供不同行业的实际见解和实际案例,不仅仅是解释理论;它还探讨了伦理考虑因素,并展示了AI的潜在影响。以未来为导向的方法引发了读者的好奇心,使他们有能力利用AI的力量提供创新解决方案。易于理解且全面,它是初学者和专家了解和利用AI变革能力的指南。 《生成式AI的涟漪:生成式AI如何影响、告知和改变我们的生活》 – Jacob Emerson 评分:4.8 Jacob Emerson的这本书是GenAI中的一本经典读物。拥有惊人的4.8评分,Emerson的书探索了生成式AI的演变、影响和意义。它揭示了这项技术的历史,从其起源到突破性的进展,展示了它在艺术、医疗保健等领域的广泛应用。通过可理解的示例和真实世界的案例研究,Emerson生动地说明了生成式AI如何重塑世界。特别是,该书深入探讨了伦理和监管问题,清楚地阐述了这个不断发展的领域。词汇表部分有助于理解基本的AI概念。凭借这些知识,读者可以洞察到以AI为驱动的未来,并在个人、专业和社会领域赋予他们权力。 《生成式深度学习:教会机器绘画、写作、作曲和演奏》 – David Foster 评分:4.5 这本由David Foster撰写的书是初学机器学习工程师和数据科学家的实用指南。Foster使用TensorFlow和Keras探索生成式AI,涵盖了VAEs、GANs、Transformers等各种模型。他分享了提高模型效率和创造力的技巧,展示了在照片中修改面部表情和生成个性化图像等应用。该书还探讨了文本生成、最先进的架构、使用AI进行音乐创作以及生成式AI对企业的未来影响。作为创意AI的简明路线图,它是那些渴望掌握生成式AI及其实际应用的人的宝贵资源。 《企业领导者的人工智能基础知识:与生成式AI最新进展》 –…

Leave a Comment

谷歌和UIUC的研究人员提出了ZipLoRA:一种新颖的人工智能方法,可以无缝地合并独立训练的风格和主题LoRA

“`html 谷歌研究和UIUC的研究人员提出了ZipLoRA,它通过引入一种合并独立训练的风格和主题线性递归关注(LoRAs)的新方法,解决了文本到图像扩散模型中对个性化创作的有限控制问题。它允许更好地控制和提高生成任何内容的效果。该研究强调了概念个性化LoRA权重矩阵中稀疏性的重要性,并展示了ZipLoRA在内容-风格转换和重构等各种图像风格化任务中的有效性。 现有的逼真图像合成方法通常依赖于扩散模型,例如稳定扩散XL v1,它使用正向和反向过程。像ZipLoRA这样的方法利用了潜在扩散模型中独立训练的风格和主题LoRAs,以提供对个性化创作的控制。这种方法提供了一个简化的、经济高效且无需超参数的主题和风格个性化解决方案。与基准和其他LoRA合并方法相比,演示表明ZipLoRA的实践在生成具有个性化风格的多样主题方面表现出色。 生成用户指定主题和个性化风格的高质量图像一直是扩散模型面临的挑战。虽然现有方法可以针对特定概念或技术微调模型,但它们通常需要用户提供的主题和风格的帮助。为了解决这个问题,开发了一种无需超参数的名为ZipLoRA的方法。这种方法有效地合并了独立训练的风格和主题LoRAs,提供了前所未有的个性化创作控制。它还在各种LoRAs中提供了稳健性和一致性,并简化了对公开可用LoRAs的组合。 ZipLoRA是一种简化扩散模型中独立训练的风格和主题LoRAs合并的方法。它允许主题和风格的个性化,无需超参数。该技术使用了一种直接合并方法,涉及简单的线性组合和基于优化的方法。通过用户指定的标量权重调整实现了可控的风格化,同时保持模型正确生成个体对象和风格的能力。 通过用户研究表明,ZipLoRA在风格和主题的忠实度方面表现出色,超越了竞争对手和基准,在内容-风格转换和重构等图像风格化任务中。验证了ZipLoRA的准确风格化和主题忠实度,使其成为生成以用户指定主题为个性化风格的有效且有吸引力的工具。在ZipLoRA中独立训练的风格和内容LoRAs的合并提供了对个性化创作的前所未有的控制。 总之,ZipLoRA是一种高效且经济高效的方法,可以同时个性化主题和风格。通过用户研究验证了其在风格和主题忠实度方面的卓越性能,并分析了其LoRA权重稀疏性和对齐的合并过程。ZipLoRA提供了对个性化创作的前所未有的控制,并超越了现有方法。 “`

Leave a Comment

这项AI研究提出了一种基于物理的深度学习技术,用于预测IFP和脂质体积累

在癌症疗法的优化过程中,研究人员提出了一项划时代的解决方案,显著提升了我们对肿瘤动力学的理解。该研究聚焦于精确预测肿瘤内液流压力(IFP)和脂质体积累,揭示了一种开创性的物理信息深度学习模型。这种创新方法有望优化癌症治疗策略,准确揭示治疗药物在肿瘤内的分布情况。 许多纳米治疗的基石在于增强的渗透性和滞留效应(EPR效应),利用肿瘤的特性,如增强的血管渗透性和经血管压力梯度。尽管其关键作用,EPR效应对治疗结果的影响表现不一致。这种不一致性促使对影响实体肿瘤内药物输送的因素进行更深入的探索。在这些因素中,间质流体压力(IFP)已经成为一个关键决定因素,严重限制脂质体药物输送到肿瘤中心区域。此外,升高的IFP是一个独立的预后标记物,显著影响特定实体癌症的放射治疗和化疗的疗效。 针对这些挑战,研究人员提出了一个先进的模型,使用术前和术后的图像数据来预测体素级别的肿瘤内脂质体积累和IFP。他们的方法独特之处在于将物理信息机器学习与偏微分方程相结合的创新技术。通过将这种创新技术应用于来自合成肿瘤的数据集,研究人员展示了该模型在输入数据最小的情况下能够做出高度准确的预测的能力。 现有的方法往往需要在肿瘤内提供一致且准确的脂质体分布和IFP的预测。这项研究通过引入一种前所未有的方法,将机器学习与基于物理的原则相结合,从而在研究中有所突破。这种创新模型不仅能够提供准确的预测,还对癌症治疗的设计具有直接的影响。预测脂质体和IFP在肿瘤内的空间分布能够为更深入地了解肿瘤动力学打开新的途径,为更有效和个性化的治疗干预铺平道路。 该研究由滑铁卢大学和华盛顿大学的研究团队详细介绍了他们提出的方法。他们利用了物理信息深度学习以实现体素级别的预测。该模型依赖于合成肿瘤数据,凸显了其稳健性和高效性,并为应对癌症治疗中提出的IFP升高问题提供了潜在解决方案。通过展示该方法的可扩展性和适用性,研究人员强调了其在预测肿瘤进展和促进治疗计划方面的潜力。 总之,这项开创性的研究为解决基于脂质体的癌症疗法所涉及的复杂问题提供了一种转变性的方法。他们的模型结合了物理信息机器学习,可以提供精确的体素级别的肿瘤内脂质体积累和间质流体压力预测。这种创新推进了我们对肿瘤动力学的理解,并对治疗设计有直接的影响。更有效和个性化的干预潜力凸显了这项工作的重要性,为优化癌症治疗策略提供了关键的进展,以提高可预测性和治疗成功率。

Leave a Comment

相遇‘DRESS’:一个大型视觉语言模型(LVLM),通过自然语言反馈与人类进行对齐和交互

大型视觉语言模型(LVLM)能够解释视觉线索并为用户提供互动的简单回复。这是通过巧妙地将大规模语言模型(LLMs)与大规模视觉指令微调相结合实现的。然而,LVLMs只需要手工制作或LLM生成的数据集通过监督微调(SFT)来进行对齐。尽管将LVLMs从字幕生成器变成遵循指令的模型是行之有效的,但是LVLMs仍然可能产生伤害、恶意或无用的回复。这表明它们仍然需要更加与人类偏好保持一致。此外,尽管先前的研究鼓励将视觉指令微调样本组织成多轮形式,但是LVLMs的互动能力受到不同轮次之间薄弱的连接和相互依赖的限制。在这里,互动能力评估了LVLMs在多回合互动中如何使用先前的上下文调整其回复。这两个缺点限制了LVLMs作为视觉助手的实际应用。 来自SRI International和伊利诺伊大学厄巴纳-香槟分校的研究团队提出了DRESS,一种在本研究中使用LLMs生成的自然语言反馈(NLF)来独特教授LVLMs的方法(参见图1)。研究团队要求LLMs对LVLMs的回复提供细致的反馈,通过提供具体规则和广泛的照片注释来完成。与创建与人类对齐的LLMs的过程相一致,这种反馈注释考虑了三个H标准:有用性、诚实性和无害性。反馈以3H标准综合评估回复的整体质量,并提供数值分数和NLF。研究团队的方法将NLF分为批评和改进两个部分。改进NLF向LVLMs提供了改善回复以使其与参考标准保持一致的精确建议,而批评NLF评估了回复的优点和缺点。这种分类为两种类型的NLF的自然应用提供了可能,使LVLMs更能被人类接受并增强其互动能力。 图1:研究人员指导DRESS使用自然语言输入,将其分为批评和改进两类,以增强其与人类偏好的一致性和互动能力。 研究团队将条件强化学习技术推广到非可微的NLF特性上,并用这种反馈来训练LVLMs。具体而言,研究团队使用回复的语言建模(LM)损失对DRESS进行训练,以生成在两种NLF条件下的等效回复。通过分析和解释数值结果来进一步改进DRESS,以更好地匹配用户偏好。通过推理过程中的多轮互动,研究团队训练DRESS学习通过采用改进NLF来改善其原始回复的元技能。 研究团队对DRESS进行了多轮互动、对无害性评估的对抗提示、用于诚实性评估的图片字幕以及用于有用性评估的开放式视觉问题回答的实验评估。实验结果表明,与早期的LVLMs相比,DRESS能够提供与人类价值观一致的回复,并具有更强的互动能力,可以高效地从反馈中学习并修改回复。据研究团队所知,他们的工作是首次同时考虑LVLMs的互动能力和全部三个3H标准。 研究团队的贡献总结如下: • 研究团队建议使用自然语言反馈(NLF),可分为批评和改进NLF,以增强LVLMs的互动能力和与人类偏好的一致性。 • 通过训练模型,使其提供基于NLF的匹配回答,研究小组成功地将有条件的强化学习方法推广到了不可微分的NLF上。与之前的最佳模型相比,研究小组提出的模型DRESS在有益性、诚实性和无害性对齐的系统评估中分别表现出了相对改进的9.76%、11.52%和21.03%。 • 研究小组生成并公开了63K个带注释的NLF语言示例,包括3H特性。此外,研究小组还创建了一个公开可用的数据集,其中包含4.7K个用于无害对齐和LVLM评估的样本。

Leave a Comment

研究人员研究张量网络以解释性和高效的量子启发机器学习

计算机视觉、自然语言处理和其他领域在深度机器学习(ML)方法方面取得了显著的成功,这些方法基于深度神经网络(NNs)。然而,解释性与效率之间长期存在的问题带来了一些难以克服的障碍。对深度ML方法的质疑、理解和信任能力取决于它们的可解释性,通常被描述为一个人能够理解结论来源的程度。 贝叶斯网络、Boltzmann机器和其他概率ML模型被认为是“白箱”,因为它们本质上是可解释的。这些模型宣称的一种解释方式是通过使用概率推理来揭示隐藏的因果联系;这与人类思维在统计上的方式一致。遗憾的是,最先进的深度NNs在效率上超过了这些概率模型相当大的幅度。目前的ML模型似乎无法同时实现高效性和可解释性。 由于量子计算和传统计算的指数增长,解决效率与可解释性困境的新工具出现了:张量网络(TN)。多个张量的收缩被称为TN。张量的收缩方式由其网络结构定义。 中国首都师范大学和中国科学院大学的一篇新论文调查了TN在高效和可解释的量子启发式ML方面的有益发展。”TN ML butterfly”列举了TN对ML的好处。对于具有量子扭曲的ML的TN的好处可以归结为两个主要领域:量子理论的可解释性和量子过程的高效性。使用TN与如纠缠理论和统计学等量子理论构建超越描述经典信息或统计方法的可解释性的概率框架。 相反,量子启发的TN ML方法将能够通过强大的量子力学TN算法和大幅改进的量子计算技术在经典和量子计算平台上高效运行。特别是,最近产生了具有开发潜力和挑战的生成预训练变换器,导致了前所未有的计算能力和模型复杂性的激增,这对TN ML而言既具有潜力又具有挑战。面对产生预训练变换器的新人工智能(AI),解读结果的能力比以往任何时候都更为重要,从而实现更有效的调查、更安全的控制和更好的利用。 研究人员认为,随着我们进入真正的量子计算和当前的NISQ时代,TN迅速成为从各个角度研究量子人工智能的领先数学工具,包括理论、模型、算法、软件、硬件和应用。 研究人员研究了张量网络用于可解释和高效的量子启发式机器学习文章首次出现于MarkTechPost。

Leave a Comment

深探:中国最新的语言模型的支配地位

在最新的进展中,DeepSeek LLM在语言模型领域崭露头角,拥有令人印象深刻的670亿个参数。DeepSeek LLM在庞大的英语和中文数据集上经过精心训练,并通过开源其7B/67B基础版和7B/67B聊天版,为研究合作设定了新标准。本文深入探讨了该模型在各个领域的卓越能力,并评估了其在复杂评估中的表现。 卓越的通用能力 DeepSeek LLM 67B基础版已通过在推理、编码、数学和中文理解等关键领域中胜过Llama2 70B基础版证明了其实力。该模型的实力延伸到多个领域,标志着语言模型演进的重要飞跃。 精通编码和数学 DeepSeek LLM 67B聊天版在编码方面表现出色,其HumanEval Pass@1得分为73.78。该模型在数学能力方面也表现卓越,GSM8K 0-shot得分为84.1,Math 0-shot得分为32.6。值得注意的是,它在具有挑战性的匈牙利国家中学考试中获得了惊人的65分,彰显出出色的泛化能力。 中文语言掌握能力 在与GPT-3.5的中文语言能力对比中,DeepSeek LLM 67B聊天版成为中文语言掌握能力的领先者。评估结果凸显了该模型的优势,标志着自然语言处理的重大进展。 评估见解 为了公正评估DeepSeek LLM 67B聊天版,开发者提供了新的问题集,减少了数据污染,并考虑到特定的测试集。匈牙利国家中学考试成为评估该模型数学能力的试金石,揭示了该模型在解决复杂问题方面的实力。 此外,谷歌于2023年11月15日发布的“指令遵循评估数据集”为评估DeepSeek LLM…

Leave a Comment

平衡创新与可持续性:在病理学深度学习中对环境责任的务实方法

“`html 这项研究深入探讨了病理学中存在的一个紧迫问题 – 深度学习所关联的显著二氧化碳当量(CO2eq)排放。这种环境影响可能成为普及医疗应用中深度学习的潜在障碍,迫切需要采取可持续的做法。随着世界日益依赖医疗技术进步,了解和缓解环境后果变得至关重要。 当前深度学习模型架构的发展趋势表现出越来越复杂的特点。来自不同机构的研究人员审查了这一发展及其潜在的环境影响。然而,他们提出了一个有说服力的解决方案,主张在模型选择上进行战略性转变。研究人员建议不要只注重最新和最大的模型,而是优先选择计算要求较低的模型。这种战略方法可以减少能源消耗,并引入模型修剪的概念。该技术可以精确删除不必要的参数,提高计算效率,同时保持最佳的模型性能。 所提出的解决方案包括几个关键策略,以平衡技术创新和环境责任。其中一个关键方面包括减少输入数据,特别是在病理学领域,大型全切片图像(WSIs)是常态。研究人员建议通过专用组织检测深度学习模型自动排除没有组织的区域。此外,该研究强调了在组织内选择最低需求的感兴趣区域(ROIs)的重要性,进一步简化流程并显著减少排放。 选择计算要求较低的模型的重点对于深度学习的环境影响具有深远意义。研究人员认为,较新较大的模型天然优于其前辈的假设在特定任务中可能不成立。他们的先前研究结果表明,较简单的深度学习模型在各种病理学任务中的表现可与更先进的模型相当,甚至更好。值得注意的是,一个相对简单、可训练参数较少的深度学习模型在显著减少CO2eq排放的同时,表现优于一个更深的模型。 此外,该研究引入了模型修剪的概念,作为增强可持续性的另一途径。模型修剪,也称为模型优化或压缩,涉及有策略地删除非必要的参数。研究团队的发现表明,经过修剪的分类模型在保持准确性的同时,产生的CO2eq排放比未经修剪的模型少20-30%。这一发现强调了战略模型开发的重要性,以确保深度学习在环境上的可持续性。 总之,这项研究在病理学中揭示了技术进步和环境责任之间的重要交汇点。所提出的方法为解决深度学习的生态影响提供了务实和环保的方法,同时不影响效率。随着医学界在技术进步中前进,这项研究呼吁进行范式转变,敦促研究人员和产业界在追求创新时优先考虑可持续性。通过采用这种做法,推动医疗技术的发展与减轻环境影响之间的微妙平衡变得可行,确保医疗创新的可持续未来。 “`

Leave a Comment

探索单细胞生物学中的人工智能前沿:对Geneformer和scGPT等零射基础模型的批判性评价

Translate from English to Chinese: 基于基因形态模型在单细胞生物学中的应用近来一直是研究人员讨论的热点话题。像scGPT、GeneCompass和Geneformer这样的模型是该领域的一些有希望的工具。然而,它们的有效性一直是一个令人担忧的问题,特别是在零-shot环境中,尤其是当这个领域涉及到探索性实验和缺乏明确的标签进行微调时。本论文基于此问题,对这些模型的零-shot性能进行了严格评估。 以前,有研究依赖于对特定任务进行微调,但由于该领域的特性以及高计算要求,当应用于单细胞生物学领域时,其局限性变得非常明显。因此,为了应对这一挑战,微软研究人员评估了Geneformer和scGPT基因形态模型在涉及多样数据集和多个任务的多个方面上的零-shot性能,如细胞类型聚类的嵌入表示效用、批效应校正和基于预训练目标的模型输入重构的效果。 选择这两个模型的原因是它们的预训练权重(在评估时的时间点上)是可用的。研究人员使用了五个不同的人类组织数据集进行评估,每个数据集都对单细胞分析提出了独特且相关的挑战。为了比较,研究人员还使用了一个名为scVI的生成模型,该模型在每个数据集上进行了训练。他们使用了以下指标来评估每个任务: 对于评估细胞嵌入,他们使用平均轮廓宽度(ASW)和平均Bio(AvgBIO)评分来计算细胞类型在嵌入空间内的唯一度。 对于批次整合,他们采用一种在0到1之间的变体AWS评分,0表示完全分离批次,1表示完美混合批次。 对于评估scGPT和Geneformer在预训练目标上的性能,分别使用均方差(MSE)和皮尔逊相关性。 在这两个度量标准上,scGPT和Geneformer的表现均不如基准策略。Geneformer在不同数据集上具有很大的方差,尽管scGPT在其中一个数据集上的表现优于基准模型scVI,但在另外两个数据集上表现较差。随后,研究人员评估了预训练数据集对模型性能的影响,主要集中在scGPT(四个变体)上,并发现所有模型变体的中位数得分有所改善。 在评估批次效应时,两个模型均表现不佳,常常落后于scVI等模型,这表明它们对零-shot环境中的批次效应并不完全稳健。在最后一组评估中,研究人员发现scGPT无法重构基因表达,而Geneformer的表现更好。与基准模型相比,他们观察到基准预测胜过所有scGPT变体,而Geneformer在其中一个数据集上的表现优于平均排名。 总之,研究人员对将scGPT和Geneformer应用于单细胞生物学的零-shot能力进行了全面分析,他们的分析突显了这些模型的不佳性能。他们的研究发现,scGPT在所有评估中优于Geneformer模型。最后,研究人员还提供了一些关于未来工作需要关注的见解,尤其是关于预训练任务、预训练数据集与下游分析任务性能之间的关系。

Leave a Comment

首尔国立大学研究人员引入了LucidDreamer:一种突破性的人工智能方法,利用扩散建模在虚拟现实中实现领域无关的3D场景生成

商业混合现实平台的发展和3D图形技术的快速进步使得高质量的3D场景的创建成为计算机视觉中的主要挑战之一。这需要将任何输入的文本、RGB和RGBD图片转换为各种逼真且多样的3D场景的能力。尽管已经尝试使用体素、点云和隐性神经表示等扩散模型直接构建3D对象和场景,但由于基于3D扫描的训练数据的限制,结果显示出有限的多样性和质量。使用预先训练的图像生成扩散模型(例如稳定扩散)生成各种优秀的3D场景是解决问题的一种方法。这样一个庞大的模型通过从大规模训练集中获得的数据驱动知识生成可信的图像,但无法确保生成的图像之间的多视点一致性。 首尔大学的研究团队在本文中提出了一种名为LucidDreamer的流水线,它使用3D高斯喷洒和稳定扩散从多种输入(包括文本、RGB和RGBD)生成各种高质量的3D场景。通过交替重复进行Dreaming和Alignment两个步骤,使用LucidDreamer流水线创建一个单一的大点云。在开始这两个过程之前,原始图像和匹配的深度图创建了一个初始点云。创建几何一致的图像并将其投影到三维空间中是梦境体验的两个方面。在将可见点云区域在新的相机坐标系上投影到新的相机平面之前,研究团队沿着预定义的相机轨迹移动相机。随后,投影的图像被送入基于稳定扩散的修补网络,该网络利用图像创建整个概念。通过将修补的图像和预测的深度图提升到3D空间中,创建了一组新的3D点。然后,通过轻微移动新点在3D空间中的位置,建议的对齐技术将其平滑地与当前点云连接起来。研究团队使用通过重复执行上述过程得到的大型点云作为初始SfM点来优化高斯喷洒。 与先前的表示相比,3D高斯喷洒的连续表示消除了点云中深度差异导致的间隙,使我们能够显示出更逼真的3D场景。图1展示了使用简单的LucidDreamer技术生成的3D生成结果。与当前模型相比,LucidDreamer显示出显著更逼真和令人震撼的结果。在研究团队比较基于ScanNet、NYUDepth和稳定扩散的图片条件下创建的3D场景时,所有数据集都显示出更好的视觉效果。 图1:研究人员创建了LucidDreamer,这是一个基本框架,用于从文本、RGB和RGBD输入类型生成高质量、多视点一致的3D场景。在将RGBD图像映射到第一个点云以生成后,LucidDreamer重复进行两个过程来扩大和保持其世界模型:对齐和梦境。通过优化高斯喷洒表示,完成了3D场景。 他们的模型可以创建各种风格的3D场景,包括逼真、动漫、乐高和室内/室外。他们的概念支持多个领域,并允许同时使用多个输入条件。例如,它根据文本创建一个3D场景并添加图片,将文本和图像条件在一起。这消除了完全从文本中创建预期场景的困难,并消除了大量生成样本的需求。此外,他们的方法允许在创建3D空间时修改输入条件。这些特点通过提供构建各种3D设置的机会来激发创造力。 他们总结了以下贡献。 • 研究团队推出了LucidDreamer,这是一个领域无关的高质量3D场景生成工具,它使用显式3D表示、深度估计和稳定扩散来改进3D场景合成中的领域泛化。 • 他们的Dreaming方法通过生成点云作为每个图片生成的几何指引,利用稳定扩散生成多视角图像。使用他们的对齐技术巧妙地将生成的照片整合在一起,创建一个连贯的3D场景。 • 他们的方法允许用户通过支持多种输入类型(文本、RGB和RGBD)以多种方式生成3D场景,同时允许在生成过程中更换输入。

Leave a Comment

韩国大学的研究人员推出了HierSpeech++:一种具有突破性的人工智能方法,用于高保真度、高效率的文本转语音和语音转换

韩国大学的研究人员开发了一种新的语音合成器,名为HierSpeech++。 这项研究旨在创造出稳健、富有表现力、自然且类似人类的合成语音。 团队的目标是在不依赖文本-语音配对数据集的情况下实现这一目标,并改善现有模型的缺点。 HierSpeech++旨在填补语音合成中的语义和声学表征差距,从而最终改善风格适应性。 到目前为止,基于LLM的零样本语音合成存在一定的局限性。 但是,HierSpeech++已经针对这些限制进行了解决,并改进了鲁棒性和表现力,同时解决了与慢推断速度有关的问题。 通过利用基于文本和韵律提示的自监督语音和F0表示的文本到向量框架,已经证明了HierSpeech++优于基于LLM和扩散的模型的性能。 这些速度、鲁棒性和质量的提升确立了HierSpeech++作为一种功能强大的零样本语音合成器。 HierSpeech++使用分层框架生成语音而无需预先训练。 它采用文本到向量框架来开发基于文本和韵律提示的自监督地址和F0表示。 使用分层变分自编码器和生成的向量、F0和语音提示来产生语音。 该方法还包括高效的语音超分辨率框架。 全面评估使用各种预先训练的模型和实现,采用log-scale Mel错误距离、感知语音质量评估、音高、周期性、有声/无声F1分数、自然度、平均意见分和语音相似性MOS等客观和主观指标。 HierSpeech++在零样本情况下实现了合成语音的优越自然度,提高了鲁棒性、表现力和说话者相似性。 使用自然度平均意见分和语音相似性MOS等主观指标评估了语音的纯真性,并且结果显示HierSpeech++优于真实语音。 进一步将语音超分辨率框架从16 kHz提高到48 kHz,进一步提高了地址的自然度。 实验结果还证明,HierSpeech++中的分层变分自编码器优于基于LLM和扩散的模型,使其成为一种强大的零样本语音合成器。 研究还发现,使用噪声提示的零样本文本到语音合成验证了HierSpeech++在生成未知说话者的语音方面的有效性。 分层合成框架还可以实现多样化的韵律和语音风格转换,使合成语音更加灵活。 总而言之,HierSpeech提供了一种实现零样本语音合成人级质量的高效而强大的框架。 它在语义建模、语音合成、超分辨率和韵律和语音风格转换方面的解耦,提升了合成语音的灵活性。 即使在小规模数据集的情况下,该系统也表现出鲁棒性、表现力、自然度和说话者相似性的改进,并且具有显著更快的推断速度。…

Leave a Comment

见证关系深度学习基准(RelBench):一系列逼真、大规模且多样化的关系数据库机器学习基准数据集

在人工智能(AI)和机器学习(ML)这两个快速发展的领域中,寻找有效的、自动化的和适应性强的方法变得极其重要。AI和ML方法的不断提升已经改变了机器可以完成的事情以及人类如何与机器交互的可能性。 包括深度学习在内的AI领域完全依赖于数据,重要的数据存储在数据仓库中,通过主外键关系链接在多个表中分散存储。使用这样的数据开发ML模型存在许多困难,需要大量的时间和工作,因为现有的ML方法并不适合直接从跨越多个关系表的数据中学习。目前的方法要求将数据通过一种称为特征工程的过程转换成单个表。 为了克服这一挑战,斯坦福大学、Kumo AI、耶鲁大学、马克斯普朗克学院和伊利诺伊大学厄巴纳-香槟分校的研究团队最近提出了关系深度学习。这种端到端的深度表示学习技术可以处理分散在多个表中的数据。该方法已经被开发成一种将关系表作为异构图的基本方法。该图模型中的每个表行代表一个节点,而主外键关系定义了边。 使用消息传递神经网络(MPNNs),可以自动遍历并学习多个表,从而提取利用所有输入数据的表示,并且不需要任何手动特征工程。研究团队还提出了RELBENCH,这是一个包括基准数据集和关系深度学习实现的综合框架。这些数据集涵盖了各个领域,从亚马逊产品目录中的图书评论到像Stack Exchange这样的网站上的对话。 RELBENCH包含三个核心模块,具体如下: 数据模块:RELBENCH的数据模块提供了有效使用关系数据集的框架。其中包括三个重要特性:时间数据划分、任务规范和数据加载。 模型模块:该模块通过将未处理数据转换为图形表示来构建图神经网络(GNNs)的预测模型。使用强大的深度学习库PyTorch Geometric,RELBENCH对几种广泛使用的GNN架构进行了基准测试。该模块允许模型架构的灵活性,对于桥接预测模型和原始关系数据开发之间的差距至关重要。 评估模块:该模块创建了一个统一的评估模型性能的过程。它以系统化的方式评估预测文件,提供了模型的有效性的量化指标。该模块与各种受欢迎的深度学习工具配合使用,因为它被设计为与深度学习框架无关。这种适应性使研究人员和从业者可以使用他们选择的框架,而不会牺牲评估过程。

Leave a Comment

评估大型语言模型的质量和责任

与生成性人工智能相关的风险已经广为人知毒性、偏见、泄漏个人身份信息以及幻觉都会对组织的声誉和客户信任造成负面影响研究表明,不仅偏见和毒性风险会从预训练的基础模型转移到特定任务的生成性人工智能服务中,而且通过为特定任务调整基础模型还会产生如下影响[…]

Leave a Comment

扩展基于亚马逊SageMaker的数百种模型的基础模型推断-第一部分

随着粉底模型(FM)的民主化越来越普遍,并且对AI增强服务的需求不断增加,软件即服务(SaaS)提供商正在寻求使用支持多租户的机器学习(ML)平台,以便为他们组织内部的数据科学家和外部客户提供服务越来越多的公司意识到使用FM来生成[…]的价值

Leave a Comment

这篇AI研究评论探讨了卫星图像和深度学习在衡量基于资产的贫困方面的整合

“`html 来自隆德大学和哈尔姆斯塔德大学的研究人员通过卫星图像和深度机器学习对可解释的AI在贫困估计中进行了回顾。通过透明度、可解释性和领域知识强调,对32篇论文的分析显示,这些关键要素在可解释的机器学习中表现出变异性,无法完全满足对贫困和福利的科学洞察和发现的需求。 这项研究通过分析32篇预测贫困/财富的论文,使用调查数据作为基准真实性,在城市和农村环境中应用它,并涉及深度神经网络,发现这些核心要素的状态存在变异性,不能满足对贫困和福利洞察的科学要求。该回顾凸显了解释性对于开发社区范围内的更广泛传播和接受的重要性。 引言介绍了在识别弱势社区和了解贫困决定因素方面的挑战,指出了信息缺口和家庭调查的局限性。强调深度机器学习和卫星图像在克服这些挑战方面的潜力,并强调在科学过程中的可解释性、透明性、可解释性和领域知识的需求,并评估了使用调查数据、卫星图像和深度神经网络预测贫困/财富中的可解释的机器学习的状态。目标是在开发社区范围内增强更广泛的传播和接受。 通过进行综合文献综述,该研究分析了满足特定标准的32项关于贫困预测、调查数据、卫星图像和深度神经网络的研究。文章讨论了解释深度学习成像模型的属性图的使用,并评估了其可解释性。本回顾旨在概述所审查论文中的可解释性,并评估它们在贫困预测的新知识中的潜在贡献。 对论文的回顾揭示了可解释的机器学习的核心要素(透明度、可解释性和领域知识)的不同状态,无法满足科学要求。可解释性和可解释性较弱,很少有研究人员解释模型或解释预测数据的努力。在特征模型的选择中普遍使用领域知识,但在其他方面使用较少。实验结果突出了一些洞察,如模拟财富指数的局限性和低分辨率卫星图像的影响。其中一篇论文以其强有力的假设和领域知识的积极评价脱颖而出。 在贫困、机器学习和卫星图像领域,可解释的机器学习方法中透明度、可解释性和领域知识的状态各不相同,并未达到科学要求。对于开发社区范围内更广泛传播的可解释性,超出了单纯的可解释性。论文中的透明度参差不齐,有些文件有很好的文档记录,而其他文件则缺乏可复现性。解释性和可解释性方面的不足仍然存在,很少有研究人员解释模型或解释预测数据。虽然在基于特征的模型中普遍使用领域知识进行选择,但在其他建模方面应用较少。在冲击要素中的排序和排名是一个重要的未来研究方向。 “`

Leave a Comment

伦敦大学学院的研究人员介绍了DSP-SLAM:一种具有深度形状先验知识的面向对象的SLAM

在人工智能(AI)的快速发展领域中,深度学习变得越来越受欢迎,并且进入到每个行业,使生活变得更加便利。SLAM(Simultaneous Localization and Mapping,同时定位与地图构建)是AI中的一个重要组成部分,它在机器人、无人驾驶汽车和增强现实系统中得到了革命性的进展。 SLAM涉及重建周围环境并同时估计移动相机的轨迹。SLAM具有一些令人难以置信的算法,能够精确估计相机轨迹并产生出色的几何重建。然而,仅凭几何表示无法为需要场景理解的更复杂任务提供重要的语义信息。 目前使用的语义SLAM系统对场景中物体的特定细节推理(例如数量、大小、形状或相对姿态)是一个挑战。在最近的研究中,伦敦大学学院(University College London)计算机科学系的研究团队引入了最新的面向对象SLAM系统,名为DSP-SLAM。 DSP-SLAM旨在构建一个全面而精确的联合地图;前景物体由密集的3D模型表示,而背景则由稀疏的地标点表示。该系统甚至可以很好地配合单目、双目或双目+LiDAR输入模态。 团队表示,DSP-SLAM的主要功能是接收由基于特征的SLAM系统产生的3D点云作为输入,并通过密集重建已经被识别的物体来增强其稀疏地图的能力。使用语义实例分割来检测物体,并使用类别特定的深度形状嵌入作为先验来估计这些物体的形状和姿态。 团队表示,DSP感知束调整是该系统的主要特点,因为它用于创建姿态图,实现相机姿态、物体位置和特征点的联合优化。通过使用这种策略,系统可以改进和优化场景的表示,同时考虑背景地标和前景物体。 该系统在多种输入模态(如单目、双目和双目+LiDAR)下以每秒10帧的速度运行,展示了令人印象深刻的性能。已经在多个数据集上对DSP-SLAM进行了测试,包括来自KITTI轨迹数据集的双目+LiDAR序列和来自Freiburg和Redwood-OS数据集的单目-RGB序列,以验证其功能。结果显示,即使在观测不完整的情况下,该系统能够产生出色的完整物体重建并保持一致的全局地图。 研究人员总结了主要贡献如下: DSP-SLAM将面向对象SLAM的语义映射丰富性与基于特征的相机跟踪的准确性相结合,通过使用稀疏特征点重建背景,与先前只表示物体的方法形成对比。 DSP-SLAM在定量和定性方面都优于依赖于密集深度图像的方法,因为它使用仅RGB单目流而不是Node-SLAM,并且可以通过仅使用50个3D点来准确估计物体的形状。 DSP-SLAM在对象形状和姿态估计方面,在定量和定性方面都优于基于先验的自动标记技术。 KITTI轨迹数据集的实验结果显示,使用DSP-SLAM的联合束调整在轨迹估计方面优于ORB-SLAM2,尤其是在使用双目+LiDAR输入时。

Leave a Comment

鸭子AI推出DuckTrack:一款多模态计算机交互数据收集器

准确追踪用户交互行为是促进计算机智能能力提升的基石。这项任务在开发和训练智能系统中起着至关重要的作用。这些系统的有效性取决于对用户交互行为的仔细检查和系统记录。 Duck AI的研究人员开发了DuckTrack,以准确记录各种输入,以便能够将这些数据用于正确训练计算机智能代理。DuckTrack通过与主要操作系统兼容的用户友好型桌面应用程序提供了一种同步收集鼠标、键盘、屏幕视频和音频数据的方法。 此外,DuckTrack启动了社区数据收集倡议。这一开源努力邀请贡献者参与收集多样化的计算机交互数据。DuckTrack在所有主要操作系统上运行流畅,并且使用Python创建。DuckTrack的特色概述展示了其对鼠标和键盘动作的精确记录和回放能力。研究人员表示,将屏幕录制与OBS集成可以进一步提升其多功能性。 对于DeepTrack,在绘图任务中结构相似性指数(SSIM)始终超过0.9。每个事件都以0.03ms ± 0.4ms的较低误差范围进行记录,超过了市场上现有跟踪器的准确性。DuckTrack在性能指标方面具有卓越的表现,这使其成为追求顶级跟踪和回放解决方案的可靠选择。 但DuckTrack也存在某些限制。在回放过程中模拟双击或三击实际上是一个挑战,影响了这些动作的准确性。此外,DuckTrack无法记录触控板手势,并且在涉及原始信息(如游戏)的情况下存在一些限制。开发人员正在积极努力解决这些限制,并通过持续与社区互动来提高DuckTrack的功能。 研究人员在不同系统上进行了DuckTrack的测试,包括运行macOS Sonoma 14.0的M2 Pro MBP 14以及运行PopOS! 22.10(基于Ubuntu)和Windows 10 22H2的Intel i7-10510U System76 Lemur Pro 9。他们在ReCAPTCHA任务上测试了DuckTrack,这是人类运动的代理,结论是它在十次尝试中表现出100%的成功率。虽然硬件差异可能会略微影响性能,但跨操作系统的准确性一致性强调了DuckTrack的可靠性。 研究人员将很快宣布有关贡献和设置数据收集的详细指南,鼓励集体努力来改进和完善DuckTrack的功能。 DuckTrack在收集计算机交互数据方面被证明是一项革命性的工具。凭借对精度的执着、不断的社区参与和对改进的重视,DuckTrack成为寻求卓越回放和跟踪功能的个人和企业的首要选择。DuckTrack正在为更精密和无缝的多模式计算机交互体验铺平道路。 在此处下载适用于您的系统的预构建应用程序。

Leave a Comment

使用Amazon SageMaker智能筛选,将深度学习模型训练加速高达35%

在当今快速发展的人工智能领域,深度学习模型已经成为创新的前沿, 并且在计算机视觉(CV),自然语言处理(NLP)和推荐系统等领域有广泛的应用然而,训练和优化这些模型所带来的成本不断增加,给企业带来了挑战这些成本主要是由[…]驱动的

Leave a Comment

深度学习模型如何模仿大脑中的人类语音识别:解读听觉处理

研究表明,将听觉数据转化为语言表示涉及到声音感知。当有人听到语音时,包括主要和非主要听觉皮层区域、听觉神经以及皮层下结构的听觉通路会被激活。由于环境条件和语言知觉单元的听觉信号会发生变化,自然语音知觉是一项艰巨的任务。尽管经典的认知模型能够解释许多语音知觉的心理特征,但在解释大脑编码和自然语音识别方面,这些模型还不够完善。深度学习模型在自动语音识别方面正接近人类的表现。 为了提高人工智能模型的可解释性,并提供新的数据驱动的感知计算模型,加州大学旧金山分校的研究人员旨在将深度学习模型的计算和表示与人类听觉系统的神经反应相关联。它旨在识别人类听觉回路和最先进的语音神经网络模型之间的共同表示和计算。分析重点是与上行听觉通路中真实语音的神经反应相关联的深度神经网络(DNN)语音嵌入,并使用神经编码框架。 详细比较了听觉回路和深度神经网络(DNN)模型的各种计算架构(卷积、循环和自注意)和训练过程(有监督和无监督目标)。此外,检查DNN的计算能提供有关神经编码预测的基本过程的信息。与之前针对单一语言(主要是英语)的建模尝试不同,他们在研究中使用了跨语言范式来揭示语音知觉的语言特定和语言不变特征。 令人着迷的是,研究人员展示了最新的DNN如何紧密模拟人类听觉系统中的关键信息处理要素。当预测整个听觉通路中对真实语音的神经反应时,DNN的特征表示比基于理论驱动的声学-语音学特征集表现得更好。此外,他们还检查了深度神经网络(DNN)中基本的上下文计算。他们发现,完全无监督的自然语音训练是这些网络获取与语言相关的关键时间结构(如音素和音节上下文)的方式。这种获取特定于语言的语言信息的能力预测了非主要听觉皮层中DNN-神经编码的相关性。线性STRF模型无法揭示在跨语言知觉期间STG中的特定于语言的编码,而基于深度学习的神经编码模型可以。 总之 使用比较方法,研究人员展示了语音学习的深度神经网络(DNN)与人类听觉系统之间的重要的表征和计算相似性。从神经科学的角度来看,基于经典特征的编码模型在从统计结构中提取中间语音特征方面被数据驱动的计算模型所超越。通过与神经反应和选择性进行对比,他们为理解AI方面DNN的“黑箱”表示提供了一种方法。他们展示了如何使现代DNN可能选择类似于人类听觉系统信息处理方式的表示。根据研究人员的说法,未来的研究可以使用更广范围的AI模型和更大更多样的人群来调查和验证这些结果。 本文发表在《解读听觉处理:深度学习模型如何在大脑中模拟人类语音识别》一文中,首发于MarkTechPost。

Leave a Comment

理解GPT-4V(ision)的概念:新的人工智能趋势

OpenAI一直处于人工智能领域的最新进展前沿,拥有像GPT和DALLE这样高效的模型。GPT-3推出时是一种独特的模型,具有出色的语言处理能力,如文本摘要、句子补全等等。其继任者GPT-4的发布标志着我们与人工智能系统互动方式的重大转变,它提供了多模态能力,即能够处理文本和图像。为了进一步增强其功能,OpenAI最近发布了GPT-4V(ision),允许用户利用GPT-4模型分析图像输入。 近年来,多模态LLM的发展越来越多,这些模型能够处理不同类型的数据。GPT-4就是这样一种模型,它在许多基准测试中展示了与人类水平相媲美的成果。GPT-4V(ision)建立在GPT-4现有特性的基础上,提供可视化分析以及现有的文本交互特性。使用上限,需要通过订阅GPT-Plus才能访问该模型。此外,还必须加入API的等待列表才能获得访问权限。 GPT-4V(ision)的关键特性 该模型的一些关键能力包括: 它可以接受用户的视觉输入,如屏幕截图、照片和文档,并执行各种任务。 它可以执行对象检测,并提供有关图像中不同对象的信息。 另一个引人注目的特点是它可以分析以图表、图形等形式表示的数据。 此外,它能够阅读和理解图像中的手写文字。 GPT-4V(ision)的应用 数据解释是GPT-4V(ision)最令人兴奋的应用之一。该模型能够分析数据可视化,并根据其提供关键洞见,从而提升数据专业人士的能力。 该模型还可以根据网站设计编写代码,这有望极大加快网站开发的过程。 ChatGPT已被内容创作者广泛使用,以帮助他们克服缺乏灵感并快速生成内容。然而,GPT-4V(ision)的出现将事情推向了一个完全不同的水平。例如,我们首先可以使用该模型创建提示以生成DALLE 3的图像,然后使用该图像写博客。 该模型还可以帮助处理多种条件处理(如分析停车情况)、解密图像中的文本、对象检测(以及对象计数和场景理解等任务)等。该模型的应用不限于上述提到的点,几乎可以应用于各个领域。 GPT-4V(ision)的局限性 尽管该模型具有高度的能力,但需要记住它容易出现错误,并且有时可能基于图像输入产生不正确的信息。因此,在处理数据解释时应避免过度依赖,并且在复杂推理的领域,例如数独问题,GPT-4可能面临挑战。 隐私和偏差是使用该模型所涉及的另一组主要问题。用户提供的数据可能被用于重新训练该模型。与其前身一样,GPT-4也会强化社会偏见和观点。因此,考虑到这些限制,处理高风险任务(如科学图像和医疗建议)时应避免使用GPT-4V(ision)。 结论 总之,GPT-4V(ision)是一种功能强大的多模态LLM,为人工智能能力树立了新的标杆。通过处理文本和图像的能力,它为使用人工智能的应用开辟了新的可能性。尽管仍然存在一些局限性,但OpenAI一直在努力使该模型安全可用,我们可以将其用于增强分析能力,而不是完全依赖它。 本文《理解GPT-4V(视觉)的概念:新的人工智能趋势》首次出现在MarkTechPost。

Leave a Comment

这项来自麻省理工学院和Meta AI的AI研究揭示了一种创新且价格实惠的先进手持物体重定向机器人控制器

来自麻省理工学院和Meta AI的研究人员开发了一种物体重新定向控制器,可以利用单个深度摄像机实时重新定向各种形状的物体。这项开发所解决的挑战是需要一个多功能且高效的物体操纵系统,能够适应新条件,而无需保持不同物体之间关键点的一致姿态。该平台还可以拓展至其他熟练操纵任务,未来研究还在进一步改进方面存在机会。 目前用于物体重新定向研究的方法存在一些局限性,例如侧重特定物体、操纵范围有限且操纵速度慢、依赖昂贵的传感器以及只能产生模拟结果。这些方法必须有效地解决从模拟环境到真实环境的转移挑战。成功率通常由误差阈值决定,而该阈值因任务而异。学生视觉策略网络已经经过训练,以解决这些局限性,并且已经证明在数据集之间存在最小的泛化差距。 本研究提出了一种提高机器手灵活性的方法,解决了手中物体重新定向的挑战。以往的方法会施加限制,并需要昂贵的传感器,从而限制了它们的多功能性。为了克服这些限制,通过强化学习在模拟环境中训练了一个控制器,并成功地实现了对新形状的真实世界泛化。还讨论了使用视觉输入训练控制器和实现有效的模拟到真实环境转换的挑战。 所提出的方法涉及利用强化学习在模拟环境中训练基于视觉的物体重新定向控制器,然后直接在真实世界中进行零样本转移。训练使用具有增强容量的卷积网络和门控循环单元,在Isaac Gym物理模拟器的桌面设置中进行。奖励函数包括成功标准和额外的形状术语。为了评估该方法的有效性,进行了在3D打印和真实世界物体上的测试,并基于误差分布和成功率对比模拟和真实世界的结果,以定义的阈值进行评估。 在真实世界上,单个在模拟中训练的控制器成功地重新定向了150个物体,并在三指和修改后的四指D’Claw操纵器上实现了实时性能,使用了标准工作站以12 Hz的速度。采用OptiTrack运动捕捉系统进行的评估展示了其准确的物体重新定向能力,并且能够推广到新的物体形状上。通过对误差分布和成功率在定义的阈值内的分析,证明了该系统在解决模拟到真实世界转换的挑战和潜在精度改进方面的有效性,而无需额外假设。 总之,该研究成功地通过强化学习开发了一个能够在真实世界中有效重新定向物体的实时控制器。尽管系统的中位重新定向时间约为七秒,但它引发了关于在重新定向任务中形状信息的重要性的问题。它强调了从模拟结果到真实世界的转移挑战。尽管存在这些挑战,该控制器在手中灵巧操纵方面具有潜在应用,特别是在不太结构化的环境中,并强调了在不做额外假设的情况下需要精度改进的需求。 未来研究的一个潜在方向是探索如何将形状特征纳入控制器,特别是在精细操纵和对新形状的泛化方面,这可能会提高控制器性能。值得探索通过视觉输入进行训练的可能性,这可以解决当前依赖于完整状态信息模拟的强化学习控制器的局限性。最后,与先前作品的比较研究可以帮助将研究结果置于现有文献中的背景中,并且还需要进一步研究使用开源硬件进行灵巧操纵的问题。

Leave a Comment

使用API计划Amazon SageMaker笔记本任务并管理多步骤笔记本工作流程

亚马逊SageMaker Studio为数据科学家提供了完全托管的解决方案,可以交互式地构建、训练和部署机器学习(ML)模型亚马逊SageMaker笔记本作业允许数据科学家在SageMaker Studio中通过几次点击按需或按计划运行其笔记本有了这次发布,您可以以编程方式运行笔记本作业[…]

Leave a Comment

宣布新的工具和能力,以实现负责任的人工智能创新

生成AI的快速增长带来了有前景的新创新,同时也带来了新的挑战这些挑战包括一些生成AI之前普遍存在的问题,比如偏见和可解释性,以及基础模型(FMs)独有的幻觉和有害性等新问题在AWS,我们致力于负责任地发展生成AI,[…]

Leave a Comment

“Bing聊天如何在提供最新实时知识方面超越ChatGPT?认识检索增强生成(RAG)技术”

随着近年来大语言模型(LLMs)的发展,这些模型在人工智能和机器学习领域带来了范式转变。这些模型引起了大众和人工智能社区的极大关注,推动了自然语言处理、生成和理解方面的显著进展。最著名的LLM示例是基于OpenAI的GPT架构的ChatGPT,它已经改变了人类与基于AI技术的科技互动方式。 虽然LLMs在文本生成、问答、文本摘要和语言翻译等任务中显示出强大的能力,但它们仍然有自己的缺点。这些模型有时会产生形式不准确或过时的输出信息。甚至缺乏正确的来源归属也会使验证LLMs生成的输出的可靠性变得困难。 什么是检索增强生成(RAG)? 一种称为检索增强生成(RAG)的方法解决了上述限制。RAG是一种基于人工智能的框架,它从外部知识库中收集事实,让大语言模型获得准确和最新的信息。 通过集成外部知识检索,RAG已经能够改变LLMs。除了精确性,RAG通过透明地揭示LLMs的生成过程细节,为用户提供透明度。RAG解决了传统LLMs的局限性,通过平稳地结合外部检索和生成方法,确保了更可靠、具有上下文意识和知识的基于人工智能的通信环境。 RAG的优势 提高响应质量 – 检索增强生成着眼于LLM生成的响应不一致性问题,保证更准确和可信的数据。 获取最新信息 – RAG将外部信息集成到内部表示中,以确保LLMs获得当前和可信的事实。它确保答案建立在最新知识之上,提高模型的准确性和相关性。 透明度 – RAG的实施使用户能够检索基于LLMs的问答系统中模型的来源。通过使用户能够验证陈述的完整性,LLM促进了透明度,并增加了对其提供的数据的信心。 减少信息丢失和产生虚像 – RAG通过基于独立、可验证的事实建立LLMs,降低了模型泄漏机密信息或产生错误和误导性结果的可能性。它通过依赖更可靠的外部知识库,减少了LLMs对信息的错误解释的可能性。 降低计算开销 – RAG减少了对不断变化的条件进行参数调整和训练的需求。它减轻了财务和计算压力,提高了LLM驱动的聊天机器人在商业环境中的成本效益。 RAG如何工作? 检索增强生成(RAG)利用所有可用的信息,如结构化数据库和非结构化材料(如PDF)。这些异构材料被转换成一种通用格式,并组装成一个知识库,形成一个生成人工智能系统可以访问的存储库。 关键的一步是使用嵌入语言模型将该知识库中的数据转换为数字表示。然后,使用具有快速高效搜索功能的向量数据库来存储这些数字表示。一旦生成人工智能系统发出提示,这个数据库可以快速检索到最相关的上下文信息。 RAG的组成部分…

Leave a Comment

「这项AI研究介绍了FollowNet:一种用于车辆跟随行为建模的全面基准数据集」

跟随其他车辆是最常见和基本的驾驶活动。安全地跟随其他车辆可以减少碰撞,使交通流畅和可预测。当驾驶员在道路上跟随其他车辆时,适当的跟车模型会以数学或计算方式表示这种行为。 现实世界驾驶数据的可用性和机器学习的发展在过去十年中在数据驱动的跟随车辆模型的繁荣方面起到了重要作用。依赖数据来跟随车辆的模型包括神经网络、循环神经网络和强化学习。然而,目前的研究中存在一些限制,如下所示: 首先,由于缺乏标准数据格式,跟车模型尚未得到很好的评估。尽管公共驾驶数据集如NGSIM和HighD等可用,但由于缺乏标准数据格式和跟车模型的评估标准,很难将新提出的模型的性能与现有模型进行比较。 其次,当前研究中的数据集有限,无法准确描述混合交通流中的跟车行为。以不考虑自动驾驶车辆的小数据集对车辆跟随行为进行建模一直是过去研究的重点,而在这个时候,人工驾驶和自动驾驶车辆共同在道路上行驶。 为了解决这些问题并创建一个标准数据集,香港科技大学,广东省集成通信重点实验室,同济大学和华盛顿大学的一项新研究发布了一个名为FollowNet的基准。他们使用一致的准则从五个公开可用的数据集中提取了跟随车辆事件以建立这个基准。研究人员在基准范围内执行和评估了五个基准跟车模型,包括传统和数据驱动的方法。他们利用统一的数据格式为行为设定了第一个标准,以便促进跟车模型的创建。处理来自不同数据集的多样化数据结构和框架可能会很困难,但是他们统一的跟车基准考虑到了这一点。 通过使用基准进行训练和评估的两种传统和三种数据驱动的跟随车辆模型——GHR、IDM、NN、LSTM和DDPG。五个流行的公共驾驶数据集——HgihD53、Next Generation Simulation(NGSIM)54、Safety Pilot Model Deployment(SPMD)55、Waymo56和Lyf57——都包含了该基准所定义的跟随车辆事件。研究人员对跟车行为和基本统计信息的几个数据集进行了分析。结果显示使用一致的指标评估基准模型的性能。特别是Waymo和Lyf数据集显示了混合交通情况下的跟车事件。研究人员没有包括持续时间超过90%的静态事件。 即使数据驱动的模型在间距最小均方误差方面表现较传统模型更低,碰撞仍然是可能的。发展具有零碰撞率和较少间距误差的跟车模型是可取的。为了在跟车模型中包含驾驶异质性,需要创建适应性算法和代表性数据集,涵盖各种驾驶风格、行为和交通情况。 研究人员建议未来的数据集必须加入其他特征,以进一步改进跟随车辆模型的性能和真实性。例如,通过添加交通信号和道路条件数据,可以更完整地了解道路环境。如果算法集成了附近车辆及其活动的数据,也可以考虑复杂关系并提供更好的预测。未来的数据集将能够更好地反映真实世界的驾驶场景,从而为创建既强大又有效的跟车算法提供可能。

Leave a Comment