Tag: Editors Pick

悉尼科技大学（UTS）GrapheneX-UTS人本人工智能中心的研究人员已经开发出一种令人瞩目的系统，能够解码无声思维并将其转化为书面文字。这项技术在帮助那些因中风或瘫痪等情况而无法说话的人进行交流，并促进人与机器之间的改进互动方面具有潜在的应用。 在新奥尔良的NeurIPS会议上作为焦点论文展示的研究团队介绍了一种便携式和非侵入性的系统。GrapheneX-UTS HAI中心的团队与悉尼科技大学工程与信息技术学院的成员合作，开发了一种将脑电信号转化为可理解文字内容的方法，而无需进行侵入性手术。 在研究过程中，参与者戴着一顶装有电极的专用帽子，通过脑电图(EEG)记录脑部活动。捕获到的脑电图数据使用名为DeWave的AI模型进行处理，该模型由研究人员开发，将这些脑电信号转化为可理解的单词和句子。 研究人员强调了这种创新在将原始脑电波直接转化为语言上的重要性，突出了离散编码技术在脑到文字翻译过程中的整合。这种方法在神经科学和人工智能领域开辟了新的可能性。 与以往需要侵入性手术如脑植入物或核磁共振成像机使用的技术不同，该团队的系统提供了一种非侵入性和实用的替代方案。重要的是，它不依赖于眼动跟踪，使其在日常使用中更具适应性。 该研究涉及29名参与者，相比过去仅限于一两个个体的研究，确保了更高水平的鲁棒性和适应性。虽然使用帽子收集脑电信号会引入噪声，但研究报告显示在脑电翻译方面表现出色，超过了先前的基准。 团队强调了该模型在匹配动词而非名词方面的熟练程度。然而，在解析名词时，系统显示出倾向于同义词对而不是完全翻译的趋势。研究人员解释说，在处理单词时，语义上相似的词可能会引发类似的脑电波模式。 目前的翻译准确性，以BLEU-1分数衡量，约为40%。研究人员的目标是将这个得分提高到与传统语言翻译或语音识别程序相媲美的水平，这些程序通常可以达到约90%的准确性水平。 这项研究基于UTS在脑机接口技术方面的先前进展，表明它对于改变之前受到身体限制影响的个体的交流途径有着巨大的潜力。 这项研究的发现为将思维无缝转化为文字提供了希望，为面对交流障碍的个体提供了力量，并促进了更好的人机交互。

<img alt=”” src=”https://ai.miximages.com/www.marktechpost.com/wp-content/uploads/2023/12/Screenshot-2023-12-15-at-7.10.23-PM-1024×689.png” /><img alt=”” src=”https://ai.miximages.com/www.marktechpost.com/wp-content/uploads/2023/12/Screenshot-2023-12-15-at-7.10.23-PM-150×150.png” /><p>近年来，卷积神经网络（CNNs）在图像识别领域成为了一种流行的技术。它们在目标检测、分类和分割任务中取得了极高的成功。然而，随着这些网络变得更加复杂，也出现了新的挑战。来自腾讯人工智能实验室和香港中文大学的研究人员提出了四条指导方针，以解决大内核CNNs中的架构挑战。这些指导方针旨在通过将大内核的应用扩展到超越视觉任务的领域，如时间序列预测和音频识别，以提高图像识别的效果。</p><p>UniRepLKNet探索了具有非常大内核的ConvNets的功效，将其扩展到点云数据、时间序列预测、音频和视频识别等领域。尽管以前的研究以不同的方式引入了大内核，但UniRepLKNet专注于使用这些内核的ConvNets的架构设计。它在三维模式学习、时间序列预测和音频识别方面优于专门模型。尽管视频识别精度略低于技术模型，但UniRepLKNet是一个从头开始训练的通用模型，提供了在各种领域中的多功能性。</p><p>UniRepLKNet引入了用于具有大内核ConvNets的架构指南，强调宽广的覆盖面而不过度深入细节。这些指导方针解决了Vision Transformers（ViTs）的局限性，专注于高效的结构、重新参数化卷积层、基于任务的内核大小和整合3×3卷积层。UniRepLKNet在图像识别方面优于现有的大内核ConvNets和近期架构，展示了其高效性和准确性。它在超越视觉的任务中展示了普遍的感知能力，在时间序列预测和音频识别方面表现出色。UniRepLKNet展示了在学习点云数据中的三维模式上的多才多艺，超过了专门的ConvNet模型。</p><p>该研究为大内核ConvNets引入了四条架构指南，强调大内核的独特特性。UniRepLKNet遵循这些指南，利用大内核在图像识别中超越竞争对手。它展示了普遍的感知能力，在时间序列预测和音频识别方面表现出色，而无需特定的自定义。UniRepLKNet在学习点云数据中的三维模式方面也显示出多样性，超过了专门的ConvNet模型。引入了膨胀再参数块以增强非膨胀大内核卷积层的性能。UniRepLKNet的架构将大内核与膨胀卷积层相结合，捕捉小尺度和稀疏模式以提高特征质量。</p><p>UniRepLKNet的架构在图像识别任务中取得了一流的性能，具有88.0％的ImageNet准确率，55.6％的ADE20K mIoU和56.4％的COCO box AP。在全球温度和风速预测挑战中，它在时间序列预测和音频识别方面的MSE和MAE方面优于竞争对手，展示了其普遍的感知能力。UniRepLKNet在学习点云数据中的三维模式方面表现出色，超过了专门的ConvNet模型。该模型在语义分割等下游任务中展示出有希望的结果，证实了其在各个领域中的卓越性能和效率。</p><p>总之，研究的要点可以概括如下：</p><ul><li>该研究为大内核ConvNets引入了四条架构指南</li><li>这些指导方针强调了大内核ConvNets的独特特性</li><li>UniRepLKNet是根据这些指导方针设计的ConvNet模型，在图像识别任务中优于竞争对手</li><li>UniRepLKNet展示了普遍的感知能力，在时间序列预测和音频识别方面表现出色，无需定制</li><li>UniRepLKNet在学习点云数据中的三维模式方面具有多样性，超过了专门的模型</li><li>该研究引入了膨胀再参数块，增强大内核卷积层的性能</li><li>该研究提供了宝贵的架构指南，介绍了UniRepLKNet及其能力，并提出了膨胀再参数块的概念</li></ul>

“` 由于人工智能和深度学习在领域的进步，许多新的创新成为可能。借助神经网络的帮助，如文本或图像合成，分割和分类等复杂任务得到了成功处理。然而，由于计算需求的原因，神经网络训练可能需要几天甚至几周来获得充分的结果。预训练模型的推理有时也很慢，特别对于复杂的设计。 并行化技术可以加快深度神经网络的训练和推理。尽管这些方法被广泛使用，但神经网络中的某些操作仍然是按顺序进行的。扩散模型通过一系列去噪阶段生成输出，正向和反向传递逐层进行。随着步骤数的增加，这些过程的顺序执行变得计算代价高昂，可能导致计算瓶颈。 为了解决这个问题，苹果公司的研究人员提出了DeepPCR，一种独特的算法，旨在加快神经网络的训练和推理。DeepPCR通过将一系列L个步骤视为一组方程的答案来执行。该团队采用了并行循环消减（PCR）算法来提取此解决方案。将顺序处理​​的计算成本从O（L）降低到O（log2 L）是DeepPCR的主要优势。减少复杂性后的速度加快，尤其是对于高值的情况。 团队进行了实验，以验证关于DeepPCR降低复杂性的理论断言，并确定加速的条件。通过将DeepPCR应用于多层感知机的前向传递和后向传递并行化，他们实现了前向传递速度提升30倍，后向传递速度提升200倍。 团队还通过使用DeepPCR来训练具有1024层的ResNets展示了DeepPCR的适应性。由于DeepPCR的使用，训练速度可以提高多达7倍。该技术用于扩散模型的生成阶段，相比顺序方法，生成速度提高了11倍。 团队总结了他们的主要贡献如下： 引入了DeepPCR，这是一种创新的方法，用于并行化神经网络的序列处理，其主要特点是能够将计算复杂性从O（L）降低到O（log2 L），其中L是序列长度。 使用DeepPCR并行化多层感知机（MLP）的前向传递和后向传递。对技术性能进行了全面分析，同时考虑了基本设计参数，以确定方法的高性能区域。该研究还调查了速度，解决方案的正确性和内存使用之间的权衡。 使用DeepPCR加速了在MNIST上训练的深度ResNet和在MNIST、CIFAR-10和CelebA数据集上训练的扩散模型的生成。结果表明，尽管DeepPCR显示了显着的加速，对于ResNet的训练速度提高了7倍，对于扩散模型的生成速度提高了11倍，但仍产生与顺序技术相媲美的结果。 “`

由于气候变化，极端天气，特别是暴雨事件预计会更频繁。许多自然灾害，如洪水或山体滑坡，直接由极端降水引起。基于气候预测的模型经常被使用。现有的气候模型必须提高准确代表高度变化的大气现象的能力。研究人员预计，不断增长的平均温度将导致极端降水事件进一步增加。 卡尔斯鲁厄理工学院（KIT）的研究人员利用人工智能（AI）的力量来提高全球气候模型生成的粗糙降水图的精确性。 研究人员强调，该模型将降水场的时间分辨率从一小时缩短到十分钟，并将空间分辨率从32提高到两千米。他们表示，更高的分辨率对于预测未来发生的局部暴雨事件和随之而来的自然灾害至关重要。 该方法涉及应用生成式神经网络，具体而言就是生成对抗网络（GAN），这是一种AI形式。这个GAN使用高分辨率雷达降水数据进行训练，使其能够以显著更高的空间和时间分辨率学习和模仿逼真的降水场。 现有的全球气候模型使用的网格缺乏捕捉降水变异性所需的细节。而且，传统上生成高分辨率的降水图需要计算上昂贵的模型，导致了空间或时间上的限制。 根据研究人员的说法，这就是开发基于高分辨率雷达降水场进行训练的GAN的原因。通过这种方式，GAN从粗略解决的数据中学习如何生成逼真的降水场并确定其时间序列。 与三线性插值和经典卷积神经网络相比，生成模型以高技巧重建分辨率相关的极值分布。在15 mm h−1降雨强度上表现出0.6的高分数技巧得分和3.35％的低相对偏差。 根据研究人员的解释，他们的方法产生了多种可能的降水场解集合。这一点很重要，因为对于每个粗糙解决的降水场，存在许多在物理上可能的高分辨率解。 他们解释说，使用这种方法模拟的降水事件更高的分辨率将有助于更好地估计2021年阿尔河洪水天气条件在2度更温暖的世界中所造成的影响。 总之，该模型提供了一种增强全球气候模型预测降水精度的解决方案。这一进展有助于更准确的气候预测。它有潜力在变化的气候下更好地理解和应对极端天气事件的后果。

<img alt=”” src=”https://ai.miximages.com/www.marktechpost.com/wp-content/uploads/2023/12/Screenshot-2023-12-14-at-1.29.58-AM-1024×635.png”/> <img alt=”” src=”https://ai.miximages.com/www.marktechpost.com/wp-content/uploads/2023/12/Screenshot-2023-12-14-at-1.29.58-AM-150×150.png”/> <p>本研究探讨了自回归神经算子领域中一个艰巨的挑战：延长预测时间范围的能力受限。虽然自回归模型有着很大的潜力，但其不稳定性问题严重影响了其在时空预测中的有效性。这个普遍存在的问题涉及从相对平滑的领域到以ERA5等数据集为代表的复杂的大规模系统的各种情况。 <p>当前的方法在试图延长自回归神经算子的时间预测范围时面临着严峻的障碍。鉴于这些局限性，研究团队提出了一种革命性的解决方案来增强可预测性。该方法通过对频谱神经算子进行根本性的架构转变，以缓解不稳定性问题。与现有方法形成鲜明对比的创新方法赋予这些算子无限的预测时间范围，标志着一个重大的飞跃。 <p>目前，自回归神经算子在预测能力方面遇到了一个重大障碍，无法超越有限的时间范围。传统方法的不稳定性问题限制了其在复杂的时空预测场景中的有效性。针对这个问题，研究团队提出了一种新颖的解决方案，从根本上重塑了频谱神经算子的架构，开启了预测时间范围的潜力。 <p>提出的方法的核心在于重构神经算子块。为了解决混叠和不连续性等挑战，研究人员引入了一个新颖的框架，其中非线性函数始终紧随可学习的滤波器之后，这些滤波器能够有效处理新生成的高频分量。一个关键的创新是引入动态滤波器，取代静态卷积滤波器，并根据特定的数据进行调整。这种适应性通过频率域中的模式多层感知器（MLP）实现。 <p>提出的方法的精髓在于重新构想神经算子块。为了解决混叠和不连续性等挑战，研究人员引入了一个复杂的框架，其中非线性函数始终紧随可学习的滤波器之后，这些滤波器擅长处理新生成的高频分量。一个开创性的元素是将动态滤波器与传统的静态卷积滤波器替换，以适应特定数据的复杂性。这种适应性通过频率域中的模式多层感知器（MLP）实现。 <figure><img alt=”” src=”https://ai.miximages.com/lh7-us.googleusercontent.com/pJ92lyIAeUqFKKoR7NqTsQ7V5yn9_1PlJBbl4xX6XG-kBZQWZWFaO0Yja8oPN0xANRMvBMyimdjeKHYFMTWEtItS4KliuxsGGdt_28T045Ildl2zyjCX1XFHx8E2d7xIwczLogd46TPgu5UJnvJV9Tw”/><figcaption>https://openreview.net/forum?id=RFfUUtKYOG</figcaption></figure> <p>实验结果突显了该方法的功效，显示了显著的稳定性改善。当将该方法应用于旋转浅水方程和ERA5数据集等场景时，这一点尤为明显。通过频率自适应MLP生成的动态滤波器对于确保模型对多种数据集的适应性至关重要。通过将静态滤波器替换为动态对应物，该方法能够灵活处理与数据相关的混叠模式，这是固定策略无法实现的。 <figure><img alt=”” src=”https://ai.miximages.com/lh7-us.googleusercontent.com/ui3wefz0SoNWsJo9njj6tWnCZncx0EtcpS76P1ZRRrFRCk2-wlyfi6sMB9gUo9ks3smjjfdjfJI_3tRbF9uG_vGmh2x6mHpvuY9StcgE2hQQzYzUkaY2Ik9NFgkCO2zE-cgpvLd6_FVKxHrNljpBAkU”/><figcaption>https://openreview.net/forum?id=RFfUUtKYOG</figcaption></figure> <p>总结起来，本研究对于克服自回归神经算子中延长预测时间范围的持久挑战具有开创性的意义。通过重构神经算子块，引入通过频率自适应MLP生成的动态滤波器，是一种高效的策略，可以缓解不稳定性问题，实现无限的预测时间范围。在研究界处理预测的复杂性时，这项工作可以作为一个指南，引领未来努力朝着更健壮和可靠的时空预测模型前进。

来自Google AR & VR与佛罗里达中央大学的研究团队合作开展了一项全面研究，验证了一个名为VALID的虚拟化身库，其中包含了210个完全装配的化身，代表了七种多样化的种族。七种种族的选择是在美国人口普查局的指导下进行的。他们利用了数据驱动的面部平均值，并与每个种族的志愿代表合作，创建了42个基本化身（7种种族 X 2种性别 X 3个个体）。该研究涉及全球参与者，以获取每个化身被感知的种族和性别的经过验证的标签和元数据。 验证过程采用了主成分分析（PCA）和K均值聚类，以了解参与者如何感知化身的种族。为了确保参与者在种族和性别上的多样性，总共选择了来自全球33个不同国家的132名参与者进行研究。 结果显示，亚洲人、黑人和白人化身在各种族的参与者中被一致认可。然而，代表美洲印第安和阿拉斯加原住民（AIAN）、西班牙裔、中东和北非（MENA）以及夏威夷和太平洋岛民（NHPI）种族的化身显示出更多的模糊性，其感知差异基于参与者的种族。如果某个化身被相应的同类种族参与者认定为其预期种族，则该化身以该种族命名。 在讨论中，研究人员强调了亚洲人、黑人和白人化身的成功识别率超过了95%，挑战了识别与自己不同种族人脸准确度约为65-80%的观念。他们将这归因于知觉专业知识或对多样化种族群体的熟悉程度，可能受全球媒体表现的影响。 观察到自我种族偏见效应，一些化身主要由同类种族的参与者正确识别。例如，西班牙裔化身在参与者中获得了不同的评级，但在仅有西班牙裔参与者中更准确地被感知。该研究强调了在虚拟化身研究中考虑参与者种族的重要性，以确保准确的表现。 由于识别不清晰，某些化身被标记为模糊，像发型这样的因素会影响感知。夏威夷和太平洋岛民化身的验证面临着局限性，突显了表现的挑战和更广泛的招募工作的需求。 研究团队讨论了虚拟化身应用的影响，强调了同组内和异组间的分类和刻板印象及社会判断的潜力。他们建议引入规定，以改善虚拟现实中的跨种族互动。 作为对研究界的贡献，该团队提供了开放访问的VALID化身库，为各种场景提供了多样化的适用化身。该库包括65个面部变形形状的化身，用于动态表情，并与Unity和Unreal等流行游戏引擎兼容。研究人员承认了局限性，例如关注年轻和体格健壮的成年人。他们概述了未来更新中通过引入不同地区分类、身体类型、年龄和性别来扩大多样性的计划。 总结而言，研究团队成功创建和验证了一个多样化的虚拟化身库，挑战了刻板印象并促进了包容。该研究强调了自我种族偏见对化身感知的影响，并为开发和应用虚拟化身在各个领域提供了宝贵的见解。该开放访问的VALID库被定位为研究人员和开发者寻找多样化和包容性化身的宝贵资源。