Tag: Machine learning

Translate this html (keep the html code in the result) to Chinese: 在网络安全领域，组织面临着高效管理安全情报和自动化的挑战。其中一个普遍存在的问题是需要有效的机器学习模型来增强安全措施。传统上，安全团队仅限于预定义的模型，这使得适应不断发展的威胁变得困难。 某些解决方案已经存在来解决这个挑战，但它们通常需要安全团队更多的灵活性。这些解决方案不允许安全专业人员根据特定需求创建和实施他们的机器学习模型。这种限制限制了在欺诈检测、安全研究和数据可视化等领域发挥机器学习潜力的能力。 Palo Alto Networks 推出了 Cortex XSIAM 2.0 平台，其中包含一个独特的 BYOML（Bring-Your-Own-Machine-Learning）框架。该框架通过提供对存储在 XSIAM 上的大量安全数据的访问，赋予安全团队建立和利用自己的机器学习模型的能力，从而实现更高的定制和适应性。…

北京大学、加州大学洛杉矶分校、北京邮电大学和北京智能通用人工智能研究院的研究团队引入了JARVIS-1，这是一个用于Minecraft开放世界任务的多模态代理。借助预训练的多模态语言模型，JARVIS-1解释视觉观察和人类指示，生成复杂的内在控制计划。 JARVIS-1利用多模态输入和语言模型进行规划和控制。建立在预训练的多模态语言模型之上，JARVIS-1整合了一个多模态记忆，用于基于预训练知识和游戏经验的规划。在200个不同任务中实现接近完美的性能，尤其在具有挑战性的长期任务中表现出色，完成率提高了五倍。研究强调了多模态记忆在增强代理自主性和在开放世界场景中的智能性方面的重要性。 该研究解决了在开放世界环境中创建复杂任务的复杂代理的挑战。现有方法需要在多模态数据、长期规划和终身学习方面进行改进。基于预训练的多模态语言模型构建的JARVIS-1代理在Minecraft任务中表现出色。JARVIS-1在200个任务中几乎达到完美的表现，并显著改进了钻石凿任务。该代理展示了自主学习的能力，在很少外部干预的情况下不断演化，为追求普适能人工智能做出了贡献。 基于预训练的多模态语言模型构建的JARVIS-1将视觉和文本输入结合起来生成计划。代理的多模态记忆将预训练知识与游戏经验相结合，用于规划。现有方法使用了分层目标执行架构和大型语言模型作为高层规划器。JARVIS-1在Minecraft宇宙基准的200个任务上进行评估，揭示了由于控制器对短期文本指令执行不完美而导致的钻石功能挑战。 JARVIS-1的多模态记忆促进了自我提升，通过超越其他指令跟随代理，提升了智能和自主学习。在具有挑战性的任务中，JARVIS-1在钻石相关任务中的成功率几乎提高了三倍，超过了没有记忆的DEPS代理。该研究强调了改进计划生成以便更容易执行和增强控制器在钻石相关任务中遵循指令的能力的重要性。 基于预训练的多模态语言模型构建的开放世界代理JARVIS-1在Minecraft宇宙中精通多模态感知、计划生成和内在控制。整合多模态记忆通过利用预训练知识和实时经验来增强决策。JARVIS-1显著提高了长期任务如钻石凿的完成率，使之较之前的记录提高了最高五倍。这一突破为在复杂虚拟环境中开发多功能和适应性代理的未来发展奠定了基础。 进一步的研究建议改进任务执行的计划生成，提高控制器在钻石相关任务中遵循指令的能力，并研究简化执行的方法。提出了通过多模态记忆和实时经验增强开放世界情境中决策能力的方式。建议扩展JARVIS-1在Minecraft中更广泛任务范围的能力，并可能适应其他虚拟环境。该研究鼓励通过终身学习实现不断改进，促进JARVIS-1的自我提升和更大的智能和自主性的发展。

在天气预报技术的重大进展中，Google DeepMind推出了一种具有开创性的机器学习模型——GraphCast。这款AI工具标志着一个重大飞跃，比现有方法提供更准确、更快速的预测，挑战着传统数值天气预报模型的主导地位。 革新天气预报 与耗费能源和成本的超级计算机依赖型数值天气预报模型相比，GraphCast在桌面电脑上运行效率高。这种AI模型利用过去和现在的天气数据，快速预测未来的天气条件。 在气候变化和极端天气事件带来全球挑战的时代，准确的天气预报变得越来越重要。传统的数值天气预报模型虽然准确，但需要大量计算资源来追踪空气、热量和水汽在大气中的运动。 GraphCast相比传统模型的优势 GraphCast是在DeepMind位于伦敦的实验室开发的，它使用1979年至2017年的历史全球天气数据进行训练。它利用这个庞大的数据集来理解温度、湿度、气压和风等各种天气要素之间的相关性。它的预测能力可以提前到10天，预测速度不到一分钟，而ECMWF的数值天气预报系统（HRES）需要几个小时。 值得注意的是，在对地球表面最近的大气层——对流层中，GraphCast在12,000个测量中超过99%的性能优于HRES。它准确预测到地球表面附近的五个天气变量和较高海拔处的六个大气变量。这种优势还延伸到对包括热带气旋和极端温度波动在内的严重天气事件的预测。 比较优势 GraphCast不仅相对传统模型具有优势，也在其他基于AI的方法中脱颖而出。根据华为之前的一项研究，与华为的盘古天气模型相比，GraphCast在99%的天气预报中表现更好。然而，需要注意的是，使用不同的评估指标进行未来评估可能会产生不同的结果。 结论 GraphCast是天气预报领域迈出的一大步，提供了快速准确的预测，同时减少了计算需求。随着技术的发展和克服当前的局限性，GraphCast有望在与天气相关的实际应用中显著促进气象研究和实际决策的进行。预计在两到五年内将其整合到实际应用中，GraphCast为天气预测带来了新的时代，将传统方法与AI的创新能力相结合。

苏黎世联邦理工学院的研究人员探索了深度Transformer设计的简化方法，旨在使其更稳健高效。他们通过结合信号传播理论和实证观察，提出了一些修改，使得标准Transformer块中的各种组件可以被移除而不影响训练速度或性能呈现。 该研究主要针对深度神经网络中Transformer块的简化进行了探讨，特别关注了标准Transformer块。通过借鉴信号传播理论，研究探索了相同构建块的排列方式，其中包括了带有跳跃连接和标准化层的注意力和MLP子块。同时，该研究还引入了并行块的概念，以实现MLP和注意力子块的并行计算，提高了效率。 该研究着重考察了深度神经网络中Transformer块的简化问题，特别关注标准Transformer块内各组件的必要性，并探索了在不影响训练速度的情况下是否能够将其移除。简化的动机源于现代神经网络架构的复杂性以及深度学习在理论和实践之间的差距。 该研究通过结合信号传播理论和实证观察，提出了简化Transformer块的修改方案。通过在自回归解码器和BERT编码器模型上进行实验，评估了简化Transformer的性能。研究还进行了额外的实验和遗漏分析，探究了在注意力子块中去除跳跃连接对信号退化的影响。 该研究提出了简化Transformer块的修改方案，包括去除跳跃连接、投影/值参数、顺序子块和标准化层。这些修改能够保持标准Transformer的训练速度和性能，并同时实现更快的训练吞吐量和更少的参数利用。该研究还探究了不同初始化方法对简化Transformer性能的影响。 简化Transformer块取得了与标准Transformer相当的性能，同时减少了15%的参数使用量，并提高了15%的训练吞吐量。该研究提出了能够降低大规模Transformer模型成本的简化深度学习架构。实验结果支持了这些简化修改在各种设置下的有效性，并强调了适当的初始化对于获得最佳结果的重要性。 建议未来的研究是探索这些简化修改对于更大型的Transformer模型的效果，因为本研究主要集中在相对较小的模型上。同时，建议进行全面的超参数搜索，以提高简化块的性能，因为本研究只调整了关键超参数并依赖了默认选择。研究还提出了探索硬件特定实现的简化块，以进一步提高训练速度和性能的潜力。

理解动物大脑中错综复杂的神经网络一直是科学家们的一大挑战，特别是在研究像阿尔茨海默病这样的疾病时。传统方法可能会更快更便宜。 在SmartEM之前，科学家们使用普通显微镜，但是捕捉到大脑的细节需要很长时间。SmartEM由麻省理工学院和哈佛大学的研究人员开发，将强大的电子显微镜与人工智能（AI）相结合。SmartEM在拍摄图像的同时学习大脑。它像一个助手一样帮助快速检查和理解大脑的微小部分，如突触和神经元。 SmartEM不仅仅是一台相机；它智能地操作，就像我们看事物时的眼睛一样，专注于重要的事物。研究人员在显微镜上添加了特殊的计算机芯片（GPU），使AI可以决定在哪里仔细观察。这帮助显微镜在具有挑战性的区域花费更多时间，就像我们的眼睛在看脸或阅读书籍时专注于重要细节。 为了展示其能力，SmartEM在一节章鱼大脑上进行了工作。它拍摄了这些薄片的图像，并将其重构为详细的3D地图。这张地图帮助科学家了解大脑的不同部分如何连接，就像弄清楚一个庞大的朋友圈中的联系一样。使用SmartEM，以往需要常规方法花费两周的任务现在只需要1.5天。 SmartEM团队的目标是使大脑研究更快速和更具成本效益。他们希望有一天，来自不同地方的更多科学家可以加入大脑研究而无需巨额预算。他们还希望使用SmartEM通过检查患者脑样本中的微小细节来研究疾病。目标是快速了解大脑中发生的情况，以进行更高效的医院病理学研究。 总之，SmartEM是一种将电子显微镜与人工智能相结合的强大工具，可以帮助科学家更高效地探索我们大脑的奥秘。在此帮助下，研究人员希望揭示我们大脑工作的秘密并找到对抗影响其功能的疾病的方法。

通过使用动态形状优化机器学习模型，可以实现更好的性能和灵活性。动态形状是指模型在运行时处理具有不同尺寸输入数据的能力。用户可以使用支持动态计算图的框架，例如TensorFlow的即时执行或PyTorch来构建能够在运行时适应可变输入尺寸的模型。 优化具有动态形状的机器学习模型面临许多挑战，因为许多传统优化依赖于静态形状分析。动态尺寸的缺失信息可能会对跨运算符和函数执行的优化产生重大影响。具有动态形状的模型需要处理不同的批处理大小。在生产环境中，为不同的批处理大小进行优化比为固定批处理大小进行优化更具挑战性。 当前的机器学习（ML）编译器通常将程序转换为传统的单次转换流程，一次应用一种优化，通常将程序重写为较低级别的表示。这种方法经常导致在抽象层之间丢失形状和附加信息，使跨边界进行增量优化变得更加困难。 研究人员提出了名为Relax的编译器抽象。它具有一流的符号形状注释，可以全局追踪程序中的动态形状计算。它还具有跨级别抽象，将计算图、循环级张量程序和库调用封装在单个表示中，以实现跨级别的优化。它是一个优化动态形状模型的端到端编译框架。 研究人员采用正向推理方法，根据其输入组件推断表达式的注释。正向推理简单且局部化，编译器可以在各个步骤中为临时变量获取注释。此外，当无法自动推断形状时，正向推理可以使用用户插入的匹配转换的结果来继续推断后续注释。 研究人员表示，Relax中的所有优化都是可组合的动态形状感知转换。它通过不同的方法增量优化或部分降低计算的部分。它考虑来自其他级别的分析并结合了假设动态形状关系的进一步优化。 实验结果表明，Relax将新兴的LLM编译并优化到不同的硬件后端，性能竞争力与经过大量优化的平台特定解决方案相当。此外，Relax通过WebAssembly和WebGPU支持广泛的设备和环境中的LLM，包括手机、嵌入式设备和Web浏览器。

在深度学习中，Transformer神经网络因其在各个领域（尤其是自然语言处理、计算机视觉、机器人和自动驾驶等新兴应用）中的有效性而受到了广泛关注。然而，虽然提高了性能，但这些模型的规模不断增加导致计算成本和推理延迟大大增加。关键的挑战在于如何在不带来不切实际的计算负担的情况下利用大型模型的优势。 当前的深度学习模型，特别是Transformer模型，在不同领域取得了显著进展。然而，由于不断增长的计算需求，这些模型的可扩展性通常需要进一步提高。之前的努力，如Switch Transformer、Expert Choice和V-MoE等基于稀疏混合模型的尝试，主要集中在高效扩展网络参数、减轻每个输入的计算量。然而，现有研究中存在一个关于令牌表示维度本身扩展的空白。AltUp是一种新颖的方法，旨在填补这一空白。 AltUp通过提供一种增强令牌表示而不增加计算开销的方法而脱颖而出。该方法巧妙地将扩展的表示向量分成相等大小的块，在每个层只处理一个块。AltUp的有效性关键在于其预测校正机制，使得对未处理的块的输出进行推断。通过保持模型维度并避免直接扩展导致的计算量的二次增加，AltUp成为解决大型Transformer网络带来的计算挑战的有希望的解决方案。 AltUp的机制深入探讨了令牌嵌入的复杂性以及如何在不触发计算复杂性激增的情况下扩展它们。该方法包括： 调用一个宽度为1x的Transformer层进行一个块。 称为“活动”块。 同时使用一个轻量级的预测器。 该预测器计算所有输入块的加权组合，并通过轻量级校正器对预测值和活动块的计算值进行校正。该校正机制可以根据活动块对未激活块进行更新。重要的是，预测和校正步骤仅涉及最少的向量加法和乘法，比传统Transformer层要快得多。 对于T5模型在基准语言任务上的AltUp评估显示了其在相同准确性下优于稠密模型的一致能力。值得注意的是，使用AltUp增强的T5 Large模型在GLUE、SuperGLUE、SQuAD和Trivia-QA基准测试上分别实现了27%、39%、87%和29%的显著加速。当应用于较大的模型时，AltUp的相对性能改进更加明显，突显了其在模型尺寸增加时的可扩展性和增强效果。 总之，AltUp成为高效扩展Transformer神经网络长期挑战的值得注意的解决方案。它在不增加计算成本的同时增强令牌表示的能力，在各种应用中具有重要的潜力。AltUp的创新方法，以其分割和预测校正机制为特征，为利用大型模型的好处而不会遭受不切实际的计算需求提供了一种实用的方式。 研究人员对AltUp的扩展，称为Recycled-AltUp，进一步展示了所提出方法的适应性。Recycled-AltUp通过复制嵌入而不是扩展最初的标记嵌入，展示了在不引入可感知的减速的情况下，在预训练性能上严格改进。这种双重方法与AltUp与MoE等其他技术的无缝集成相结合，展示了其多功能性，并为未来研究探索训练和模型性能的动态开辟了道路。 AltUp标志着对Transformer网络高效扩展之探索的突破，为模型大小和计算效率之间的权衡提供了一个引人注目的解决方案。正如本文所概述的，研究团队的贡献是使大规模Transformer模型在各种应用中更易于访问和实用的一个重要步骤。