Tag: Machine learning

将视频分成许多层，每个层都有自己的阿尔法混合，并将这些层重新组合成原始视频，这就是被称为“视频抠图”的挑战。由于可以在合成之前交换或单独处理层，因此在视频编辑行业中具有许多用途，并且已经研究了几十年。需要仅关注兴趣物体的掩膜的应用包括视频制作中的描边和在线会议中的背景模糊。然而，通常希望能够生成包含不仅兴趣物体而且其相关效果（包括阴影和反射）的视频抠图。这可以提高最终剪辑影片的逼真度，同时减少对繁琐的手动分割次要效果的需求。 在对象去除等应用中，重建干净的背景是首选，而能够消除前景对象的相关影响有助于实现这一目标。尽管具有这些优势，但是由于该问题的不适定性，与标准抠图问题相比，研究较少。 Omnimatte是迄今为止解决此问题最有希望的努力。 Omnimattes是记录前景移动物体及其产生效果的RGBA层。 Omnimatte使用同伦来建模背景，这意味着它只能在背景是平面的视频或仅存在旋转运动的视频中有效。 D2NeRF通过分别使用两个辐射场对场景的动态和静态组件进行建模，努力解决这个问题。所有处理都在三个维度中进行，该系统可以处理具有大量摄像机运动的复杂场景。此外，不需要输入掩膜，使其完全是自主的。如何将定义在视频上的2D指导（如粗糙的掩膜）与之结合尚不清楚，但它确实可以有效地将所有移动物体分割出静态背景。 马里兰大学和Meta的最新研究提出了一种方法，通过使用三维背景模型和二维前景层结合了两者的优点。 难以在三维中创建的物体，动作和效果都可以通过轻量级的二维前景层来表示。同时，三维背景建模允许处理具有复杂几何形状和非旋转摄像机运动的背景，这为处理比2D方法更多样的电影铺平了道路。研究人员将这种技术称为OmnimatteRF。 实验结果表明，它在广泛的视频范围内表现出强大的性能，而无需为每个视频进行个别参数修改。 D2NeRF已经生成了一个使用Kubrics渲染的由5个视频组成的数据集，以客观分析3D环境中的背景分离。这些数据集是相对简单的内部设置，其中一些移动物体创建了实心阴影。此外，该团队还根据开源的Blender电影生成了五个视频，这些电影具有复杂的动画和照明条件，以获得更困难和逼真的场景。与过去的研究相比，两个数据集都展示了更好的性能。 如果某个部分始终位于阴影中，则背景模型将无法准确恢复该部分的颜色。由于动画层具有阿尔法通道，因此应该可以仅记录附加阴影而保留背景的原始颜色。不幸的是，目前的上下文中对此问题的边界不清晰，使得很难找到可行的解决方案。

计算机视觉中最具挑战和关键性的任务之一是实例分割。在图像或三维点云中精确描绘和分类对象的能力对于各种应用至关重要，从自动驾驶到医学图像分析。多年来，在开发最先进的实例分割模型方面取得了巨大进展。然而，这些模型通常需要应对与其训练分布不同的各种真实场景和数据集。将分割模型调整以处理这些分布范围之外（OOD）的情况的挑战推动了创新研究。一种引起重大关注的开创性方法是Slot-TTA（测试时间调整）。 在快速发展的计算机视觉领域中，实例分割模型取得了显著进展，使机器能够识别和精确分割图像和三维点云中的对象。这些模型已成为许多应用的基础，从医学图像分析到无人驾驶汽车。然而，它们面临着一个常见而严峻的对手-适应各种真实世界的场景和超出其训练数据范围的数据集。无法无缝地从一个领域过渡到另一个领域在有效部署这些模型方面构成了重大障碍。 卡内基梅隆大学、Google Deepmind和Google Research的研究人员推出了一种突破性解决方案，称为Slot-TTA，以解决这一挑战。这种创新方法旨在实现实例分割的测试时间调整（TTA）。Slot-TTA将基于槽位的图像和点云渲染组件的能力与最先进的分割技术相结合。Slot-TTA的核心思想是使实例分割模型能够动态适应OOD场景，从而显著提高其准确性和多功能性。 Slot-TTA基于调整的兰德指数（ARI）作为其主要分割评估指标。它在一系列数据集上进行了严格的训练和评估，包括多视图姿势的RGB图像、单视图的RGB图像和复杂的三维点云。Slot-TTA的区别特征在于其能够利用重建反馈进行测试时间调整。这一创新涉及对以前未见过的视点和数据集的分割和渲染质量进行迭代改进。 在多视图姿势的RGB图像中，Slot-TTA显示出强大的竞争力。通过对MultiShapeNetHard（MSN）数据集进行全面评估，证明了其适应性。该数据集包含超过51,000个ShapeNet对象，精心渲染在真实世界的HDR背景下。MSN数据集中的每个场景都有九个姿势RGB渲染图像，被策略性地分为Slot-TTA的训练和测试的输入和目标视图。研究人员特别注意确保训练集和测试集之间的对象实例之间没有重叠，并且场景中存在的对象数量没有重叠。这种严格的数据集构建对于评估Slot-TTA的鲁棒性至关重要。 在评估中，Slot-TTA与几个基准进行了比较，包括Mask2Former、Mask2Former-BYOL、Mask2Former-Recon和Semantic-NeRF。这些基准是用于比较Slot-TTA在训练分布内外的性能的基准。结果令人瞩目。 首先，Slot-TTA在OOD场景中使用TTA超过了Mask2Former，这是一种最先进的2D图像分割器。这表明Slot-TTA在适应各种真实场景方面的优势。 其次，在Mask2Former-BYOL中添加来自Bartler等人（2022年）的自监督损失未能带来改进，突显出并非所有TTA方法都同样有效。 第三，Slot-TTA没有分割监督，仅用于类似于OSRT（Sajjadi等人，2022a）的跨视图图像合成的变体，与像Mask2Former这样的有监督分割器相比效果显著下降。这一观察结果强调了在训练过程中进行分割监督对于有效的TTA的必要性。 Slot-TTA的强大之处还包括合成和分解新颖的未见RGB图像视图。使用与之前相同的数据集和训练-测试划分，研究人员评估了Slot-TTA的像素精确重构质量和分割ARI准确性，用于五个新颖的未见视点。此评估包括在TTA训练期间未见过的视图。结果令人震惊。 Slot-TTA在这些未知视点上的渲染质量显著提高，展示了它在新颖场景中增强分割和渲染质量的能力。相比之下，强大的竞争对手Semantic-NeRF在这些未知视点上很难推广，突出了Slot-TTA的适应性和潜力。 总之，Slot-TTA在计算机视觉领域代表了一次重大飞跃，解决了将分割模型适应多样的现实场景的挑战。通过结合以槽为中心的渲染技术、先进的分割方法和测试时适应性，Slot-TTA在分割准确性和多功能性方面取得了显著的改进。这项研究不仅揭示了模型的局限性，还为计算机视觉领域的未来创新铺平了道路。Slot-TTA承诺在不断变化的计算机视觉领域提升实例分割模型的适应性。

大规模预训练的视觉与语言模型在众多应用中展示出了非凡的性能，使得可以用无需指定固定的支持类别，而是通过（几乎任意的）自然语言查询进行零样本开放词汇推理。然而，最近的研究揭示了这些模型的一个根本缺陷。例如，它们无法理解超越名词的视觉语言概念（VLC），如非物体词语（例如属性、动作、关系、状态等）的意义，或者它们在组合推理方面的困难，如理解句子中词语顺序的重要性。 视觉与语言模型是强大的机器学习算法，可以学习将文本与图像匹配，当被要求生成视频标题或摘要时，它们展示出了非凡的结果。尽管这些模型擅长区分物体，但它们经常需要帮助理解概念，例如物体的属性或场景中物品的排列。例如，一个视觉与语言模型可能会看到图像中的杯子和桌子，但无法理解杯子在桌子上方的概念。 麻省理工学院的研究人员展示了一种利用计算机生成数据来帮助视觉与语言模型克服这个缺陷的新技术。具体而言，他们提出增强生成的视觉和文本数据的VLC和组合性方面，然后使用这些数据来微调VL模型，指导它们更加关注这些特征。此外，与实际数据始终伴随的隐私问题相比，合成数据不仅本质上是免费和无限可扩展的，而且可以不受隐私问题的限制。创建能够有效用于增强在大量实际数据上预训练的VL模型的VLC和组合性方面的合成数据，还面临其他技术挑战。与大多数以前关于生成合成视觉数据的工作不同，他们必须开发描述场景的组合元素的图像和文本。此外，他们生成利用真实物理3D模拟的合成视频，例如多样的3D环境和多样的3D物体、人体动作和动作资产，与物体的交互以及不同的摄像机角度。 以前的工作利用动作资产生成合成数据，但视觉数据没有伴随文本标题，并且需要考虑组合性。研究人员为合成视觉概念（SyViC）做出贡献，这是一个大规模（百万级）生成的合成VL数据集，具有丰富的文本标题，可以通过数据合成代码轻松扩展，以及所有先前生成的百万级合成数据。 贡献 研究人员贡献了SyViC – 一个百万级的合成数据集，具有丰富的文本注释，旨在增强VL模型的VLC理解和组合推理能力，以及其合成和潜在可扩展性的方法和生成代码库2。 有效的通用VL模型微调，利用SyViC数据改善强大的预训练VL模型的特性，而不损害其零样本性能。 实验结果和全面的消融研究表明，在最新的VL-Checklist、ARO和Winoground基准测试中，VLC理解和组合推理有显著改善（在某些情况下超过10%），并在最流行的CLIP模型及其衍生模型（例如最新的CyCLIP）上得到验证。 结果 使用所提出的方法和SyViC合成数据生成了所有模型的变体。在对SyViC进行微调之前，将每个模型与其分别在大规模实际数据上训练的源模型进行了比较。根据研究人员的发现，无论是SyViC合成数据还是提出的微调方法，都相对于各自的源基线表现出显著的改进。此外，研究人员还展示了在VL-Checklist和ARO基准测试中为CLIP获得的个别VLC指标改进，分别达到9.1%和12.6%的绝对改进。这证明了该方法和SyViC合成数据在提高VL模型的VLC理解和组合推理能力方面的效率和潜力。 在这里尝试 https://synthetic-vic.github.io/ 局限性 尽管研究人员在三个不同的基准测试中获得了相当有希望的结果，但他们的工作还存在一些限制。例如，图形模拟器对照片亮度、传感器噪声和反射函数的模型与实际世界相比较简化，可能影响颜色恒定性的稳健性。更复杂的领域适应和渲染技术可能需要进一步提高结果。此外，对合成数据的缩放规律进行更深入的研究将是充分发挥该工作潜力的一种优秀方式。 总结 大型视觉和语言模型决定了计算机视觉和多模态感知的现状，在多个困难的基准测试中取得了尖端的成果。然而，现有模型在组合推理和理解物体名词之外的概念（如属性和关系）方面需要帮助。这是第一次研究合成数据是否可以减轻这些不足。麻省理工学院的研究人员提出了一个数据生成流水线，用于创建一个百万级的合成图像数据集和相应的标题，并提供了一种高效的微调策略和全面的分析，以提高多模态模型的组合和概念理解能力，同时不影响它们的零样本分类性能。

一种称为Mixture-of-Experts (MoE)的神经网络架构将各种专家神经网络的预测结果结合起来。MoE模型处理复杂的工作，其中问题的几个子任务或元素需要专门的知识。它们的引入是为了增强神经网络的表示能力，并使其能够处理各种具有挑战性的任务。 此外，一种称为稀疏门控Mixture-of-Experts (MoE)模型的神经网络架构通过在门控机制中添加稀疏性来扩展传统的MoE模型的概念。这些模型的创建旨在提高MoE设计的效率和可扩展性，使其能够处理大规模的任务，并降低计算成本。 由于它们能够在每个给定的输入标记上独占激活模型参数的一小部分，它们可以将模型大小与推理效率分离。 在使用神经网络（NNs）时，尤其是当只有少量计算资源可用时，平衡性能和效率仍然是困难的。最近，稀疏门控Mixture-of-Experts模型（稀疏MoEs）被视为潜在的解决方案，它们可以将模型大小与推理效果分离。 稀疏MoEs提供了增加模型功能同时降低计算成本的可能性。这使得它们成为与Transformer集成的选择，后者是大规模视觉建模的主要架构选择。 因此，苹果研究团队在他们的论文《Mobile V-MoEs: Scaling Down Vision Transformers via Sparse Mixture-of-Experts》中介绍了稀疏Mobile Vision MoEs的概念。这些V-MoEs是一种高效、适用于移动设备的Mixture-of-Experts设计，能够在缩小视觉Transformer（ViTs）的同时保持卓越的模型性能。 研究人员强调他们开发了一种简单而强大的训练过程，通过利用语义超类来引导路由器训练，避免了专家不平衡的问题。它使用每个图像一个路由器，而不是每个补丁的路由器。在传统的每个补丁的路由器中，通常为每个图像激活更多的专家。然而，每个图像一个路由器减少了每个图像激活的专家数量。 研究团队通过训练基线模型开始训练阶段。然后，在训练数据集中保留的验证集上记录了模型的预测结果，创建了一个混淆矩阵。然后，使用这个混淆矩阵作为基础，对混淆图进行图聚类算法处理。由此过程形成了超类划分。 他们表示该模型在标准的ImageNet-1k分类基准测试上呈现了实证结果。他们从头开始在包含1.28M个图像的ImageNet-1k训练集上训练了所有模型，然后在包含50K个图像的验证集上评估了它们的Top-1准确率。 研究人员希望将MoE设计应用于除了ViTs之外的其他移动设备友好的模型。他们还打算考虑其他视觉任务，如目标检测。此外，他们希望对所有模型的实际设备延迟进行量化。