352 search results for "计算机视觉"

计算机视觉中最具挑战和关键性的任务之一是实例分割。在图像或三维点云中精确描绘和分类对象的能力对于各种应用至关重要，从自动驾驶到医学图像分析。多年来，在开发最先进的实例分割模型方面取得了巨大进展。然而，这些模型通常需要应对与其训练分布不同的各种真实场景和数据集。将分割模型调整以处理这些分布范围之外（OOD）的情况的挑战推动了创新研究。一种引起重大关注的开创性方法是Slot-TTA（测试时间调整）。 在快速发展的计算机视觉领域中，实例分割模型取得了显著进展，使机器能够识别和精确分割图像和三维点云中的对象。这些模型已成为许多应用的基础，从医学图像分析到无人驾驶汽车。然而，它们面临着一个常见而严峻的对手-适应各种真实世界的场景和超出其训练数据范围的数据集。无法无缝地从一个领域过渡到另一个领域在有效部署这些模型方面构成了重大障碍。 卡内基梅隆大学、Google Deepmind和Google Research的研究人员推出了一种突破性解决方案，称为Slot-TTA，以解决这一挑战。这种创新方法旨在实现实例分割的测试时间调整（TTA）。Slot-TTA将基于槽位的图像和点云渲染组件的能力与最先进的分割技术相结合。Slot-TTA的核心思想是使实例分割模型能够动态适应OOD场景，从而显著提高其准确性和多功能性。 Slot-TTA基于调整的兰德指数（ARI）作为其主要分割评估指标。它在一系列数据集上进行了严格的训练和评估，包括多视图姿势的RGB图像、单视图的RGB图像和复杂的三维点云。Slot-TTA的区别特征在于其能够利用重建反馈进行测试时间调整。这一创新涉及对以前未见过的视点和数据集的分割和渲染质量进行迭代改进。 在多视图姿势的RGB图像中，Slot-TTA显示出强大的竞争力。通过对MultiShapeNetHard（MSN）数据集进行全面评估，证明了其适应性。该数据集包含超过51,000个ShapeNet对象，精心渲染在真实世界的HDR背景下。MSN数据集中的每个场景都有九个姿势RGB渲染图像，被策略性地分为Slot-TTA的训练和测试的输入和目标视图。研究人员特别注意确保训练集和测试集之间的对象实例之间没有重叠，并且场景中存在的对象数量没有重叠。这种严格的数据集构建对于评估Slot-TTA的鲁棒性至关重要。 在评估中，Slot-TTA与几个基准进行了比较，包括Mask2Former、Mask2Former-BYOL、Mask2Former-Recon和Semantic-NeRF。这些基准是用于比较Slot-TTA在训练分布内外的性能的基准。结果令人瞩目。 首先，Slot-TTA在OOD场景中使用TTA超过了Mask2Former，这是一种最先进的2D图像分割器。这表明Slot-TTA在适应各种真实场景方面的优势。 其次，在Mask2Former-BYOL中添加来自Bartler等人（2022年）的自监督损失未能带来改进，突显出并非所有TTA方法都同样有效。 第三，Slot-TTA没有分割监督，仅用于类似于OSRT（Sajjadi等人，2022a）的跨视图图像合成的变体，与像Mask2Former这样的有监督分割器相比效果显著下降。这一观察结果强调了在训练过程中进行分割监督对于有效的TTA的必要性。 Slot-TTA的强大之处还包括合成和分解新颖的未见RGB图像视图。使用与之前相同的数据集和训练-测试划分，研究人员评估了Slot-TTA的像素精确重构质量和分割ARI准确性，用于五个新颖的未见视点。此评估包括在TTA训练期间未见过的视图。结果令人震惊。 Slot-TTA在这些未知视点上的渲染质量显著提高，展示了它在新颖场景中增强分割和渲染质量的能力。相比之下，强大的竞争对手Semantic-NeRF在这些未知视点上很难推广，突出了Slot-TTA的适应性和潜力。 总之，Slot-TTA在计算机视觉领域代表了一次重大飞跃，解决了将分割模型适应多样的现实场景的挑战。通过结合以槽为中心的渲染技术、先进的分割方法和测试时适应性，Slot-TTA在分割准确性和多功能性方面取得了显著的改进。这项研究不仅揭示了模型的局限性，还为计算机视觉领域的未来创新铺平了道路。Slot-TTA承诺在不断变化的计算机视觉领域提升实例分割模型的适应性。

大规模预训练的视觉与语言模型在众多应用中展示出了非凡的性能，使得可以用无需指定固定的支持类别，而是通过（几乎任意的）自然语言查询进行零样本开放词汇推理。然而，最近的研究揭示了这些模型的一个根本缺陷。例如，它们无法理解超越名词的视觉语言概念（VLC），如非物体词语（例如属性、动作、关系、状态等）的意义，或者它们在组合推理方面的困难，如理解句子中词语顺序的重要性。 视觉与语言模型是强大的机器学习算法，可以学习将文本与图像匹配，当被要求生成视频标题或摘要时，它们展示出了非凡的结果。尽管这些模型擅长区分物体，但它们经常需要帮助理解概念，例如物体的属性或场景中物品的排列。例如，一个视觉与语言模型可能会看到图像中的杯子和桌子，但无法理解杯子在桌子上方的概念。 麻省理工学院的研究人员展示了一种利用计算机生成数据来帮助视觉与语言模型克服这个缺陷的新技术。具体而言，他们提出增强生成的视觉和文本数据的VLC和组合性方面，然后使用这些数据来微调VL模型，指导它们更加关注这些特征。此外，与实际数据始终伴随的隐私问题相比，合成数据不仅本质上是免费和无限可扩展的，而且可以不受隐私问题的限制。创建能够有效用于增强在大量实际数据上预训练的VL模型的VLC和组合性方面的合成数据，还面临其他技术挑战。与大多数以前关于生成合成视觉数据的工作不同，他们必须开发描述场景的组合元素的图像和文本。此外，他们生成利用真实物理3D模拟的合成视频，例如多样的3D环境和多样的3D物体、人体动作和动作资产，与物体的交互以及不同的摄像机角度。 以前的工作利用动作资产生成合成数据，但视觉数据没有伴随文本标题，并且需要考虑组合性。研究人员为合成视觉概念（SyViC）做出贡献，这是一个大规模（百万级）生成的合成VL数据集，具有丰富的文本标题，可以通过数据合成代码轻松扩展，以及所有先前生成的百万级合成数据。 贡献 研究人员贡献了SyViC – 一个百万级的合成数据集，具有丰富的文本注释，旨在增强VL模型的VLC理解和组合推理能力，以及其合成和潜在可扩展性的方法和生成代码库2。 有效的通用VL模型微调，利用SyViC数据改善强大的预训练VL模型的特性，而不损害其零样本性能。 实验结果和全面的消融研究表明，在最新的VL-Checklist、ARO和Winoground基准测试中，VLC理解和组合推理有显著改善（在某些情况下超过10%），并在最流行的CLIP模型及其衍生模型（例如最新的CyCLIP）上得到验证。 结果 使用所提出的方法和SyViC合成数据生成了所有模型的变体。在对SyViC进行微调之前，将每个模型与其分别在大规模实际数据上训练的源模型进行了比较。根据研究人员的发现，无论是SyViC合成数据还是提出的微调方法，都相对于各自的源基线表现出显著的改进。此外，研究人员还展示了在VL-Checklist和ARO基准测试中为CLIP获得的个别VLC指标改进，分别达到9.1%和12.6%的绝对改进。这证明了该方法和SyViC合成数据在提高VL模型的VLC理解和组合推理能力方面的效率和潜力。 在这里尝试 https://synthetic-vic.github.io/ 局限性 尽管研究人员在三个不同的基准测试中获得了相当有希望的结果，但他们的工作还存在一些限制。例如，图形模拟器对照片亮度、传感器噪声和反射函数的模型与实际世界相比较简化，可能影响颜色恒定性的稳健性。更复杂的领域适应和渲染技术可能需要进一步提高结果。此外，对合成数据的缩放规律进行更深入的研究将是充分发挥该工作潜力的一种优秀方式。 总结 大型视觉和语言模型决定了计算机视觉和多模态感知的现状，在多个困难的基准测试中取得了尖端的成果。然而，现有模型在组合推理和理解物体名词之外的概念（如属性和关系）方面需要帮助。这是第一次研究合成数据是否可以减轻这些不足。麻省理工学院的研究人员提出了一个数据生成流水线，用于创建一个百万级的合成图像数据集和相应的标题，并提供了一种高效的微调策略和全面的分析，以提高多模态模型的组合和概念理解能力，同时不影响它们的零样本分类性能。