跳转到主要内容

商汤开源统一视觉模型,同时处理四项任务

商汤科技正式发布并全面开源了SenseNova-Vision,这是一个统一视觉大模型,同时处理理解和生成任务。这标志着公司SenseNova大模型体系的重大升级,而不仅仅是渐进式的改进。

它有何不同?

此前行业内的“统一视觉”模型往往只是将多个专家模型打包在一起——一个用于检测,另一个用于分割,第三个用于深度预测。这并非真正的统一,更像是拼凑。SenseNova-Vision的核心创新在于将视觉作为通用基础模型的原生能力,深度集成到系统中。可以将其理解为训练一个单一的大脑去观察、理解和创造,而不是依赖一个专家委员会。

Image

一个模型在四个关键领域表现卓越

在各种评估中,SenseNova-Vision作为单一模型在四个核心视觉领域全面领先,在每个领域都达到甚至超越了专业专家模型。

在结构化视觉理解方面——包括物体检测、指代检测、OCR和关键点定位——它显著优于同类通用模型。在密集小目标检测和长尾类别识别等复杂场景中的表现尤为出色。

在密集几何预测方面,深度估计和表面法线估计的精度达到了专用几何模型的水平,在室内和室外环境中均保持高稳定性。

Image

分割能力涵盖通用分割、推理分割和交互式分割。凭借其强大的多模态理解能力,在推理分割和基于对话的分割中表现尤为出色。仅需单一模型即可完成高质量的多视图点云重建和相机姿态估计,在通用视觉方法中达到领先性能。

完全超越Vision Banana,数据已开源

与语义导向模型相比,SenseNova-Vision在检测、分割和深度等对细节要求高的视觉任务上实现了全面领先。与生成式导向模型Vision Banana相比,它展现出全面的代际优势——在权威评估的大多数指标上超越并领先。Vision Banana仅能处理四个核心领域中的两个,而SenseNova-Vision覆盖了包括结构化理解、密集几何、全景分割和多视图3D在内的所有任务。

关键要点

  • SenseNova-Vision是一个统一模型,可处理检测、分割、深度估计和3D重建。
  • 它在每个领域都超越了专业模型,以及像Vision Banana这样的生成式模型。
  • 该模型及相关数据已完全开源。