商汤开源统一视觉模型,同时处理四项任务
商汤科技正式发布并全面开源了SenseNova-Vision,这是一个统一视觉大模型,同时处理理解和生成任务。这标志着公司SenseNova大模型体系的重大升级,而不仅仅是渐进式的改进。
它有何不同?
此前行业内的“统一视觉”模型往往只是将多个专家模型打包在一起——一个用于检测,另一个用于分割,第三个用于深度预测。这并非真正的统一,更像是拼凑。SenseNova-Vision的核心创新在于将视觉作为通用基础模型的原生能力,深度集成到系统中。可以将其理解为训练一个单一的大脑去观察、理解和创造,而不是依赖一个专家委员会。

一个模型在四个关键领域表现卓越
在各种评估中,SenseNova-Vision作为单一模型在四个核心视觉领域全面领先,在每个领域都达到甚至超越了专业专家模型。
在结构化视觉理解方面——包括物体检测、指代检测、OCR和关键点定位——它显著优于同类通用模型。在密集小目标检测和长尾类别识别等复杂场景中的表现尤为出色。
在密集几何预测方面,深度估计和表面法线估计的精度达到了专用几何模型的水平,在室内和室外环境中均保持高稳定性。

分割能力涵盖通用分割、推理分割和交互式分割。凭借其强大的多模态理解能力,在推理分割和基于对话的分割中表现尤为出色。仅需单一模型即可完成高质量的多视图点云重建和相机姿态估计,在通用视觉方法中达到领先性能。
完全超越Vision Banana,数据已开源
与语义导向模型相比,SenseNova-Vision在检测、分割和深度等对细节要求高的视觉任务上实现了全面领先。与生成式导向模型Vision Banana相比,它展现出全面的代际优势——在权威评估的大多数指标上超越并领先。Vision Banana仅能处理四个核心领域中的两个,而SenseNova-Vision覆盖了包括结构化理解、密集几何、全景分割和多视图3D在内的所有任务。
关键要点
- SenseNova-Vision是一个统一模型,可处理检测、分割、深度估计和3D重建。
- 它在每个领域都超越了专业模型,以及像Vision Banana这样的生成式模型。
- 该模型及相关数据已完全开源。