ESC
开源 1 分钟阅读

image-to-3d-pipeline:用多个开源模型从图像重建3D网格,并评分看谁做得最好

开源项目 image-to-3d-pipeline 将AI生成的多视角图像分别输入 TRELLIS、TripoSR、stable-fast-3d、Hunyuan3D-2 等开源模型进行3D网格重建,并通过固定的 Blender 检查协议统一评分,胜出结果可在浏览器端 WebGL 查看器中交互浏览。项目由 Dreamers Inc 构建,采用 Apache 2.0 许可证,附完整评估报告、实验协议与

来源:GitHub

image-to-3d-pipeline

将少量图像转化为3D网格,并看看哪个模型表现最好。

单图到3D重建领域已有十多个开源模型,却没有明显的赢家;诚实的选型方式是将多个模型运行在同一输入上,仔细审视各自的输出。这个pipeline正是这样做的:它接收一艘虚构潜水器的AI生成渲染图,用多个模型重建候选网格,依据固定的 Blender 检查协议进行评分,并在基于浏览器的 WebGL 探索器中展示胜出者。

感兴趣的话,这里是本仓库的一个实时摄影测量案例研究:3d.thedreamers.us/about,探索器本身位于 3d.thedreamers.us,可实时交互。

看看效果

从一个概念图像生成的潜水器八个视角

一个概念,八个视角。 多视角推理在任何几何生成之前进行:左舷侧视、四分之三视角、船首视角、船尾视角。本仓库中每个重建模型都从这张图集开始,因此它们的输出具有可比性。

浏览器查看器中重建的网格,以及六阶段构建流程条

六个步骤,一个浏览器对象。 WebGL 查看器中的获胜网格,以及它经过的pipeline:遮罩、推理、烘焙、渲染、淘汰、导出。流程条下方的注释点明了整个方法的诚实局限:深度图只能为可见像素估算距离,无法揭示相机从未看到的部分。

3d.thedreamers.us 上的构建故事页面

构建故事,实时呈现。 公开页面从源图像开始,一步步、完全公开地展示如何走向浏览器交付的3D世界。

由 Dreamers Inc 构建。

源图像

本仓库中的所有源图像均为一艘虚构船只的AI生成合成渲染图。未描绘任何真实车辆、船只、人物或客户。

仓库结构

  • tools/:预处理、推理、渲染和评估脚本。
  • 05-web-explorer/:用于查看重建网格的本地 Three.js/WebGL 探索器。
  • 06-evaluation/:书面评估报告和变体对比截图。
  • 07-experiments/:受控后续实验(Hunyuan3D 2MV、TRELLIS.2、MapAnything)及其协议文档。
  • examples/:三个示例源渲染图和一个重建的 GLB 文件(submersible-v2-stochastic.glb,约 1.5 MB),无需运行任何内容即可检查pipeline输出。
  • setup.sh:将第三方重建工具克隆到 tools/vendor/,固定在指定提交。

大型工件已被排除:Python 环境、模型检查点、中间 PLY/GLB 输出以及探索器的完整运行时资源集。05-web-explorer/README.md 说明了如何提供运行时资源,examples/ 提供了一个可用于此目的的网格。

阅读顺序

  1. 06-evaluation/EVALUATION.md 了解排名及其局限性。
  2. 06-evaluation/explorer-variant-comparison.jpg 查看同一浏览器场景中的三个候选网格。
  3. 05-web-explorer/README.md 了解本地运行说明。
  4. examples/ 查看示例输入和重建输出。

第三方重建工具

运行 ./setup.sh 以克隆本次评估中使用的四个重建模型的精确提交版本。它们是克隆而非内置的,因为每个工具都带有各自的许可证,获取即表示接受:

工具许可证
TRELLISMIT
TripoSRMIT
stable-fast-3dStability AI 社区许可证
Hunyuan3D-2腾讯混元社区许可证,有地域限制

使用前请审查每个许可证,尤其是 Stability AI 和腾讯的条款,它们分别限制了商业用途和适用地域。

Pipeline 阶段

  1. 预处理:tools/preprocess_object_masks.py 从源渲染图生成仅含物体的透明遮罩。
  2. 重建:tools/run_trellis_multiview.py 运行多图像版 TRELLIS;07-experiments/ 包含其他候选模型的运行脚本。
  3. 评估:tools/run_reconstruction_eval.sh 通过相同的固定 Blender 轨道渲染每个 GLB,并按照 07-experiments/HUNYUAN_2MV_EXPERIMENT_PROTOCOL.md 中的 0-2 分视觉评分标准构建对比图集。
  4. 探索:05-web-explorer/ 将选定的 GLB 加载到带 BVH 碰撞检测的可导航水下场景中。

许可证

本仓库中的代码采用 Apache License 2.0 许可(见 LICENSE)。setup.sh 获取的第三方工具不在此列,仍受其各自许可证约束。