An offroad vehicle powered by Forterra’s autonomous driving system.
模拟行业正在经历一场重大转型——从构建训练人类的工具,转向构建训练机器的工具。

实现这一转型需要能够直接在现实世界中运行、感知并进行交互的AI系统,也就是所谓的物理AI

将AI模型与传感器、摄像头和执行器相结合,可以让机器人、自动驾驶汽车、无人机等系统实时理解、推理并采取行动,从而适应不可预测的环境。

虚幻引擎正逐渐演变为机器人团队的首选平台:它不仅是一种模拟工具,更是一个为下一代机器人系统提供动力的“合成数据工厂”和实时自主平台。


照片级真实感已成为技术刚需

训练机器人在现实世界中运行离不开海量数据的支持,其中包括用于感知的标注图像、用于控制规则的物理交互,以及用于安全验证的极端场景。

然而,在物理世界中收集这些数据不但存在过程缓慢、成本高昂的问题,而且极端危险和不可行——你无法人为地制造一千次车祸,无法在仓库中模拟飓风来袭的场景,也无法随时重现一次手术并发症。

正因如此,模拟已成为现代物理AI开发的基石。既然模拟是必选项,那么真正的问题就变成了:“哪个平台能以最低成本、最快的迭代速度提供最佳的感知性能?”

对于机器人团队而言,虚幻引擎正成为一个愈发显而易见的选择。因为在机器人模拟中,照片级真实感并非锦上添花的好处,而是一种技术刚需。

该引擎强大的图形能力使其成为缩小“模拟到现实鸿沟”(sim-to-real gap)的最佳选择,即它能够缩小AI模型在模拟过程中看到的内容与实际物理机器人遇到的情形之间的差距。

这个逻辑很简单:合成图像越像真实照片,你的AI模型从模拟过渡到现实所需的额外工作就越少。

虚幻引擎5引入了三项关键技术,从根本上推动了这个领域的变革——不仅实现了照片级真实感,而且还能实时运行。

Nanite虚拟化微多边形几何体,可实时渲染极高分辨率的资产,非常适合CAD导入、摄影测量扫描以及密集的工业环境。

Lumen动态全局光照,实时计算近乎无限的光线反弹和间接反射,实现物理精确的光照,能够响应直射光照变化(如灯光亮起)或几何体变化(如门打开)。

硬件光线追踪,包括NVIDIA RTX加速分支,提供物理精确的反射、阴影和材质响应。

General Robotics使用虚幻引擎创建逼真的虚拟环境,用于测试和展示机器人自主系统,为机器人平台带来可扩展的模拟与视觉验证。

General Robotics联合创始人兼首席技术官Sai Vemprala表示:“虚幻引擎的照片级真实感和对世界的控制能力,使我们能够预测不同场景下的真实行为,它的智能体自主性让系统获得了良好的可扩展性。”
Courtesy of General Robotics
该引擎还为智能体机器人评估提供了基础支持:由智能体在不同环境和条件下组织并执行对机器人AI行为的评估,在部署前发现极端情况并评估其性能。

不仅如此,由于虚幻引擎可在macOS上运行,机器人工程师可以直接在笔记本电脑上原生运行模拟器,而无需通过SSH登录Linux。这带来了更低的延迟、更好的图形性能和更简化的工作流程。

物理模拟

仅有照片级真实感并不足以弥合模拟到现实的鸿沟。物理保真度(精确的接触、摩擦、可变形体、执行器动力学)、传感器真实感(卷帘快门、LiDAR强度、IMU漂移、延迟)以及正确的控制回路建模同样至关重要。

在许多操作和运动任务中,接触动力学或执行器行为的不准确,往往比视觉差异更早导致系统失败。

但这些挑战难不倒虚幻引擎的Chaos Physics系统,它以双精度为核心,在可扩展的训练、感知模拟以及逼真环境中的实时交互方面表现出色。

工程师还可以选择使用第三方工具(例如由Algoryx开发的高保真实时物理模拟系统AGX Dynamics for Unreal Engine),对系统的精确物理行为进行建模。
Courtesy of Algoryx Simulation
AGX能够对完整机器进行物理精确的模拟,包括多体力学、液压系统、动力传动系统、发动机、履带或车轮,以及动态可变形的地形。

Algoryx联合创始人兼首席执行官Ken neth Bodin解释道,“自动化机器必须具备对物理规律的理解能力。如果模拟无法捕捉机器与现实世界的真实交互方式,那么AI学到的就是错误的行为。我们可以通过将AGX的工程级物理模拟与虚幻引擎的照片级真实环境相结合,构建出能够大规模训练、测试和验证自动化机器的数字世界。”

使用RealityScan合并与重建不同数据源

通过结合前沿的摄影测量与实时技术,机器人团队可以构建出强大的工作流,打造逼真的虚拟环境。这方面的一个典型案例是RealityScan与虚幻引擎之间的成熟工作流程,它能够将现实中的场地和物体快速转换为用于机器人模拟的数字孪生。RealityScan现已支持SLAM点云、传统的摄影测量和LiDAR,从而消除了环境创建的瓶颈,实现与部署场景高度匹配的合成训练与回归环境的快速生成。这一点对于缩小模拟到现实的差距至关重要,尤其是在以摄像机为核心的感知系统中。

对工程师而言,这一流程具备良好的可扩展性与自动化能力。RealityScan可以导出关键的配准与姿势数据,同时支持标准计算机视觉(CV)格式(如 Colmap)。其先进的图像对齐(SOTA)技术为生成高斯泼溅提供了基础支持。高斯泼溅是一种具有照片级真实感的高保真资产形式,并且制作成本相对较低。RealityScan可在Linux服务器上运行,并通过远程命令插件CLI脚本进行控制,从而构建自动化摄影测量流程,并在多台机器上持续处理扫描数据,并将结果直接导入虚幻引擎。

合成数据:实现快速且低成本的训练

虚幻引擎中的每一个像素都是通过数学方式生成的,因此它已经知晓场景中的所有信息,比如每个物体的位置、距离、材质以及运动方式。

因此,它捕获的图像无需进行人工标注,系统在渲染图像的同时即可自动输出高度精确的标签。
这带来了多项优势,例如:消除标注人员之间的分歧;数据集中不会出现不一致标签(例如将叉车标为卡车);省去成本昂贵的质量控制流程。

更重要的是,它带来了显著的经济效益:大规模使用合成数据进行训练模拟,可以显著降低每张图像的成本。就大多数团队的感知管线而言,其实用不了多少数据(大概几万张图),使用合成数据就已经是比人工标注更划算的选择了。

由于大多数机器人模型需要数百万张图像,这意味着选择使用合成数据可以省下巨额成本。

我们从市场信号中也能清楚地看到这一点——合成数据预计将成为AI训练流水线中的重要支柱。
Courtesy of Duality AI
Duality AI利用虚幻引擎的这些能力构建其Falcon数字孪生平台,为企业客户生成高保真的合成数据和传感器模拟数据,以便客户将其应用于多种行业和使用场景。投资这些数字孪生系统,可带来可量化的投资回报,例如:加速AI模型训练与部署,实现无人机安全飞行,提升野外导航可靠性,甚至实现轨道卫星对接。在这些场景中,Falcon的数字孪生环境与虚拟传感器能够提供高度精确的合成数据,有效弥合模拟与现实之间的差距。

Duality AI首席执行官Apurva Shah表示:“如果没有虚幻引擎的先进渲染能力、物理求解器、可扩展的场景管理,以及成熟的双用途开发社区,这一切就不可能实现。”


域随机化:为不可预测情况做好准备

域随机化(Domain Randomization)是一种通过有意打乱模拟环境中的各种因素,使模型在现实世界中具备更强泛化能力的技术。

如果该模型在模拟中见过足够多的变化,它就不会过度拟合于单一的合成环境,从而在复杂多变的现实环境中发挥更好的表现。

这种对高保真环境建模的需求,正是Forterra的重点关注方向。其自动驾驶系统AutoDrive能够在复杂的越野与道路环境中导航,这些环境既包括结构化场景,也包括缺乏城市道路标识的非结构化场景。从配送中心、港口到多式联运枢纽以及自然资源工业现场,Forterra的系统必须实时应对多变地形、持续变化的表面条件以及不可预测的障碍物。

Forterra通过高保真模拟与合成数据, 让其自动化系统接触几乎无限种天气、光照和地形障碍组合。

Forterra模拟与系统验证总监Jeremy Joseph博士表示:“在Forterra,要开发能够在复杂环境中可靠运行的自动化系统,高保真模拟是不可或缺的条件。

我们使用虚幻引擎来测试车辆,因为它允许我们在精确的数字环境中进行测试,并结合物理精确的传感器模拟,在无限多种天气、地形和障碍物变化下运行完整的任务配置文件。这一点非常关键,因为Forterra始终将终端用户的安全放在首位。借助这些能力,我们可以在真实车辆出现相关问题之前,提前发现和解决问题。”
An offroad vehicle powered by Forterra’s autonomous driving system.
Courtesy of Forterra
虚幻引擎尤其适用于域随机化,这要得益于其可编程材质系统和动态光照能力——它可以对以下要素进行随机化处理:纹理与材质;光照条件;天气与大气效果;物体摆放与几何结构;摄像机位置与镜头参数。

此外,机器人团队还可以利用引擎的程序化内容生成(PCG)框架,在不同训练阶段改变室内环境。在仓库或办公场景中,你可以对环境进行随机化处理,例如改变布局(如货架或桌子的摆放位置)、杂物(如箱子或工具),以及视觉因素(如材质、光照和遮挡)。

对于希望构建模拟环境或为其填充物体的用户来说,Fab市场是获取高质量、价格合理且易于集成的3D内容的优质来源——其中包括通过摄影测量生成的高精度Quixel Megascans资产。

传感器模拟:构建全面的环境感知

现代机器人技术依赖于多模态感知,即同时通过多种传感器类型理解环境,而非仅依赖单一输入。

虚幻引擎的渲染管线非常适合模拟机器人在现实世界中所用的传感器,包括RGB/HDR摄像机、深度摄像机、LiDAR点云、雷达和SAR载荷、热成像/FLIR成像、IMU和GPS模型,以及水下声纳(通过HoloOcean)。它还可以模拟关键的传感器特性,如噪声、畸变、延迟和同步,以更好地匹配真实硬件。

Duality AI的Falcon数字孪生平台就是一个例子。其可配置的、支持模拟的传感器库包括摄像机、LiDAR、雷达和SAR、GPS、IMU等,由虚幻引擎处理数据,从而创建高精度的环境模拟。

Duality AI的首席执行官Apurva Shah表示:“我们从一开始就选择以虚幻引擎为核心来构建Falcon,因为我们深知它能为机器人与物理AI工程师带来的巨大价值。”
Courtesy of Duality AI
dSPACE的AURELION平台进一步展示了虚幻引擎如何融入成熟的自动驾驶与机器人工作流程。例如,韩国产业技术试验院(KTL)使用AURELION在虚拟医院环境中测试自动服务机器人,包括走廊、电梯和病房等场景。虚拟传感器使开发者能够在真实部署前评估导航、避障和系统响应能力。

dSPACE传感器模拟产品经理Caius Seiger表示:“AURELION是我们基于物理的传感器模拟解决方案,而虚幻引擎正是这一技术的核心。”
该引擎支持对传感器进行逼真的摄像机模拟,包括精确的镜头与图像传感器建模。Seiger还补充道:“开放源代码让我们能够进一步扩展平台,通过实时光线追踪生成用于雷达、LiDAR和超声波传感器的精确原始传感器数据。”

虚幻引擎对3D模型与材质的高效整合能力,支持从城市配送无人机到医院服务机器人等多种应用。

同时,MathWorks的MATLAB和Simulink也可通过Simulink 3D Animation与虚幻引擎集成。Simulink 3D Animation产品经理Nishan Nekoo表示:“工程师可以使用虚幻引擎进行照片级渲染与传感器模拟,而MathWorks工具则将感知、规划、控制和基于物理的建模整合进统一的模拟环境。”

这一工作流程有助于团队将自动化系统的开发与验证前移到设计早期,从而更早发现问题,并以更安全、更可靠的方式推进开发。

ROS集成:连接游戏引擎与机器人

对于考虑使用游戏引擎的机器人团队来说,与机器人中间件的兼容性一直是他们担忧的一个问题。如今,虚幻引擎通过多个成熟的桥接工具与ROSROS实现干净整洁的集成,包括 ROSIntegration、rclUE、UE ROS2传感器插件以及CARLA

有些机器人组织也会开发自有中间件以满足生产需求。Tempo Simulation正是基于这一现实创建的组织。其开源平台提供灵活的gRPC / Protobuf接口,使机器人团队能够将虚幻引擎直接连接到自身的自动化系统与中间件。除了TempoROS集成之外,Tempo还提供了在虚幻引擎内部构建逼真模拟环境、传感器模型和复杂智能体行为的工具。
Courtesy of Aurum Systems and Tempo Simulation
Tempo Simulation联合创始人兼首席执行官Peter Melick表示:“在Tempo,我们亲眼见证了模拟飞轮的强大威力。当团队能够在模拟中生成数据、测试行为并快速迭代时,开发周期就会显著缩短。我们的目标是让任何机器人团队都能使用基于虚幻引擎的高保真、高真实感的模拟工具。”

这个例子很好地展示了虚幻引擎作为一种实时模拟器的潜力,证明它能够无缝发挥作用,服务于让机器人独立运行的软件系统。

支持完整的模拟回路

尽管虚幻引擎在机器人领域的核心优势在于感知与合成数据,但它同样支持完整的模拟回路。

在强化学习(RL)中,智能体通过与环境进行交互,并根据其行为获得奖励或惩罚的情况来学习——模拟环境的真实感和响应速度直接决定了这些学习行为向现实世界迁移的效果。

诸如Gym-UnrealCVAirSim的后继框架已将虚幻引擎与强化学习管线集成,用于无人机导航、目标跟踪和机器人控制。

虚幻引擎的Chaos Physics系统可用于处理刚体动力学、驱动关节、碰撞和车辆动力学。将引擎的渲染与MuJoCoBullet相结合的混合架构,正成为机器人级动力学模拟的最佳实践。

在可扩展性方面,团队可以借助Linux容器、Docker支持以及GPU加速的无头渲染,实现云规模的合成数据生成与自动化测试流水线。

驱动主流机器人模拟平台

虚幻引擎不仅是一个渲染工具,更是多个主流机器人模拟平台的基础。

CARLA是目前应用最广泛的开源自动驾驶模拟器,现已运行于UE 5.5,并集成了LiDAR、雷达、多种摄像机类型、GPS、语义分割以及原生ROS2连接能力。

基于UE5构建的HoloOcean提供多智能体水下模拟,支持DVL、IMU、光学/声学调制解调器,以及基于八叉树的新型声纳传感器模型——这是水下模拟领域中较为罕见的能力。UE5的Lumen与Nanite技术显著提升了水下视觉真实感。

Duality AI的Falcon数字孪生模拟平台同样直接构建于虚幻引擎之上,并获得了多项行业奖项,包括Fast Company的“改变世界创意奖”、AI与数据类别的“最佳产品奖”,以及数据引擎与模拟类别的“机器人与物理AI奖”。Falcon的用户包括NASA-JPL、Honeywell、DARPA以及宝洁公司。

PteroLabs推出的PteroSim是一款基于UE5的无人机飞行模拟器,采用JSBSim 6-DOF气动模型,支持固定翼、多旋翼、垂直起降(VTOL)以及直升机等机型,并可同时模拟超过100架无人机。该平台通过与真实无人机相同的MAVLink协议和地面站软件,将真实自动驾驶固件(如PX4、ArduPilot)接入模拟回路,实现无缝的模拟到真实验证。

该平台包含大气扰动建模(Dryden湍流、阵风、微下击暴流)以及用于自动化测试场景的gRPC Python API,并且运行速度显著快于实时,适用于机器学习训练和强化学习流程。PteroSim已被DARPA Lift Challenge团队用于自主飞行器的飞行前验证。

PteroLabs的创始人Alexander Kalmykov表示:“我们选择虚幻引擎是因为它具有无与伦比的视觉质量,其底层的C++让我们能够在不妥协的情况下运行真实飞行动力学。这个引擎可以扩展到任意硬件配置,而且每当我们遇到问题时,虚幻引擎社区几乎总能提供答案。”
Courtesy of SAS Institute

工业4.0

工业4.0是机器人、自动化与数字技术的融合,依赖实时模拟与数字孪生来虚拟测试生产变更,从而在实施前验证决策、降低风险与成本。

SAS是工业4.0领域的领先者,该团队将虚幻引擎的高保真可视化与SAS Viya的AI与分析能力相结合,为工厂自动化打造智能数字孪生。在与乔治亚太平洋公司合作的试点项目中,他们使用了由虚幻引擎驱动的SAS数字孪生,在真实工厂中可视化和优化AGV移动、质量控制以及维护计划。

现代工厂环境日益复杂,人类与机器人需要共存,因此安全和效率至关重要。

SAS制造业市场经理Glynn Newby表示:“我们的战略是将照片级真实感模拟与AI和高级分析结合起来,帮助企业构建更丰富的数字孪生,并在进行重大投资前对决策进行压力测试。合成数据可以在虚幻引擎与SAS之间无缝流动。我们相信,这种方法有望显著提高全球工厂的生产力、安全性和运营效率。”

机器人平台的演进

虚幻引擎最初并非为机器人平台而设计。但随着合成数据的发展、模拟到现实迁移技术的进步,以及对高真实度传感器模拟的需求不断增长,它逐渐演变为一个机器人平台。由于UE5是一个为交互性而构建的实时引擎,它支持人机回路的模拟、操作员培训、远程操作界面、XR体验和数字孪生——所有这些都是在同一套用于AI开发的运行时环境中完成。

团队可以在不切换平台的情况下,进行机器自主性原型设计、构建交互式可视化工具,并试验人机交互工作流。

对于那些要求模型准确看清现实世界的机器人团队(无论是在工厂车间检测物体、在城市路口导航,还是在手术中识别解剖结构)而言,虚幻引擎已成为他们在模拟中训练、在现实中部署的最具吸引力的平台。