面向具身智能的多模态视觉数据压缩综述OA
具身智能作为通往通用人工智能的关键途径,正推动智能系统从被动分析向主动交互跨越。以视觉-语言-动作(Vision-Language-Action,VLA)模型为代表的新型控制架构赋予了机器人强大的语义理解与泛化能力,但其高昂的算力需求使得“端-云协同”成为必然的部署选择。然而,多源异构视觉传感器产生的海量数据通量与受限通信带宽之间的矛盾已成为具身智能规模化落地的核心瓶颈之一。传统的面向人眼视觉与机器视觉的压缩范式由于存在优化目标失配问题,在低码率下极易产生具身智能闭环控制中的误差累积,导致任务成功率急剧下降。针对具身智能对压缩技术的迫切需求,本文对具身感知中存在的多模态视觉数据压缩问题进行了系统综述。首先,简述面向具身智能的视觉数据压缩新范式,分析其与传统范式在闭环误差敏感性、非线性性能响应及感知偏好等方面的本质差异;其次,依据具身感知的数据模态,本文系统梳理了平面视觉、全景与鱼眼视觉、立体视觉、RGBD数据及3D点云等模态的前沿压缩算法,重点阐述了基于深度神经网络(Deep Neural Network,DNN)的非线性变换、端到端优化及跨模态融合等创新技术路径及其对具身任务的适配性;最后,本文总结了该领域面临的实时性与泛化性挑战,并从标准化评测基准、任务驱动的动态压缩、统一多模态表征、端到端联合优化及跨模型泛化五个维度展望了未来的发展方向。
王奕桐;张秋丹;张云;胡瑞珍;侯军辉;王旭
深圳大学计算机与软件学院,广东深圳518060深圳大学计算机与软件学院,广东深圳518060中山大学电子与通信工程学院,广东深圳518107深圳大学计算机与软件学院,广东深圳518060香港城市大学电脑科学系,中国香港999077深圳大学计算机与软件学院,广东深圳518060
信息技术与安全科学
具身智能视觉数据压缩深度神经网络视觉-语言-动作模型
《信号处理》 2026 (7)
P.1011-1028,18
国家自然科学基金面上项目(62371310)深圳市基础研究重点项目(JCYJ20241202124415021)。
评论