作者丨十点雨@知乎
来源丨https://zhuanlan.zhihu.com/p/446284775
编辑丨3D视觉工坊
本文介绍激光雷达和相机融合的两种方法：
前融合：融合原始数据（点云和像素/目标框）。
后融合：融合目标框。
1 前融合前融合一般指融合原始数据，最容易、最普遍的方式是将点云投影到图像。然后检查点云是否属于图像中检测的2D目标框。流程如下：
1.1 点云投影
三步：
·将3D激光雷达点转换为齐次坐标
·将点云变换到图像坐标系（LiDAR-Camera外参）
·透视投影到图像平面 （相机内参）
1.2 图像目标检测
一般使用YOLO系列算法。可以参考：Introduction to YOLOv4: Research review（https://www.thinkautonomous.ai/blog/?p=introduction-to-yolov4-research-review）
1.3 ROI匹配ROI （Region Of Interest）匹配即融合目标边界框内的数据。这一步的输出：
·对于每个2D边界框，图像检测提供类别。
·对于每个LiDAR投影点，我们有准确的距离。
因此，融合目标语义类别和空间位置就完善了。这一步的重点是如何融合目标边界框内的投影点，作为目标位置：求平均，中值，中心点，最近点？
另外，图像目标框往往比真实目标大一些，目标边界框内投影点云可能不属于真实目标（比如可能属于背景，或附近目标）。针对这个问题，采用图像分割，可以更准确地匹配投影点和像素。
下图箭头处显示了投影点在目标框内，但不属于目标框对应的车辆，而是前方车辆的点云。
2 后融合
后融合是融合各个传感器独立的检测结果，有两种融合思路：
·2D融合：图像2D检测，点云3D检测投影到图像生成的2D检测。如下图：
·3D融合：图像3D检测，点云3D检测。流程如下：
下文详细介绍下3D融合的思路。
2.1 点云3D目标检测·传统方法：聚类，L-shape fitting等
·深度学习方法：centerpoint等
2.2 图像3D目标检测单目3D目标检测，需要知道投影参数（相机内参，标定外参），并使用深度学习。知道目标的真实大小和朝向也有助于得到目标的准确边界框。
分享一篇单目3D检测论文： 3D Bounding Box Estimation Using Deep Learning and Geometry（https://arxiv.org/pdf/1612.00496.pdf）
2.3 IOU匹配
IOU即Intersection Over Union， 描述两个边界框的重合程度。
2.3.1 空域上的IOU匹配匹配就是看图像3D边界框和点云3D边界框是否重合（用IOU衡量），重合度高则是同一个目标。3D Iou--Net (2020)中的示例图像：
因此，我们可以在空域上将不同传感器的检测目标进行关联。
这个过程在9 Types of Sensor Fusion Algorithms中（https://www.thinkautonomous.ai/blog/?p=9-types-of-sensor-fusion-algorithms），被定义为中级（middle-level）传感器融合。中级传感器融合和高级传感器融合的区别是，高级传感器融合包括跟踪。
而为了时间跟踪，则需要时域上的数据关联。
2.3.2 时域上的IOU匹配目标跟踪一般用卡尔曼滤波和匈牙利算法来关联时域上的目标，从而跨帧跟踪目标，甚至预测目标位置。
跟踪3D边界框位置时，一般用IOU作为度量进行数据关联。当然也可以使用深度卷积特征来确保目标一致。我们称该过程为SORT (Simple Online Realtime Tracking), 或Deep SORT，如果使用深度卷积特征。
时域上IOU匹配的原理与空域上类似：如果第一帧和第二帧的边界框重合，则说明两个目标是相同的。
既然我们可以在空域和时域上跟踪目标，那么也可以利用类似方法进行高级的传感器融合。
2.4 后融合总结融合检测目标是中级的融合，需要空域上的IOU匹配；融合跟踪轨迹是高级的融合，需要时域上的IOU匹配（匹配度量），卡尔曼滤波（状态估计），匈牙利算法（数据关联）。
本文仅做学术分享，如有侵权，请联系删文。
3D视觉精品课程推荐：
1.面向自动驾驶领域的多传感器数据融合技术
2.面向自动驾驶领域的3D点云目标检测全栈学习路线！(单模态+多模态/数据+代码) 3.彻底搞透视觉三维重建：原理剖析、代码讲解、及优化改进 4.国内首个面向工业级实战的点云处理课程 5.激光-视觉-IMU-GPS融合SLAM算法梳理和代码讲解 6.彻底搞懂视觉-惯性SLAM：基于VINS-Fusion正式开课啦 7.彻底搞懂基于LOAM框架的3D激光SLAM: 源码剖析到算法优化 8.彻底剖析室内、室外激光SLAM关键算法原理、代码和实战(cartographer+LOAM +LIO-SAM)
9.从零搭建一套结构光3D重建系统[理论+源码+实践]
10.单目深度估计方法：算法梳理与代码实现
11.自动驾驶中的深度学习模型部署实战
12.相机模型与标定(单目+双目+鱼眼）
13.重磅！四旋翼飞行器：算法与实战
重磅！3DCVer-学术论文写作投稿 交流群已成立
扫码添加小助手微信，可申请加入3D视觉工坊-学术论文写作与投稿 微信交流群，旨在交流顶会、顶刊、SCI、EI等写作与投稿事宜。
同时也可申请加入我们的细分方向交流群，目前主要有3D视觉、CV&深度学习、SLAM、三维重建、点云后处理、自动驾驶、多传感器融合、CV入门、三维测量、VR/AR、3D人脸识别、医疗影像、缺陷检测、行人重识别、目标跟踪、视觉产品落地、视觉竞赛、车牌识别、硬件选型、学术交流、求职交流、ORB-SLAM系列源码交流、深度估计等微信群。
一定要备注：研究方向+学校/公司+昵称，例如：”3D视觉 + 上海交大 + 静静“。请按照格式备注，可快速被通过且邀请进群。原创投稿也请联系。
▲长按加微信群或投稿
▲长按关注公众号
3D视觉从入门到精通知识星球：针对3D视觉领域的视频课程（三维重建系列、三维点云系列、结构光系列、手眼标定、相机标定、激光/视觉SLAM、自动驾驶等）、知识点汇总、入门进阶学习路线、最新paper分享、疑问解答五个方面进行深耕，更有各类大厂的算法工程人员进行技术指导。与此同时，星球将联合知名企业发布3D视觉相关算法开发岗位以及项目对接信息，打造成集技术与就业为一体的铁杆粉丝聚集区，近4000星球成员为创造更好的AI世界共同进步，知识星球入口：
学习3D视觉核心技术，扫描查看介绍，3天内无条件退款
圈里有高质量教程资料、答疑解惑、助你高效解决问题
觉得有用，麻烦给个赞和在看~
