SUPER车道线检测:异构数据集训练、物理驱动拟合

作者:张凯

编辑:CV君

0.背景介绍

 

车道线检测算法的研究最早可追溯至上世纪八十年代,由于车道线本身具有多样性(环岛、交叉线),以及外界光照、车辆遮挡的影响,现有的车道线检测算法仍很难实际用于高安全性的自动驾驶任务中。

 

单靠提取车道线特征解决车道线检测问题很难应对外界光照、遮挡等不利因素。联合低层次特征(车道线、车辆)和高层次特征(街道场景理解)去进行车道线检测,即网络先学习到街道布局信息、道路几何信息,然后关注车道线信息,也许会大大提高算法的准确率。

 

很多基于CNN的车道线检测算法的输出都是像素级别的分割信息,将车道线从场景中分离出来,然后使用后处理算法进行视角变换和车道线拟合。

 

然而大多数方法都忽视了车道线的一个重要特性:绝大多数情况下,车道线都是互相平行的。利用这一重要性质,再使用几何知识处理坡道情况,使用简单的优化方法即可得到精确的车道线多项式。

1.使用异构数据集训练层次化分割网络

 

若要使网络联合车道线特征和场景语义信息,需要同时有语义标注和车道线标注的数据集,然而几乎没有这样的开源数据集可供使用。

 

使用如下三个数据集近30000张图片联合训练网络:

 

 

然而这三个数据集标注的层次、类别不尽相同,即这三个数据集是“异构”的。

  • Cityscape数据集仅提供了语义分割标签,不包含与车道线相关的标签。
  • Vistas数据集提供了一些通用的车道线标记。
  • Apollo数据集提供了比Vistas更细粒度的车道线标记。

 

为了使用异构数据集进行训练,参考了论文:Training of Convolutional Networks on Multiple Heterogeneous Datasets for Street Scene Semantic Segmentation。结合车道线检测的实际情况,提出了如下图所示的层次化分割网络:

 

 

如上图所示,该网络共有4个Head:

  • Head 1:将垂直的物体(楼、树、车)与水平的物体(路面)分开。
  • Head 2:结合backbone输出与Head1的输出,将垂直的物体和水平的物体进一步细分。
  • Head 3:结合backbone输出与Head2的输出,粗略地分割出带有车道线标记的区域。
  • Head 4:结合backbone输出与Head3的输出,精确地分割出不同类型的车道线。

 

以上4个Head对应于4个分类器,由于不同分类器输出类别的粒度不同,因此可以用上文提到的异构数据集训练与数据集标注粒度相近的分类器。训练分类器时使用了softmax层和交叉熵损失函数。后一个分类器使用了前一个分类器的输出结果,极大地提高了车道线分割效果。

2.物理驱动的车道线拟合

 

在车道线拟合之前,需要将分割得到的车道线上的点映射到鸟瞰图中(BEV,birds’ eye view),如下图所示

 

 

使用[公式]表示原始图像空间的点,[公式]表示鸟瞰图中的点。在鸟瞰图中,使用如下形式的多项式拟合车道线,本文中取m=2:

[公式][公式]

 

车道线拟合的目的就是根据鸟瞰图中车道线上的点,得到不同车道线对应的[公式][公式]

 

由于车道线是平行的,因此不同的车道线对应的多项式除了截距项[公式]以外,其余的项[公式]是相同的。

 

道路中心线的拟合

理想情况下,道路中心线和车道线也是平行的,如下图所示

 

因此道路中心线多项式与车道线多项式有相同的[公式]。设[公式]为道路中心线的截距项,[公式]为鸟瞰图中道路区域上点的坐标,定义损失函数

 

[公式]

 

[公式]用于控制道路中心线对离群点的敏感程度,本文中[公式]。最小化该损失函数,求得的多项式[公式]就是道路中心线。

 

道路中心线的作用有二:其一,绝大多数情况下,道路中心线和车道线几乎是平行的,因此道路中心线与车道线有同样的[公式],道路中心线至少可以作为拟合车道线的初始起点;其二,场景复杂的情况下,车道线检测效果不好时,由车道线得到的拟合点可能比较少,道路中心线可以为车道线的拟合提供参考。

 

车道线的拟合

在车道线和道路中心线平行的假设条件下,车道线和道路中心线的多项式中有同样的[公式]和不同的[公式]。若使用[公式]代表鸟瞰图中第n条车道线上的点,则[公式]表示该点与鸟瞰图中y轴的距离,如下图所示:

 

理想情况下,同一车道线上的点,使用公式[公式]进行计算,得到的值几乎相同。

 

然而,计算道路中心线时未使用车道线信息,得到的道路中心线很可能与车道线“不太平行”。可以使用函数[公式]表示[公式]的精确程度:

  • [公式]很精确,即[公式]值能很好地表示车道线除截距以外的其他信息,对于同一车道线上的点,[公式]值应该差不多,由[公式]得到的直方图更“整齐”,即函数[公式]值更小。
  • 相反,当[公式]的值不能很好地表示车道线除截距以外的其他信息时,由[公式]得到的直方图更“混乱”,函数[公式]值更大。

 

因此可以通过最小化函数[公式]来调整[公式]的值。定义如下损失函数:

[公式]

 

上面公式中的[公式]是个很“工程”的做法,其中[公式]表示用于拟合车道线的所有点的个数,[公式]表示在一个预定义区域内用于拟合车道线的点的个数。论文里没有明确说明如何计算[公式],个人推测[公式]的值应该与[公式]的值有关。可能会存在某些[公式]的值,能使[公式]比较小,但是并不是我们想要的比较合适的[公式]值,此时[公式]会比较小,则[公式]会变大,从而使[公式]变大,以遏制此种情况的发生。实际使用时取[公式]

 

融合[公式][公式]形成最终的损失函数,寻找最优的[公式][公式]使损失函数最小,即:

[公式]

 

上式中的[公式]用于平衡两个损失,实际使用时取[公式]

 

联合使用两个损失函数的好处是,当用于拟合车道线的点很多时,可以通过优化[公式]得到很好的结果;当用于拟合车道线的点比较少时,最小化[公式]也能得到可以接受的结果。

 

通过优化损失函数[公式]得到最优的[公式]以后,可以通过下式求得每条车道线的截距:

[公式]

 

上式中[公式]表示所有车道线的截距值。上式中的peaks操作作者使用了matlab中的findpeaks函数实现,关于findpeaks的详细信息可以参考:mathworks.com/help/sign

 

下图为车道线检测、拟合的示例:

 

上图中,图(a)为输入图像,图(b)和图(c)分别是语义分割和车道线分割的结果。图(d)中红色的点是利用车道线上的点做[公式]运算只保留截距信息的点,绿色的点是路面上的点做[公式]运算只保留截距信息的点。图(e)用于寻找峰值,以得到不同车道线的截距。

3. 坡度场景下的补偿

 

以上的推理在平坦的路面上是合理的,但是若路面有起伏,且仍按照平坦路面进行建模,从输入图像转换为鸟瞰图后,在输入图像中平行的车道线在鸟瞰图中并不平行。因此有必要对有坡度的场景进行补偿。

 

根据逆透视变换(Inverse Perspective Mapping,IPM)的原理,若输入图像上的点(u, v)对应于世界坐标点(x,y,z),则有:

[公式]

 

其中[公式]相机坐标系下物体在z轴上的位置。由于[公式]未知,且在有起伏的路面上[公式],因此无法求出x和y的值。

 

假设此时路面是平坦的,设图像上的点(u,v)对应的世界坐标点为[公式],h为相机距地面的距离,则有
[公式]

 

根据上式,显然有:
[公式],[公式]

 

即:
[公式][公式]

 

当路面有起伏时,对路面的起伏程度进行建模:[公式],则上式可以表示为:

[公式]

[公式]

 

假设[公式]是线性函数,即[公式],则可以很容易得到:

[公式]

[公式]

[公式]

[公式]

[公式]

[公式]

 

由于[公式][公式]可以通过IPM的方法得到,因此只要知道[公式]的值,即可以求得[公式][公式]

 

可以将[公式][公式]的公式带入到[公式][公式]表达式中,通过[公式]得到最优的[公式]值。

4.工程实现

 

  • 在工程实现时,作者使用了Nelder-Mead simplex 算法优化损失函数,具体可参考论文《Proper initialization is crucial for the Nelder-Mead simplex search》。
  • 在实际应用中,车道线检测算法的输入是一串连续的图片,因此前一帧图片得到的车道线表达式的系数,可以作为拟合后一帧车道线的初始参数。

5.实验结果

 

作者使用Cityscape、Vistas、Apollo三个数据集进行训练,在Tusimple、Caltech上测试,在Intel Xeon W-2155CPU和Titian Xp GPU上能跑到11FPS。需要特别指出的是,训练和测试时用的不是同一个数据集,而且训练时同时使用了多个数据集进行训练,这也是本文的特色之一。

 

在Tusimple数据集上的测试结果如下:

 

上表中的“sc”表示使用了坡度补偿,“sq”表示在当前帧做车道线拟合时使用上一帧的拟合结果作为初始值。可以看到虽然算法没有使用Tusimple数据集做过训练,但仍然取得了不错的效果。

 

在Caltech数据集上的测试结果如下:

可以看到在Caltech数据集上,本文提出的方法取得了很好的结果。

6.总结

 

  • 针对车道线检测的场景,设计了跨异构数据集训练的卷积神经网络,用于车道线分割。
  • 在车道线拟合时,充分利用了车道线平行这一先验信息,并给出了拟合时的损失函数和优化方法。
  • 在对车道线拟合时,不仅仅考虑平坦道路场景,还对坡道场景做了补偿,提高拟合精度。

本文为粉丝投稿,仅用于学习交流!

以上均为【我爱计算机视觉公众号】整理,未经允许,不得转载。

转载请注明:《SUPER车道线检测:异构数据集训练、物理驱动拟合