从L1 loss到EIoU loss,目标检测边框回归的损失函数一览

您所在的位置:网站首页 对角边框昵称 从L1 loss到EIoU loss,目标检测边框回归的损失函数一览

从L1 loss到EIoU loss,目标检测边框回归的损失函数一览

2024-07-09 19:29:41| 来源: 网络整理| 查看: 265

图片

 

本文转载自知乎,已获作者授权转载。

链接:https://zhuanlan.zhihu.com/p/342991797

 

目标检测任务的损失函数由Classificition Loss和BBox Regeression Loss两部分构成。本文介绍目标检测任务中近几年来Bounding Box Regression Loss Function的演进过程。

其演进路线是 Smooth L1 Loss 图片 IoU Loss 图片 GIoU Loss 图片 DIoU Loss 图片 CIoU Loss 图片 EIoU Loss,本文按照此路线进行讲解。

 

L1/L2 Loss   L1/L2 Loss 的定义

此前回归一般采用 图片 Loss,定义如下:

图片 L1/L2 Loss 的缺点

但是这两者存在一些缺点:

L1 Loss 对 x 的导数为常数,由于 x 代表真实值与预测值的差值,故在训练后期,x 很小时,如果学习率不变,损失函数会在稳定值附近波动,难以收敛到更高精度;

L2 Loss 在 x 值很大时,其导数非常大,故在训练初期不稳定。

 

Smooth L1 Loss   Smooth L1 Loss 的定义

针对 图片 Loss 存在的缺点,修正后得到 图片 [1]:

图片

图片 在 x 较小时为 L2 Loss,在 x 较大时为 L1 Loss,扬长避短。应用在目标检测的边框回归中,位置损失如下所示:

图片

其中 图片 表示 bbox 位置的真实值, 图片 表示 bbox 位置回归的预测值。

Smooth L1 Loss 的缺点

 

图片 在计算目标检测的 bbox loss时,都是独立的求出4个点的 loss,然后相加得到最终的 bbox loss。这种做法的默认4个点是相互独立的,与实际不符。举个例子,当(x, y)为右下角时,w h其实只能取0;

目标检测的评价 bbox 的指标是 IoU,IoU 与 图片 的变化不匹配。

 

IoU Loss   IoU Loss 的定义

针对 图片 Loss 的缺点,IoU Loss[2]如下:

图片

实现时甚至简化为:

图片

IoU 计算让 x, y, w, h 相互关联,同时具备了尺度不变性,克服了 图片 Loss 的缺点。

IoU Loss 的缺点

当然 IoU Loss 也并不完美:

当预测框和目标框不相交,即 IoU(bbox1, bbox2)=0 时,不能反映两个框距离的远近,此时损失函数不可导,IoU Loss 无法优化两个框不相交的情况。

假设预测框和目标框的大小都确定,只要两个框的相交值是确定的,其 IoU 值是相同时,IoU 值不能反映两个框是如何相交的,如图所示:

图片 灰色框为真实框,虚线框为预测框。这两者情况的IoU相同,但是这两个框的匹配状态不一样。我们认为右边框匹配的好一点,因为它匹配的角度更好。故下文定义了GIoU。   GIoU Loss   GIoU 的定义

承接上一小节提到的情况,IoU 不能区分一些相交的情况,故论文[3]提出GIoU作为度量指标。

图片

GIoU 的实现方式如上式,其中 C 为 A 和 B 的外接矩形。用 C 减去 A 和 B 的并集除以 C 得到一个数值,然后再用 A 和 B 的 IoU 减去这个数值即可得到 GIoU 的值。可以看出:

GIoU 取值范围为 [-1, 1],在两框重合时取最大值1,在两框无限远的时候取最小值-1;

与 IoU 只关注重叠区域不同,GIoU不仅关注重叠区域,还关注其他的非重合区域,能更好的反映两者的重合度。

  GIoU Loss 的定义

定义了 GIoU 之后,按照 IoU Loss 的思路定义 GIoU Loss:

图片

GIoU Loss 的缺点

当目标框完全包裹预测框的时候,IoU 和 GIoU 的值都一样,此时 GIoU 退化为 IoU, 无法区分其相对位置关系。

图片 灰色框为真实框,绿色为预测框,上图三种情况GIoU均相同,但是我们认为中间的预测框应该由于另外两个框。

 

DIoU Loss   DIoU 的定义

针对 IoU和GIoU 的缺点,论文[4]总结提出了边框回归的三个重要几何因素:重叠面积、中心点距离和长宽比,提出 DIoU和CIoU,本节先介绍 DIoU。

首先,论文[^ 4]总结了 IoU-based loss 的范式:

图片

图片 表示预测框与真实框的惩罚项,将惩罚项设置为:

图片

其中 图片 表示框的中心点, 图片 表示欧氏距离,c 表示最小外接矩形的对角线距离,故 DIoU 如下所示:

图片

DIoU 就是在 IoU 基础上加入中心点归一化距离,所以可以更好地表达两个框的距离。同时,文章利用 DIoU 距离,设计了 DIoU-nms。

DIoU Loss 的定义

根据范式,DIoU Loss:

图片

DIoU Loss 的缺点

边框回归的三个重要几何因素:重叠面积、中心点距离和长宽比,DIoU 没有包含长宽比因素。

 

CIoU Loss   CIoU 的定义

CIoU[^ 4] 在 DIoU 的基础上,增加了长宽比影响因子 图片 ,合并到惩罚项:

图片

其中 v 用于衡量长宽比的一致性, 图片 用于平衡 v 的值,设为:

图片 CIoU Loss 的定义

图片

v的导数:

图片

  CIoU Loss 的缺点

在CIoU的定义中,衡量长宽比的$v$过于复杂,从两个方面减缓了收敛速度:

长宽比不能取代单独的长宽,比如 图片 都会导致v=0;

从v的导数可以得到 图片 ,这说明 图片 和 图片 在优化中意义相反。

 

EIoU Loss   EIoU 的定义

论文[5]用 图片 取代图片 即可。

EIoU Loss的定义

图片

Focal-EIoU Loss的定义

focal loss可以理解为对损失加权,常见的分类focal loss为 图片 。本文首先尝试直接将EIoU带入,但是效果不好,最后得到:

图片   Conclusion   总的来看,我认为目标检测边框回归的损失函数设计应当遵循以下原则:

 

应该按照边框的物理含义定义边框间的距离,以设计损失函数。从 图片 到 图片 ,对边框间距离的物理描述愈发准确。

注意算法各个模块之间的配合,比如 DIoU 与 DIoU-nms 组合才能达到更好的效果。

 

参考资料:

[1]^Girshick R. Fast r-cnn[C]//Proceedings of the IEEE international conference on computer vision. 2015: 1440-1448.

[2]^Yu J, Jiang Y, Wang Z, et al. Unitbox: An advanced object detection network[C]//Proceedings of the 24th ACM international conference on Multimedia. 2016: 516-520.

[3]^Rezatofighi H, Tsoi N, Gwak J Y, et al. Generalized intersection over union: A metric and a loss for bounding box regression[C]//Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. 2019: 658-666.

[4]^Zheng Z, Wang P, Liu W, et al. Distance-IoU Loss: Faster and Better Learning for Bounding Box Regression[J]. arXiv preprint arXiv:1911.08287, 2019.

[5]^Focal and Efficient IOU Loss for Accurate Bounding Box Regression

END



【本文地址】

公司简介

联系我们

今日新闻


点击排行

实验室常用的仪器、试剂和
说到实验室常用到的东西,主要就分为仪器、试剂和耗
不用再找了,全球10大实验
01、赛默飞世尔科技(热电)Thermo Fisher Scientif
三代水柜的量产巅峰T-72坦
作者:寞寒最近,西边闹腾挺大,本来小寞以为忙完这
通风柜跟实验室通风系统有
说到通风柜跟实验室通风,不少人都纠结二者到底是不
集消毒杀菌、烘干收纳为一
厨房是家里细菌较多的地方,潮湿的环境、没有完全密
实验室设备之全钢实验台如
全钢实验台是实验室家具中较为重要的家具之一,很多

推荐新闻


图片新闻

实验室药品柜的特性有哪些
实验室药品柜是实验室家具的重要组成部分之一,主要
小学科学实验中有哪些教学
计算机 计算器 一般 打孔器 打气筒 仪器车 显微镜
实验室各种仪器原理动图讲
1.紫外分光光谱UV分析原理:吸收紫外光能量,引起分
高中化学常见仪器及实验装
1、可加热仪器:2、计量仪器:(1)仪器A的名称:量
微生物操作主要设备和器具
今天盘点一下微生物操作主要设备和器具,别嫌我啰嗦
浅谈通风柜使用基本常识
 众所周知,通风柜功能中最主要的就是排气功能。在

专题文章

    CopyRight 2018-2019 实验室设备网 版权所有 win10的实时保护怎么永久关闭