您的当前位置:首页正文

人脸识别loss

2024-11-10 来源:个人技术集锦

loss的变化

Y = wx + b

softmax loss

  • 而这种方式主要考虑样本是否能正确分类,缺乏类内和类间距离的约束。

Center Loss

  • Softmax Loss学习到的特征分辨性不够强,Center Loss考虑到了使得类内紧凑,却不能使类间可分,而Contrastive Loss、Triplet Loss增加了时间上的消耗

L-Softmax

A-Softmax Loss(SphereFace)

由于cosθ在[ 0 , π ] 上单调递减,因此θ 有上界,为了使得这个函数随角度单调递减,作者构造一个函数去代替cosθ。

Cosine Margin Loss(CosineFace)


与SphereFace相比,CosineFace最明显的变化就是将cos(t⋅θ)中的t提出来变成cos(θ)-t
优点:更易实现,计算简便、更易收敛(没有softmax的约束)

Angular Margin Loss(ArcFace)


对于cos(θ+t)可以得到cos(θ+t)=cosθcost−sinθsint,对比CosineFace的cos(θ)−t,ArcFace中的cos(θ+t)不仅形式简单,并且还动态依赖于sinθ,使得网络能够学习到更多的角度特性。

这一过程与“从hardmax的 x到softmax的 ex非线性放大了输出,减小训练难度,使分类问题更容易收敛”正好相反,从 cos(θ+t) 到cos(mθ)] 、 cos(mθ)+ t或cos(mθ)- t,都非线性减小了输出,增加训练难度,使训练得到的特征映射更好

还有一个知乎来着忘记在哪里了
参考链接:

Top