损失函数综述

https://zhuanlan.zhihu.com/p/36503849

MSE

https://zhuanlan.zhihu.com/p/84431551

MVUE

交叉熵

F.log_softmax， nn.Softmax，F.cross_entropy和torch.nn.CrossEntropyLoss()的关系

  • Logits：神经网络最后一层的原始输出，未经过任何激活函数处理。

交叉熵损失函数（Cross Entropy Loss）：图示+公式+代码 (vectorexplore.com)
交叉熵损失函数（cross-entropy loss function）原理及Pytorch代码简介_交叉熵损失函数公式-CSDN博客
Pytorch中的CrossEntropyLoss()函数案例解读和结合one-hot编码计算Loss_crossentropyloss 热编码-CSDN博客
Pytorch里的CrossEntropyLoss详解 - marsggbo - 博客园 (cnblogs.com)
机器学习:手撕 cross-entropy 损失函数 - 知乎 (zhihu.com)

对抗损失

NCE

交叉验证