得分函数

W:权重参数,对结果起着决定性的影响因素,权重的大小指的是这个像素的影响程度的大小,权重的正负表示对结果起着促进作用还是抑制作用
b:偏置参数,对结果进行微调操作

W矩阵是优化得来的
损失函数


- 这个损失函数是大于0的,数值越大表明我们求得的权重矩阵越不好,在计算损失函数之前我们知道我们的输入是什么(有标签),比如我们输入的是猫,那么猫的那一维就是正确的得分,我们希望它比其它的维度的值要大
- sj代表错误类别的得分(比如猫作为输入时,乘以权重矩阵后车的那一维的得分),syi代表正确类别的得分
- 1表示容忍值,比如猫和车的得分过于接近这种情况下我们得到的损失是0,没有损失,这显然是我们不能容忍的,因为这样会导致我们将猫和汽车归为一类,因此我们得有一个容忍值,这样保证了当正确的数值要比错误的数值大多少我们才能认为是没有损失的。比如是这里是1,表明了正确的得分要比错误的得分大1,我们才能得到一个比1大的负数,导致结果是0,从而没有损失