batchsize
mlp结构与学习率与batchsize探索
batchsize与学习率 5x5x5,lr=0.001,batchsize=1 完美收敛 总权重数为 25+55+55+51=65 5x5x5,lr=0.03,batchsize=30 同样收敛 5x5x5,lr=0.01,batchsize=30,收敛的非常慢接近不收敛 结论,若在小batchs ......
batchsize、iteration、epoch之间的关系
有的时候总是会弄错batchsize、iteration、epoch之间的关系,现在终于明白了。 1、batchsize是批次大小,假如取batchsize=24,则表示每次训练时在训练集中取24个训练样本进行训练。 2、iteration是迭代次数,1个iteration就等于一次使用24(bat ......