图像处理 您所在的位置:网站首页 图像数字化会不会失真 图像处理

图像处理

2024-07-11 23:51| 来源: 网络整理| 查看: 265

训练过程--Batchsize(总之一般情况下batchsize能设多大就设多大)

穆清plus: 有答案了吗表情包

训练过程--Batchsize(总之一般情况下batchsize能设多大就设多大)

qq_45915612: 我的理解是在一阶优化器的时候用小的batchsize,二阶优化器的时候用大的batchsize。博主的意思应该是,batchsize小的时候,数据方差大,相对大的batchsize来说噪声大 梯度下降的波动大,在一阶优化器中还是可以接受的,甚至这些波动是让网络模型跳出局部最优点的一个闪光点,但是如果使用二阶优化器的话,梯度下降的波动会更剧烈(一顿乱跳,跳出了局部最优点,也跳过了全局最优点),就会比一阶更不稳定,loss可能会直接炸了。 当然,这是我很粗浅的理解,不一定对。

训练过程--Batchsize(总之一般情况下batchsize能设多大就设多大)

qq_45915612: 我想到的是不同的batchsize结果数据保存下来,再画图(我的理解是每次训练完一个网络只能设置一个batchsize,所以要等不同的结果出来了才能画在一张图上)

常用度量--MAE(平均绝对误差)和RMSE(均方根误差)

whitenightwu: 都是相对的。一般是与应用的benchmark相比,才有实际意义。

深度学习基础--卷积--加速的卷积运算

好き: 动不动就要加几句英文,而且都是没必要的,你专业术语弄成英文也就算了,你咋不全用英文写呢



【本文地址】

公司简介

联系我们

今日新闻

    推荐新闻

    专题文章
      CopyRight 2018-2019 实验室设备网 版权所有