权重、偏置和参数初始化会怎样影响训练
把所有权重初始化成 0，模型直接学不动。初始化成太大的随机数，梯度爆炸。初始化是训练的起跑线，起跑线错了后面全白费。这篇讲清为什么初始化重要、常见方法怎么选。
Xavier
和「Xavier」相关的文章都收在这里，方便沿着同一个主题继续读下去。
标签归档
同一主题下的内容，会更容易看出思路是怎么慢慢长出来的。
全部文章
和「Xavier」相关的文章都收在这里，方便沿着同一个主题继续读下去。
同一主题下的内容，会更容易看出思路是怎么慢慢长出来的。
把所有权重初始化成 0，模型直接学不动。初始化成太大的随机数，梯度爆炸。初始化是训练的起跑线，起跑线错了后面全白费。这篇讲清为什么初始化重要、常见方法怎么选。