Почему веса нейронных сетей инициализируются случайными числами?

Почему начальные веса нейронных сетей инициализируются как случайные числа? Я где-то читал, что это делается для того, чтобы «нарушить симметрию», и это ускоряет обучение нейронной сети. Как нарушение симметрии делает обучение быстрее?

Разве инициализация весов в 0 не будет лучшей идеей? Таким образом, веса смогут быстрее найти свои значения (положительные или отрицательные)?

Есть ли какая-то другая основная философия, стоящая за рандомизацией весов, кроме надежды на то, что они будут близки к оптимальным значениям при инициализации?

Основная интуиция, стоящая за инициализацией слоев веса в маленькие (и разные) значения, заключается просто в том, что смещение системы нарушается, и значения веса могут перемещаться и расходиться, и расходиться в разные значения.

Более конкретно, вы, вероятно, захотите, чтобы ваши начальные веса были различны и имели «небольшой разрыв» между ними, этот «разрыв» расширяется по мере продвижения и заставляет веса быть немного больше на каждой итерации, и это помогает сеть сходится быстрее, т.е. процесс обучения ускоряется.

Если вместо этого вы будете иметь все свои веса до некоторой постоянной величины, каждый вес будет обновляться с очень медленной (~ фиксированной) скоростью, и это не очень поможет, особенно если начальные значения «очень далеки» от конечных значений.

Надеюсь, что это помогает, весело учиться :)