Чем глубокая нейронная сеть отличается от других нейронных сетей?

Как нейронная сеть, имеющая «глубокое» прилагательное, на самом деле отличается от других подобных сетей?

— kenorb
источник

Разница в основном в количестве слоев.

Долгое время считалось, что «1-2 скрытых слоя достаточно для большинства задач», и было нецелесообразно использовать что-то большее, потому что обучение нейронных сетей может быть очень сложным в вычислительном отношении.

В настоящее время компьютеры способны на гораздо большее, поэтому люди начали использовать сети с большим количеством уровней и обнаружили, что они очень хорошо работают для некоторых задач.

Слово «глубокий» существует просто для того, чтобы отличить эти сети от традиционных, «более мелких».

— Расстроенный скрытник
источник

Если я правильно понял «глубокое обучение», есть некоторые параметры (веса), которые связаны между собой, тем самым уменьшая пространство параметров. Нормальные NN не могут этого сделать.

— Рафаэль

@Raphael, re: some parameters (weights) that are tied together, thus reducing the parameter spaceВы имеете в виду Сверточные Нейронные Сети?

— publicgk

@publicgk Это то, что я видел, да.

— Рафаэль

Я всегда слышал, что «глубокое обучение» - это когда вы используете очень большие наборы данных. Является ли это ошибкой, и размер данных не имеет значения, или люди связывают глубокое обучение с огромными наборами данных, потому что это то, что требуется для обучения.

— Стивен Сагона

Я хотел бы отметить, что эта «вера» в то, что нейронная сеть с одним скрытым слоем может вычислять любую функцию, на самом деле доказана (см., Например, neuralnetworksanddeeplearning.com/chap4.html ). Я думаю, что вы должны были объяснить немного больше, почему более 1 скрытого слоя тогда «удобно».

— nbro

Глубокая нейронная сеть - это просто (прямая) нейронная сеть со многими слоями.

Тем не менее, сети с глубокими убеждениями, сети с глубоким Больцманом и т. Д. Не рассматриваются (спорные) глубокие нейронные сети, поскольку их топология отличается (они имеют ненаправленные сети в своей топологии).

Смотрите также это: /stats//a/59854/84191 .

— Dawny33
источник