Что такое глубокая нейронная сеть?


10

Какое определение для глубокой нейронной сети? Почему они так популярны или важны?


Ответы:


12

Глубокая нейронная сеть (DNN) - это не что иное, как нейронная сеть, которая имеет несколько уровней, где множество может быть субъективным.

ИМХО, любая сеть, которая имеет 6 или 7 или более уровней, считается глубокой. Таким образом, вышесказанное сформирует очень простое определение глубокой сети.


И глубина 6 или 7, вероятно, отчасти является функцией текущих вычислительных ограничений (время и пространство), так что хорошо бы отметить, что это не определенное количество слоев.
DukeZhou

5

Глубокие сети имеют два основных отличия от «обычных» сетей.

Во-первых, вычислительная мощность и наборы данных для обучения значительно выросли, а это означает, что практично запускать большие сети и иметь статистическую достоверность (то есть у нас достаточно обучающих примеров, которые мы не просто столкнемся с перебором проблем с более крупными сетями).

Во-вторых, обратное распространение ограничено, чем больше у вас слоев; каждый слой представляет градиент ошибки, и к тому времени, когда один из них имеет глубину около шести слоев, не остается большой ошибки для изменения весов нейронов. Но можно разумно ожидать, что более ранние нейроны будут более важными, чем более поздние нейроны, поскольку они представляют «концепции», которые ближе к исходным данным.

Новые методики обучения обходят эту проблему, как правило, путем необученного обучения на основе исходных данных, создавая «концепции» более высокого уровня, которые затем полезны в качестве входных данных для контролируемого обучения.

(Например, рассмотрим проблему определения того, содержит ли изображение кошку из пикселей. Ранние слои сети должны выполнять такие вещи, как обнаружение краев, которые можно ожидать, чтобы они были общими для всех изображений и в основном не зависели от того, что каждый пытается сделать с выходными слоями, таким образом также трудно тренироваться через сигналы «кошка-не-кошка» на много слоев вверх.


1

Общая структура искусственной нейронной сети

Входной слой + Скрытые слои + Выходной слой

Если в искусственной нейронной сети есть больше скрытых слоев, то нейронная сеть называется Deep Neural network. Сколько именно составляют глубокую нейронную сеть, является предметом споров, но в целом, чем больше скрытых слоев, тем глубже нейронная сеть.

В связи с тем, что они так популярны или важны, многие проблемы, такие как обнаружение объектов, классификация, распознавание лиц, распознавание речи, были решены с появлением глубоких нейронных сетей. Не будет преувеличением сказать, что производительность глубоких нейронных сетей пересекала даже производительность человека во многих из вышеупомянутых задач. Это означает, что в настоящее время компьютер является лучшим для решения вышеуказанных задач, чем люди. Все вышеперечисленные проблемы лежали в области исследований почти 5 десятилетий. Все они были решены до совершенства только за последние 4,5 года только благодаря успеху глубоких нейронных сетей. Вот почему они очень популярны и важны. Я упомянул очень мало проблем, над которыми я работал, есть много похожих задач, которые глубокие нейронные сети легко решали в последнее десятилетие.

И в данный момент многие люди по всему миру работают над решением бесчисленных приложений с использованием глубоких нейронных сетей.

Используя наш сайт, вы подтверждаете, что прочитали и поняли нашу Политику в отношении файлов cookie и Политику конфиденциальности.
Licensed under cc by-sa 3.0 with attribution required.