Вопросы с тегом «neural-networks»

Полностью связанные (по крайней мере слой за слоем с более чем 2 скрытыми слоями) сети Backprop являются универсальными учащимися. К сожалению, они часто не спешат учиться и имеют тенденцию переусердствовать или имеют неудобные обобщения. Из дурачения с этими сетями я заметил, что обрезка некоторых ребер (так что их вес равен …

29 machine-learning  network-topology  neural-networks 

Одним из гиперпараметров для сетей LSTM является температура. Что это такое?

25 machine-learning  neural-networks 

В чем разница между нейронной сетью, системой глубокого обучения и сетью глубокого убеждения? Насколько я помню, ваша базовая нейронная сеть представляет собой 3-х уровневую штуку, и я описал Deep Belief Systems как нейронные сети, расположенные друг над другом. До недавнего времени я не слышал о системах глубокого обучения, но я …

23 machine-learning  neural-networks  boltzmann-machine 

Моя цель состоит в том, чтобы решить следующую проблему, которую я описал ее вводом и выводом: Входные данные: Направленный ациклический граф с узлами, источниками и стоком ( ).граммграммGммmNNn111m > n ≥ 1м>N≥1m > n \geq 1 Выход: VC-размерность (или приближение к ней) для нейронной сети с топологией .граммграммG Больше подробностей …

19 algorithms  complexity-theory  machine-learning  neural-networks  vc-dimension 

Я только недавно узнал о существовании этой иерархической временной памяти (HTM) . Я уже читал документ « Иерархическая временная память: концепции, теория и терминология» (Джеффа Хокинса и Дилипа Джорджа), который кажется довольно простым для понимания, но один красный флажок заключается в том, что документ не рецензируется и не пытается объяснить, …

16 neural-networks  hierarchical-temporal-memory 

Вступление Первый шаг Я написал стандартную нейронную сеть с обратным распространением и, чтобы протестировать ее, решил создать карту XOR. Это сеть 2-2-1 (с функцией активации tanh) X1 M1 O1 X2 M2 B1 B2 В целях тестирования я вручную установил верхний средний нейрон (M1) в качестве логического элемента И, а нижний …

16 machine-learning  neural-networks 

Когда мы говорим, что искусственная нейронная сеть является многослойным персептроном ? И когда мы говорим, что искусственная нейронная сеть является многослойной ? Связан ли термин персептрон с правилом обучения для обновления весов? Или это связано с нейронными единицами?

13 neural-networks  perceptron 

Я использую нейронные сети для прогнозирования временных рядов. Вопрос, с которым я сейчас сталкиваюсь, заключается в том, как кодировать дату / время / серийный номер. каждого входа, установленного в качестве входа в нейронную сеть? Должен ли я использовать кодирование 1 из C (используется для категорий кодирования), как описано здесь ? …

12 machine-learning  artificial-intelligence  neural-networks 

На этом сайте я видел несколько вопросов о Deep Dream, однако ни один из них, по-видимому, фактически не говорит о том, что конкретно делает DeepDream. Насколько я понял, они, похоже, изменили целевую функцию, а также изменили обратное распространение, так что вместо обновления весов они обновляют входное изображение. Я интересно, если …

12 machine-learning  artificial-intelligence  neural-networks  image-processing  computer-vision 

Недавно я прочитал действительно интересную запись в блоге Google Research Blog, рассказывающую о нейронной сети. В основном они используют эту нейронную сеть для решения различных задач, таких как распознавание изображений. Они используют генетические алгоритмы, чтобы «развить» веса аксонов. В общем, моя идея заключается в следующем. Если бы я должен был …

10 machine-learning  np  neural-networks  p-vs-np  genetic-algorithms 

После прочтения достижений Google Deepmind в играх Atari , я пытаюсь понять q-learning и q-network, но я немного запутался. Путаница возникает в концепции дисконтного фактора. Краткое резюме того, что я понимаю. Глубокая сверточная нейронная сеть используется для оценки значения оптимального ожидаемого значения действия. Сеть должна минимизировать функцию потерь где равно …

10 artificial-intelligence  neural-networks  reinforcement-learning 

Доказано, что нейронные сети с рациональными весами обладают вычислительной мощностью универсальной машины Тьюринга, вычислимой по Тьюрингу с нейронными сетями . Из того, что я получаю, кажется, что использование вещественных весов дает еще большую вычислительную мощность, хотя я не уверен в этом. Однако существует ли какая-либо корреляция между вычислительной мощностью нейронной …

10 computability  neural-networks 

Есть ли какие-то преимущества наличия более 2 скрытых слоев в нейронной сети? Я видел некоторые места, которые рекомендуют это, другие доказывают, что нет никакого преимущества. Какой из них прав?

10 artificial-intelligence  neural-networks  neural-computing 

При обновлении весов нейронной сети с использованием алгоритма обратного распространения с импульсом, должна ли скорость обучения применяться и к члену импульса? Большая часть информации, которую я мог найти об использовании импульса, имеет уравнения, выглядящие примерно так: W′i=Wi−αΔWi+μΔWi−1Wя'знак равноWя-αΔWя+μΔWя-1W_{i}' = W_{i} - \alpha \Delta W_i + \mu \Delta W_{i-1} где - …

9 machine-learning  neural-networks 

Для многих проектов машинного обучения мы начинаем с классификатора k Nearest Neighbor. Это идеальный начальный классификатор, поскольку у нас обычно достаточно времени для расчета всех расстояний, а количество параметров ограничено (k, метрика расстояния и весовые коэффициенты). Однако это часто приводит к тому, что мы придерживаемся классификатора knn, поскольку в дальнейшем …

9 neural-networks  classification