Какова критика в отношении производительности HTM?

Я только недавно узнал о существовании этой иерархической временной памяти (HTM) . Я уже читал документ « Иерархическая временная память: концепции, теория и терминология» (Джеффа Хокинса и Дилипа Джорджа), который кажется довольно простым для понимания, но один красный флажок заключается в том, что документ не рецензируется и не пытается объяснить, почему он должен работать в деталях.

Я пытался осмотреть некоторые независимые источники. Я нашел несколько работ, которые сравнивают его эффективность с другими, но ни один не объясняет, почему он работает хорошо (или нет). Я заметил некоторые комментарии, утверждающие, что он был отклонен основным экспертом, но я не смог найти никакой реальной критики.

Какова критика в отношении производительности HTM? Поскольку HTM должен быть универсальным, любая критика, относящаяся к конкретной области, должна быть связана с более фундаментальной проблемой.

Кроме того, существует огромное количество данных для обучения, которых достаточно даже для нескольких месяцев тренировки. В принципе, любая критика в отношении размера или продолжительности обучения не имеет значения.

Критика Джеффа Хокинса хорошо обобщена в следующем эссе, взятом из http://www.theregister.co.uk/2014/03/29/hawkins_ai_feature/

Я сам считаю, что теория HTM обладает огромным потенциалом и станет основой истинного машинного интеллекта. Недавно IBM объявила о поддержке теории HTM и открыла Центр изучения коры головного мозга, включающий около ста членов.

http://www.technologyreview.com/news/536326/ibm-tests-mobile-computing-pioneers-controversial-brain-algorithms/

Как отмечается в эссе, Дилеп Джордж, соучредитель Numenta, создал стартап Vicarious, который привлек огромное количество средств, что свидетельствует о потенциале теории HTM.

Источник: Критика Джеффа Хокинса , The Register

Его умный, уверенный в средствах массовой информации подход, кажется, вызвал некоторое недовольство среди других ученых, которые правильно указывают, что Хокинс не публиковал широко, и он не изобрел много идей самостоятельно.

Нумена также имела проблемы, частично из-за своеобразного взгляда Хокинса на то, как работает мозг.

Например, в 2010 году соучредитель Numenta Дилип Джордж ушел, чтобы основать свою собственную компанию Vicarious, чтобы собрать некоторые из более низко висящих фруктов в многообещающей области искусственного интеллекта. Из того, что мы понимаем, это дружеское разделение возникло из-за разногласий между Джорджем и Хокинсом, поскольку Джордж стремился к более математическому подходу, а Хокинс - к более биологическому.

Хокинс также высказался за небольшую интригу со стороны интеллигенции: профессор психологии Нью-Йоркского университета Гэри Маркус отверг подход Нументы в статье из Нью-Йорка, озаглавленной Steamrolled Big Data.

Другие ученые El Reg, у которых брали интервью для этой статьи, не хотели, чтобы их цитировали, поскольку они чувствовали, что нехватка рецензируемых работ Хокинса в сочетании с его предприимчивой персоной снижает доверие ко всему его подходу.

Хокинс отмахивается от этой критики и считает, что они сводятся к разнице во мнениях между ним и интеллигенцией AI.

«Это сложные биологические системы, которые не были разработаны по математическим принципам [которые] очень трудно полностью формализовать», - сказал он нам.

Я изучал HTM некоторое время. Это круто. Поведение HTM по умолчанию - анализ временных данных. С другой стороны, в настоящее время вам нужна «причудливая» нейронная сеть (например, рекуррентная нейронная сеть) для моделирования проблемы «последовательность-последовательность» (например, чат-бот). Но HTM может быть естественным образом применен к таким проблемам!

Я планирую сделать с ним какое-то интерактивное телевидение с контрольными данными, передаваемыми вместе с визуальными данными, а затем ограничить визуальные данные контрольными данными (это возможно, но не ожидайте, что оно внезапно увидит новое видео, этого не происходит). Но, я должен сказать, что самая крутая вещь в этом - видео, которое вы преподаете ему, не выйдет при воспроизведении, скорее, оно покажет наиболее типичную версию, которая является его формой понимания, и фактически делает его действительно круто. Так что это похоже на мечту, которую вы получаете из этого.

Если вы используете HTM с текстом,

1. он хранит письма,
2. тогда он производит слоги.
3. затем он берет эти слоги и производит из них общность,
4. затем он образует слова из общих слогов,
5. затем он берет эти слова и определяет, что у них общего,
6. тогда это формирует возможно большие слова,
7. тогда он образует группы слов,
8. тогда он формирует группы предложений

Таким образом, каждый раз, когда он поднимается на новый уровень, он «забывает» немного больше, просто для того, чтобы, возможно, более прочно объединить группы. Эти более тесно укоренившиеся группы будут воспроизводиться немного иначе, чем запись, воспроизводимая в нем. И это воспроизведение не было замечено многими людьми.

Интересно, если он придумает свои собственные предложения полностью.

Это заставляет предложение расти немного медленнее, намного лучше. Это гораздо сложнее, чем не забыть ничего и просто воспроизвести запись ровно. Я бы сказал, что чем медленнее растет ваше предложение, тем лучше вы это делали, поэтому, если есть еще какой-то способ найти типичность, вам следует это сделать.