Каковы недостатки в структуре AI Джеффа Хокинса?


19

В 2004 году Джефф Хокинс , изобретатель «пальмового пилота», опубликовал очень интересную книгу « Об интеллекте» , в которой он подробно описывает теорию работы неокортекса человека.

Эта теория называется каркасом Memory-Prediction и имеет некоторые поразительные особенности, например, не только восходящая (обратная связь), но и нисходящая обработка информации и возможность делать одновременные, но дискретные предсказания различных будущих сценариев (как описано в этой статье ).

Перспектива фреймворка Memory-Prediction - неконтролируемая генерация стабильных высокоуровневых представлений о будущих возможностях. Что-то, что могло бы революционизировать, вероятно, целую кучу областей исследований ИИ.

Хокинс основал компанию и приступил к реализации своих идей. К сожалению, более десяти лет спустя обещание его идей все еще не выполнено. Пока что реализация используется только для обнаружения аномалий, что является своего рода противоположностью того, что вы действительно хотите сделать. Вместо того, чтобы извлекать понимание, вы извлекаете случаи, которые ваша искусственная кора не понимает.

Мой вопрос заключается в том, каким образом рамки Хокинса терпят неудачу. Каковы конкретные или концептуальные проблемы, которые до сих пор мешают его теории работать на практике?

Ответы:


11

Короткий ответ заключается в том, что концепция Хокинса до сих пор не реализована широко доступным способом, особенно необходимыми частями, связанными с прогнозированием.

Длинный ответ заключается в том, что я прочитал книгу Хокинса несколько лет назад и был взволнован возможностями Иерархической Временной Памяти (HTM). Я до сих пор, несмотря на то, что у меня есть несколько оговорок о некоторых его философских размышлениях о значениях сознания, свободной воли и других подобных темах. Я не буду подробно останавливаться на этих опасениях, потому что они не имеют отношения к основной, подавляющей причине, почему сети HTM не достигли такого успеха, как ожидалось до настоящего времени: насколько мне известно, Нумента реализовал только усеченную версию своего видения. Они исключили большую часть архитектуры прогнозирования, которая играет столь важную роль в теориях Хокинса. Как сказал Герод М. Бонхофф в отличной диссертации 1 о HTM,

Самое важное решение, принятое Numenta, заключалось в том, чтобы исключить обратную связь внутри иерархии и вместо этого выбрать моделирование этой теоретической концепции, используя только алгоритмы объединения данных для взвешивания. Это решение сразу вызывает подозрение и нарушает ключевые концепции HTM. Обратная связь, настаивает Хокинс, жизненно важна для корковой функции и занимает центральное место в его теории. Тем не менее, Numenta утверждает, что большинство проблем, связанных с HTM, могут быть решены с помощью их реализации и собственных алгоритмов объединения ».

Я все еще изучаю веревки в этой области и не могу сказать, отклонил ли Numenta этот подход в пользу полной реализации идей Хокинса, особенно крайне важной архитектуры прогнозирования. Даже если бы они имели, это решение дизайна, вероятно, задержало принятие многих лет. Это не критика как таковая; возможно, вычислительные затраты на отслеживание значений прогноза и их обновление на лету были слишком большими, чтобы нести их в то время, помимо обычных затрат на обработку нейронных сетей, не оставляя им другого пути, кроме как попробовать полумеры, такие как их собственное объединение в пулы механизмы. Тем не менее, все лучшие исследовательские работы, которые я читал по этой теме с тех пор, решили переопределить алгоритмы, а не полагаться на платформу Numenta, как правило, из-за отсутствующих функций прогнозирования.Технический отчет Малтони для Лаборатории биометрических систем Болонского университета 2 . Однако во всех этих случаях нет легкодоступного программного обеспечения для немедленного использования их вариантов HTM (насколько я знаю). Суть всего этого заключается в том, что, как и в известной лозунге Г. К. Честертона о христианстве, «HTM не были испытаны и признаны неуместными; их нашли трудными и оставленными непроверенными». Поскольку Нумена не учел шаги прогнозирования, я предполагаю, что они будут главными камнями преткновения, ожидающими любого, кто хочет закодировать полное видение Хокинса того, каким должен быть HTM.

1 Бонхофф, Герод М., 2008, Использование иерархической временной памяти для обнаружения аномальной сетевой активности. Представлено в марте 2008 года в Технологическом институте ВВС, на базе ВВС Райт-Паттерсон, штат Огайо.

2 Maltoni, Davide, 2011, Распознавание образов по иерархической временной памяти. Технический отчет DEIS опубликован 13 апреля 2011 г. Лаборатория биометрических систем Болонского университета: Болонья, Италия.


1
Отличный ответ! Я хочу добавить, что, по-видимому, IBM сейчас дает ему шанс: technologyreview.com/s/536326/…
BlindKungFuMaster

1

10 лет к производству готовы?

Давайте рассмотрим это в перспективе. Перцептрон был представлен в 1957 году. На самом деле он даже не начал цвести как полезная модель до выпуска книг PDP в 1986 году. Для тех, кто ведет счет: 29 лет.

Из книг по PDP мы не видели, чтобы это разрабатывалось как полезные глубокие сети до последнего десятилетия. Если вы возьмете задачу по распознаванию кошек Эндрю Нг и Джеффа Дина как событие, определяющее глубокую сеть, то это 2012 год. Возможно, прошло более 25 лет с начала производства.

https://en.wikipedia.org/wiki/Timeline_of_machine_learning


Это не ответ на вопрос. Кроме того, у нас уже есть компьютеры, которые достаточно быстры для некоторых впечатляющих достижений ИИ. Но эти достижения не происходят в HTM.
BlindKungFuMaster
Используя наш сайт, вы подтверждаете, что прочитали и поняли нашу Политику в отношении файлов cookie и Политику конфиденциальности.
Licensed under cc by-sa 3.0 with attribution required.