Какое значение имеет AIXI для текущих исследований искусственного интеллекта?

Из Википедии:

AIXI ['ai̯k͡siː] - это теоретический математический формализм для искусственного общего интеллекта. Он сочетает в себе индукцию Соломонова с последовательной теорией решений. AIXI был впервые предложен Маркусом Хаттером в 2000 году [1], а приведенные ниже результаты доказаны в книге Хаттера «Универсальный искусственный интеллект» 2005 года. [2]

Хотя и не вычислимы, возможны приближения, такие как AIXItl . Поиск приближений к AIXI может быть объективным способом решения AI.

Является ли Aixi действительно большое дело в области искусственного общего исследования интеллекта? Можно ли считать это центральной концепцией для области? Если так, то почему у нас нет больше публикаций на эту тему (или, может быть, у нас есть, и я не знаю о них)?

«Современные исследования в области искусственного интеллекта» - довольно широкое поле. С того места, где я сижу, в основном в сфере CS, люди сосредоточены на узком интеллекте, который может выполнять экономически значимую работу по узким задачам. (То есть, прогнозирование, когда компоненты выйдут из строя, прогнозирование того, на какую рекламу будет нажимать пользователь, и т. Д.)

Для такого рода инструментов общность формализма, подобного AIXI, является слабостью, а не силой. Вам не нужно брать ИИ, который теоретически может вычислить что-либо, а затем медленно обучать его, чтобы сосредоточиться на том, что вы хотите, тогда как вы могли бы просто сформировать инструмент, который является зеркалом вашей задачи.

Я не так хорошо знаком с самими исследованиями AGI, но у меня сложилось впечатление, что AIXI, в некоторой степени, самая простая идея, которая может сработать - она ​​берет на себя всю сложную часть и подталкивает ее к вычислениям, так что это просто инженерная задача .» (Это немного о «поиске приближений к AIXI».) Тогда возникает вопрос, начинается ли с AIXI и пытается приблизиться к более или менее плодотворному пути исследования, чем начинать с чего-то небольшого и функционального и пытаться создать?

У меня сложилось впечатление, что последний встречается гораздо чаще, но, опять же, я вижу только маленький уголок этого пространства.

Действительно ли AIXI имеет большое значение для исследований в области искусственного интеллекта?

Да, это большой теоретический вклад в AGI. AFAIK, это самая серьезная попытка построить теоретическую основу или основу для AGI. Подобные работы - это машины Шмидхубера Gödel Machines и архитектура SOAR .

AIXI - это абстрактная и неантропоморфная структура для AGI, которая строится поверх области обучения подкрепления, без нескольких обычных предположений (например, без предположений Маркова и эргодичности , что гарантирует, что агент может легко оправиться от любых ошибок, которые он сделал в прошлое). Несмотря на то, что некоторые свойства оптимальности AIXI были доказаны, он (Тьюринга) невычислим (он не может быть запущен на компьютере) и поэтому имеет очень ограниченную практическую полезность. Тем не менее в книге Хаттера « Универсальный искусственный интеллект: последовательные решения на основе алгоритмической вероятности»(2005), где строго доказано несколько свойств AIXI, также описывается вычислимая, но неразрешимая версия AIXI, AIXItl. Кроме того, в статье Монте - Карло Aixi Приближение (2009), Джоэл Венесс и др., Вычислимая и послушной приближение Aixi вводится. Таким образом, были предприняты некоторые попытки сделать AIXI практически полезным.

Статья Что такое AIXI? - Введение в общее обучение в области подкрепления (2015 г.), написанное Яном Лейком, одним из участников разработки и развития инфраструктуры AIXI, представляет собой краткое введение в агент AIXI. См. Также «Архитектура AIXI» в Стэнфордской энциклопедии философии, где возможно более мягкое введение в AIXI.

Может ли это считаться центральной концепцией для области?

Да, внедрение AIXI и связанных с ним исследований способствовало развитию области AGI. Было несколько обсуждений и опубликованных работ, после того как Хаттер представил его в 2000 году в статье «Теория универсального искусственного интеллекта, основанной на алгоритмической сложности» .

См., Например, раздел 7 «Примеры суперинтеллекта», статьи Романа В. Ямпольского и Джошуа Фокса « Искусственный общий интеллект и модель человеческого разума» (2012). См. Также https://wiki.lesswrong.com/wiki/AIXI, в котором содержится обсуждение нескольких проблем, связанных с AIXI, которые необходимо решить или, возможно, избежать в будущих структурах AGI. Кроме того, см. Также эту и эту статьи.

Если так, то почему у нас нет больше публикаций на эту тему (или, может быть, у нас есть, и я не знаю о них)?

Было несколько публикаций, в основном Маркуса Хаттера и связанных с ним исследователей. Вы можете увидеть публикации Маркуса Хаттера на следующей веб-странице: http://www.hutter1.net/official/publ.htm .

Если вы заинтересованы в содействии этой теории, есть несколько способов. Если вы математически хорошо образованы, вы можете попытаться решить некоторые из проблем, описанных здесь (которые также упоминаются в упомянутой выше книге Хаттера за 2005 год). Кроме того, вы также можете внести свой вклад в новые приближения или улучшения существующих приближений агента AIXI. Наконец, вы можете создать свою новую инфраструктуру AGI, избегая проблем, связанных с инфраструктурой AIXI. Смотрите также проекты, продвигаемые Хаттером . Может быть хорошей идеей также принять во внимание, например, Gödel Machines и связанную с этим работу, прежде чем пытаться представить новую структуру (если вы способны на это).

Я думаю, что эта теория не привлекла больше людей, вероятно, потому что она очень техническая и математическая (поэтому ее не очень легко понять, если у вас нет очень прочного опыта в обучении подкреплению, теории вероятностей и т. Д.). Я также думаю, что большинство людей (в сообществе AI) не интересуются теориями, но они в основном руководствуются практическими и полезными результатами.

AIXI - это действительно концептуальная основа. Вся тяжелая работа по фактическому сжатию окружающей среды все еще остается.

Чтобы продолжить обсуждение вопроса, поднятого в ответе Мэтью Грейвса: учитывая наш текущий ограниченный уровень способности представлять сложные среды, мне кажется, что не имеет большого практического значения, начинаете ли вы с AIXI как определения «вершины» система и работа вниз (например, с помощью предположительно обобщенных методов сжатия) или начните с «дна» и попытайтесь решить проблемы в одном домене с помощью специфичных для домена методов, которые (вы надеетесь) впоследствии могут быть абстрагированы для обеспечения междоменного сжатия.