Какое значение имеют теоремы Геделя для исследования ИИ?

Примечание: мой опыт работы с теоремой Гёделя довольно ограничен: я читал Гёделя Эшера Баха; снял первую половину «Введение в теорему Годеля» (Питер Смит); и некоторые случайные вещи здесь и там в Интернете. То есть у меня только смутное понимание теории на высоком уровне.

По моему скромному мнению, теорема Гёделя о неполноте (и многие связанные с ней теоремы, такие как проблема Холтинга и теорема Лёбса) являются одними из наиболее важных теоретических открытий.

Однако немного обидно наблюдать, что не так много (по крайней мере, насколько мне известно) теоретических применений теорем, вероятно, отчасти из-за 1. тупой природы доказательства 2. сильных философских следствий, которыми люди не являются готовы легко совершить навстречу.

Несмотря на это, все еще предпринимаются попытки применить теоремы в контексте философии разума / ИИ. С верхней части моей головы:

Аргумент Лукаса-Пенроуза : который утверждает, что разум не реализован в формальной системе (как в компьютере). (Однако не очень строгое доказательство)

Очевидно, что некоторые исследования в MIRI используют Löbs Thereom, хотя единственный известный мне пример - это сотрудничество с агентом Löbian.

Все это действительно круто, но есть ли еще примеры? Особенно те, которые действительно серьезно рассматриваются академическим сообществом.

(ср. Каковы философские следствия первой теоремы Гёделя о неполноте? на SE)

Определенно есть много последствий для ИИ, в том числе:

1. Логический вывод первого порядка является полуразрешимым. Это большое разочарование для всех людей, которые хотели использовать логику в качестве основного инструмента ИИ.

2. Базовая эквивалентность двух логических операторов первого порядка неразрешима, что имеет значение для систем и баз данных, основанных на знаниях. Например, из-за этого оптимизация запросов к базе данных является неразрешимой проблемой.

3. Эквивалентность двух контекстно-свободных грамматик неразрешима, что является проблемой для формального лингвистического подхода к языковой обработке

4. При планировании в ИИ, просто найти выполнимый план неразрешимо для некоторых языков планирования, которые необходимы на практике.

5. При выполнении автоматической генерации программ - мы сталкиваемся с кучей результатов о разрешимости, поскольку любой разумный язык программирования так же силен, как машина Тьюринга.

6. Наконец, все нетривиальные вопросы о выразительной вычислительной парадигме, такие как сети или автоматы, неразрешимы.

Я написал обширную статью об этом около двадцати лет назад, которая была опубликована в журнале « Инженерные приложения искусственного интеллекта» 12 (1999) 655–659 . Он довольно технический, и вы можете прочитать его полностью на моем личном сайте, но вот вывод:

Выше было показано, что в теореме Гёделя имеется бесконечно много доказательств, в отличие от единственной, которая использовалась до сих пор в дискуссиях по искусственному интеллекту. Хотя все конструкции, которые были фактически раскрыты, могут быть имитированы компьютером, очевидно, что есть конструкции, которые еще не были раскрыты. Наш анализ показал, что могут существовать конструкции, которые могут быть обнаружены только человеком. Это небольшое и определенно недоказуемое «возможно», которое зависит от пределов человеческого воображения.

Следовательно, люди, отстаивающие математическую эквивалентность людей и машин, в конечном итоге должны полагаться на свою веру в ограниченный ум, что подразумевает, что их заключение содержится в их предположении. С другой стороны, люди, отстаивающие превосходство людей, должны исходить из этого превосходства в своих математических аргументах, в конечном итоге получая только те выводы, которые уже присутствовали в их системе рассуждений с самого начала.

Таким образом, невозможно привести (мета) математически обоснованные аргументы, касающиеся отношений между человеческим разумом и машиной Тьюринга, не делая предположения о человеческом уме, которые в то же время являются заключением аргумента. Поэтому дело неразрешимо.

Отказ от ответственности: я покинул академию с тех пор, поэтому я не знаю современного мышления.

Я нашел эту статью математика и философа Соломона Фефермана о лекции Гиббса Геделя 1951 года о некоторых философских последствиях теорем о неполноте , читая следующую статью в Википедии

Философия искусственного интеллекта ,

чье резюме дает нам (как и следовало ожидать) представление высокого уровня о том, что обсуждается в том же:

Это критический анализ первой части лекции Гиббса Геделя 1951 года о некоторых философских следствиях теорем о неполноте.

Дискуссия Геделя оформлена с точки зрения различия между объективной математикой и субъективной математикой , согласно которой первое состоит из истин математики в абсолютном смысле, а второе состоит из всех доказуемых человеком истин.

Вопрос в том, совпадают ли они; если они это сделают, никакая формальная аксиоматическая система (или машина Тьюринга ) не сможет понять математизирующих возможностей человеческого мышления, а если нет, то возникнут абсолютно неразрешимые математические проблемы диофантовой формы.

Либо ... человеческий разум ... бесконечно превосходит возможности любой конечной машины, либо существуют абсолютно неразрешимые диофантовы проблемы.

что может представлять интерес, по крайней мере с философской точки зрения, для исследования в области ИИ. Боюсь, эта статья может быть похожа на статью, на которую вы ссылаетесь, касающуюся философских «попыток» или аргументов Лукаса и Пенроуза.