Что имел в виду Тьюринг, когда говорил, что «машины не могут вызывать сюрпризов», из-за ошибки?

29

Я встретил ниже заявление Алана М. Тьюринга здесь :

«Я считаю, что представление о том, что машины не могут вызывать сюрпризов, связано с ошибкой, которой особенно подвержены философы и математики. Это предположение о том, что как только факт представляется разуму, все последствия этого факта возникают разум одновременно с ним. Это очень полезное предположение при многих обстоятельствах, но слишком легко забыть, что оно ложно ».

Я не носитель английского языка. Может ли кто-нибудь объяснить это простым английским языком?

turing-machines computability computation-models

— smwikipedia
источник

2

возможно, он лучше подходит для философского портала, а не для таких дисциплин, как CS

— Булат,

3

@Bulat Я собирался сказать то же самое - и перенаправить на изучающих английский язык - но потом я понял, что есть некоторый связанный с CS контент, который можно объяснить в ответе, который, вероятно, не будет подхвачен в другие части биржи стека.

— Дэвид Ричерби

7

Хорошим примером является итерация преобразования z: = z² + c , где z и c - комплексные числа. Что произойдет, если я возьму любую начальную точку на плоскости z и итерации, число уйдет в бесконечность или нет? Обычный человек сказал бы: «Да, это даст вам две области или, может быть, еще несколько, где значение стремится к нулю, а для остальных - к бесконечности». Относительно неудивительно. Затем приходит Мандельброт и фактически наносит на карту области на плоскости, определенной этой простой «машиной». В результате печати на матричном принтере эта простая «машина» доказывает ... странность.

— Дэвид Тонхофер

Facebook и другие социальные сети являются отличным примером этого ... Многие последствия их алгоритмов - это не то, чего ожидали создатели (или кто-либо на самом деле).

— Проснулся

Довольно причудливый человек однажды сослался на это, используя метафору огня: «Чем больше вы строите свой костер знаний, тем больше тьмы раскрывается вашему испуганному глазу»

— JacobIRR

30

Математики и философы часто предполагают, что машины (а здесь он, вероятно, означает «компьютеры») не могут нас удивить. Это потому, что они предполагают, что как только мы узнаем какой-то факт, мы сразу понимаем все последствия этого факта. Это часто полезное предположение, но легко забыть, что это неверно.

Он говорит, что системы с простыми, конечными описаниями (например, машины Тьюринга) могут демонстрировать очень сложное поведение, и это удивляет некоторых людей. Мы можем легко понять концепцию машин Тьюринга, но затем мы понимаем, что они имеют сложные последствия, такие как неразрешимость проблемы остановки и так далее. Технический термин здесь таков: «Знание не закрыто за вычетом». То есть, мы можем знать некоторые факты $A$ , но не знаю , $B$ , даже если подразумевает . $A$ $B$

Честно говоря, я не уверен, что аргумент Тьюринга очень хорош. Возможно, у меня есть преимущество писать почти 70 лет после Тьюринга, и я понимаю, что типичный математик знает гораздо больше о математической логике, чем во времена Тьюринга. Но мне кажется, что математики в основном хорошо знакомы с идеей простых систем, имеющих сложное поведение. Например, каждый математик знает определение группы , которая состоит всего из четырех простых аксиом. Но никто - сегодня или потом - не подумает: «Ага. Я знаю четыре аксиомы, поэтому я знаю каждый факт о группах». Точно так же аксиомы Пеано дают очень краткое описание натуральных чисел, но никто, кто их читает, не думает: «Хорошо, теперь я знаю каждую теорему о натуральных числах.

— Дэвид Ричерби
источник

22

Исторически в начале 20-го века была сильная академическая вера в «решение» математики. Например, программа Гильберта и « Математика Уайтхеда + Рассела» . Работа Годеля разрешила этот квест отрицательно, но я полагаю, что академическому сообществу потребовалось некоторое время, чтобы полностью принять это понятие; даже полностью признавая правильность Годеля, люди все равно будут помнить великие идеи Гильберта. Я думаю, что Тьюринг писал только через два десятилетия после того, как Годел обратился к своей аудитории с учетом этого контекста.

— BurnsBA

7

Я бы спросил, знает ли большинство математиков «гораздо больше о математической логике», чем Тьюринг. Но очевидно, что почти все современные люди имеют гораздо больше практического опыта того, что могут делать машины (и особенно компьютеры), чем он.

— алефзеро

4

@alephzero Это не то, что я сказал! Я сказал, что средний математик сегодня знает больше о математической логике, чем средний математик во времена Тьюринга.

— Дэвид Ричерби

14

Похоже, ваш аргумент не в том, что аргумент Тьюринга не хорош, а в том, что он не нужен или направлен на соломенного чучела. Я сильно подозреваю, что Тьюринг заставлял реальных людей приводить подобные аргументы ему, поэтому я не думаю, что он из ничего делает соломенного чучела. Как отмечает Дискретная ящерица в комментарии, Тьюринг только говорит, что определенный аргумент против машин, удивляющий нас, плох. Ваш ответ просто говорит, что этот аргумент плохой стал еще более очевидным с течением времени. Тем не менее, люди (хотя обычно не эксперты) все еще приводят аргументы в этом ключе сегодня.

— Дерек Элкинс

Это отсутствие эпистемического закрытия.

— Дэн Д.

19

Просто пример - учитывая правила игры в шахматы, каждый должен сразу определить лучшую стратегию игры в шахматы.

Конечно, это не работает. Даже люди не равны, и компьютеры могут превзойти нас из-за их лучших способностей делать выводы из фактов.

— Булат
источник

1

Не уверен, что это хороший пример. Люди же легко придумать шахматные стратегии, как только они правильно понять правила, и хотя эти стратегии, очевидно , недостатки и бесполезны против более опытных игроков и современных двигателей, они бы были достаточно хорош против ранних компьютерных движков.

— оставил около

1

Я хочу сказать, что не только люди разные, но и компьютеры разные, поэтому глупые компьютеры эпохи Тьюринга не означают, что они всегда будут глупыми. Возможно, вам нужно знать, что Тьюринг умер задолго до того, как компьютеры начали играть в шахматы.

— Булат

1

Я думаю, что это хороший пример и отражает суть параграфа Тьюринга.

— медь. Что

@leftaroundabout Итак ... шахматы - ничья при оптимальной игре или выигрыш белых или черных? Более конкретно: относительно недавнее открытие о том, что чрезвычайно длинные финальные игры могут привести к пересмотру правил розыгрыша в 50 ходов - такое открытие будет расцениваться как «сюрприз» в смысле цитаты

— Хаген фон Айцен

12

Это идея возникновения , когда сложное поведение возникает в результате взаимодействия относительно простых правил. Есть много примеров этого в природе, как указывает эта ссылка. Насекомые колонии, птичьи стаи, стаи рыб и, конечно же, сознание. В стае птиц или стае рыб каждый отдельный рой принимает решения только на основе окружающих их других, но когда вы объединяете кучу этих особей, соблюдая все эти правила, вы начинаете видеть более скоординированное поведение, чем вы ожидаете без плана более высокого уровня. Если вы заходите на Youtube и смотрите демонстрацию роботовВы видите, что они все избегают избивать друг друга и работают в унисон. Удивительно, но этого не нужно достигать, когда единый центральный компьютер координирует поведение каждого отдельного робота, но вместо этого его можно использовать с помощью ройной робототехники, где, как насекомые, птицы или рыбы, каждый робот принимает локальные решения, которые ведут на возникающую координацию.

Еще одна интересная демонстрация эмерджентного поведения - игра жизни Конвея . Правила игры предельно просты, но могут привести к очень увлекательным результатам.

Заманчивый аргумент против способности компьютеров получать человеческий интеллект состоит в том, чтобы сказать, что, поскольку они могут делать только то, для чего они запрограммированы, они должны демонстрировать только тот интеллект, которым мы их программируем. Если бы это было правдой, мы бы также не ожидали, что относительно простое поведение нейронов вызовет человеческий интеллект. Тем не менее, насколько мы можем судить, это так, и сознание является возникающим свойством нейронной обработки. Я уверен, что Тьюрингу хотелось бы увидеть, что стало возможным сегодня с использованием искусственных нейронных сетей

— mowwwalker
источник

2

Спасибо за упоминание о появлении. Вы добавляете некоторый оптимизм в мой пессимизм в отношении ИИ с помощью вычислений .

— smwikipedia

9

Люди могут предположить, что если я напишу программу, и я полностью пойму алгоритм, а ошибок нет, то я должен знать, каким будет результат этой программы, и что это не должно меня удивлять.

Тьюринг говорит (и я согласен), что это не так: результат может быть удивительным. Решение проблемы коммивояжера может быть удивительным. Лучший способ построить полный сумматор может быть удивительным. Лучший ход в шахматной игре может быть удивительным.

— gnasher729
источник

Это объясняет, почему компьютеры могут удивлять, что является первой половиной цитаты, но вы не обращаетесь к той части цитаты, которая объясняет, почему конкретный аргумент, который машины не могут удивить, ошибочен.

— Дискретная ящерица