Должен ли я использовать антропоморфный язык при обсуждении ИИ?

Английский язык не очень подходит для разговоров об искусственном интеллекте, который мешает людям общаться друг с другом о том, что на самом деле «делает» ИИ. Таким образом, может иметь больше смысла использовать «подобные человеку» термины для описания действий машины, даже когда внутренние свойства машины не похожи на внутренние свойства человечества.

Антропоморфный язык широко использовался в технологиях (см. Определение антропоморфизации в словаре Хакера , в котором делается попытка обосновать использование антропоморфных терминов при описании технологии компьютерными программистами), но, поскольку ИИ продолжает развиваться, может быть полезно рассмотреть компромиссы использование антропоморфного языка в общении как с технической, так и с нетехнической аудиторией. Как мы можем получить хорошее управление ИИ, если мы не можем даже описать, что мы делаем?

Предположим, я хочу разработать алгоритм, который отображает список связанных статей. Есть два способа объяснить, как работает алгоритм для неспециалистов:

1. Очень антропоморфный - алгоритм читает все статьи на веб-сайте и отображает статьи, которые очень похожи на статью, которую вы просматриваете.
2. Очень Технический - Алгоритм преобразует каждую статью в «мешок слов», а затем сравнивает «пакет слов» каждой статьи, чтобы определить, какие статьи имеют наиболее распространенные слова. Статьи, которые делятся большинством слов в сумках, - это те, которые отображаются для пользователя.

Очевидно, что # 2 может быть более «технически правильным», чем # 1. Детализируя реализацию алгоритма, он помогает понять, как исправить алгоритм, если он выдает результат, с которым мы сильно не согласны.

Но № 1 более читабелен, элегантен и проще для понимания. Он дает общее представление о том, что делает алгоритм, а не о том, как это делает алгоритм. Абстрагируясь от деталей реализации того, как компьютер «читает» статью, мы можем сосредоточиться на использовании алгоритма в реальных сценариях.

Должен ли я поэтому предпочесть использовать антропоморфный язык, как подчеркивается в утверждении № 1? Если нет, то почему?

PS: Если ответ зависит от аудитории, с которой я разговариваю (нетехническая аудитория может предпочесть № 1, тогда как техническая аудитория может предпочесть № 2), то дайте мне знать об этом.

Если ваша цель - ясность, вы должны попытаться избежать антропоморфного языка - это может даже привести вас в заблуждение относительно возможностей программы.

Это пагубная ловушка в исследованиях ИИ, с многочисленными случаями, когда даже опытные исследователи приписывают программе большую степень понимания, чем это на самом деле заслуживает.

Дуглас Хофштадтер довольно подробно описывает эту проблему в главе, озаглавленной «Не поддающийся искоренению эффект Элизы и ее опасности», а также есть знаменитая статья Дрю МакДермота «Искусственный интеллект встречает естественную глупость» .

Следовательно, в целом следует приложить особые усилия, чтобы избежать антропоморфизма в ИИ. Тем не менее, при общении с нетехнической аудиторией описания «звукового прикуса» (как и в любой сложной дисциплине) приемлемы, при условии, что вы сообщаете аудитории, что они получают упрощенную версию .

Проблема, на которую вы ссылаетесь, - это не просто проблема ИИ, а проблема для технических областей в целом. В случае сомнений я бы всегда рекомендовал использовать простой язык .

Однако есть еще одна причина, по которой сообщество ИИ часто избегает антропоморфных коннотаций ИИ. Некоторым специалистам по искусственному интеллекту часто нравится предупреждать нас о том, что искусственный общий интеллект может вести себя инопланетным образом, который не поддается нашим человеческим ожиданиям, что может привести к апокалипсису робота.

Эта идея о злых инопланетных AGI, однако, вытекает из широко распространенного недопонимания в сообществе искусственного интеллекта, которое связывает два разных понятия общности:

• Общность машины Тьюринга и
• общечеловеческая общность

Что имеют в виду обычные люди, когда говорят, что общность - это позже. Даже официальное определение AGI зависит от контекста человека:

... выполнить любое интеллектуальное задание, которое может выполнить человек.

Но по этому определению обобщающее поведение не делает его более чуждым. Обобщение - это антропоморфизация. Как сказал Ницше,

«Где вы видите идеальные вещи, я вижу - человеческие, увы! Слишком человеческие вещи».

Я думаю, что правильный ответ простой, но бесполезный: «Это зависит».

Даже когда я разговариваю с другими техническими специалистами, я часто использую антропоморфный язык и метафоры. Особенно в начале разговора. «Компьютер должен понять ...» «Как мы можем предотвратить путаницу в компьютере…» и т. Д. Конечно, мы могли бы заявить об этом в более технически правильной форме. «Нам нужно изменить алгоритм, чтобы уменьшить количество и разнообразие случаев неадекватных данных, которые приводят к неточной настройке ...» или некоторых других. Но среди технических людей мы знаем, что имеем в виду, и просто проще использовать метафорический язык.

Пытаясь решить технические проблемы с компьютером, я часто начинаю с туманной, антропоморфной концепции. «Мы должны составить список всех слов в тексте и назначить каждому слову вес в зависимости от того, как часто оно встречается. Да, но мы должны игнорировать короткие, общие слова, такие как« и »и« это ». Тогда давайте выберем несколько количество слов, может быть, десять или около того, которые имеют наибольший вес ... "Все это далеко от того, как компьютер на самом деле манипулирует данными. Но зачастую гораздо проще сначала подумать об этом в «человеческом» смысле, а потом понять, как заставить компьютер делать это.

Говоря с нетехнической аудиторией, я думаю, что проблема в том, что антропоморфный язык облегчает понимание, но также часто создает впечатление, что компьютер гораздо более похож на человека, чем на самом деле. Вам нужно только посмотреть научно-фантастические фильмы, чтобы увидеть, что многие люди думают, что компьютер или робот думает так же, как человек, за исключением того, что он очень точен и не имеет эмоций.