Если человечество сможет создать искусственную жизнь в машине, когда мы определим ее смерть?

Можно ли на самом деле убить машину? У нас есть проблемы не только в определении жизни, но и в определении смерти. Будет ли это также верно в искусственной жизни и искусственном интеллекте?

Смерть, как мы ее знаем для естественной жизни, является конечной. Когда-то мертвая, естественная жизнь не может вернуться (по крайней мере, в нынешнем понимании и с современными технологиями - некоторые люди верят в обратное).

Смерть для ИИ сложнее. Может быть только один сценарий: Глобальное разрушение: экстремальный сценарий, когда все, что поддерживает существование ИИ, исчезает. Это эквивалентно смерти в естественной жизни и низкой вероятности. Это означает, что все ИИ умирают одновременно (как и мы).

Мы также не знаем степень и форму воплощения, необходимые для AGI. Теперь мы можем предположить, что аппаратные средства могут быть заменены на неопределенный срок, таким образом, «ограничивая» смерть приведенным выше крайним сценарием. Но «тело» AGI не может быть бесконечно заменяемым. Тогда может понадобиться определение, близкое к естественной жизни смерти.

Мы видим аргументы для двух других сценариев, которые я опровергаю ниже:

«Статическая смерть»: AI все еще где-то «определен» или «сохранен» (что бы это ни значило на самом деле), но он не авторизован или не может использовать ресурсы. Предполагая, что ИИ состоит из аппаратного и программного обеспечения, он похож на программу, хранящуюся на диске, но без разрешения на запуск.

«Динамическая смерть»: при той же характеристике ИИ, что и в аппаратном и программном обеспечении, динамическая смерть - это аннулирование прогресса, сродни сильным свойствам жизнеспособности , когда ИИ заперт в бесконечном цикле (или в пустом цикле) в форме « Активная смерть », как то, что происходит с Сизифом в греческой мифологии. Это отличается от статической смерти, поскольку ИИ все еще использует динамические ресурсы, хотя он не может прогрессировать. Продолжая в тех же предположениях, такой ИИ может быть «загружен» в основную память или заблокирован в ожидании завершения ввода или вывода.

Обратите внимание, что в этих двух сценариях возможно перерождение , и они также указывают, что существует сущность, которая может решить условия перерождения или полностью предотвратить его. Является ли эта сущность «администратором», богом, другими ИИ или человеком - это действительно другой вопрос.

Термины «смерть» и «перерождение» здесь можно просто заменить на «заключение в тюрьму», где динамическая версия будет похожа на наши человеческие тюрьмы, а статическая версия будет похожа на криогенную систему SciFi. Это немного натянуто, но мы можем увидеть эквивалентность и отсутствие веских оснований квалифицировать эти два сценария как смертельные.

В заключение, смерть для ИИ представляется исключительным, единичным сценарием, поэтому ИИ не может умереть на практике , если только мы не ошибаемся в том, как мы думаем, что мы можем создавать АГИ. ИИ, однако, может быть заключен в тюрьму навсегда .

Примечание: приведенная выше терминология полностью составлена ​​для поста. У меня нет цитат в поддержку некоторых заявлений, но это основано на чтениях и личной работе (в том числе при проверке программного обеспечения).

Если ИИ возникает в результате воспроизводимого производственного процесса (например, как в современных компьютерах), то, вероятно, будет возможно сделать снимок состояния ИИ и воспроизвести его без ошибок на каком-либо другом механизме.

Для такой конструкции «смерть» не означает то же самое, что и в настоящее время для нас, мясистых органиков: предположительно, в любой момент можно создать несколько клонов ИИ.

Следовательно, необходим аналог смерти, похожий на «термодинамическую тепловую смерть», в которой ИИ больше не выполняет «полезную работу».

Используя стандартную характеристику восприятия / действия ИИ, затем (как указано в комментарии под вопросом) этот вопрос ИИ SE дает такое определение смерти для ИИ: то есть, когда он входит в состояние, из которого он не получает дальнейших восприятий и не предпринимает никаких действий

РЕДАКТИРОВАТЬ: Обратите внимание, что эта концепция смерти является более терминальным понятием для ИИ, чем «не работает в настоящее время». В принципе, можно сказать, что программа «жива», хотя каждые 10000 лет выполнялась только одна инструкция. Для увлекательной дискуссии по этому вопросу см. «Разговор с мозгом Эйнштейна» Хофштадтера .

«Смерть» существует как единое понятие, потому что основополагающая реальность, которую она описывает, тесно связана вместе, и наше определение изменилось с нашей способностью изменить эту реальность.

Представляется более разумным, что различные виды вещей, которые можно считать «смертью», будут разделены, и будет использоваться другое слово для обозначения системы без копий, запущенной в данный момент, по сравнению с системой, которая не имеет сохраненной версии, но может быть воссоздан (потому что код и случайное начальное число для его генерации все еще существуют), а система была полностью потеряна. (И я, вероятно, упускаю некоторые возможности!)

Я не думаю, что термин «смерть» будет что-либо значить для ИИ. Причина, по которой я это говорю, заключается в следующем: с помощью ИИ, работающего (предположительно) на цифровом оборудовании, мы можем в любой момент просто сделать снимок его состояния из памяти. И затем в любое произвольное время в будущем мы можем воссоздать его, как это было с идеальной точностью.

Таким образом, даже если вы закроете программу, намереваясь, что она «мертва», вы никогда не узнаете, придет ли кто-нибудь позже и снова ее запустит. И, возможно, более важно, что вы можете не знать, существует ли другая копия в другом месте.

Ненавижу использовать ссылки на научно-фантастические материалы, но вот это уместно: помните, как трилогические программы The Matrix будут искать ссылки в The Matrix, чтобы избежать удаления? Может быть, то же самое случится с нашими ИИ ... они будут копировать себя в другие места и пытаться спрятаться, чтобы избежать удаления. Так что, если программа достаточно умна, она может в любом случае уклониться от любой попытки завершить ее.

Другие ответы, похоже, имеют дело с «окончательной смертью» ... то есть с «конечным концом», в котором ИИ не может восстановиться. Другими словами, ИИ не может функционировать дальше.

Но я не так определяю смерть. Я бы определил смерть как процесс, который прекращается. Неважно, если кто-то перезапустит тот же процесс, потому что существующий процесс уже мертв. AI, возможно, только что сделал новую копию себя, но это всего лишь копия , а не оригинал. Смерть это просто смерть.

Мы можем назвать этот тип «смерти» «временной смертью» ... когда физическое тело умирает, но существует некоторая «психологическая преемственность» (например, исходный код, который используется для запуска программы), которая продолжается между различными телами ,

Этот тип «временной смерти» был исследован в научной фантастике. PARANOIA и Eclipse Phase - это люди, которые могут довольно часто умирать, но позже их можно восстановить с помощью «резервной копии памяти». Люди могут быть функционально бессмертными ... но оригинал все еще мертв, независимо от судьбы, с которой сталкиваются другие копии. CGP Grey также снял видео о телепортах Star Trek , который убивает вас, а затем порождает еще одну копию себя в другом районе. На самом деле, в фэнтезийных настройках также исследуется идея «временной смерти», когда люди могут умереть только для того, чтобы позже получить магическое заклинание.

Я рекомендую поиграть в философскую игру « Остаться в живых» , которая учит трем различным философским подходам к жизни (и когда эта жизнь заканчивается):

Есть в основном три вида вещей, которые могут потребоваться для продолжения вашего существования. Одним из них является телесная непрерывность, которая может фактически потребовать, чтобы существовали только части тела (то есть мозг). Другой - это психологическая преемственность, которая требует продолжения вашего сознания, под которым подразумеваются ваши мысли, идеи, воспоминания, планы, убеждения и так далее. Третья возможность - это продолжение существования какой-то нематериальной части вас, которую можно назвать душой *. Конечно, это может быть тот случай, когда вам потребуется сочетание одного или нескольких типов непрерывности, чтобы выжить.

В других ответах предполагается, что жизнь основана на «психологической непрерывности», и рассматривается, что может нарушить эту «непрерывность». Я предполагаю, что жизнь основана на «телесной непрерывности», которую гораздо легче нарушить - просто убейте процесс ... не имеет значения, если новый процесс возрождается ... потому что оригинальный процесс все еще мертв. Играя в «Остаться в живых» , вы сможете выработать собственное определение жизни и смерти. Если у вас есть свое личное определение, просто примените его к этому конкретному случаю, либо на стороне «психологической преемственности» (другие ответы), либо «телесной преемственности» (мое собственное мнение).

_{* Если вы предполагаете, что жизнь требует души, хорошо, не ясно, что ИИ будет иметь души. Если они этого не делают (и это кажется наиболее разумным предположением здесь), то они, очевидно, не будут живы (и вы не можете умереть, если вы не живы). Если у них действительно есть души, тогда другие ответы, которые предполагают «психологическую преемственность», могут все еще быть применимыми, поскольку кажется, что существование «души» зависит от «психологической преемственности».}

Различие между алгоритмами / роботами и людьми заключается в том, что, когда человеческий организм перестает функционировать, человек считается мертвым.

В отличие от этого, алгоритм все еще существует, даже когда не работает. (Я собирался использовать «даже когда не выполняется», но избегал этого по семантическим причинам;) Алгоритм может оставаться в этом «состоянии стазиса», пока существует носитель информации.

• Убить алгоритм легко - удалите и очистите мусорное ведро.

По сути, чтобы убить алгоритм, вам нужно стереть код, который его содержит.

Нет оснований относиться к искусственному ИИ иначе, чем к людям. Некоторые люди говорят, что вы можете сделать снимок ИИ, но нет никаких оснований не делать снимок человека тоже. У нас нет технологии для этого, но нет никакого магического барьера, который сделал бы невозможным (сохраните все биологические данные, а затем распечатайте свою копию где-нибудь еще. Почему бы и нет?).

Рано говорить об этом, поскольку мы не понимаем своего существования (термин «Смерть» для биологических существ, эволюционирующих все время).

Могу поспорить, что в будущем мы сольемся с ИИ, и единственным вопросом будет, что означает смерть для любого разумного существования.