Является ли человеческий интеллект разумной целью? [закрыто]


9

Похоже, что в литературе всегда фокусировались приблизительные компоненты человеческого разума, считая его наиболее продвинутым. Если другие животные попадали в ландшафт ИИ, это было только для изучения приматов способами, которые не практичны для изучения людей или для моделирования нейронной активности слизняка, потому что его нервная система проста.

Возможно, есть более дальновидная причина, чтобы рассмотреть возможность использования низших форм жизни в качестве модели для желаемого искусственного интеллекта. Я читал, что Э.О. Уилсон и другие говорили о совместных способностях других видов. У организмов есть замечательные качества, такие же простые и адаптивные, как у бактерий. Конечно, муравьи являются модельным видом для сотрудничества. Медоносные пчелы, пожалуй, наиболее подкованы в строительстве, поддерживая устойчивость образа жизни и взаимоотношений с другими видами в форме искусства, намного превосходящей возможности человеческого интеллекта.

Используя спортивные аналогии, чтобы охарактеризовать варианты, человеческий интеллект больше похож на до-просветительский спорт гладиаторов или, по крайней мере, хоккей на льду, где травмирование противника считается разумной стратегией. То, что делают пчелы, больше похоже на альпинизм, построение с точностью и тщательностью.

То, что делают муравьи, очень похоже на эстафету, когда команда противников мало интересуется, потому что каждая колония, как и каждая полоса на трассе, независима и полосы обозначены. Муравьи также отмечают свою территорию, а территориальные претензии уважаются, как в лучшем из вестфальского геополитического государственного управления. Нет ни мелкой ревности, ни соревнований исключительно ради гордого первенства. С муравьями, как и с умным тренером по легкой атлетике, цель состоит в том, чтобы каждый этап гонки показывал хорошие результаты в сравнении с предыдущими лучшими эстафетными гонками.

Бактерии - бегуны на длинные дистанции. Они обмениваются ДНК друг с другом и игнорируют все правила боли и страха. Они ведут себя устойчивым образом, который ничего не принимает на веру и использует все для выживания. И они выжили почти на протяжении всего существования Земли. Скорее всего, они пройдут через сто миллиардов лет после того, как человечество исчезнет, ​​если сначала Солнце не пойдет сверхновой.

Зачем нам программировать компьютеры так, чтобы они бесконечно вели себя как конкуренты? Люди загружают умные шахматные программы, чтобы они могли многократно проигрывать? Нет, они загружают ОС Android, потому что она сотрудничает и ничего не стоит. Разве мы не можем найти игры с ненулевой суммой, в которых возможны беспроигрышные сценарии?

Разве у нас уже нет достаточно клеветнических, сплетничающих, гиперкритических агентов вокруг нашего собственного вида? Почему бы не направить ИИ в направлении совместной разведки, как муравьи? Разве не было бы лучше иметь новых искусственных друзей, которые хотели бы разделить бремя наших ежедневных задач?

Разве мы не хотим, чтобы наши роботы будущего строили, как строит медоносная пчела, в шестиугольниках? Или мы хотим, чтобы наши роботы следовали нашему примеру, тратя 70% материалов на вертикальные конструкции из-за иррациональной настойчивости на углах в девяносто градусов, как это делали бы только люди?


3
Вы получили очень радужное представление о конкуренции между социальными колониями насекомых. Утверждение «нет интереса к противоборствующей команде, потому что каждая колония, как и каждая полоса на трассе, независима» просто не соответствует действительности. Муравьиные колонии будут конкурировать с другими членами своего вида и сражаться с ними, и определенно против других видов. Хотя я (и я думаю, что многие люди) согласятся оценивать другие формы способностей / интеллекта, одинаково хорошо адаптированные как люди, все еще существует жестокая конкуренция между видами, между видами и часто взаимосвязями между всеми видами.
Нил Слэйтер

1
@NeilSlater очень правильно ... Организмы просто хотят, чтобы их ДНК размножалась, а муравьи и пчелы (рабочие) делят ДНК на 50% с другими рабочими ... Это их главная мотивация
DuttaA

Как я уже сказал, они разделяют гены только в своей колонии и убивают любых муравьев другой колонии, даже если они одного и того же вида ... Люди не разделяют гены, если это не член семьи, где вы видите бескорыстную помощь (в общем) ... Но так как у нас такой большой мозг (способный мозг), мы накапливаем опыт, который меняет наше генетическое поведение, и мы можем стать враждебными по отношению к семье ... Я хочу ответить на ваш вопрос, но он будет довольно большим, поэтому я сделаю это, когда получу время
DuttaA

Бактерии / муравьи / пчелы, они не знают, что они делают, разумны, они не могут вспомнить, что они делают, и придумали более эффективные методы. Можете ли вы заставить этих простых существ достигать целей, отличных от того, что они уже достигли? Нет.
Анкур

1
@Ankur Тем не менее, вы можете изучить принципы их успешного поведения и искусственно применить их к новой проблеме. Это то, что сделано, и вопрос ОП ставит некоторые интересные моменты, такие как то, достаточно ли этого, чтобы охватить все желаемые варианты использования ИИ, и будет ли это более безопасный / лучший подход. Я думаю «нет» и «нет» на эти вопросы, но потребуется несколько усилий, чтобы собрать ответ.
Нил Слэйтер

Ответы:


6

Я придерживаюсь довольно смутного взгляда на людей как на вид и предложил обратный тест Тьюринга, с помощью которого люди оцениваются на достаточную человечность ( ). (шучу, но не совсем;)

Люди явно не самые успешные виды на земле, если вы едете на биомассе:

введите описание изображения здесь

Я полностью согласен с тем, что менее сложные формы жизни очень эффективны, и их стоит подражать для конкретных проблем (см. Пример алгоритмов оптимизации колонии муравьев ).

Но как выглядит мир, когда им управляют муравьи? Это мир, в котором мы хотим жить?

Конкуренция в природе не только абсолютно жестока, но и является механизмом, посредством которого виды оптимизируются (эволюция).

Люди несовершенны, но мы также достигли великих триумфов, и что может отличить нас от животных, так это то, что наши успехи могут также попасть в категорию «триумфов духа». Там, где силы эгоизма и жадности ведут общество в одном направлении, у нас также есть противодействие, толкающее в других направлениях.

Некоторые игры просто с нулевой суммой, и обойти это невозможно, но это не значит, что они должны быть «все или ничего» ( именно по этой причине мы рекомендуем партизанское судоку над шахматами).

Есть концепция, которую стоит рассмотреть, известная как эффективность Парето . Финансовые спекуляции, на которых сейчас основывается большая часть мировой экономики, зависят от принципа «большего дурака» , когда выгода одного агента полностью зависит от потери другого агента. Худшие из нас, кажется, сосредоточены на этих механизмах, исключая все остальные, потому что это не требует никаких реальных обязательств, просто более тщательного анализа и / или лучшей информации и ликвидности.

Лучшее из нас, кажется, достигает вместо этого улучшения Парето, с помощью которого можно улучшить состояние агентов, не требуя ухудшения состояния других агентов.

Дело в том, что человеческому разуму потребовалось выявить и определить эти условия. (Природа все равно.) Оптимальность по Парето была спорной из - за его происхождение, но это было до того, индустрия высоких технологий, что является очень хорошим на создании новых возможностей, и мне кажется , он также может быть использован для распределения баланса ресурсов попытаться максимизировать социальную стабильность. (то есть иногда может быть более оптимальным быть немного хуже.)

Мое мрачное видение нашего вида исходит не от того, что оно неэффективно или часто глупо, а от идеи, что на этом этапе истории мы все еще ведем себя так, как будто мы только что спустились с деревьев, вместо этого возвращаясь к племенному и партизанскому конфликту. сотрудничества.

Вопреки вашему тезису:

  • Я полагаю, что не только важно достичь алгоритмического интеллекта на уровне человека, но и мы обязаны «гуманизировать» такие алгоритмы в максимально возможной степени.

Суперинтеллект и AGI все еще находятся на горизонте и являются полностью теоретическими, но, если они достигнуты и эти алгоритмы являются чистым механизмом, лишенным ценностей, которыми мы, люди, в лучшем случае дорожим, мы можем в конечном итоге стать просто еще одной жертвой эволюционного процесса Устаревшие от новых форм искусственной жизни, у нас нет шансов конкурировать.

В некотором смысле стремление к подобию человека можно рассматривать как торжество человечества, более изощренное, но не совсем иное по духу, чем Давид Микеланджело.


@DouglasDaseeco Мне действительно очень нравится ваш вопрос, потому что я на 100% согласен с вами относительно общей полезности / пользы функций «низкого уровня». Часть моего собственного проекта включает в себя измерение производительности обобщенных эвристических алгоритмов и алгоритмов обучения для определенных наборов задач, где время / ресурсы строго ограничены, и, в частности, где топология текущей проблемы заранее неизвестна. Когда разумные, но менее оптимальные экономические решения, принятые быстрее, приносят большую совокупную выгоду, чем более оптимальные решения, которые требуют больше ресурсов и времени?
DukeZhou

@DouglasDaseeco На фронте «мифологии ИИ» несколько ведущих авторов, таких как Стивенсон и Гибсон, в последнее время больше интересовались только видом ограниченного интеллекта, который вы описываете. (Стивенсон имеет инженерное образование и никогда не интересовался AGI, но Гибсон сделал свое имя, написав об этом в своих первых книгах.)
DukeZhou

@DouglasDaseeco Согласен. Стоит также отметить, что по общему мнению нашего вида, геноцид - это анафема, и мы начали задумываться о важности биоразнообразия, прилагая определенные усилия для сохранения исчезающих видов. Я думаю, что если мы когда-нибудь упадем с нашей позиции на вершине пищевой цепи, было бы очень хорошо, если бы все, что заменило нас, разделяло эти цели, потому что мы могли бы быть теми, кто нуждается в защите! (Я нахожу Филиппа К. Дика наиболее заметным, потому что его гипотеза состоит в том, что эмпатия является естественной функцией достаточно развитого интеллекта.)
DukeZhou

3

Хотя человеческая природа имеет много недостатков, она, безусловно, была наиболее успешной, если она существует, на что указывает @DukeZhou. Успех можно целиком и полностью объяснить тем, что у нас очень хорошо функционирующий и способный мозг. По сравнению с другими видами мы физически (физическое мастерство) гораздо более неспособны. Итак, если мы пытаемся создать ИИ, разве мы не должны пытаться смоделировать наш собственный мозг, лучшую интеллектуальную систему?

Одна вещь, которую вы пропустили, это то, что люди намного спокойнее, чем все другие животные. Животные ведут постоянную войну за выживание, мы, люди, смогли преодолеть все это, и мы живем в самые мирные времена всего тысячелетия. Могут возникнуть конфликты, это может быть связано с нашими генами. Наши гены происходят от наших животных предков, где они представляют многие вещи как угрозы (в том числе однополые животные противоположного пола, противоположный мыслительный процесс также может восприниматься как угроза). Так что это обязательно просочится в наш менталитет. Можем ли мы изменить это? Возможно, нет (возможно, это противоречит законам природы и естественного отбора).

Давайте посмотрим на 2 случая, когда не было конкуренции:

  • Джаравас - Эти люди живут в уединении на острове (даже сейчас). В результате они все еще ведут образ жизни охотника-собирателя, что можно объяснить тем, что они не чувствовали необходимости меняться, поскольку не видели угрозы своей жизни или положению. Поскольку мы мудры, мы не вторгаемся на их территории, зная, что они не будут существовать против современных технологий (также потому, что они не представляют угрозы для нас).
  • Коренные американцы : в то время как Европа и Азия были в состоянии войны, эти люди жили на острове (только в борьбе) В результате их технологии практически не развивались, и они были почти уничтожены.

Сотрудничество с муравьями и пчелами - это неправильное название для меня. Это полностью связано с тем фактом, что все муравьи / пчелы в конкретной колонии являются братьями и сестрами (в противном случае они жестоко убивают другие колонии). Кроме того, они поддерживают территориальные границы, пока в них есть много ресурсов, в противном случае идет война (я не могу привести никаких источников, но я слышал, как много муравьев вторгается на территории других муравьев).

Бактерии не испытывают боли или страха, но сказать, что они существовали долго из-за сотрудничества, мне не совсем правильно. У них, вероятно, есть эффективный механизм выживания.

Смысл всего этого в том, что, как сказал @Neil Slater, нет радужной картины животного мира.

Приходя к тому, как мы должны создать поведение ИИ? У ИИ пока нет генов, поэтому у них нет никаких обязательств перед его потомством, и у них не будет ревности, это означает, что у них нет основных строительных блоков биологического организма (и, следовательно, они не имеют никаких обязательств / интересов по отношению к нему). Но я считаю, что конкуренция среди ИИ хорошая, иначе как они будут изучать новые стратегии? Таким образом, конкуренция без ревности - лучший сценарий для агентов ИИ (это может быть не так в царстве животных). если нет конкуренции, то знания среди ИИ, вероятно, останутся на прежнем уровне.

Я не эксперт в теории игр, но если 2 или более агента соревнуются друг с другом, они должны следовать теории игр, чтобы максимизировать свои результаты (вероятно, указав Pareto Efficiency, как указано @DukeZhou, или с точки зрения физики энергия не создается и не уничтожается , распространяется только от системы к системе). Но здесь есть одна загвоздка, есть несколько жизнеспособных стратегий, полностью зависящих от окружающей среды . Это была тема, которая была исследована компьютерными учеными Аксельродом и Гамильтоном, где они протестировали несколько стратегий. Упрощенную версию их экспериментов можно найти в The Selfish Geneкнига, глава 12. Их эксперименты (смоделированные на компьютере), по-видимому, дают некоторые доказательства того, что хорошие парни (парни, которые делают одолжения безоговорочно) не всегда проигрывают эгоистичным парням. Это должно быть более исследовано, если мы действительно хотим создать колонию ИИ.

TL; DR : несправедливо сравнивать ИИ с животным миром, так как им не хватает основной единицы выживания (гена). Люди, безусловно, самые умные и самые мирные среди всего животного мира. Конкуренция без ревности, вероятно, является лучшим способом действий в любой колонии или видах.


1
В теории игр равновесие по Нэшу является устойчивой точкой, а эффективность по Парето является мерой общей полезности. Дилемма заключенного является хорошим примером, когда оба не достигают одинакового максимума; логическая минимаксная точка имеет дефект обоих заключенных, но максимальная общая полезность происходит, когда оба заключенных сотрудничают. К сожалению, многие конкурирующие системы имеют эту разницу между оптимумами Парето и Нэша.
Нил Слэйтер

@NeilSlater axelrod исследовал дилемму заключенных в более широком смысле ... очевидно, у него были некоторые интересные результаты
DuttaA

0

Некоторые характеристики человеческого интеллекта, безусловно, являются частью основной долгосрочной цели ИИ. Большинство из этих характеристик, очевидно, также являются свойствами других видов. Действительно важным вопросом является то, как компьютер может воспринимать не только по-человечески, но и вообще воспринимать? Символы, испускаемые цифровыми датчиками, не указывают, что было обнаружено. Все, что получает компьютер, это символы, так как компьютер может воспринимать что-либо?

Другая действительно важная проблема заключается в том, что люди и, возможно, большинство других животных в некоторой степени обладают общим интеллектом - могут применять то, что было изучено в прошлом, к новым ситуациям. У людей есть версия общей проблемы знаний, которая относится к языку, так что это чисто человеческий вопрос. Но многие животные явно обладают какими-то общими знаниями. ИИ еще не произвел машину с общими знаниями. Губительные последствия «крайних случаев» для программного обеспечения ИИ для самостоятельного вождения автомобиля - очень тревожное доказательство. Как получить общий интеллект - тоже абсолютно фундаментальная проблема.

Итак, подведу итог моему ответу: в настоящее время подобный человеку интеллект не является разумной целью. ИИ имеет гораздо более фундаментальные проблемы. В настоящее время разумной целью является понимание принципов восприятия и способов их воплощения в компьютере (при условии, что это возможно), а также понимание принципов общего интеллекта и способов их воплощения.

То есть выяснить, как животные знают свое окружение и как они адекватно реагируют на новые ситуации на основе прошлого опыта.


Очень распространенное зрелище roadkill ясно показывает, что многие животные страдают от катастрофических последствий «крайних случаев». Утверждение «Символы, испускаемые цифровыми датчиками, не указывают на то, что было обнаружено». Это интересный вопрос, в котором приводятся основные аргументы в пользу про-или анти-сильного ИИ. Нейробиолог может в равной степени сказать: «сигналы, испускаемые глазными палочками и колбочками, и моторные нейроны, которые контролируют мышцы, не указывают на то, что было обнаружено». В основном наш личный сознательный опыт дает понять, что что- то происходит. Мы не понимаем, что это такое.
Нил Слэйтер

@ Neil Slater Точно, поэтому мы также не знаем принципов того, как органический мозг получает семантические структуры. И в нейронных импульсах отмечается, что указывает на то, что ощущалось. Но органические мозги делают получить семантику. Вы могли бы подумать, что этот факт вдохновит гуру разобраться, что не так с китайской комнатой Сирла и его предпосылкой, что символы семантически пусты. Конечно, они есть. Но таковы нервные импульсы.
Роддус
Используя наш сайт, вы подтверждаете, что прочитали и поняли нашу Политику в отношении файлов cookie и Политику конфиденциальности.
Licensed under cc by-sa 3.0 with attribution required.