Есть два основных подхода к пониманию этого вопроса. Первая (и я считаю наиболее успешной) - это литература по когнитивным отклонениям (см. Эту ссылку LessWrong ).
Много было написано на эту тему, и было бы слишком самонадеянно резюмировать это здесь. В общем, это просто означает, что когнитивный механизм, которым люди наделены в ходе эволюционного процесса, использует множество эвристических методов и ярлыков для более эффективного принятия решений о выживании. Эти решения о выживании в основном применяются к исконной среде, с которой мы редко сталкиваемся, и поэтому частота, с которой мы сталкиваемся со сценариями, в которых наша эвристика терпит неудачу, может возрасти.
Люди, например, прекрасно умеют генерировать убеждения. Если установка новой веры стоит очень мало, но неспособность использовать веру, которая привела бы к выживанию, сопряжена с большими затратами (даже если вера в целом неверна), тогда можно было бы ожидать много рационализации и низких доказательственных барьеров для веры. предложения (это то, что мы видим с людьми). Вы также получаете поведения, такие как сопоставление вероятностей по аналогичным причинам.
Можно было бы подробно описать все интересные способы, которыми мы отклоняемся от принятия оптимальных решений. Посмотрите недавнюю книгу Канемана « Мышление, быстрое и медленное» и книгу Дана Арили « Предсказуемо иррационально», чтобы найти популярные читабельные отчеты с множеством примеров. Я рекомендую прочитать некоторые последовательности в LessWrong для более принципиального обсуждения когнитивной предвзятости и множества интересных обзоров академической литературы, касающихся шагов, которые можно предпринять, чтобы избежать этих предубеждений в определенных обстоятельствах.
Другой подход к этой проблеме (я думаю) гораздо более сомнительный. Это понятие, что вероятность сама по себе не является правильной нормативной теорией для решения неопределенности. У меня нет времени, чтобы аннотировать некоторые источники для этого сейчас, но я обновлю свой ответ позже с некоторым обсуждением этой точки зрения.