Подумайте обо всех ложных, а иногда и опасных выводах, которые приходят из простого умножения вероятностей, думая, что события независимы. Из-за всех встроенных избыточных гарантий мы внедрили в наши атомные электростанции экспертов, используя предположение о независимости, сказав нам, что вероятность крупной ядерной аварии была ничтожно мала. Но, как мы видели на Три-Майл-Айленде, люди совершают коррелированные ошибки, особенно когда они в панике, из-за одной первоначальной ошибки, которая может быстро сраститься. Может быть трудно построить реалистичную многомерную модель, которая характеризует поведение человека, но понимание эффекта ужасной модели (независимых ошибок) очевидно.
Есть много других возможных примеров. Я возьму катастрофу Челленджер Шаттл в качестве другого возможного примера. Вопрос заключался в том, запускать ли в условиях низкой температуры. Были некоторые данные, позволяющие предположить, что уплотнительные кольца могут выходить из строя при низких температурах. Но данных о пройденных миссиях было немного, чтобы понять, насколько велик риск. НАСА всегда заботилось о безопасности космонавтов, и многие космические аппараты были спроектированы для обеспечения безопасности миссий.
Тем не менее, до 1986 года имелись некоторые системные сбои и почти сбои, вероятно, из-за не определения всех возможных режимов сбоев (трудная задача). Надежное моделирование - сложное дело. Но это уже другая история. В случае челнока производитель уплотнительных колец (Morton Thiokol) провел некоторые испытания уплотнительных колец, которые указали на возможность выхода из строя при низкой температуре.
Но данные по ограниченному количеству миссий действительно показали некоторую связь между температурой и отказом, но поскольку избыточность заставила некоторых администраторов думать, что многократных отказов уплотнительного кольца не произойдет, они оказали давление на НАСА для запуска.
Конечно, было много других факторов, которые привели к решению. Вспомните, как президент Рейган так старался отправить учителя в космос, чтобы продемонстрировать, что теперь стало достаточно безопасно, чтобы обычные люди , которые не были космонавтами, могли безопасно путешествовать на шаттле. Таким образом, политическое давление было еще одним важным фактором, влияющим на решение. В этом случае при наличии достаточного количества данных и многомерной модели риск можно было бы лучше продемонстрировать. НАСА использовать, чтобы попытаться ошибиться на стороне осторожности. В этом случае было бы разумным отложить запуск на несколько дней, пока погода во Флориде не прогреется.
После катастрофы комиссии, инженеры, ученые и статистики сделали большой анализ, и были опубликованы статьи. Их взгляды могут отличаться от моих. Эдвард Туфте показал в одной из своих серий книг по графике, что хорошая графика могла бы быть более убедительной. Но в конце концов, хотя все эти анализы имеют свои достоинства, я думаю, что политика все равно победила бы.
Мораль этих историй заключается не в том, что эти бедствия мотивировали использование многомерных методов, а в том, что плохой анализ, игнорирующий зависимость, иногда приводит к серьезным недооценкам риска. Это может привести к самоуверенности, которая может быть опасной. Как указал jwimberley в первом комментарии к этой теме, «Отдельные одномерные модели игнорируют корреляции».