Неспособность отвергнуть нулевую гипотезу является доказательством того, что нулевая гипотеза верна, но это не может быть особенно хорошим доказательством и, конечно, не доказывает нулевую гипотезу.
Давайте сделаем небольшой обход. Рассмотрим на секунду старое клише:
Отсутствие доказательств не является доказательством отсутствия.
Несмотря на свою популярность, это утверждение - ерунда. Если вы ищете что-то и не можете найти это, это является абсолютным доказательством того, что его там нет. Насколько хороши эти доказательства, зависит от того, насколько тщательным был ваш поиск. Беглый поиск предоставляет слабые доказательства; исчерпывающий поиск дает веские доказательства.
Теперь вернемся к проверке гипотез. Когда вы запускаете проверку гипотезы, вы ищете доказательства того, что нулевая гипотеза не соответствует действительности. Если вы не можете найти его, то это, безусловно , свидетельствует о том , что нулевая гипотеза является правдой, но насколько сильна , что доказательства? Чтобы знать это, вы должны знать, насколько вероятно, что свидетельство, которое заставило бы вас отвергнуть нулевую гипотезу, могло ускользнуть от вашего поиска. То есть какова вероятность ложного негатива по вашему тесту? Это связано с мощностью, , теста (в частности, это дополнение, 1- .)βββ
Теперь сила теста и, следовательно, уровень ложного отрицания, обычно зависят от величины эффекта, который вы ищете. Большие эффекты легче обнаружить, чем маленькие. Таким образом, для эксперимента не существует единой , и, следовательно, нет однозначного ответа на вопрос, насколько сильны доказательства нулевой гипотезы. Другими словами, всегда есть некоторый размер эффекта, достаточно маленький, чтобы это не исключалось экспериментом.β
Отсюда есть два способа продолжить. Иногда вы знаете, что вас не волнует размер эффекта, меньший порога. В этом случае вам, вероятно, следует переосмыслить свой эксперимент так, чтобы нулевая гипотеза заключалась в том, что эффект выше этого порога, а затем проверить альтернативную гипотезу о том, что эффект ниже порога. Кроме того, вы можете использовать свои результаты, чтобы установить границы вероятного размера эффекта. Ваш вывод будет таким: размер эффекта лежит в некотором интервале с некоторой вероятностью. Этот подход является лишь небольшим шагом от байесовского лечения, о котором вы, возможно, захотите узнать больше, если часто сталкиваетесь с подобной ситуацией.
Есть хороший ответ на связанный с этим вопрос, который касается доказательств отсутствия , что может оказаться полезным.