Как вычислить полосы предсказания для нелинейной регрессии?

Страница справки для Prism дает следующее объяснение того, как она вычисляет полосы предсказания для нелинейной регрессии. Пожалуйста, извините за длинную цитату, но я не следую второму абзацу (который объясняет, как определяется и вычисляется d Y / d P ). Любая помощь будет принята с благодарностью.$G|x$$dY/dP$

Расчет доверительных и прогнозирующих полос достаточно стандартен. Читайте дальше о том, как Prism вычисляет предсказание и доверительные интервалы нелинейной регрессии.

Сначала давайте определим G | x, который является градиентом параметров при конкретном значении X и использующим все наиболее подходящие значения параметров. Результатом является вектор с одним элементом на параметр. Для каждого параметра он определяется как dY / dP, где Y - это значение Y кривой, учитывая конкретное значение X и все наиболее подходящие значения параметров, а P - один из параметров.)

G '| x - это транспонированный вектор градиента, поэтому он представляет собой столбец, а не строку значений.

Cov - ковариационная матрица (обратный гессиан из последней итерации). Это квадратная матрица с количеством строк и столбцов, равным количеству параметров. Каждый элемент в матрице представляет собой ковариацию между двумя параметрами.

Теперь вычислим c = G '| x * Cov * G | x. Результатом является одно число для любого значения X.

Полосы достоверности и прогнозирования центрированы на кривой наилучшего соответствия и простираются над и под кривой в равной степени.

Полосы доверия простираются выше и ниже кривой на: = sqrt (c) * sqrt (SS / DF) * CriticalT (Confidence%, DF)

Полосы прогнозирования простираются еще на большее расстояние выше и ниже кривой, равное: = sqrt (c + 1) * sqrt (SS / DF) * CriticalT (Confidence%, DF)

Это называется Дельта-метод.

Предположим, что у вас есть некоторая функция ; обратите внимание, что G ( ⋅ ) является функцией параметров, которые вы оцениваете, β , и значений ваших предикторов, х . Сначала найдите производную этой функции по вашему вектору параметров, β : G ′ ( β , x $y = G(\beta,x) + \epsilon$$G(\cdot)$$\beta$$x$$\beta$$G^\prime(\beta, x)$, Это говорит: если вы немного измените параметр, насколько изменится ваша функция? Обратите внимание, что эта производная может зависеть от самих ваших параметров, а также от предикторов. Например, если , то производная равна x exp ( β x ) , которая зависит от значения β и значения x . Чтобы оценить это, вы подключаете в оценке р том , что процедура дает, р , а значение прогнозирующей $G(\beta,x) = \exp (\beta x)$$x \exp (\beta x)$$\beta$$x$$\beta$$\hat{\beta}$$x$ где вы хотите прогноз.

Дельта Метод, полученный из максимальных процедур правдоподобия, утверждает , что дисперсия будет G ' ( β , х ) Т вар ( β ) G ' ( β , х ) , где вар ( β$G\left(\hat{\beta}, x\right)$

$$G^\prime\left(\hat{\beta},x\right)^T \text{Var}\left(\hat{\beta}\right) G^\prime\left(\hat{\beta},x\right),$$ $\text{Var}\left(\hat{\beta}\right)$является дисперсионно-ковариационной матрицей ваших оценок (она равна обратной величине гессиана --- вторые производные функции правдоподобия при ваших оценках). Функция, используемая вашими пакетами статистики, вычисляет это значение для каждого отдельного значения предиктора . Это просто число, а не вектор, для каждого значения х .$x$$x$

Это дает дисперсию значения функции в каждой точке, и это используется так же, как и любая другая дисперсия при расчете доверительных интервалов: взять квадратный корень из этого значения, умножить на критическое значение для нормального или применимого t- распределения, релевантного для конкретный уровень достоверности, и прибавьте и вычтите это значение к оценке в точке.$G(\cdot)$

Для интервалов прогнозирования нам необходимо принять во внимание дисперсию результата с учетом предикторов , Var ( y ∣ x ) ≡ σ 2 . Следовательно, мы должны увеличить нашу дисперсию от метода Delta нашей оценки дисперсии е , σ 2 , чтобы получить дисперсию у , а не дисперсию ожидаемой величины у , которая используется для доверительных интервалов. Заметим , что σ 2 представляет собой сумму квадратов ошибок ( в справочном файле нотации) , разделенная на степеней свободы ( ).$x$$\text{Var}(y \mid x) \equiv \sigma^2$$\epsilon$$\hat{\sigma}^2$$y$$y$$\hat{\sigma}^2$SSDF

c$\sigma^2$$\sigma^{-2}$$\sigma$c*SS/DF

c$\left(x^\prime x\right)^{-1}$$\text{Var}\left(\hat{\beta}\right) = \sigma^2 \left(x^\prime x\right)^{-1}$