Определите, значительно ли улучшился распределенный процесс с тяжелыми хвостами

Я наблюдаю время обработки процесса до и после изменения, чтобы выяснить, улучшился ли процесс в результате изменения. Процесс улучшился, если время обработки сократилось. Распределение времени обработки жирнохвостое, поэтому сравнение по среднему показателю нецелесообразно. Вместо этого я хотел бы знать, значительно ли вероятность наблюдать меньшее время обработки после изменения выше 50%.

Пусть будет случайной величиной для времени обработки после изменения, а Y - предыдущей. Если P ( X < Y ) значительно выше 0,5, то я бы сказал, что процесс улучшился.$X$$Y$$P(X < Y)$$0.5$

Теперь у меня есть наблюдений х I из X и м наблюдений у J из Y . Наблюдаемая вероятность P ( X < Y ) является р = $n$$x_i$$X$$m$$y_j$$Y$$P(X < Y)$.$\hat p = \frac{1}{n m} \sum_i \sum_j 1_{x_i < y_j}$

Что я могу сказать о учитывая наблюдения x i и y j ?$P(X < Y)$$x_i$$y_j$

Ваша оценка р равно Манна-Уитни U статистики , разделенной на м н (спасибо, Глен!), И, следовательно , эквивалентно Вилкоксона суммы рангов статистики W (также известный как статистика Вилкоксона-Манна-Уитни): W = U + n ( n + 1 )$\hat{p}$$U$$mn$$W$$W = U + {n(n+1)\over{2}}$ , где$n$- размер выборки$y$(при условии отсутствия связей). Поэтому вы можете использовать таблицы / программное обеспечение теста Уилкоксона и преобразовать их обратно в$U$чтобы получить доверительный интервал или$p$значение.

Пусть $m$ будет размером выборки $x$ , $N$ = $m+n$ . Тогда асимптотически

$W^* = \frac{W-\frac{m(N+1)}{2}}{\sqrt{\frac{mn(N+1)}{12}}} \sim \text{N}(0,1)$

Источник: Холландер и Вульф , Непараметрические статистические методы, примерно с. 117, но, вероятно, большинство непараметрических книг статистики попадут туда.

@jbowman предоставляет (хорошее) стандартное решение задачи оценки которая известна как модель прочности при напряжении .$\theta=P(X<Y)$

Другая непараметрическая альтернатива была предложена в Baklizi and Eidous (2006) для случая, когда и Y независимы. Это описано ниже.$X$$Y$

По определению имеем

где представляет ВПР из X и F Y представляет собой плотность Y . Затем, используя образцы X и Y можно получить ядро оценок из F X и F Y и , следовательно , и оценку & $F_X$$X$$f_Y$$Y$$X$$Y$$F_X$$f_Y$$\theta$

Это реализовано в следующем коде R с использованием ядра Гаусса.

# Optimal bandwidth
h = function(x){
n = length(x)
return((4*sqrt(var(x))^5/(3*n))^(1/5))
}

# Kernel estimators of the density and the distribution
kg = function(x,data){
hb = h(data)
k = r = length(x)
for(i in 1:k) r[i] = mean(dnorm((x[i]-data)/hb))/hb
return(r )
} 

KG = function(x,data){
hb = h(data)
k = r = length(x)
for(i in 1:k) r[i] = mean(pnorm((x[i]-data)/hb))
return(r )
} 

# Baklizi and Eidous (2006) estimator
nonpest = function(dat1B,dat2B){
return( as.numeric(integrate(function(x) KG(x,dat1B)*kg(x,dat2B),-Inf,Inf)$value))  
}

# Example when X and Y are Cauchy
datx = rcauchy(100,0,1)
daty =  rcauchy(100,0,1)

nonpest(datx,daty)

$\theta$

# bootstrap
B=1000
p = rep(0,B)

for(j in 1:B){
dat1 =  sample(datx,length(datx),replace=T)
dat2 =  sample(daty,length(daty),replace=T)
p[j] = nonpest(dat1,dat2)
}

# histogram of the bootstrap sample
hist(p)

# A confidence interval (quantile type)
c(quantile(p,0.025),quantile(p,0.975))

Другие виды интервалов начальной загрузки также могут быть рассмотрены.

$X_i-Y_i$$P(X_i-Y_i<0) = p$$I\{X_i-Y_i<0\}$$i=1,2,..,n$$X$$X_i < Y_i$$n$ $p=P(X_i-Y_i<0)$$X/n$