Используйте парный т- тест
Пока у вас достаточно рейтингов (достаточно 15, и я был бы рад даже меньшему количеству) и некоторой вариации различий в рейтингах, использование парного t- теста не представляет никакой проблемы . Затем вы получите оценки, которые очень легко интерпретировать - средние оценки по 1–5 числовой шкале + их различие (между продуктами).
Код R
Это очень легко сделать в R:
> ratings = c("very bad", "bad", "okay", "good", "very good")
> d = data.frame(
customer = 1:15,
product1 = factor(c(5, 4, 3, 5, 2, 3, 2, 5, 4, 4, 3, 5, 4, 5, 5),
levels=1:5, labels=ratings),
product2 = factor(c(1, 2, 2, 3, 5, 4, 3, 1, 4, 5, 3, 4, 4, 3, 3),
levels=1:5, labels=ratings))
> head(d)
customer product1 product2
1 1 very good very bad
2 2 good bad
3 3 okay bad
4 4 very good okay
5 5 bad very good
6 6 okay good
Сначала давайте проверим средние оценки:
> mean(as.numeric(d$product1))
[1] 3.9333
> mean(as.numeric(d$product2))
[1] 3.1333
И т- тест дает нам:
> t.test(as.numeric(d$product1),
as.numeric(d$product2), paired=TRUE)
Paired t-test
data: as.numeric(d$product1) and as.numeric(d$product2)
t = 1.6, df = 14, p-value = 0.13
alternative hypothesis: true difference in means is not equal to 0
95 percent confidence interval:
-0.27137 1.87137
sample estimates:
mean of the differences
0.8
-значение 0,13, что делает не сильно предположить , что продукты оцениваются по- разному, несмотря на очевидное различие 0,8 (но не отметить достаточно доверительный интервал - нам действительно нужно больше данных).p
Поддельные данные?
Любопытно и неожиданно, непарный t- тест дает более низкое p- значение.
> t.test(as.numeric(d$product1),
as.numeric(d$product2), paired=FALSE)
Welch Two Sample t-test
data: as.numeric(d$product1) and as.numeric(d$product2)
t = 1.86, df = 27.6, p-value = 0.073
[…]
Это говорит о том, что данные примера являются поддельными. Для реальных данных можно ожидать (довольно высокой) положительной корреляции между рейтингами одного и того же клиента. Здесь корреляция отрицательна (хотя статистически значимо не так):
> cor.test(as.numeric(d$product1), as.numeric(d$product2))
Pearson's product-moment correlation
data: as.numeric(d$product1) and as.numeric(d$product2)
t = -1.38, df = 13, p-value = 0.19
alternative hypothesis: true correlation is not equal to 0
95 percent confidence interval:
-0.73537 0.18897
sample estimates:
cor
-0.35794
Потерянная информация
Когда не все клиенты оценили оба продукта (т.е. несбалансированные данные), лучшим подходом является использование модели смешанных эффектов:
Давайте сначала преобразуем данные в числовую форму:
> d2 = d
> d2[,-1] = lapply(d2[,-1], as.numeric)
И преобразовать его в «длинную» форму:
> library(tidyr)
> d3 = gather(d2, product, value, -customer)
И, наконец, подгоняем модель со смешанными эффектами к клиенту как случайный эффект:
> l = lme(value~product, random=~1|customer, data=d3)
> summary(l)
Linear mixed-effects model fit by REML
Data: d3
AIC BIC logLik
101.91 107.24 -46.957
Random effects:
Formula: ~1 | customer
(Intercept) Residual
StdDev: 3.7259e-05 1.1751
Fixed effects: value ~ product
Value Std.Error DF t-value p-value
(Intercept) 3.9333 0.30342 14 12.9633 0.0000
productproduct2 -0.8000 0.42910 14 -1.8644 0.0834
[…]
Значение составляет 0,0834. Обычно для сбалансированных данных будет почти идентичен к р -значение от сопряженного т -test. Здесь оно ближе к p- значению непарного t- критерия из-за отрицательной корреляции. Обратите внимание, что дисперсия для эффекта клиента (случайный перехват) практически равна нулю. Это редко случается с реальными данными.p
Резюме
В итоге используйте парный t -test. Затем вы получите оценки, которые легко интерпретировать (простые числовые средние).
Если не все клиенты оценили оба продукта, используйте вместо этого модель смешанных эффектов. (Это даст примерно те же результаты , как и парные т -test , когда они имеют все оценили как продукты, так что вы можете также использовать его всегда.)
