Как определить поляризованные мнения пользователей (высокие и низкие звездные рейтинги)

Если у меня есть система звездного рейтинга, где пользователи могут выразить свое предпочтение продукту или товару, как я могу определить статистически, если голоса сильно «разделены». Значение, даже если среднее значение составляет 3 из 5, для данного продукта, как я могу определить, является ли это 1-5 разделением против консенсуса 3, используя только данные (без графических методов)

Можно построить индекс поляризации; как именно он определяется, зависит от того, что представляет собой более поляризованный (то есть что именно вы имеете в виду, в определенных краевых случаях, более или менее поляризованный?):

Например, если среднее значение равно «4», будет ли 50-50 деление между «3» и «5» больше или менее поляризовано, чем 25% «1» и 75% «5»?

В любом случае, при отсутствии такого конкретного определения того, что вы имеете в виду, я предложу меру, основанную на дисперсии:

Учитывая конкретное среднее значение, определите наиболее поляризованное возможное расщепление как максимизирующее дисперсию *.

* (Примечание: 25% «1» и 75% «5» - это существенно более поляризованы, чем 50-50 «3» и «5»; если это не соответствует вашей интуиции, не используйте дисперсию)

Таким образом, этот индекс поляризации является пропорцией максимально возможной дисперсии ( с наблюдаемым средним ) в наблюдаемой дисперсии.

Назовите средний рейтинг ( m = ˉ x ).$m$$m=\bar x$

Максимальная дисперсия возникает при пропорции в5и1-рв1; это имеет дисперсию (m-1)(5-m)⋅$p=\frac{m-1}{4}$$5$$1-p$$1$ .$(m-1)(5-m) \cdot \frac{n}{n-1}$

Так что просто возьмите выборочную дисперсию и разделите на ; это дает число между0(полное согласие) и1(полностью поляризованное).$(m-1)(5-m) \cdot \frac{n}{n-1}$$0$$1$

Для ряда случаев, когда средний рейтинг равен 4, это даст следующее:

---

Вместо этого вы можете предпочесть не вычислять их относительно максимально возможной дисперсии с тем же средним значением, а вместо этого в процентах от максимально возможной дисперсии для любого среднего рейтинга . Это будет включать деление вместо , и снова дает значение между 0 (идеальное согласие) и$4 \cdot \frac{n}{n-1}$ (поляризовано в крайних значениях в соотношении 50-50). Это даст те же релятивности, что и на диаграмме выше, но все значения будут на 3/4 больше (то есть слева направо, сверху вниз они будут 0, 16,5%, 25%, 25%, 50 % и 75%).$1$

Любой из этих двух вариантов является вполне допустимым, как и любой другой ряд альтернативных способов построения такого индекса.

«Нет графических методов» - это большой недостаток, но ... вот пара странных идей. Оба рассматривают рейтинги как непрерывные, что является чем-то вроде концептуальной слабости и, вероятно, не единственным ...

эксцесс

• Куртоз {1,1,1,5,5,5} = 1. Вы не получите меньший эксцесс с любым комбо из 1–5 оценок.
• Эксцесс {1,2,3,4,5} = 1,7. Нижний означает более экстремальные значения; выше означает больше среднего.
• Это не будет работать, если распределение не примерно симметрично. Я продемонстрирую ниже.

Отрицательная биноминальная регрессия

С кадром данных следующим образом: Пригодное модель Р т е д у й п с у ~ Р т я н г +

$$\begin{array}{c|c}\rm Rating&\rm Frequency\\\hline1&31\\2&15\\3&7\\4&9\\5&37\end{array}$$ с использованием отрицательной биномиальной регрессии. $\rm Frequency\sim\rm Rating+\sqrt{Rating}$Коэффициент R a t i n g должен быть близким к нулю, если рейтингираспределены равномерно, положительным, если пропорционально больше значений среднего диапазона (ср.Биномиальное распределение), или отрицательным с поляризованными распределениями, подобными приведенным выше, для которых коэффициент равен - 11,8.$\rm\sqrt{Rating}$

FWIW, вот т код , который я играл с:

x=rbinom(99,4,c(.1,.9))+1;y=sample(0:4,99,replace=T)+1 #Some polarized & uniform rating data
table(x);table(y)                                                         #Frequencies
require(moments);kurtosis(x);kurtosis(y)                                  #Kurtosis

Y=data.frame(n=as.numeric(table(y)),rating=as.numeric(levels(factor(y)))) #Data frame setup
X=data.frame(n=as.numeric(table(x)),rating=as.numeric(levels(factor(x)))) #Data frame setup
require(MASS);summary(glm.nb(n~rating+sqrt(rating),X))  #Negative binomial of polarized data
summary(glm.nb(n~rating+sqrt(rating),Y))                #Negative binomial of uniform data

Не могу устоять перед броском в сюжет ...

require(ggplot2);ggplot(X,aes(x=rating,y=n))+geom_point()+stat_smooth(formula=y~x+I(sqrt(x)),method='glm',family='poisson')

$\rm\sqrt{Rating}$

---

---

Редактировать: только что увидел этот вопрос, рекламируемый на боковой панели: и когда я нажал, я увидел его в Hot Network Questions, ссылающихся обратно на себя, как это иногда бывает ,

поэтому я подумал, что это заслуживает повторного рассмотрения в более общем смысле. Я решил попробовать свои методы в обзорах клиентов Amazon для футболки The Mountain Three Wolf Moon с коротким рукавом :

$$\begin{array}{c|ccccc}\rm Rating&1&2&3&4&5\\\hline\rm Frequency&208&54&89&198&2273\end{array}$$

$\beta_\sqrt{\rm Rating}=-19.1$

$\rm \sigma^2_{Frequency_\text{The Mountain Three Wolf Moon Short Sleeve Tee Ratings}}=1.31$
x=rep(5:1,c(2273,198,89,54,208))var(x)/(4*length(x)/(length(x)-1))

$$\frac {(1-3)^2 + (3-3)^2 + (3-3)^2 + (5-3)^2}4 = 1$$ Если ваши цифры 1,1,5,5, ваша разница будет: $$\frac {(1-3)^2 + (1-3)^2 + (5-3)^2 + (5-3)^2}4 = 2$$

Я сомневаюсь, что могу добавить что-то ценное к умным ответам, которые уже даны. В частности, к прекрасной идее @ Glen_b оценить, насколько наблюдаемая дисперсия относительно близка к максимально возможной дисперсии при наблюдаемом среднем значении. Вместо этого мое прямое и прямолинейное предложение касается некоторой надежной меры дисперсии, основанной не на отклонениях от некоторого центра, а непосредственно на расстояниях между точками данных.

Вычислить попарные расстояния (абсолютные различия) между всеми точками данных. Выбывать$d_{ii}$ zero distances. Compute a central tendency in the distribution of the distances (the choice is yours; it may be, for example, mean, median, or Hodges-Lehmann centre).

Rating scale                   Distances      Mean     Median    Hodges-Lehmann
1  2  3  4  5

Frequency distributions:

1     2     1                 0 2 2 2 2 4      2          2          2

2           2                 0 0 4 4 4 4      2.7        4          2

1        2  1                 0 1 1 3 3 4      2          2          2

1  1  1     1                 1 1 2 2 3 4      2.2        2          2

1  1     1  1                 1 1 2 3 3 4      2.3        2.5        2.5

1           3                 0 0 0 4 4 4      2          2          2

Как видите, эти 3 статистики могут сильно отличаться как меры «поляризации» (если бы я измерял «разногласия», а не биполярную конфронтацию, я бы, вероятно, выбрал HL). Выбор ваш. Одно понятие: если вы вычисляете квадратные расстояния, их среднее значение будет напрямую связано с обычной дисперсией в данных (и поэтому вы получите предложение @ Duncan для вычисления дисперсии). Вычисление расстояний не будет слишком сложным даже при больших$N$ здесь, потому что шкала оценки является конкретной и с относительно небольшим количеством оценок, поэтому алгоритм частотного взвешивания для вычисления расстояний предлагает себя естественным образом.

Как насчет того, если 3-звездочный рейтинг меньше среднего из 5 и 4, а также меньше среднего 1 и 2:

if (number_of_ratings > 6)      // kind of meaningless unless there's enough ratings
{
    if ( ((rating(5)+rating(4))*0.5 > rating(3)) &&
         ((rating(1)+rating(2))*0.5 > rating(3))
       )    
    {
        // Opinion divided
    }
    else
    {
        // Opinion not divided
    }
}
else
{
    // Hard to tell yet if opinion is divided
}

Я не могу вспомнить ни одной ситуации, в которой это не сработало бы. Используя приведенный выше пример: отзывы покупателей Amazon о футболке The Mountain Three Wolf Moon с коротким рукавом :

$$\begin{array}{c|ccccc}\rm Rating&1&2&3&4&5\\\hline\rm Frequency&208&54&89&198&2273\end{array}$$

В таком случае:

$$\begin{array}{c|ccccc}\rm Rating&average(1,2)&3&average(4,5)\\\hline\rm Frequency&131&89&1235\end{array}$$

Это пройдет испытание и будет считаться раздельным мнением.

Я думаю, что вы ищете стандартное отклонение:

$$\sigma = \sqrt{\frac{\sum_{i=0}^{n}(x_i-\mu )^2}{n}}\\\text{where }\sigma \text{ is standard deviation, } \\ n \text{ is the number of data points,}\\ x \text{ represents all of the data points, and}\\\mu\text{ is the mean.}$$

Я не знаю, что это за язык программирования, но вот метод Java, который даст вам стандартное отклонение:

public static double standardDeviation(double[] data) {
            //find the mean
    double sum = 0;
    for(double x:data) {
        sum+=x;
    }
    double mean = sum/data.length;

            //find standard deviation
    Double sd;
    sd=0.0;
    for(double x:data) {
        sd+=Math.pow((x-mean),2);
    }
    sd=sd/data.length;
    sd=Math.sqrt(sd);

    return sd;
}