Как определить вероятность отказа, если не было сбоев?

Мне было интересно, есть ли способ определить вероятность того, что что-то не получится (продукт), если у нас есть 100 000 продуктов в течение 1 года и без сбоев? Какова вероятность того, что один из следующих 10 000 проданных товаров потерпит неудачу?

Вероятность того, что продукт выйдет из строя, безусловно, зависит от времени и использования. У нас нет никаких данных об использовании, и только с одним годом сбоев нет (поздравляю!). Таким образом, этот аспект (называемый функцией выживания ) не может быть оценен по вашим данным.

Однако вы можете думать о сбоях в течение одного года как о биномиальном распределении . У вас все еще нет сбоев, но сейчас это общая проблема. Простое решение состоит в том, чтобы использовать правило 3 , которое является точным при большом (что у вас, безусловно, есть). В частности, вы можете получить верхнюю границу односторонний 95% доверительного интервала (т.е. нижняя граница равна ) на истинной вероятности отказа в течение одного года . В вашем случае вы на 95% уверены, что ставка ниже . 0 3 / N $N$$0$$3/N$$0.00003$

Вы также спросили, как рассчитать вероятность отказа одного или нескольких из следующих 10 000. Быстрый и простой (хотя и экстремальный) способ расширить вышеприведенный анализ - просто использовать верхнюю границу в качестве базовой вероятности и использовать соответствующий биномиальный CDF, чтобы получить вероятность того, что не будет отказов. Используя код, мы могли бы сделать:, что дает шанс увидеть один или несколько сбоев в следующих 10 тысячах продуктов. Используя верхнюю границу, это не является оптимальной точечной оценкой вероятности, по крайней мере, одного отказа, скорее вы можете сказать, что очень маловероятно, что вероятность отказа превышает≥ 1 ≈ 26 % ( Р + 1 ) / ( N + 2 ) Р р = 9,9998 × 10 - 06 1 + ≈ 10 $0$R1-pbinom(0, size=10000, prob=0.00003)0.2591851$\ge 1$$\approx 26\%$(признавая, что это несколько «волнистое» обрамление). Другая возможность состоит в использовании предложения @ amoeba об оценке из правила наследования Лапласа . Правило правопреемства гласит, что предполагаемая вероятность отказа равна , где - количество отказов. В этом случае , и вычисление для прогнозируемой вероятности отказов в следующие 10 000 составляет , принося , или . $(F+1)/(N+2)$$F$$\hat p = 9.9998\times 10^{-06}$$1^+$1-pbinom(0, size=10000, prob=9.9998e-06)0.09516122$\approx 10\%$

Вы можете принять байесовский подход. Обозначим вероятность отказа и считаем ее случайной величиной. Априори, прежде чем увидеть результаты экспериментов, вы можете поверить, что . Если вы доверяете инженерам сделать этот продукт надежным, возможно, вы можете взять или около того. Это зависит от вас. Затем вы можете использовать теорему Байеса для вычисления апостериорного распределения . Обозначим событие , которое вы наблюдали ( эксперименты с нулевыми неудач).thetas ; ~ U ( 0 , 1 ) & thetas ; ~ U ( 0 , 0,1 ) θ A $\Theta$$\Theta \sim U(0,1)$$\Theta \sim U(0,0.1)$$\theta$$A$$n$

Θp(θ)np(A|θ)n

$$p(\Theta = \theta | A) = \frac{p (A | \Theta = \theta) p(\Theta = \theta )}{p(A)} = \frac{p (A |\theta) p(\theta )}{\int p (A |\theta) p(\theta )d\theta}.$$ Все просто: равномерно, поэтому является некоторой константой. Поскольку вы запускаете экспериментов, - это просто вероятность отсутствия сбоев в испытаниях Бернулли с вероятностью неудачи .$\Theta$$p(\theta)$$n$$p(A | \theta)$$n$$\theta$

Когда у вас есть вы становитесь золотом: вы можете вычислить вероятность любого события путем интегрирования:B P ( B ) = ∫ p ( B | θ ) p ( θ | A ) d $p(\theta | A)$$B$$\mathbb{P}(B) = \int p(B |\theta) p(\theta |A) d\theta$

Ниже я работаю над подробным решением, следуя вышеуказанному подходу. Я возьму несколько стандартных ярлыков.

Пусть предшествующим будет . Тогда: Константа нормализации равна - см. Бета-функцию на страницах Википедии и бета-распределение . Итак, , что является бета-распределением с параметрами .p ( θ | A ) ∝ p ( A | θ ) ⋅ 1 = ( 1 - θ ) n . p ( A ) = ∫ p ( A | θ ) p ( θ ) d θ B ( 1 , n + 1 ) p ( θ | A $U(0,1)$

$$p(\theta |A)\propto p(A|\theta) \cdot 1 = (1-\theta)^n.$$ $p(A) = \int p(A|\theta)p(\theta) d\theta$$B(1,n+1)$ 1,n+$p(\theta |A) = \frac{(1-\theta)^n}{B(1,n+1)}$$1, n+1$

Обозначим вероятность без сбоев в продукции в следующем году . Вероятность хотя бы одного отказа составляет . Тогда B 1 - P ( B ) 1 - P ( B ) = 1 - ∫ ( 1 - θ ) m ( 1 - θ ) $m$$B$$1 -\mathbb{P}( B )$

$$1- \mathbb{P}(B) =1 - \int (1-\theta)^m\frac{(1-\theta)^n}{B(1,n+1)}d\theta = \frac{B(1,n+m+1)}{B(1,n+1)}$$

что примерно равно , используя . Не очень впечатляет? Я взял равномерное распределение по вероятности отказа. Возможно, вы лучше верите в своих инженеров.л = 100 , 000 , т = 10 , $0.1$$n= 100,000, m = 10,000$

Вместо того, чтобы вычислять вероятность, почему бы не предсказать, сколько продуктов может потерпеть неудачу?

Моделирование наблюдений

В этой области продуктов, а еще . Предположим, что их неудачи независимы и постоянны с вероятностью .м = 10000 $n=100000$$m=10000$$p$

Мы можем смоделировать эту ситуацию с помощью биномиального эксперимента: из коробки билетов с неизвестной пропорцией билетов «сбой» и билетов «успех», возьмите билетов (с заменой, чтобы вероятность неудачи остается прежней). Количество неудач среди первых билетов - пусть это будет -й количество неудач среди оставшихся билетов, призывающий , что .1 - p m + n = 110000 n X m $p$$1-p$$m+n=110000$$n$$X$$m$$Y$

Обрамление вопроса

В принципе, и могут быть чем угодно. То , что мы заинтересованы в том, есть шанс , что учитывая , что (с любое число в ). Поскольку сбои могут возникать где угодно среди всех билетов, причем каждая возможная конфигурация имеет одинаковую вероятность, это определяется путем деления числа -подмножеств вещей на количество -подмножеств всех вещей:0 ≤ Y ≤ m Y = u X + Y = u u { 0 , 1 , … , m } n + m u m u n + $0\le X \le n$$0 \le Y\le m$$Y = u$ $X+Y=u$$u$$\{0,1,\ldots, m\}$$n+m$$u$$m$$u$$n+m$

$$p(u;n,m) = \Pr(Y = u\,|\, X+Y=u) = \frac{\binom{m}{u}}{\binom{n+m}{u}} \\= \frac{m(m-1)\cdots(m-u+1)}{(n+m)(n+m-1)\cdots(n+m-u+1)}.$$

Для расчета можно использовать сопоставимые формулы, когда$X=1, 2, \ldots.$

Верхняя предел предсказания$1-\alpha$ (УПЛ) для числа неудач в этих последних билетов, , задается наименьшим ( в зависимости от ) , для которых . t α (X;n,m)uXp(u;n,m)≤$m$$t_\alpha(X;n,m)$$u$$X$$p(u;n,m) \le \alpha$

интерпретация

UPL следует интерпретировать с точки зрения риска использования , который оценивается до того, как наблюдается или Другими словами, предположим, что это был год назад, и вас просят порекомендовать процедуру для прогнозирования количества сбоев в следующих продуктах после появления первых . Ваш клиент спрашиваетX Y m $t_\alpha$$X$$Y$$m$$n$

Какова вероятность того, что ваша процедура будет недооценивать ? Я не имею в виду в будущем, когда у вас будет больше данных; Я имею в виду прямо сейчас, потому что я должен принимать решения прямо сейчас, и единственные шансы, которые у меня будут в наличии, - это те, которые можно вычислить в данный момент ».$Y$

Ваш ответ может быть,

В настоящее время вероятность не больше, чем , но если вы планируете использовать меньший прогноз, вероятность превысит .$\alpha$$\alpha$

Результаты

Для , и мы можем вычислить, что м = 10 4 X = $n=10^5$$m=10^4$$X=0$

$$p(0,n,m)=1;\ p(1,n,m)=\frac{1}{11}\approx 0.091;\ p(2,n,m)=\frac{909}{109999}\approx 0.0083; \ldots$$

Таким образом, наблюдая$X=0$ ,

• Для достоверности до (т. При ), прогнозируйте, что в следующих продуктах будет не более сбой .$1-\alpha=90.9\%$$9.1\%\le \alpha$$t_\alpha(0;n,m)=1$$10,000$

• Для достоверности до (то есть, когда ), предскажите, что в следующих продуктах будет не более сбоев .0,8 % & le ; & alpha ; < 9,1 % т & alpha ; ( 0 ; п , т ) = 2 10 , $99.2\%$$0.8\%\le \alpha \lt 9.1\%$$t_\alpha(0;n,m)=2$$10,000$

• И т.п.

---

Комментарии

Когда и почему этот подход будет применяться? Предположим, ваша компания производит много разных продуктов. Наблюдая за показателями каждого в поле, ему нравится предоставлять гарантии, такие как «полная бесплатная замена любого отказа в течение одного года». Имея пределы прогнозирования количества сбоев, вы можете контролировать общие затраты на обеспечение этих гарантий. Поскольку вы производите много продуктов и ожидаете, что сбои произойдут из-за случайных обстоятельств, не зависящих от вас, опыт работы с каждым продуктом будет независимым. Имеет смысл контролировать свой риск в долгосрочной перспективеα $n$, Время от времени вам, возможно, придется платить больше требований, чем ожидалось, но в большинстве случаев вы будете платить меньше. Если платить больше, чем было объявлено, может оказаться губительным, вы установите на крайне малый размер (и, скорее всего, вы бы также использовали более сложную модель отказов!). В противном случае, если затраты незначительны, вы можете жить с низким уровнем доверия (высокий ). Эти расчеты показывают, как сбалансировать доверие и риски.$\alpha$$\alpha$

Обратите внимание, что нам не нужно вычислять полную процедуру . Мы ждем, пока не появится а затем просто выполним вычисления для этого конкретного (здесь ), как показано выше. В принципе, тем не менее, мы могли бы провести вычисления для всех возможных значений в самом начале.X X X = 0 $t$$X$$X$$X=0$$X$

Байесовский подход (описанный в других ответах) привлекателен и будет хорошо работать, если результаты не сильно зависят от предыдущих. К сожалению, когда частота отказов настолько низка, что наблюдается очень мало (или не отказов), результаты чувствительны к выбору предшествующего.

Ниже приведен байесовский ответ на вопрос «Из 10000 новых продуктов, сколько, как ожидается, выйдет из строя, если все прежние 100 000 произведенных не выйдут из строя?», Но вы должны учитывать чувствительность к различным приоритетам.

Предположим, что условно независимы и одинаково распределены при заданном таком, что , и используют сопряженный предшествующий , с .$X_1,\dots,X_n$$\Theta=\theta$$X_1\mid\Theta=\theta\sim\mathrm{Bernoulli}(\theta)$$\Theta\sim\mathrm{Beta}(a,b)$$a,b>0$

Для имеем $m<n$

$$\mathrm{E}\left[\sum_{i=m+1}^n X_i\;\Bigg\vert\; X_1=0,\dots X_m=0 \right] = \sum_{i=m+1}^n \mathrm{E}\left[ X_i\mid X_1=0,\dots X_m=0 \right] \, .$$

Для мы имеем в котором мы использовали .$m+1\leq i\leq n$

$$\begin{align} \mathrm{E}\left[X_i\mid X_1=0,\dots X_m=0\right] &= \Pr(X_i=1\mid X_1=0,\dots X_m=0) \\ &= \int_0^1 \Pr(X_i=1\mid \Theta=\theta) \,f_{\Theta\mid X_1,\dots,X_m}(\theta\mid 0,\dots,0) \,d\theta \\ &= \frac{\Gamma(m+a+b)}{\Gamma(m+a+b+1)} \frac{\Gamma(a+1)}{\Gamma(a)} = \frac{a}{m+a+b}\, , \end{align}$$ $\Theta\mid X_1=0,\dots,X_m=0\sim \mathrm{Beta}(a,m+b)$

Подключив ваши номера, с единообразным априором ( ) вы ожидаете частоту отказов около , в то время как джеффрисоподобный априор ( ) дает вам интенсивность отказов близка к .$a=1,b=1$$10\%$$a=1/2,b=1/2$$5\%$

Это прогнозирующее ожидание не выглядит хорошим резюме, потому что прогнозирующее распределение сильно искажено. Мы можем пойти дальше и вычислить прогнозирующее распределение. Так как кондиционирование, как мы делали до того, как получили для .

$$\sum_{i=m+1}^n X_i \;\Bigg\vert\; \Theta=\theta \sim \mathrm{Bin}(n-m+2,\theta) \, ,$$ $$\begin{align} \Pr&\left(\sum_{i=m+1}^n X_i=t \;\Bigg\vert\; X_1=0,\dots X_m=0\right) = \\ &\qquad\qquad\qquad\qquad\binom{n-m+2}{t} \frac{\Gamma(m+a+b)}{\Gamma(a)\Gamma(m+b)} \frac{\Gamma(t+a)\Gamma(n-t+2)}{\Gamma(n+a+2)} \, , \end{align}$$ $t=0,1,\dots,n-m+2$

Я закончу это позже, вычисляя прогнозный интервал.$95\%$

Используя подход Лапласа к проблеме восхода , мы получаем вероятность того, что продукт выйдет из строя в течение года . Далее, вероятность того, что из новых продуктов не выйдет из строя в течение года, равна Следовательно, вероятность того, что по крайней мере один продукт из выйдет из строя в следующем году, равна Для значение равно . В случае whuber , на самом деле довольно высокий.

$$p=\frac{1}{100000+1}$$ $n$ $$(1-p)^n$$ $n$ $$1-\left(1-\frac{1}{100001}\right)^{n}$$ $n=10000$$P_{10000}\approx 0.095$$P_{200000}\approx 0.87$

Конечно, вы должны продолжать обновлять свои данные, пока продано больше товаров, в конце концов один из них потерпит неудачу.

На этот вопрос было дано несколько хороших ответов, но недавно у меня была возможность просмотреть несколько ресурсов по этой теме, и поэтому я решил поделиться результатами.

Существует множество возможных оценок для данных с нулевыми ошибками. Обозначим как количество отказов и как размер выборки. Оценка максимального правдоподобия вероятности отказа, учитывая, что эти данные$k=0$$n$

$$P(K = k) = \frac{k}{n} = 0 \tag{1}$$

Такая оценка довольно неудовлетворительная, поскольку тот факт, что в нашей выборке мы не наблюдали сбоев, вряд ли доказывает, что они вообще невозможны. Исходя из данных, полученных на основе данных, можно предположить, что существует некоторая вероятность отказа, даже если не было замечено (пока). Наличие априорных знаний приводит нас к использованию байесовских методов, рассмотренных Bailey (1997), Razzaghi (2002), Basu et al (1996) и Ludbrook and Lew (2009).

Среди простых оценок «верхняя граница» оценки, которая предполагает (Bailey, 1997)

что было бы не логично, чтобы оценщик для P в случае с нулевым отказом давал вероятность, превышающую вероятность, предсказанную оценщиком максимального правдоподобия в случае с одним отказом, разумную верхнюю границу

определяется как

$$\frac{1}{n} \tag{2}$$

можно упомянуть. Согласно обзору Ludbrook and Lew (2009), другие возможности - это «правило троек» (см. Здесь , Wikipedia или Eypasch et al, 1995)

$$\frac{3}{n} \tag{3}$$

или другие варианты:

$$\frac{3}{n+1} \tag{4}$$

«Правило 3.7» Ньюкомба и Альтмана (или 3.6):

$$\frac{3.7}{n} \tag{5}$$

«Новое правило четырех»:

$$\frac{4}{n+4} \tag{6}$$

но, как заключили Лудбрук и Лью (2009), «правило троек» «почти бесполезно» и «правило 3,6» (и 3,7) «имеют серьезные ограничения - они крайне неточны, если первоначальный размер выборки меньше 50». и они не рекомендуют методы (3) - (6), предлагающие скорее использовать правильные байесовские оценки (см. ниже).

Среди байесовских оценок можно упомянуть несколько разных. Первая такая оценка, предложенная Бэйли (1997)

$$1 - 0.5^\frac{1}{n} \tag{7}$$

для оценки медианы при равномерном

$$1 - 0.5^\frac{1}{n+1} \tag{8}$$

или для оценки среднего при таком предварительном

$$\frac{1}{n+2} \tag{9}$$

еще один подход, предполагающий экспоненциальную картину отказов с постоянной частотой отказов (распределения Пуассона), дает

$$\frac{1/3}{n} \tag{10}$$

если мы используем бета-версию с параметрами и мы можем использовать формулу (см. Раззаги, 2002):$a$$b$

$$\frac{a}{a+b+n} \tag{11}$$

что при приводит к равномерному априорному (9). Предполагая, что Джеффри до это приводит ка = б = $a = b = 1$$a = b = 0.5$

$$\frac{1}{2(n+1)} \tag{12}$$

Обычно рекомендуются байесовские формулы (7) - (12). Basu et al (1996) рекомендует (11) с информативным априором, когда доступны некоторые априорные знания. Поскольку не существует единственного наилучшего метода, я бы предложил рассмотреть литературу до вашего анализа, особенно когда мало.$n$

---

Бейли, RT (1997). Оценка по данным без сбоев. Анализ риска, 17 , 375-380.

Раззаги, М. (2002). Об оценке вероятности биномиального успеха с нулевым вхождением в выборку. Журнал современных прикладных статистических методов, 1 (2), 41.

Ludbrook, J. & Lew, MJ (2009). Оценка риска редких осложнений: достаточно ли «правило трех»? ANZ журнал хирургии, 79 (7‐8), 565-570.

Eypasch, E., Lefering, R., Kum, CK, и Troidl, H. (1995). Вероятность неблагоприятных событий, которые еще не произошли: статистическое напоминание. BMJ 311 (7005): 619–620.

Basu, AP, Gaylor, DW, & Chen, JJ (1996). Оценка вероятности возникновения опухоли для редкого рака с нулевым появлением в образце. Нормативная токсикология и фармакология, 23 (2), 139-144.

Вам действительно нужно вернуться к дизайнерам вашей продукции. Это фундаментальная инженерная проблема, а не наблюдательная статистическая. У них будет представление о вероятности отказа каждого компонента и об этой вероятности полного отказа всего собранного продукта. Они могут дать вам ожидаемое количество сбоев в течение всего срока службы продукта.

Гражданский инженер проектирует мост, чтобы иметь проектную жизнь 120 лет. У каждого компонента моста есть небольшая вероятность отказа. Каждая загрузка имеет небольшой шанс быть превышенным. Чтобы сделать мост экономически выгодным, полный обвал может произойти только один раз в 2400 лет, что намного дольше, чем будет эксплуатироваться мост. Неудивительно, что мост не разрушается ни в год 1, ни во второй год, ни в год 120. То есть, он не рухнул, говорит вам очень мало. Его различные шансы на провал со временем могут быть оценены только оригинальными дизайнерами.

Это похоже на проблему, с которой я столкнулся, когда мы внедрили новый производственный процесс, чтобы устранить сбои в производстве.

Новая система не вызывала сбоев, поэтому люди задавали один и тот же вопрос: как мы можем предсказать частоту отказов? В вашем случае, поскольку вы предусмотрели период, в течение которого сбой может произойти, не заботясь о том, когда сбой произошел в течение этого периода, временные эффекты были удалены. И это просто случай, если что-то не удалось или нет. С этим оговорено - дальше с моим ответом.

Интуитивно понятно, что нам нужен хотя бы один сбой, чтобы рассчитать частоту отказов. Однако в этом предположении есть неявная ошибка. Мы никогда не будем рассчитывать частоту отказов. Это потому, что мы имеем дело с образцом. Таким образом, мы можем только оценить диапазон вероятных отказов. Способ сделать это - найти распределение для частоты отказов. Распределение, которое выполняет работу в этом случае, является бета-распределением, где параметры: α = n + 1 и β = N - n + 1

Примечание: N - это размер выборки, а n - количество сбоев (в вашем случае 0)

Для вашего сценария распределение частоты отказов показано ниже. ,

Затем вы должны передать это распределение в соответствующую формулу биномиальной вероятности, чтобы получить распределение вероятности отказа одной единицы (это можно сделать аналитически или с использованием метода Монте-Карло). Я подозреваю, что цифры будут очень низкими.

Обратите внимание, что этот процесс применим независимо от количества сбоев в вашем первом наборе.