Примеры независимых и некоррелированных данных в реальной жизни и способы их измерения / обнаружения

Мы всегда слышим об этом векторе данных против этого другого вектора данных, независимого друг от друга или некоррелированного, и т. Д., И хотя легко найти математику относительно этих двух понятий, я хочу связать их в примерах из реальных жизнь, а также найти способы измерить эти отношения.

С этой точки зрения я ищу примеры двух сигналов следующих комбинаций: (я начну с некоторых):

Два сигнала, которые являются независимыми И (обязательно) некоррелированными:
- Шум от автомобильного двигателя (назовите его ) и вашего голоса ( ) во время разговора. $v_1[n]$ $v_2[n]$
- Регистрация влажности каждый день ( ) и индекса Доу-Джонса ( ). $v_1[n]$ $v_2[n]$

Q1) Как бы вы измерили / доказали, что они независимы с этими двумя векторами в руках? Мы знаем, что независимость означает, что произведение их PDF-файлов равно их совместному PDF-файлу, и это здорово, но с этими двумя векторами в руках, как можно доказать свою независимость?

Два сигнала, которые НЕ являются независимыми, но все еще не связаны между собой:

Q2) Я не могу думать о каких-либо примерах здесь ... что будет несколько примеров? Я знаю, что мы можем измерить корреляцию, взяв взаимную корреляцию двух таких векторов, но как мы докажем, что они также НЕ являются независимыми?

Два сигнала, которые связаны между собой:
- Вектор, измеряющий голос оперной певицы в главном зале, , в то время как кто-то записывает ее голос откуда-то внутри здания, скажем, в репетиционной комнате ( ). $v_1[n]$ $v_2[n]$
- Если вы постоянно измеряли частоту сердечных сокращений в вашем автомобиле ( ), а также измеряли интенсивность синих огней, падающих на ваше заднее ветровое стекло ( ) ... Я предполагаю, что они будут очень коррелированными ... :-) $v_1[n]$ $v_2[n]$

Q3) Относительно q2, но в случае измерения взаимной корреляции с этой эмпирической точки зрения, достаточно ли взглянуть на скалярное произведение этих векторов (так как это значение на пике их взаимной корреляции)? Почему мы заботимся о других значениях в перекрестной функции?

Еще раз спасибо, чем больше примеров приведено, тем лучше для построения интуиции!

cross-correlation independence

— ошалевший
источник

@DilipSarwate Спасибо, Дилип, я посмотрю на это. Пока что некоторые примеры были бы хороши, хотя.

— Спейси

Вы не можете «доказать», что они независимы, так же, как даже хорошо продуманный опрос не может «доказать», как все будут голосовать - и по тем же причинам.

— Джим Клэй

@JimClay Не стесняйтесь ослабить критерий «доказать» - я пытаюсь найти способы измерения / количественной оценки независимости. Мы часто слышим о такой-то независимости, ну, откуда они это знают? Какая измерительная лента используется?

— Спейси

Я хотел бы знать, можно ли использовать кросс-корреляцию для двух аналоговых сигналов: одного с высоким разрешением и другого с низким разрешением для целей анализа.

$f_1$ $f_2$ $f_1$ $f_2$

Ответы:

Несколько элементов ... (я знаю, что это не является исчерпывающим, более полный ответ, вероятно, должен упомянуть моменты)

$p(x,y)$ $p(x) \times p(y)$

$\int_x \int_y p(x, y) \log \frac{p(x, y)}{p(x) p(y)} dx dy$

И вы узнаете ... Взаимную информацию! Чем оно ниже, тем более независимыми являются переменные.

$p(x)$ $p(y)$ $p(x, y)$ $N$

Со страницы Википедии о статистической независимости и корреляции:

Распределительные участки

$p(x, y)$ $p(x)$ $p(y)$

Действительно, есть ситуации, в которых вы можете посмотреть на все значения функций взаимной корреляции. Они возникают, например, при обработке аудиосигнала. Рассмотрим два микрофона, которые захватывают один и тот же источник, но на расстоянии нескольких метров. Взаимная корреляция двух сигналов будет иметь сильный пик в лаге, соответствующий расстоянию между микрофонами, деленному на скорость звука. Если вы просто посмотрите на взаимную корреляцию с лагом 0, вы не увидите, что один сигнал является сдвинутой во времени версией другого!

— pichenettes
источник

p (x, y)

$p(x,y)$

p(x}

$p(x}$

(продолжение) 2) Итак, подведем итог: если ковариационная матрица х, а у диагональна, то они некоррелированы, но НЕ обязательно независимы, правильно? Для проверки на независимость была проблема с последующим вопросом (1). Однако, если мы покажем, что они являются независимыми, то, конечно, их ковариационная матрица ДОЛЖНА быть диагональной. Правильно ли я понял? Каков пример двух физических сигналов, которые я могу измерить в реальной жизни, которые будут зависимыми, но не коррелированными? Еще раз спасибо.

— Спейси

x_{n}

$x_n$

y_{n}

$y_n$

N

$N$

p (x, y)

$p(x, y)$

p^{*} (x, y) = \sum_{i} \frac{1}{N} K (x - x_{i}, y - y_{i})

$p^*(x, y) = \sum_i \frac{1}{N}K(x - x_i, y - y_i)$

K

$K$

(x_{n}, y_{n})

$(x_n, y_n)$

p^{*} (x, y) = \frac{C}{N}

$p^*(x, y) = \frac{C}{N}$

C

$C$

(x, y)

$(x, y)$

«2 физических сигнала, которые были бы зависимыми, но не коррелированными»: допустим, мы взломали GPS кабины NY, чтобы записать (широту, долготу) историю своего положения. Есть хорошие шансы, лат., Долго. данные будут некоррелированными - нет привилегированной «ориентации» облака точек. Но вряд ли он будет независимым, так как, если бы вас попросили угадать широту кабины, вы бы представили гораздо более точное предположение, если бы знали долготу (вы могли бы тогда взглянуть на карту и исключить [lat, длинные] пары, занятые зданиями).

— pichenettes

Другой пример: волна двух синусов с целым кратным той же частоты. Нулевая корреляция (базис Фурье ортонормирован); но если вы знаете значение одного, есть только конечный набор значений, который может принять другой (подумайте о сюжете Лиссажу).

— pichenettes

Выяснить, являются ли два сигнала независимыми, очень трудно сделать (учитывая конечные наблюдения) без каких-либо предварительных знаний / предположений.

$X$ $Y$ $X$ $Y$ $Y$ $X$ $Y$

cov (f_{1} (X), f_{2} (Y)) = E (f_{1} (X), f_{2} (Y)) = 0

$\text{cov}(f_1(X),f_2(Y)) = E(f_1(X),f_2(Y)) = 0$

f_{1}

$f_1$

f_{2}

$f_2$

X

$X$

Y

$Y$

f_{1} (x) = f_{2} (x) = x

$f_1(x) = f_2(x) = x$

$E(X^iY^j)$

$X(t)$ $Y(t)$

S_{X, Y} (f), S_{X^{2}, Y} (f), S_{X, Y^{2}} (f) \dots

$S_{X,Y}(f),S_{X^2,Y}(f),S_{X,Y^2}(f) \dots$

f

$f$

Пример :

X (t) = \sin (2 π f t)

$X(t) = \sin(2 \pi ft)$

Y (t) = \sin (2 π f t k)

$Y(t) = \sin( 2 \pi ftk)$

k \in Z

$k \in \mathbb{Z}$

k \neq 1

$k \neq 1$

X (t)

$X(t)$

Y (t)

$Y(t)$

\sin (k x)

$\sin(kx)$

\sin (x)

$\sin(x)$

Y (t) = f (X (t))

$Y(t) = f (X (t))$

f

$f$

$X(t)$ $Y(t)$

— rwolst
источник

X_{x^{2}, Y} (f)

$X_{x^2, Y}(f)$

X^{2} (t)

$X^2(t)$

Y (t)

$Y(t)$