Hoppande partikel: Skillnad mellan intuition och algebra

Nja, det ska inte vara $C(X,Y)>1$, utan $C(X,Y)>0$. Är kovariansen positiv så korrelerar de positiva värdena för $X$ med de positiva värdena för $Y$ och på samma sätt för de negativa värdena. Är kovariansen negativ gäller det omvända (positiva värden hos $X$ korrelerar med negativa värden hos $Y$ och vice versa).

Detta handlar alltså inte om ökning eller minskning, utan en positiv korrelation betyder snarare att om vi utför ett experiment många gånger så kommer värdena för $X$ och $Y$ tendera att falla över eller under sina väntevärden samtidigt.

Säg att ett experiment ger något utfall $X=x$ över väntevärdet, $x>E[X]$. Om detta ökar sannolikheten för $Y$ att ge ett utfall över sitt väntevärde, ja då finns en positiv korrelation mellan $X$ och $Y$.

Så exempelvis om $X=1$ så är $Y$ antingen 0 eller 2 med samma sannolikhet, vilket vi kan skriva $E[Y\mid X=1] = 1$. På samma sätt är $E[Y\mid X=-1] = -1$. Däremot är $E[Y] = 0$. Så det verkar rimligt att kovariansen är positiv.

Gustor skrev:

Nja, det ska inte vara $C(X,Y)>1$, utan $C(X,Y)>0$. Är kovariansen positiv så korrelerar de positiva värdena för $X$ med de positiva värdena för $Y$ och på samma sätt för de negativa värdena. Är kovariansen negativ gäller det omvända (positiva värden hos $X$ korrelerar med negativa värden hos $Y$ och vice versa).

Detta handlar alltså inte om ökning eller minskning, utan en positiv korrelation betyder snarare att om vi utför ett experiment många gånger så kommer värdena för $X$ och $Y$ tendera att falla över eller under sina väntevärden samtidigt.

Säg att ett experiment ger något utfall $X=x$ över väntevärdet, $x>E[X]$. Om detta ökar sannolikheten för $Y$ att ge ett utfall över sitt väntevärde, ja då finns en positiv korrelation mellan $X$ och $Y$.

Så exempelvis om $X=1$ så är $Y$ antingen 0 eller 2 med samma sannolikhet, vilket vi kan skriva $E[Y\mid X=1] = 1$. På samma sätt är $E[Y\mid X=-1] = -1$. Däremot är $E[Y] = 0$. Så det verkar rimligt att kovariansen är positiv.

Tack för svaret! $> 1$ var ett skrivfel från min sida, ber om ursäkt. Betingade väntevärden ingår inte i min kurs, men jag tror att jag hade missförstått hur kovariansen kan tolkas. Har jag förstått det rätt nu? Givet mitt tidigare exempel: partikeln hoppar från $0$ till $1$. Då kan partikeln antingen hoppa tillbaka till $0$ eller till $2$. Vi kommer alltså få att $Y$ antar ett värde mellan 0 och 2. Eftersom $E(Y)=0$, och $2 > E(Y)$, så antar $Y$ värden som är lika med eller större än sitt väntevärde när $X$ gör detsamma (eftersom $E(X)=0$).

Då kommer en följdfråga: Hur är det med korrelationskoefficienten $\rho(X,Y)=\frac{C(X,Y)}{D(X)D(Y)}$. Här gäller det väl att $\rho < 0$ om en ökning i X leder till en minskning i Y och att $\rho > 0$ om en ökning i X leder till en ökning i Y? Dvs. för $\rho$ är ökningar och minskningar en relevant tolkning. Eller jag missförstått?

Ja, i princip. Det som avgör om det finns en korrelation är om det förväntade värdet på $Y$ förändras givet att vi vet något om $X$. Alltså att om $X=1$ (partikeln hoppar till 1) så gör denna information att vårt nya förväntade värde på $Y$ blir 1. Har vi inte denna information så är $E[Y]=0$.

När vi skriver $E[Y\mid X=1]=1$ så betyder detta "det förväntade värdet (väntevärdet) av $Y$ givet att vi vet att $X=1$, dvs. partikeln har hoppat till 1, är lika med 1".

När vi skriver $E[Y]=0$ betyder det "det förväntade värdet av $Y$ utan någon ytterligare information om vilket värde $X$ antar är noll".

Du kan tänka på korrelationskoefficienten $\rho(X,Y)$ som en slags normaliserad kovarians.

Korrelationskoefficienten är ett alltid ett tal mellan $-1$ och $1$, medan kovariansen $C(X,Y)$ kan vara lite vad som helst beroende på vilka värden som $X$ och $Y$ antar. Om t.ex. kovariansen för $X_1$ och $Y_1$ är, säg, $C(X_1,Y_1)=56$, så kan vi inte dra slutsatsen att detta är ett starkare eller svagare samband än för variablerna $X_2$ och $Y_2$ som har kovariansen $C(X_2,Y_2) = 719$. Det beror helt enkelt på vad variablerna antar för värden.

Kovariansen har även en enhet som man får genom att multiplicera enheten för $X$ med enheten för $Y$.

I korrelationskoefficienten delar man med standardavvikelserna för $X$ och $Y$ och erhåller därmed ett reellt tal utan enhet, som kan vara fördelaktigt.

Korrelationskoefficienten är precis som kovariansen ett mått på i vilken utsträckning två variabler är linjärt relaterade. Det finns alltså två skillnader: korrelationskoefficienten har ingen enhet (den är dimensionslös), och den är alltid ett tal mellan $-1$ och $1$. Om den är $1$ (eller $-1$) så ligger alla värdena $(x,y)$ exakt på en rät linje i en vanlig $xy$-plot. Det finns alltså ett "perfekt" linjärt förhållande mellan variablerna.

En fördel med att använda korrelationskoefficienten är att om $\rho(X_1,Y_1) = 0.25$ och $\rho(X_2,Y_2)=0.14$ så är korrelationen mellan $X_1$ och $Y_1$ i någon mening starkare än det för $X_2$ och $Y_2$.

Här är en användbar bild med några $xy$-plottar och deras korrelationskoefficient:

Från: https://en.wikipedia.org/wiki/Correlation.

Notera att i den horisontella linjen i mitten så är variansen för $Y$ noll, så korrelationskoefficienten är inte definierad där. Notera också att det finns tydliga samband i den nedre raden, men dessa är av icke-linjära karaktärer, och fångas inte av korrelationskoefficienten.

Det gäller förstås även att kovariansen är positiv när korrelationskoefficienten är positiv, och vice versa.