Genova        
Numero 39-40, anno XI        
Maggio 2011        

di Diego Rosa

Parte terza

La distribuzione normale o gaussiana

Quando il parametro n della distribuzione binomiale diventa molto grande questa tende ad una funzione di densità di probabilità normale o gaussiana che ha l’espressione:

Dove μ è la media o valore atteso di x, E[x], e σ è lo scarto quadratico medio e σ² la varianza = E[(x- μ)²] come si deduce effettuando il calcolo.

Tale funzione fu introdotta originariamente dal matematico francese Abrahm De Moivre per approssimare proprio le probabilità associate alle variabili binomiali. Il grande Gauss la utilizzò per determinare la distribuzione degli errori nelle misure astronomiche .

La funzione di distribuzione o ripartizione è data da:

che esprime la probabilità che la variabile aleatoria sia ≤ x

Ponendo z = (x-μ)/σ, la 1) diventa:

e la 2):

che sono la densità e la ripartizione della variabile aleatoria normale standard z con media = 0 e varianza = 1.

Fig.1 - La distribuzione normale per una variabile standardizzata	Fig.2 - Funzioni di ripartizione della variabilenormale per alcuni valori di μ e di σ2

Il coefficiente nasce dalla necessità che Φ, con z estesa a tutta la retta reale, = sia = 1 (per la definizione di densità di probabilità). Il calcolo dell’integrale è pressoché immediato se conosciamo l’integrale della funzione . Consideriamo g² che possiamo scrivere come . Passando alle coordinate polari ρ, θ, si ha: x = ρsinθ, y = ρcosθ, x²+y²= ρ², mentre come area elementare di integrazione su tutto il piano si può considerare ρdθdρ con ρ che va da 0 a ∞ e θ da 0 a 2π. Così si ottiene :

Da cui g = . Con semplice cambiamento di variabile si ottiene:

La 1) è la più importante tra le funzioni di una variabile aleatoria anche perché è la distribuzione che scaturisce dal teorema del “ Limite centrale” che giustifica teoricamente evidenze empiriche provenienti dalla fisica, dalla climatologia, dalla biologia, dalla sociologia, e dalla statistica in genere. Data la sua importanza esporremo questo teorema qui di seguito.

Il teorema del limite centrale

Immagine 2 - Carl Friedrich Gauss (1777-1855). Uno dei più grandi matematici della storia

Diamo per acquisita la conoscenza dei principali concetti dell’analisi matematica in particolare dello sviluppo in serie delle funzioni elementari.

Ricordiamo che per una funzione continua f(x) derivabile n volte in un intervallo contenente il punto x₀ e almeno n+1 volte in x₀ si ha:

5)  f(x) = f(x₀)+f′(x₀)(x-x₀)+f′′(x₀)(x-x₀)²/2!+…+f⁽ⁿ⁾ (x₀)(x-x₀)ⁿ/n! +R(n)

dove f⁽ⁿ⁾ è la derivata n^a di f^(x) e n!=n(n-1)(n-2)..1 è il fattoriale di n mentre R(n) rappresenta il resto n° della serie che secondo Lagrange che può essere espresso con :

6)  R(n) = f⁽ⁿ⁺¹⁾ (x₀)(x-ξ)ⁿ⁺¹/(n+1)!

Dove ξ è un punto opportuno, peraltro sconosciuto, nell’intervallo compreso tra x₀ e x e R(n) può tendere a 0 per n tendente all’infinito per x in un opportuno intervallo attorno a x₀ (è il caso delle funzioni così dette analitiche):

7) lim _n→∞R(n) = 0

Si può ugualmente dimostrare che la differenza

F(x)=f(x) - f(x₀)+f′(x₀)(x-x₀)+f′′(x₀)(x-x₀)²/2+…+f⁽ⁿ⁾ (x₀)(x-x₀)ⁿ/n!

è infinitesima di ordine superiore a (x-x0)ⁿ con x-x₀ infinitesimo. Cioè:

lim _x→x0 F(x)/ (x-x₀)ⁿ = 0

Se la f(x) è indefinitamente derivabile ed il limite 7) è soddisfatto nell’intervallo si ha :

8)  f(x)= f(x₀)+f′(x₀)(x-x₀)+f′′(x₀)(x-x₀)²/2+…+f⁽ⁿ⁾ (x₀)(x-x₀)ⁿ/n!+…

che definisce la serie di Taylor della funzione. Se x₀=0 la 3) diviene:

9)  f(x)= f(0)+f′(0)x+f′′(0) x²/2+…+f⁽ⁿ⁾ (0)xⁿ/n!+…

e definisce la serie di Mac Laurin della funzione stessa.

Abbiamo ad esempio applicando la 9):

10)  e^x = 1+x+x²/2 + x³/3!+… 

11)  sinx = x-x³/3!+x⁵/5!-… 

    12)  cosx =1-x²/2+x⁴/4!- x⁶/6!+… 

    13)  (1+x)ⁿ = 1+nx+n(n-1)x²/2+n(n-1)(n-2)x³/3!+…

(se il valore assoluto di x è< 1 e n reale arbitrario)

Definiamo ora la funzione generatrice dei momenti φ(t). Essa è la media o valore atteso della funzione esponenziale e^tX della variabile aleatoria X avente probabilità discreta p(x) o densità f(x):

14)  φ(t) = E[e^tx] = Σ  e^tx p(x)       se X è discreta e

Dalla 10) abbiamo che e^tx può essere espressa come

e^tx = 1+tx+t²x²/2 + t³x³/3!+…

e la funzione generatrice (se esiste ed è limitata) φ(t) diventa:
(la media di una somma è la somma delle medie)

16)  φ(t)= 1+ tE(X)+ t²/2 E(X²)+ t³/3!E(X³)+…

Derivando n volte la 16) tenendo conto che la derivata n^a di tⁿ , (tⁿ)⁽ⁿ⁾

è = n(n-1)(n-2)…1= n!, quella ma di tn = n(n-1)…(n-m+1)tn-m

se m<n ed è = 0 se n>m, si ha derivando successivamente e calcolando la derivata nel punto x = 0

φ’(0)= E(X), φ”(0)= E(X²), φ(0)⁽ⁿ⁾ = E(Xⁿ).

Cioè la 16) porge i momenti (valori medi delle varie potenze della variabile aleatoria X) che rappresentano i termini costanti (a meno dei fattoriali) dello sviluppo in serie di Mac Laurin della funzione φ(t). Ciò torna talora estremamente utile per calcolare il valore atteso e la varianza di funzioni di densità di probabilità complesse.

Si dimostra infatti facilmente che la varianza di X di media μ, è data da = E(X² )-E(X)²

17)  Var (X)= E(X-μ)² = E(X²+ μ² -2Xμ) = E(X²) + μ² -2 μ² = E(X² )-E(X)²

Essendo la media di una somma di variabili aleatorie pari la somma delle loro medie, la media di una costante e del suo prodotto per una variabile aleatoria risp. la costante stessa ed il suo prodotto per la media della variabile.

Si ha, da semplici considerazioni, che la funzione generatrice della somma di 2 o più variabili aleatorie indipendenti è il prodotto delle funzioni generatrici degli addendi . Cioè:

18)  φ_X+Y+…(t) = E[e^t(x+y+…)] = E(e^txe^ty…)= E(t^x)E(t^y)… = φ(t)_X φ(t)_Y…

e se X,Y… hanno la stessa distribuzione probabilistica e dunque la stessa φ(t):

19) φ_X+Y+…(t) = φ_Sn(t) = φ(t)ⁿ

se n è il numero degli addendi del somma S_n.

Ed ancora:

20) φ(at) = E(e^atx) = E(e^tax)= φ_aX(t)

Vale inoltre questa considerazione fondamentale :

Se due funzioni di densità di probabilità, f₁(x) e f₂(x), hanno la stessa funzione generatrice dei momenti φ(t), esse sono uguali.

Una dimostrazione molto bella è la seguente.

Ammettiamo che f₁(x) e f₂(x) siano diverse ed espandibili in serie di potenze e consideriamo la differenza:

 g(x) = f1(x) - f2(x). Espandiamola in serie di Mac Laurin:

 g(x)= a₀+ a₁x+a₂x²/2+a₃x³/3!+a₄x⁴/4! …

Moltiplichiamola ora per f₁ e successivamente per f₂ ed integriamo su tutto l’asse reale i due prodotti, ricordiamo che essendo f1 e f2 densità di probabilità

I due integrali sono uguali avendo per ipotesi f₁ e f₂ le stesse funzioni generatrici φ(t) e dunque gli stessi momenti E(xⁱ).
Per cui si ha:

L’integrando è un quadrato essendo g(x)=f1(x)-f2(x), dunque sempre positivo e per aversi un integrale nullo deve essere necessariamente f1 = f2 contro l’ipotesi iniziale .

Se la funzione generatrice di una funzione di densità di probabilità non esiste, esiste sempre la funzione caratteristica definita come
Φ(t) = φ (it)= E(e^itx) (con i = unità immaginaria) che corrisponde alla trasformata di Fourier di f(x).

Si ha la formula fondamentale (antitrasformata di Fourier):

Siano ora X ed Y due variabili aleatorie discrete o continue con valori medi risp. μ_X e μ_Y. Il valore medio del prodotto del loro scarto dalla rispettiva media è detto covarianza: Cov(X,Y) = E[(x- μ_X)(y- μ_Y)].

Sviluppando la parentesi otteniamo:

25)  Cov(X,Y) = E(XY)- E(X)E(Y)

D’altro canto per la definizione di media o valore atteso abbiamo:

26)  E(XY)= Σ_i Σ_j x_iy_j P(x_i,y_j)

se i valori sono discreti e forma integrale corrispondente se se i valori sono continui.

Se le variabili X ed Y sono indipendenti la probabilità P(x_i,y_i) diventa = P (x_i)P(y_i) e la 26):

27) E(XY)= Σ_i x_iP(xi) Σ_jy_jP(y_j) = E(X)E(Y)

Da cui  Cov(X,Y)=0

Estendo il concetto al prodotto di n variabili indipendenti si ha che E(X₁X₂X₃…Xn) = E(X₁)E(X₂)..E(X_n).

Ancora è facile vedere, applicando la definizione di media che E(aX)=aE(X) e tenendo conto che la media di una somma di variabili X è pari alla somma delle medie si ha anche che la media aritmetica di n variabili avente ciascuna la media μ è pari ad μ.

Per quanto concerne la varianza abbiamo che se le variabili X e Y sono indipendenti e vale la 27) si ha:

28)  Var(X+Y)= Var(X)+Var(Y)

e dalla sua definizione stessa

29)  Var(aX) = a²Var(X)

Sicché la somma di n variabili aleatorie indipendenti X_i di media μ e varianza σ² ha media nμ, varianza nσ² e scarto quadratico medio .

Sia ora una variabile aleatoria X di media μ e varianza σ². La variabile espressa da (X- μ)/σ di media = 0 e varianza = 1 (come discende da quanto sopra indicato e dal fatto che la varianza di una costante è = 0) è la variabile X standardizzata.

Tutto ciò visto enunciamo ora il teorema del limite centrale che nella sua forma più ristretta asserisce.

Sia S_n la somma di n variabili aleatorie X1,X2,…Xn che hanno la stessa distribuzione probabilistica con media μ e varianza σ².

Allora la variabile standardizzata di S_n = S_n* = (S_n-nμ)/() tende ad avere una distribuzione normale per n che tende all’infinito. Si ha cioè:

avendo posto u = (S_n-nμ)/()  ed essendo P la probabilità.

Dimostrazione:

Riprendiamo la funzione generatrice di momenti ed applichiamola alla variabile aleatoria standardizzata S_n*. Abbiamo, tenendo conto che e^u+v = e^ue^v e quanto visto sopra:

Ed avendo X₁,X₂ …X_n la stessa distribuzione ed essendo indipendenti per cui la media di un prodotto è = al prodotto delle medie:

Avendo scelto arbitrariamente X₁ a rappresentare una delle n variabili aleatorie Sviluppando in serie l’esponenziale si ha:

Immagine 3 - Lyapunov Matematico russo (1857-1918). A lui si devono importanti contributi sulle equazioni differenziali, la dinamica ed il calcolo delle probabilità

Da cui esplicitando e tenendo conto che E(X₁-μ) = 0 e E(X₁-μ)² = σ²

Avendo indicato con o(t,n) il resto della serie, infinitesimo di ordine superiore a 1/n per ogni t e n→∞, se la funzione generatrice della variabile X1 esiste

Così la 32) diventa:

   35)  φ_Sn*(t) = [1+t²/2n + o(t,n)]ⁿ = exp (t²/2) per n→∞

Che è proprio la funzione generatrice dei momenti della variabile normale standardizzata.

Calcoliamo infatti la funzione caratteristica della 2)

Abbiamo:

Sostituendo si ha:

Questa relazione dà, estraendo dall’ integrale exp(1/2 t²) e ponendo x-t = u:

essendo = 1 l’espressione dell’ integrale moltiplicato per (è la densità della variabile normale standardizzata u integrata su tutto l’asse reale).

Il teorema del limite centrale è stato dimostrato valido sotto certe condizioni anche per variabili aleatorie indipendenti non identicamente distribuite (Lyapunov nel 1901 e Linderberg nel 1922)

Con simili passaggi semplificatori usati sopra, la funzione caratteristica della variabile normale non standardizzata è:

39) φ(t) = exp(μ t + σ²t²/2)