Distribución Normal Multivariada

Normal univariada
Distribución conjunta de n v.a. normales estándar independientes

Distribución conjunta de n v.a. normales N(,2) independientes

Generalización, a la distribución de n v.a normales con esperanza  y
matriz de covarianzas  no singular

Función generatriz de momentos de una NM

Distribución de combinaciones lineales de Nn(,)
Distribuciones marginales
Independencia bajo normalidad multivariada




Distribuciones condicionales
Modelo de regresión normal

Correlación múltiple y parcial

Normal univariada
Distribución conjunta de n v.a. normales estándar
independientes
f (z ) 
1
2

e
1
2
z
2
Normal univariada
Distribución conjunta de n v.a. normales estándar
independientes
f (z ) 
n
f ( z1 , z 2 ,..., z n ) 

i 1
1
2

e
1
2
2
zi


1
2
1
2
e

e
1
2
1
z
2
2
2
z1

1
2

e
1
2
2
z2
 ... 
1
2

e
1
2
2
zn
Normal univariada
Distribución conjunta de n v.a. normales estándar
independientes
f (z ) 
n
f ( z1 , z 2 ,..., z n ) 

i 1
1
2

e
1
2
2
zi


1
1
2

n

f ( z1 , z 2 ,..., z n )  


 e
2 
1

1
2
e
1
z
2
2
e
2
1
2
z1

1

2
e
1
2
n
 zi
2
2
i 1


2

2
z2
 ... 
n

e
1
2
z´ z
1
2

e
1
2
2
zn
Distribución conjunta de n variables aleatorias
normales N(,2) independientes
y i  zi    i
 0
i 
zi 
y i  i

El Jacobiano de la transformación es el valor absoluto del
determinante del la matriz de derivadas parciales.
 zi
 yi

1

La densidad de Yi se escribe como la densidad de Zi, expresada en
términos de Yi, multiplicada por el Jacobiano de la transformación.
 1
f (yi )   
 
1
2
e
1 y  i 
  i

2 

2
Distribución conjunta de n variables aleatorias
normales N(,2) independientes
y i ~ N (  i , )
2
La densidad conjunta de las YI ’s está dada por el
producto de sus densidades
n
f (y) 

i 1
 1
 
 
1
2
e
1  y  i 
  i

2 

2
  2
Usando notación matricial
f ( y )   2


n
2

n

e
1
2
 y  μ 
1

2
 y μ 


n
2
 y  i 
  i

2 i 1  

1

n
e
n
2
Distribución conjunta de n
variables aleatorias
normales N(,2) independientes
Derivación de la distribución
utilizando notación matricial
Distribución conjunta de n variables aleatorias
normales N(,2) independientes – Notación Matricial
y   Iz  μ
z 
1

Iy  μ
Jacobiano de la transformación: Determinante de la matriz de
derivadas parciales de z respecto de y
Derivada de trasformaciones
(Timm, 1975 pag. 96-100).
lineales
 Ax
x
z
y


 
1
I(y - μ ) 
y


D et 
de
la
forma
 A

 
1
I( y ) 
y
1
I   n

 
1

I    1I 
Ax,
Distribución conjunta de n variables aleatorias
normales N(,2) independientes – Notación Matricial
La densidad de y la podemos escribir a partir de la densidad de z
como función de y, multiplicada por el Jacobiano de la
transformación.
f ( y )   2
  2




n
2

n
2
n
e
z



1 1
1
   y  μ   y  μ  
2 





e
1 
 1 y μ 
y

μ




2
2 



n

Generalización de la
distribución conjunta de
n variables aleatorias normales
 n xn
y   z  μ
z    
La derivada
z
y
El Jacobiano

1
(y  μ)
  
D et ( 
1
(y  μ)
y
1
z ~ N (0 , I)
  

1



)
f ( z )   2
f ( y )   2
1


n
2

1

e


n
2
1 


1
1
    y μ     y μ  
2 





e
1
2
 z´z 

f ( y )   2


n
2

1

e
1 


1
1
    y μ     y μ  
2 




f ( y )   2


n
2


1
e
1 


1
1



y

μ

y

μ






2 




Re-escribiendo la expresión entre corchetes del exponente en se tiene

1
  y  μ

 y  μ      1 
 y  μ

    1  y  μ  



  1  y  μ  
     1  y  μ  
 y  μ
1

1
     y  μ 
f ( y )   2


n
2

1

e
1 


1
1



y

μ

y

μ






2 




Re-escribiendo la expresión entre corchetes del exponente en se tiene



 y  μ      1 
1
y  μ
 y  μ

    1  y  μ  



  1  y  μ  
     1  y  μ  
 y  μ
1

1
     y  μ 



 


Es simétrica y rango completo
 Definida positiva
Autovalores mayores que cero
Determinante>0
f ( y )   2


n
2

1

e
1 


1
1



y

μ

y

μ






2 




Re-escribiendo la expresión entre corchetes del exponente en se tiene



 y  μ      1 
1
y  μ
 y  μ

    1  y  μ  



  1  y  μ  
     1  y  μ  
 y  μ
1




 


Es simétrica y rango completo
 Definida positiva
Autovalores mayores que cero
Determinante>0
1
     y  μ 
Por otra parte

1
 
1
  
1/ 2
f ( y )   2


n
2

1

e
1 


1
1



y

μ

y

μ






2 




Re-escribiendo la expresión entre corchetes del exponente en se tiene



 y  μ      1 
1
y  μ
 y  μ

    1  y  μ  



  1  y  μ  
     1  y  μ  
 y  μ
1




 


Es simétrica y rango completo
 Definida positiva
Autovalores mayores que cero
Determinante>0
1
     y  μ 
Por otra parte

1
   
 
1
  
1/ 2
f ( y )   2


n

2
1

e
1 


1
1



y

μ

y

μ






2 




Re-escribiendo la expresión entre corchetes del exponente en se tiene



 y  μ      1 
1
y  μ
 y  μ

    1  y  μ  





 



  1  y  μ  
     1  y  μ  
 y  μ
1

Es simétrica y rango completo
 Definida positiva
Autovalores mayores que cero
Determinante>0
1
     y  μ 
Por otra parte

1
 
1
  
   
f ( y )   2


n
2

 1/ 2

e
1 
1

y  μ    y  μ 


2 
1/ 2
Densidad Normal multivariada
f ( y )   2


n
2

 1/ 2
e
1 
1


y  μ    y  μ 


2 
Esperanza de una normal
multivariada
E ( y )  E (  z  μ )
Esperanza de una normal
multivariada
E ( y )  E (  z  μ )
E ( y )  E (  z  μ )   E  z   μ  μ
Varianza de una normal
multivariada
V ( y )  V (  z  μ )
Varianza de una normal
multivariada
V ( y )  V (  z  μ )
V (  z  μ )   V  z  
Varianza de una normal
multivariada
V ( y )  V (  z  μ )
V (  z  μ )   V  z  
 V  z      I      
Distribución normal
multivariada
Función generatriz de momentos
Función generatriz de
momentos

m(t)  E e
t'y

y ~ N n  μ,  
Función generatriz de
momentos

m(t)  E e
m(t) 

R
n
e
t'y
t y

 2
y ~ N n  μ,  

n / 2

1/ 2
e
 1 / 2  y  μ  
1
 y μ 
dy
Función generatriz de
momentos

m(t)  E e
m(t) 

R
m(t) 
e
t'y
t y

 2

n /2

 1/ 2
e
 1/ 2  y  μ  
1
 y μ 
dy
n
  2 
R
y ~ N n  μ,  
n
n /2

 1/ 2
e
 1/ 2  y  μ  
1
 y  μ   t y
dy
Teorema 1.10.1
Graybill F.A. Theory and Application of Linear Models.
Duxbury Press. (pag. 48)

Sean




a0 y b0 constantes,
a y b vectores nx1,
A una matriz simétrica nxn de constantes y
B una matriz definida positiva de constantes.
 
  ...  x' Ax
I
 
I

1
2
 x' a  a o  exp  x' Bx  x' b  b o dx 1 dx 2 ... dx n

n/2 B
1 / 2
exp

1
4
b' B
1
b  b o  tr  AB

1
  b' B 1 a

1
2
b' B
1
AB
1
b  2a o

 2

m(t) 
R

n / 2
1
 y  μ   t y
dy
1

 1 / 2 ( y  μ )  ( y  μ )  t y
A 0
a 0   2
1


n /2

 1/ 2

1

  1 / 2 ( y  μ ) ( y  μ )  y t 
1
2
1
b  ( μ  t )
1
b0 
e
 1 / 2  y  μ  
n
a 0
B 

1/ 2
μ  μ
2


1
1
1
1
  1 / 2 y  y  y  μ  μ   y  μ   μ  y t 
1
 y   1 y

μ  μ
1
 
 y  μ 
 y t  
2
2


 y   1 y μ    1μ

1

 

 y ( μ  t )  .
2
2


m(t) 
1
2

n/2
1
2
1/ 2

1
1
 1 1
μ  μ  
1
exp  (  μ  t )2  (  μ  t ) 
 2  2

4
2



n / 2

1/ 2


m(t) 
1
2

n/2
1
1/ 2

1
2
1
 1 1
μ  μ  
1
exp  (  μ  t )2  (  μ  t ) 
 2  2

4
2



n / 2

1/ 2
Reordenando
m (t) 
1
2

n/2
2
n/2

1/ 2
 μ    1μ μ  t t μ t  t μ    1μ
exp 




2
2
2
2
2



 2  2



n / 2

1/ 2




m(t) 
1
2

1
n/2
1/ 2

1
2
1
 1 1
μ  μ  
1
exp  (  μ  t )2  (  μ  t ) 
 2  2

4
2



n / 2

1/ 2
Reordenando
m (t) 
1
2

n/2
2
n/2

1/ 2
 μ    1μ μ  t t μ t  t μ    1μ
exp 




2
2
2
2
2

que se simplifica a:
t  t 

m ( t )  exp  t μ 

2 



 2  2



n / 2

1/ 2




Distribución de
combinaciones lineales
de vectores normales
Cy  c  ~ ?
y ~ N ( μ,  )

m Cyc  ( t )  E e
m(t) 

R

e
n
 2 
n /2
t  C y  c 

 1/ 2
e

 1/ 2  y  μ  
1
 y μ 
n
  2 
R
t  C y  c 
C q xn , ra n g o q
n /2

 1/ 2
e
 1/ 2  y  μ  
1
 y  μ   t  C y  c 
dy
dy

m (t) 
R


R
 2
e
t  C y  c 
 2 
n /2

 1/ 2
e
 1/ 2  y  μ  
1
 y μ 
dy
n

n /2

 1/ 2
e
 1/ 2  y  μ   
1
 y  μ   t  C y  c 
dy
n
 1 / 2  y  μ  

1
 y  μ   t C y  c  

m (t) 
R


R
 2
e
t  C y  c 
 2 
n /2

 1/ 2
e
 1/ 2  y  μ  
1
 y μ 
dy
n

n /2

 1/ 2
e
 1/ 2  y  μ   
1
 y  μ   t  C y  c 
dy
n
 1 / 2  y  μ  

1
 y  μ   t C y  c  
1
1
1
1
  1 / 2  y  y  y  μ  μ   y  μ   μ   t   C y  c 



m (t) 
R


R
 2
e
t  C y  c 
 2 
n /2

 1/ 2
e
 1/ 2  y  μ  
1
 y μ 
dy
n

n /2

 1/ 2
e
 1/ 2  y  μ   
1
 y  μ   t  C y  c 
dy
n
 1 / 2  y  μ  

1
 y  μ   t C y  c  
1
1
1
1
  1 / 2  y  y  y  μ  μ   y  μ   μ   t   C y  c 


1
 y   1 y

μ  μ
1
 
 y  μ 
  C y  c  t 
2
 2


m (t) 
R


R
 2
e
t  C y  c 
 2 
n /2

 1/ 2
e
 1/ 2  y  μ  
1
 y μ 
dy
n

n /2

 1/ 2
e
 1/ 2  y  μ   
1
 y  μ   t  C y  c 
dy
n
 1 / 2  y  μ  

1
 y  μ   t C y  c  
1
1
1
1
  1 / 2  y  y  y  μ  μ   y  μ   μ   t   C y  c 


1
 y   1 y

μ  μ
1
 
 y  μ 
  C y  c  t 
2
 2

1
 y   1 y

μ  μ
1
 
 y  μ 
 y C  t  c t 
2
 2


m (t) 
R


R
 2
e
t  C y  c 
 2 
n /2

 1/ 2
e
 1/ 2  y  μ  
1
 y μ 
dy
n

n /2

 1/ 2
e
 1/ 2  y  μ   
1
 y  μ   t  C y  c 
dy
n
 1 / 2  y  μ  

1
 y  μ   t C y  c  
1
1
1
1
  1 / 2  y  y  y  μ  μ   y  μ   μ   t   C y  c 


1
 y   1 y

μ  μ
1
 
 y  μ 
  C y  c  t 
2
 2

1
 y   1 y

μ  μ
1
 
 y  μ 
 y C  t  c t 
2
 2

 y   1 y μ    1μ

1
 

 y   μ  C  t  c t 
2
 2



B 
a 0

1
2
A 0
a 0   2

n /2

 1/ 2

1
b    μ  C t

1
b0 
1
m ( t )    2
2

n/2

1/ 2
μ  μ
 c t
2
1
 1 1

μ  μ

1





 t c   2  2
 exp  4 (  μ  C t ) 2  (  μ  C t ) 

2




n / 2

1 / 2


1
 1 1

μ  μ
1
m ( t )  exp  (  μ  C t )  (  μ  C t ) 
 t c 
2
2

1
1

μ  μ
1
 exp  ( μ   μ  μ  C  t  t C μ  t C  C  t ) 
 t c 
2
2

1
 μ    1μ

t C  C  t μ   μ
 exp 
 t C μ 

 t c 
2
2
2


t C  C t 

m ( t )  exp  t   C μ  c  

2


 C y  c  ~ N ( C μ  c, C  C )
Normal multivariada
Distribuciones Marginales
y    y 1, y 2 ,..., y n 
y     y 1, y 2 ,..., y k  ,  y k  1, y k  2 ,..., y n  
 1
2 

y  y , y


¿Cuál es la
distribución marginal de y(1)?
C   Ik 0 k   n  k  


 11
N ( C  μ  c  , C  C  )  N (μ  c ,  11 )   
  21
1
1
12 

 22 
Normal multivariada
Independencia bajo
normalidad

Recordemos que si y 1, y 2 ,...y n son variables
aleatorias independientes si y solo si su
densidad conjunta se puede escribir como
producto de sus densidades marginales
f ( y 1, y 2 ,..., y n )  f ( y 1 )  f ( y 2 )  ...  f ( y n )

Un resultado conocido es que la independencia de
variables aleatorias implica que sus covarianzas son
cero.

El resultado recíproco no es cierto en general.

Una propiedad notable de la distribución normal
multivariada es que covarianzas cero sí implica
independencia.
f ( y )   2

n / 2

1/ 2
e
 1 / 2  y  μ  
1
 y μ 
f ( y )   2

n /2

 1/ 2
e
 1/ 2  y  μ  
  d ia g   1 1,  2 2 ,...,  n n 
1
 y μ 
f ( y )   2

n /2

 1/ 2
e
 1/ 2  y  μ  
1
 y μ 
  d ia g   1 1,  2 2 ,...,  n n 
f ( y )   2

n / 2
  11   22  ...   nn 
1/ 2
e
2
  y -  2  y -  2
 y n -n 
1
1
2
2
1/ 2 

 ... 


 nn

11
22





f ( y )   2

n /2

 1/ 2
e
 1/ 2  y  μ  
1
 y μ 
  d ia g   1 1,  2 2 ,...,  n n 
f ( y )   2
n
f (y) 

n /2
  2 
i 1
  11   22  ...   n n 
 1/ 2
  ii 
 1/ 2

e
1  y i -i
2
 ii

2
 1/ 2
e
2
  y -  2  y -  2
 y n -n 
1
1
2
2
 1/ 2 

 ... 
 22
 nn
  11





Normal multivariada
Distribuciones condicionales
y    y 1, y 2 ,..., y n 
y     y 1, y 2 ,..., y k  ,  y k  1, y k  2 ,..., y n  
y    y  , y  
 1
f (z | x ) 
2
f ( z, x )
f (x)
y | y
1
2
=y
2
~?
y    y 1, y 2 ,..., y n 
y     y 1, y 2 ,..., y k  ,  y k  1, y k  2 ,..., y n  
y | y
y    y  , y  
 1
f (z | x ) 
2
1
2
=y
2
~?
f ( z, x )
f (x)
  y  μ   1    
  11
 
2   y  μ  2     21


1
f  y | y
1
2
=y
2

 2 
n / 2
 2 

1/ 2
(n k ) / 2
e
 22
1/ 2

e
1
2

 y μ 
12 

 22 
2 

1 
1
 22
 y μ 

 y μ 


 y μ 
 1 

2 
2


Inversa de una Matriz Particionada
A 
A
1

B
'
A 11
A 12
A 21
A 22
1
H B
1
B H
1
A
1
22
 H ' B  1H

Inversa de una Matriz Particionada
1
B  A 1 1  A 1 2A 2 2 A 2 1
Det A

H
1
A 12 A 22
Det A 22 Det A 11  A 12 A 221 A 21 
 Det A 22 Det B

  y  μ   1    
  11
 
2

2  y μ     21


12 

 22 
1
f y | y
 1
2
=y
2

 2 
n /2
 2 

 1/ 2
 ( n  k )/ 2
e
 22
 1/ 2
f y | y
 1
2
=y
2

 2 

 1  
1   y μ  

2 
2 
 y μ  

 1/ 2
e
 2 
  111.2

1
  H   1 1 .2
e
  y  μ   1    
  11
 
2

2  y μ     21


1
n /2


1
 22
 y μ 

 1 

  y  μ  2  


 
 
 y μ      y μ  

2
1
2
12 

 22 
 ( n  k )/ 2
1
22
1 
 y μ 

 y μ 

 22

 1 
  y μ  

2 
1
 H   1 1 .2 H    y  μ  


2
 1 

2 


 
 
 y μ      y μ  

2
1
2
1
22
2
 1/ 2
1
  1 1 .2 H
1 
1
2
 y  μ 
2
 22  y  μ 
1
2


 1  
1   y μ  

2 
2 
 y μ  
  111.2

1
  H   1 1 .2
1

 1 
  y μ  

2 
1
 H   1 1 .2 H    y  μ  

  1 1 .2 H
1
 22
 





1
2
y  μ
 1 
1
y  μ
2
 2 
1
y  μ
 1 
y  μ
 2 
y  μ
 2 
2
1
2
1
2
1
2

1
 y  μ 
2
2
1
 1 1 .2
 22  y  μ 
1
y  μ
 1
H   1 1 .2  y  μ 
1
1
 1 1 .2 H
1
 22
y  μ
y  μ
1
H   1 1 .2 H
 1
2
2
y  μ
 2  1
2

 y  μ   22  y  μ 
2
2

 
1
2
 
 
 
 1  1
 1
 1  1
2
2
2 
1

y  μ    1 1 .2  y  μ   2  y  μ    1 1 .2 H  y  μ    y  μ   H   1 1 .2 H  y  μ 



1
2
1
2
1
2



 y  μ
 1



 y  μ
 1
 H y  μ

1
12 22
2 

1
 1 1 .2
y  μ
2 

 y  μ
1
 1 1 .2
 1
 H y  μ
 y  μ
 1

2 
 
1
12 22
y  μ
2 
 
 1
 2   1
2
 1
 1
 1
1
1
 1 1 .2 y  μ   1 2  2 2  y  μ 
 y  μ  12  22  y  μ 








 
μ 1 .2  μ
 
1
2
 1
1
2
 1
 2   1
2 
 1
 1
 1
1
1
 1 1 .2 y  μ   1 2  2 2  y  μ 
 y  μ  12  22  y  μ 





 12 22  y  μ 
1


2
  1

 1
 1
 y  μ 1 .2  1 1 .2 y  μ 1 .2 



f y | y
 1

2
f y | y
 1
=y
2
2
=y

2

 2 

n / 2
   2 
 22
1/ 2
 1 1 .2
 2 
k / 2
 1 1 .2
1/ 2
(n k ) / 2
1/ 2

e

e
 22





1   1

 1
 1
y

μ

y

μ
1 .2
1 1 .2
1 .2 
2 

1/ 2



1   1

 1
 1
y

μ

y

μ
1 .2
1 1 .2
1 .2 
2 

Normal Multivariada

Distribuciones Condicionales
 1 
 

 

1 
y 
y   2 
y 
y | y
1
2
 
2
=y
2
~ N ( 1 
E y | y
1 
2
=
Var  y | y
1 
  y
1
12
y
2
2
=
22

y
2
2

2
11

 21
 22
)
1     y -  

 12
, 1 1  1 2  2 21  2 1
1
12
 11
2
2
22
1
 12  22  21
Normal multivariada
Resultados más importantes
y ~ N (,)
f ( y )   2


n
2

 1/ 2
t  t 

m ( t )  exp  t μ 

2 


e
1 
1

y  μ    y  μ 


2 

En normalidad multivariada, covarianzas
cero implican independencia
 C y  c  ~ N ( C μ  c, C  C )
y ~ N (,)
y    y  , y  
 1
 1
y |y
2
2
E y | y
1 
=y
2
=
Var  y | y
1 
~ N  μ 1 .2 ,  1 1 .2 
2
y
2
2
=

y
  1   12  22  y - 
1
2

2
2
  11   12  22  21
1

Descargar

Modelos Lineales - Facultad de Ciencias Agropecuarias | UNC