3장. 랜덤변수의 모멘트

3장. 랜덤변수의 모멘트

3.1 개요 3.2 기대값

3.3 음이 아닌 랜덤변수의 기대값 3.4 랜덤변수의 모멘트와 분산 3.5 조건부 기대값

3.6 체비셰프 부등식 3.7 마르코프 부등식

3.1 개요

■ 기초수학의 평균(mean), 분산(variance), 표준편차(standard deviation)

▶ 산술평균

데이터 X

_

 X

_

 ⋯ X

_N

^{의 산술평균:} X  N X

_

 X

_

⋯ X

_N

(예) X

_

  X

_

  X

_

  X

_

  X

_

 ^{의 산술평균}

X  N

X

_

 X

_

⋯ X

_N

 

        

 

  

(예) X

_

  X

_

  X

_

  X

_

  X

_

 ^{의 산술평균}

X  N

X

_

 X

_

⋯ X

_N

 

        

 

  

(참고) 분산과 표준편차는 각 데이터가 산술평균으로부터 얼마만큼 떨어져 있는가를 수치로 표현한다.

(예) X

_

  X

_

  X

_

  X

_

  X

_

  데이터들의 평균(X  ^{)과의 차이} X

_

 X  ^, X

_

 X  ^, X

_

 X  ^, X

_

 X  ^, X

_

 X  

위 값들의 평균을 구하면,

N

 ^ _i

^X

ⁱ

^{ X }

 

          

 

▶ 분산: Var X   N

 _i

^X

ⁱ

^{ X }

^

(예) X

_

  X

_

  X

_

  X

_

  X

_

  데이터들의 분산

Var X   N

 ^ _i

^X

ⁱ

^{ X }

^

 

 

^

  

^

 

^

 

^

 

^

 

  

▶ 표준편차: 

_X





^Var X 

(예) X

_

  X

_

  X

_

  X

_

  X

_

  데이터들의 표준편차



_X





^Var X  



^

3.2 기대값

■ 랜덤변수

X의 기대값 (평균)

이산랜덤변수: EX  

 _x

x P X  x 

 _x

^{x p}

^X

^x

연속랜덤변수: EX  

 _{ ∞} ^∞

^{x f}

^X

^{x dx}

(예) 다음과 같은 확률질량함수(pmf)를 갖는 이산랜덤변수 X의 EX 를 구하라.

p

_X

  

  p

_X

  



EX  

 _x

^{x p}

^X

^{x  ⋅}_^{  ⋅}_^{  }_^

(예) 다음과 같은 확률밀도함수(pdf)를 갖는 연속랜덤변수 X의 EX 를 구하라.

f

_X

x 











 x  a

b a

 a ≦ x ≦ b

 x  b

EX  

 _{ ∞} ^∞

^{x f}

^X

^{x dx}



 _a ^b

^{x }_{b a}^{ dx  }_{b a}^{ }_

^

^_^{ x}

^

^_

^ _a ^b

^{ b}_{b a}

^

^{ a}

^

^{  }_^{ b a }

(예) 다음과 같은 확률질량함수(pmf)를 갖는 이산랜덤변수 X의 EX 를 구하라.

p

_X

i   PX  i  e

^{ }

i



ⁱ

i  ⋯

EX  



i

i p

_X

i  



i  

∞

i e

^{ }

i



ⁱ

i   → 



_{i  }  ^∞

^_{i  }^e

^{ }

^

ⁱ

  e

^{ } _{i  }  ^∞

^_{i  }^

^{i  }

k  i   로 치환

  e

^{ } 

k  

∞

k



^k

참고 e

^

     



^

 



^

⋯

  e

^{ }

e

^

 

(참고)

▶ Maclaurin 급수(series)

함수 가 수렴 구간에서 다음과 같은 급수로 전개된다.

  

_

 

_

  

_



^

 

_



^

⋯   

_



_

 

′  

_

 

_

  

_



^

⋯ ′  

_



_

 ′

″  

_

 

_

  ⋅

_



^

⋯ ″  

_



_

 

″

″′  

_

 

_

 ⋯ ″′  

_



_

 

″′

∴     ′  

″



^

 

″′



^

⋯⋯ 



^





^

⋯

(예)   

^

  ′  ″ ⋯ 

^

  ′  ″ ⋯ 

∴   

^

     

 

^

 

 

^

⋯

(예)   ln       

_

 

′    

 ′   

_

 

″    

^

  ″   

_

 



″′    

^

  

″′   

_

 



∴   ln       



^

 

 

^

⋯

(예) 다음과 같은 확률밀도함수(pdf)를 갖는 랜덤변수 X의 EX 를 구하라.

f

_X

x 



^{ e}

^{ x}

^{x ≧ }x   EX  

 _{ ∞} ^∞

^{x f}

^X

^{x dx }





∞

x⋅ e

^{ x}

dx





 x e

^{ x}  _ ^∞







∞

e

^{ x}

dx 



 x e

^{ x}  _ ^∞

 

 





 

 e

^{ x}









∞

 



(예) 다음과 같은 확률질량함수(pmf)를 갖는 이산랜덤변수 X의 EX 를 구하라.

p

_X

n   PX  n    p

^{n  }

p n     ⋯

EX  

 _n

^{n p}

^X

^{n  }

_{n  }  ^∞

^{n p  p}

^{n  }

let q    p

 p



n  

∞

n q

^{n  }

(∂q

∂ q

ⁿ

 n q

^{n  }

)

 p

_{n  }  ^∞

^_∂q^{∂ q}

ⁿ

^{(순서 변경)}

 p ∂q

∂

_{n  }  ^∞

^q

ⁿ

^{ p }_∂q^{∂ }_{  q}^{q }

 p   q

^

⋅  q  q

 p   q

^

  p p

^

  p

3.3 음이 아닌 랜덤변수의 기대값

▶ 누적분포함수 F

_X

x를 갖는 음이 아닌 랜덤변수 X의 평균은 다음과 같다.

EX  





∞

P X  x dx 





∞

  F

_X

x dx

(증명)

 _ ^∞

P X  x dx 

 _ ^∞

^_

^  _x ^∞

^f

^X

^{u du}_

^

^dx (적분순서 변경:





∞





  _x ^∞

^du_

^

^{dx }





∞





 

 u

dx





du) 

 _ ^∞

^_

^  _ ^u

^f

^X

^{u dx}_

^

^{du }

 _ ^∞

^f

^X

^u_

^  _ ^u

^dx_

^

^du







∞

u f

_X

u  du  EX 

▶ 음이 아닌 정수(양의정수) 값만 갖는 이산랜덤변수 X의 평균은 다음과 같다.

EX  

_{k  }  ^∞

^{P X  k}

(증명)



k  

∞

P X  k 



k  

∞





 

x  k 

∞

P X  x





(순서 변경:

_{k  }  ^∞ _{x  k }  ^∞

^

_{x  }  ^∞ _{k  } ^{x  } 

⁾



_{x  }  ^∞ _{k  } ^{x  } 

^{P X  x }

_{x  }  ^∞

x P X  x

 EX 

(예) (음이 아닌 랜덤변수 X)

다음과 같은 확률밀도함수(pdf)를 갖는 랜덤변수 X의 EX 를 구하라.

f

_X

x 



^{ e}_

^{ x}

^{x ≧ }_{x  }

EX  





∞

P X  x dx 





∞

  F

_X

x dx 이용

F

_X

x 

 _ ^x

^f

^X

^{x dx }

 _ ^x

^{ e}

^{ x}

^{dx }

^

^{ e}

^{ x   x}

^{   e}

^{ x}

EX  





∞

  F

_X

x dx 





∞

e

^{ x}

dx  





 

 e

^{ x}









∞

 



3.4 랜덤변수의 모멘트와 분산

■ 랜덤변수

X 의 함수인 gX 의 평균

EgX  











 x

gx p

_X

x X 이산랜덤변수

 _{ ∞} ^∞

^{gx f}

^X

^{x dx X 연속랜덤변수}

■ 모멘트 (moment)

EX

ⁿ

 = 랜덤변수 X의 n차 모멘트 (n ≧ ⁾

(n   평균, 1차 모멘트) 이산랜덤변수: EX

ⁿ

 

 _x

^x

ⁿ

^p

^X

^x

연속랜덤변수: EX

ⁿ

 

 _{ ∞} ^∞

^x

ⁿ

^f

^X

^{x dx}

■ 분산(variance)과 표준편차(standard deviation)



_X ^

 Var X   EX  EX 

^

  랜덤변수 X의 분산



_X

 랜덤변수 X의 표준편차

이산랜덤변수: 

_X ^



 _x

x  EX 

^

p

_X

x

연속랜덤변수: 

_X ^



 _{ ∞} ^∞

x  EX 

^

f

_X

x dx



_X ^

 EX  EX 

^



 EX

^

 EX  X  EX 

^



 EX

^

  E EX  X   E EX 

^



 EX

^

  EX  EX   EX 

^

 EX

^

  EX 

^

(예) 랜덤변수 X

_

 X

_

 X

_

의 분산

f

_X

x 













  ≦ x ≦ 

 otherwise f

_X

x 













  ≦ x ≦ 

 otherwise

f

_X

x 













  ≦ x ≦ 

 otherwise

EX

_

  EX

_

  EX

_

  



_X





 

_X





 

_X





(예) 다음 확률질량함수(pmf)를 갖는 랜덤변수 X의 

_X ^

^{를 구하라.}

p

_X

  

  p

_X

  



EX  

 _x

^{x p}

^X

^{x  ⋅}_^{  ⋅}_^{  }_^

EX

^

 



x

x

^

p

_X

x  

^

⋅

  

^

⋅

  





_X ^

 EX

^

  EX 

^

 

  

  



(예) 다음의 확률밀도함수(pdf)를 갖는 랜덤변수 X의 EX , 

_X ^

^{을 구하라.}

f

_X

x 













  ≦ x ≦ 

 otherwise

EX  

 _{ ∞} ^∞

^{x f}

^X

^{x dx }







x 

 dx  







 x

^











 

  

  EX

^

 

 _{ ∞} ^∞

^x

^

^f

^X

^{x dx }







x

^



 dx  







 x

^











 

  

 





_X ^

 EX

^

  EX 

^

 

  

^

 



(예) 다음 확률밀도함수(pdf)를 갖는 랜덤변수 X의 

_X ^

^{를 구하라.}

f

_X

x 



^{ e}

^{ x}

^{x ≧ }x  

EX  

 _{ ∞} ^∞

^{x f}

^X

^{x dx }

 _ ^∞

^{x⋅ e}

^{ x}

^{dx  }_^ (이전 예제)

EX

^

 

 _{ ∞} ^∞

^x

^

^f

^X

^{x dx }





∞

x

^

⋅ e

^{ x}

dx





 x

^

e

^{ x}  _ ^∞



 _ ^∞

^{x e}

^{ x}

^{dx }

^

^{ x}

^

^e

^{ x   ∞}

^{ }

 





_{x }

 

 e

^{ x}









∞



 _ ^∞

^_^{ e}

^{ }

^{x dx   }_

^{ }

^e

^{ x   ∞}

^{ }_^

^



_X ^

 EX

^

  EX 

^

 

^

  

^

  

^



3.5 조건부 기대값

(생략)