확률분포

제4장 확율이론

학습목표



확률의 개념



확률의 공준



확률분포



결합확률분포



주변확률분포



조건부확률분포



기본적인 확률법칙



베이즈정리



확률변수



확률변수의 기대치와 분산



공분산과 상관계수

표본공간 및 사상



확률이론: 추리 통계의 이론적 배경이 됨

 무작위실험 : 두 개 이상의 결과가 발생 가능한 상황에서 실험을 해 보기 전에는 어떤 결과가 나올 것인지를 알 수 없는 불확실한 실험

 표본공간(sample space) : 무작위 실험에서 나타날 수 있는 결과의 집합

 사상(event) : 표본공간 내의 부분집합 E,F 또는 E₁, E₂

 E에 대한 여사상 - E^*

 E₁과 E₂의 교사상(intersection) :

 E₁과 E₂는 상호배타적(mutually exclusive) :

 E₁과 E₂의 합사상(union) :

 단일변량표본공간, 이원변량표본공간

 ^{O O O} _K 

S 

,

,  ,

2 1

E

E  E

 E



2



1

E E 

2 1

E

E  E

 E

확률의 정의(1)

 확률의 정의

 사상이 발생할 가능성을 나타내는 0과 1 사이의 수

 객관적 확률 : 어떤 사상이 발생할 가능성 정도를 실험이나 관찰을 통해서 확인할 수 있는 것

 고전적 확률 : 확률은 경험 혹은 실험에 의한 자료가 없더라도 논리적으로 유추 하여 확률을 계산할 수 있다는 가정에 따른 개념이다. 그러므로 고전적 확률을 선험적 확률(priori probability)

 어떤 건물에서 1년 동안 화재가 발생할 확률/ 상점을 방문한 고객이 상품을 구매 할 확률/ 교도소에서 출감한 사람이 일정기간 동안 다시 범죄를 저지를 확률(?)

 경험적 확률 : n번 반복한 실험에서 사상 A가 f번 발생하였다면, 사상 A가 발생할 상대도수 확률은 다음과 같다. 그러므로 경험적 확률은 실험의 횟수를 많이 하면 할수록 보다 정확한 값을 얻을 수 있다.

n

P   c

수 경우의 모든

가능한 발생

수 경우의 발생하는

사상이 확률 : 어떤

M A m

P n A f

lim

) ( : ) Pr(











횟수 시행

전체

횟수 나타난

사상이

확률 어떤

확률의 정의(2)



주관적 확률개념



개인적 직관, 경험, 지식, 정보 등에 기초



객관적 타당성과 일관성이 문제



직접적인 방법 VS 간접적인 방법

Kerrick의 동전던지기 실험

확률의 공준

 확률의 공준

 공준 1 표본공간에 속하는 모든 결과(원소) o _i 에 대하여

 공준 2 표본공간 내의 어떤 사상 E가 일어날 확률은 사상 E에 속하는 원소들의 확률을 더 한 것과 같다.

 공준 3

1 ) (

0  P o _i 

) ( )

( ^ 

E

o i

P E

P

0 ) ( ,

1 )

( S  P  

P

확률분포(1)



확률분포의 정의 : 표본공간내의 각 결과에 대한 확률을 나타낸 것



단일변량 확률분포



다변량 확률분포



결합확률분포 : 두 개 이상의 확률변수와 관련된 확률을 나타낸 표



주변확률분포 : 결합확률분포에서 하나의 확률변수에 대한 확률분포



조건부확률분포 : E

, E

가 표본공간 내의 두 사건이라면 E

가 일어난 또는 일어날 조건하에서 E

이 일어날 확률

) (

)

( ^ 

j

j i

i

P A B

A

P  ( ) ^  ( )

i

j i

j

P A B

B

P 

) (

) ) (

(

2 2 1

2

1

P E

E E

E P E

P  

확률분포(2)

품 질 수 준 에 대 한 확 률 분 포

결 과 품 질 수 준 도 수 확 률

B 1 A 급 120 0.6

B 2 B 급 60 0.3

B 3 C 급 20 0.1

합 계 200 1.0

생산담당 교대 팀에 대한 확률분포

결과 교대팀 도수 확률

A1 1 교대 180 0.9 A2 2 교대 20 0.1

합계 200 1.0

이변량확률분포의 예

생산교대 품질수준

팀 A 급

(B1)

B 급 (B2)

C 급 (B3)

합계

118 46 16 180

1 교대

(A1) 0.59 0.23 0.08 0.9

2 14 4 20

2 교대

(A2) 0.01 0.07 0.02 0.1

120 60 20 200

합계

0.6 0.3 0.1 1.00

1교대 팀이 생산하였을 때 그 제품이 A급일 확률

66 . 90 0

. 0

59 . 0 )

(

) ) (

(

1 1 1

1

1

  

A P

A B

A P B

P 

기본적인 확률법칙

 덧셈법칙

 여확률의 법칙

 곱셈법칙

 통계적 독립성



두 변수의 통계적 독립성



모든 A

와 B

에 대하여



복원 추출 / 비복원 추출의 경우

) (

) ( )

( )

( E

E

P E

P E

P E

E

P     

) (

1 )

( E P E

P  

) (

) (

) (

) ( )

(

1 2 1

2 1 2

2 1

E E P E

P

E E P E

P E

E P







 

) ( )

| ( )

( )

|

( E

E

P E

P E

E

P E

P  또는 

) ( )

( )

( A

B

P A

P B

P   

) (

) ( )

( E

E

P E

P E

P   

총확률정리

 총확률정리



표본공간을 분할하는 k개의 사상 A1, A2,...., Ak이 있을 때,



임의의 사상 B의 확률 P(B)는

A

A

A

A

A

A

A

B



  





 ^k

i

i i

k

i

i P B A P A

A B

P B

P

1 1

) ( )

| ( )

( )

(

베이즈 정리



베이즈 정리(Bayes Theorem):



의사결정이론(Decision Theory)의 기초



주어진 주변확률과 조건부확률을 이용하여 다른 조건부확률 계산



표본공간 S가 상호배타적인 사상에 의하여 분할되어 있을 때,



사전확률/사후확률



 

 _k

i

i i

j

k k

j j

j k

j k

A P A B P

A P A B P B

P

B A

) P B A P(

1

) ( ) (

) (

) (

) (

)

(

베이즈 정리 예제

 예) 통안에 들어있는 동전 100개(이중 80개는 fair coins 이며 20개는 loaded coins임)중 1개를 임의로 추출하여 한번 던져보니까 뒷면이 나왔을 때, 이 동전이 fair coin 일 확률은?



fair coin일 경우(앞면이 나올 확률): P(H) = 0.5



loaded coin일 경우 (앞면이 나올 확률): P(H) = 0.1

2 . 0 9 . 0 8 . 0 5 . 0

4 . 0 )

( 8 . 0 5 . ) 0

|

(   

T T P

F P

) ( )

| ( )

( )

| (

) ( )

| ( )

(

) ( )

| ) (

|

( P T F P F P T L P L

F P F T P T

P

F P F T T P

F

P   