제 9 장 확률이란 무엇인가

1. 가능성, 확률2. 카드가 든 상자3. 가능한 경우를 모두 나열하여 확률 계산4. 벤 다이어그램과 배반5. 덧셈법칙6. 조건부확률7. 곱셈법칙8. 분할과 베이즈 정리9. 독립10.배반과 독립, 덧셈과 곱셈11.확률계산의 사례

1. 가능성, 확률

확률을 보는 두 가지 견해

도수이론(frequentist view)

• 확률은 한 시행을 동일한 조건 하에서 독립적으로 반복할 때 그 사건이 일어날

것으로 예측되는 횟수의 전체 시행횟수에 대한 백분율이다.

주관적 견해(subjective view)

• 사건에 대한 주관적 확신의 정도가 확률이다. 이는 반복시행 여부와 관계없이 정

의된다.

2

1. 가능성, 확률

확률의 특성

확률은 0% 부터 100% 사이의 값을 가진다.

어떤 사건 A 가 일어날 확률이 P(A) 이면 그 사건이 일어나지 않을 확률은 1-P(A) 이다.

P(AC )1 P(A)

여기서 “AC = A 의 여사건”=“anything but A” (“nobody but you!”의 반대)

3

2. 카드가 든 상자

카드가 든 상자

상자 A와 상자 B로부터 붉은 카드를 꺼낼 확률 P(R)은?

상자 A

(붉은 카드 3장, 푸른 카드 2장)

상자 B

(붉은 카드 30장, 푸른 카드 20장)

P(R) 붉은카드의수

3

전체카드의수 54

2. 카드가 든 상자

복원추출과 비복원추출

1 2

3

두번째

추출

첫번째

추출

두 번째 추출의 상자는 복원추출이냐 비복원추출이냐에 의존한다.

1 21

5

2 3

복원 추출 비복원 추출

3. 가능한 경우를 모두 나열하여 확률 계산

두 개의 주사위를 던져 나오는 경우의 수

6

3. 가능한 경우를 모두 나열하여 확률 계산

조합의 수가 6으로 같다고 해서 경우의 수까지 같은 것은 아니다: 25 대 27

세 개의 주사위를 던져 나오는 경우의 수

7

4. 벤 다이어그램과 배반

벤 다이어그램의 예시

하나의 직사각형과 그 안에 든 원을 이용하여 한 개 또는 그 이상의 사건을

나타내는 그림

두 원이 겹치지 않음

8

두 원이 겹치고 있음

4. 벤 다이어그램과 배반

상호배반

한 사건이 발생할 때 다른 사건이 함께 발생할 수 없는 경우 두 사건은 ‘상호배

반(mutually exclusive)’ 또는 단순히 ‘배반’ 관계에 있다고 한다.

배반인 경우

9

배반이 아닌 경우

5. 덧셈법칙

덧셈법칙

P(A or B) , P(A그리고 B)

• 두 사건 중 적어도 하나의 사건이 일어날 확률

P(A and B) , P(A또는 B)

• 두 사건이 함께 일어날 확률

덧셈법칙:

• P(A or B)=P(A) + P(B) - P(A and B)

10

6. 조건부 확률

조건부확률

예1: 아래 상자에서 두 장의 카드를 비복원추출로 뽑을 때

(a) 두 번째 카드가 4일 확률은? 1/4 (비조건부 확률)

(b) 첫 번째 카드가 2일 때, 두번 째 카드가 4일 확률은? 1/3 (조건부 확률)

예2: 한 벌의 카드를 잘 섞은 뒤 위서부터 두 장의 카드를 뽑아 두 번째 카드가하트 Q면 천원을 받는다고 하자.

(a) 상금을 받을 확률은? 1/52 (비조건부 확률)

(b) 첫번째 카드가 클럽 7이었다면 상금을 받을 확률은? 1/51 (조건부 확률)

1

1

2 3 4

7. 곱셈법칙

곱셈법칙

P(A and B): 결합확률 ( joint probability)

• 두 사건이 함께 일어날 확률

P(A| B): 조건부확률 (conditional probability)

• 사건 B가 주어진 조건 하에서 사건 A가 일어날 확률

P(A), P(B): 주변확률 (marginal probability)

• 비조건부 확률

2

7. 곱셈법칙

곱셈법칙

두 사건이 모두 일어날 확률은 ‘하나의 사건이 일어날 확률’과 ‘하나의 사건이

일어났다는 조건 하에서 다른 하나의 사건이 일어날 조건부확률’을 곱하여 얻

는다.

3

P(A and B)=P(A)·P(B|A)

=P(B) ·P(A|B)

7. 곱셈법칙

곱셈법칙

상자 안에 붉은색(R), 흰색(W) 그리고 푸른색(B)의 카드가 한 장씩 들

어 있다. 두 장의 카드를 무작위로 비복원추출할 때, 첫 번째에 붉은색 카드가

나오고 그 다음에 흰색 카드가 나올 확률은 얼마인가?

풀이) P(R and W)=P(R)P(W|R) = (1/3) x (1/2) = 1/6

R

4

W B

7. 곱셈법칙

독립

하나의 사건이 일어나느냐 마느냐와 상관없이 다른 사건이 일어날 확률이 변하

지 않으면, 두 사건의 관계가 독립(independent)이라고 한다. 그렇지 않은

경우 두 사건의 관계가 종속(dependent)이라고 한다.

• 복원추출일 경우에는 매번의 추출이 독립이고, 비복원추출일 경우에는 종속이다.

두 사건이 서로 독립일 때, 두 사건이 모두 일어날 확률은 각각의 비조건부 확

률을 곱하여 얻는다. 이를 좁은 의미의 곱셈법칙이라고 부른다.

• 두 사건 A와 B가 독립이면, P (A and B) = P(A)P(B)

5

8. 독 립확률적 독립의 개념

동전을 두 번 던질 때, 두 번째 시행에서 앞면이 나오면 천원을 상금으로 받는

다고 하자.

(a) 처음에 앞면이 나오면 상금 탈 확률은?

(b) 처음에 뒷면이 나오면 상금 탈 확률은?

(c) 두 번의 시행은 서로 독립인가?

처음에 앞면이 나오건 뒷면이 나오건 상관없이 두 번째에 앞면이 나올 확률

은 50%로 변하지 않으므로 두 시행은 독립이다. 상금을 탈 확률은 첫 번째

시행의 결과와 관계없이 언제나 50%이다.

6

8. 독 립

확률적 독립의 개념

다음과 같은 상자로부터 무작위 복원추출을 한다.

(a) 처음에 1이 나왔다고 하자. 두 번째에 2가 나올 확률은 얼마인가?

(b) 두 번의 추출은 서로 독립인가?

→ 처음에 나온 숫자와 관계없이 두 번째에 2가 나올 확률은 2/5이다.

복원추출이므로 두 번의 추출은 서로 독립이다.

(c) 비복원추출을 하면 어떻게 달라지는가? 답: (a) 2/4, (b) 독립이 아님

1 1 2 2 3

7

8. 독 립

투수에게는 독립이 중요

8

9. 배반과 독립, 덧셈과 곱셈

배반과 독립, 덧셈과 곱셈

상호배반

• 하나의 사건이 발생하면 다른 사건이 발생할 수 없는 경우

상호독립

• 하나의 사건이 발생하든 말든 다른 사건이 일어날 확률이 변하지 않는 경우

상호배반인 두 사건은 서로 종속이다.

• 두 사건 A, B가 상호배반이면 사건 A가 일어나는 경우 사건 B가 일어날 확률는 0

으로 변경된다. 즉, 상호배반이면 독립일 수 없다.

9

9. 배반과 독립, 덧셈과 곱셈

배반이 아닌 경우 중복 계산되는 부분을 제거해야 한다.

곱셈법칙

• 두 사건이 함께 일어날 확률과 관련

• 좁은 의미의 곱셈법칙은 상호독립일 경우만 가능

• 독립이 아닌 (종속의) 경우 하나의 주변확률과 다른 하나의 조건부확률을 곱해야 한다.

배반과 독립, 덧셈과 곱셈

덧셈법칙

10

• 두 사건 중 적어도 하나의 사건이 일어날 확률과 관련

• 좁은 의미의 덧셈법칙은 상호배반일 경우만 가능

•

10. 분할과 베이즈 정리

분할(partition)

합쳐서 전체를 포괄하되(collectively exhaustive) 겹쳐서 전혀 중복이 안 되는

(mutually exclusive) 사건들의 집합

• 예) 주사위를 한 번 던질 때 홀수가 나오는 사건과 짝수가 나오는 사건은 전체를 분할

한다.

• 반례 1) 홀수가 나오는 사건과 6이 나오는 사건 (전체 포괄 못함)

• 반례 2) 홀수가 나오는 사건과 2 이상의 숫자가 나오는 사건 (중복이 발생함)

1

10. 분할과 베이즈 정리

전체의 분할과 B의 분할

2

10. 분할과 베이즈 정리

조건부확률

P(A|B) : 조건부확률

• 사건 B 가 주어진 조건 하에서 사건 A가 일어날 확률

• 사건 B 에만 포커스를 맞춤

• 사건 B의 확률에 대한 사건 A와 B 결합사건 확률의 상대적 크기

3

10. 분할과 베이즈 정리

P(A|B) = 𝑷(①번경로) 𝑷(①번경로)+𝑷(③번경로)

나무도표와 베이즈 정리

P(A and B) P(AC and B) P(A)P(B| A) P(AC )P(B | AC )

4

P(A| B) P(A and B)

P(A and B)

P(A)P(B| A)

P(B)

10. 분할과 베이즈 정리

베이즈 정리의 본질

베이즈 정리의 본질은 “입장을 바꿔 생각” 함으로써 미지의 세계에 대해 추론

하는 것이다.

P(A | B) P(A)P(B| A)

P(A)P(B| A) P(AC )P(B | AC )

• 좌변의 조건부확률 P(A|B)를 구하기 위해 우변에 P(B|A), P(B|Ac) 등 “입장이바뀐” 조건부확률이 이용되고 있음

• 가수 김건모의 노래 ‘핑계’ 중: “입장 바꿔 생각을 해봐!”

5

10. 분할과 베이즈 정리

베이즈 정리의 응용

사지선다 문제를 맞추었을 때(B), 알고 풀었을(A) 확률은?

• 사전확률(prior probability) : 과거 경험에 비추어 P(A)=1/2 상정 (사전 정보)

• P(Ac)=1-P(A)=1/2

• 상식에 비추어 P(B|A)=1 (알고 풀면 맞을 확률은 1),

• P(B|Ac)=1/4 (사지선다 문제이므로 “모르고 찍으면” 맞을 확률은 4분의 1)

• 베이즈 정리를 이용한 사후확률(posterior probability)의 계산

P(A | B) P(A)P(B| A)

0.51

4 / 5P(A)P(B| A) P(AC )P(B | AC ) 0.51 0.50.25

6

10. 분할과 베이즈 정리

P(A1)P(B | A1) P(Am )P(B | Am )

P(A1)P(B | A1)

P(B)1

베이즈 정리의 일반화

{ A 1 , A 2 , , A m }=전체 S 의 분할

7

P (B) > 0 일 때,

P(A | B) P(A1 그리고 B)

11. 확률계산의 사례 1

28

Doubling Strategy

• 따거나 잃을 확률이 같은 하나의 공정한 게임(fair game)을 생각해보자.

• 최초로 일정액의 금액을 건다. 그 일정액을 1 이라고 두자.

• 따면 게임을 중지하되, 잃으면 게임을 지속하며 두 배의 금액을 건다.

• 이런 방식으로 게임을 지속하다가 최초로 따는 순간 게임을 중지한다.

• 1+2+…+29=(210-1)/(2-1)=1,023이므로 애당초 판돈 1,023을 가지고 게임을 시

작하면 계속 잃기만 하더라도 최대 10번까지 게임에 참가할 수 있다.

• T=게임에 참여한 횟수를 나타내는 확률변수

• P(T=1)=1/2 (바로 딸 확률), P(T=2)=(1/2) x (1/2) (처음엔 잃고 이어 딸 확률)

P(T=9)=(1/2)8 x (1/2) (8번 잃고 9번째 딸 확률)

P(T=10)=(1/2)9 (9번째까지 계속 잃을 확률. 10번째는 따든 잃든 무조건

게임 종료). 확인: P(T=1)+…P(T=10)=1

11. 확률계산의 사례 1

• W=따고 게임을 마치는 사건

• L=잃고 게임을 마치는 사건

• P(L)=10번 모두 잃을 확률=(1/2)10=1/1,024

• P(W)=1-P(L)=1-(1/2) 10=1,023/1,024

• X=딴 금액을 나타내는 확률변수

• X의 확률분포: W = 1

=-1023

: 1,023/1,024 의 확률로 발생

: 1/1,024 의 확률로 발생

• EX=1 x (1,023/1,024)+ (-1,023) x (1/1,024)=0 이므로 doubling strategy를 구사

하더라도 이 게임은 여전히 따는 금액의 기대값이 0 인 공정한 게임

• 일반적으로 공정한 게임의 기대치 0을 향상시킬 수 있는 전략은 존재하지 않음

Doubling Strategy

2