확률 및 통계 - 한양대학교 이상화 교수님 강의 정리 - 5 [조건부 평균]
복습
$$E[X]\quad =\quad \sum { { x }_{ i }P({ x }_{ i }) } \quad -\quad discreate\\ \quad =\quad \int _{ \infty }^{ -\infty }{ x{ f }_{ x }(x){ d }_{ x } } \quad -\quad continuous$$
E[{ (x-\mu })^{ 2 }]\quad =\quad E[{ X }^{ 2 }]\quad -\quad { \mu }^{ 2 }
* Geometric distribution
. RV K : # of trials until the 1st success
ex) 주사위 6 나올때 까지 몇번 던지나
$${ P }_{ K }(k)\quad =\quad { (1-P) }^{ k-1 }P\quad (k=1,2,3,4...)$$
. 0은 포함되지 않고 1부터이다.
$$P(K>5)=\sum _{ k=6 }^{ \infty }{ P{ (1-P) }^{ k-1 } } \\ P(K\le 5)={ F }_{ K }(5)=\sum _{ k=1 }^{ 5 }{ P{ (1-P) }^{ k-1 } } $$
. 평균 구하기
$$E[K]=\sum _{ k=1 }^{ \infty }{ kP{ (1-P) }^{ k-1 } } =\frac { 1 }{ P } $$
>> 평균이 \(\frac { 1 }{ P } \) 구나
>> 아래 유도공식
$$\sum _{ k=1 }^{ \infty }{ { (1-P) }^{ k }=\frac { 1-P }{ P } } \\ \frac { d }{ dP } =>\sum _{ k=1 }^{ \infty }{ k{ (1-P) }^{ k-1 } } =-\frac { 1 }{ P } $$
. 분산구하기
$${ \sigma }_{ K }^{ 2 }=E[{ K }^{ 2 }]-{ \mu }^{ 2 }=\frac { 1 }{ P } +\frac { 2(1-P) }{ { P }^{ 2 } } $$
>> 아래 유도공식
$$\frac { d }{ dP } =>-\sum _{ k=1 }^{ \infty }{ k(k-1){ (1-P) }^{ k-2 } } =-\frac { 2 }{ { P }^{ 3 } } \\ =>\quad \sum _{ k=1 }^{ \infty }{ { k }^{ 2 }{ (1-P) }^{ k-1 } } =\sum _{ k=1 }^{ \infty }{ k{ (1-P) }^{ k-2 }+\frac { 2 }{ { P }^{ 3 } } } \\ *P(1-P)\quad =>\quad \sum _{ k=1 }^{ \infty }{ k{ (1-P) }^{ k-1 }P+\frac { 2(1-P) }{ { P }^{ 2 } } } \\ $$
* 평균과 분산이 어떤 의미를 가지고 있는가
. 얼굴매칭에서의 판단기준은 아래의 값의 총합이 최소화 되어야한다. 아래와 같이 수치모델을 세워 판단한다.
$${ (TRUE\quad -\quad REAL) }^{ 2 }$$
>> error model
\({ () }^{ 2 }\) -> energy
* 무언가를 예측 하거나 추정할때 분산이 작은것이 좋다.
평균과 분산이 중요한 이유는 신경망의 경우 무언가를 판단할때 판단의 근거가 error 값이 작을 경우를 택한다.
* Median (중간값)
1,2,4,5,7 > 4
$$min\quad g(x)\quad =\quad |x-{ a }_{ 1 }|+|x-{ a }_{ 2 }|+|x-{ a }_{ 3 }|$$
의 경우 x 가 \({ a }_{ 2 }\) 일 때 최소를 가진다
이해가 가지 않음 ?????
* 조건부 확률(Conditional Mean)
for discreate case
$$E[X|A=\sum _{ { x }_{ i }\in A }^{ }{ { x }_{ i }P({ x }_{ i }|A) } $$
for continuous case
$$E[X|A]=\int _{ x\in A }^{ }{ { f }_{ X } } (x|A)dx\\ { f }_{ x }(x|A)=\frac { d }{ dx } { F }_{ X }(x|A)\\ =\frac { d }{ { d }_{ x } } P(X\le x|A)$$
===추가 개념
* 무한 등비 급수 개념 확인
$$E[X]\quad =\quad \sum { { x }_{ i }P({ x }_{ i }) } \quad -\quad discreate\\ \quad =\quad \int _{ \infty }^{ -\infty }{ x{ f }_{ x }(x){ d }_{ x } } \quad -\quad continuous$$
E[{ (x-\mu })^{ 2 }]\quad =\quad E[{ X }^{ 2 }]\quad -\quad { \mu }^{ 2 }
* Geometric distribution
. RV K : # of trials until the 1st success
ex) 주사위 6 나올때 까지 몇번 던지나
$${ P }_{ K }(k)\quad =\quad { (1-P) }^{ k-1 }P\quad (k=1,2,3,4...)$$
. 0은 포함되지 않고 1부터이다.
$$P(K>5)=\sum _{ k=6 }^{ \infty }{ P{ (1-P) }^{ k-1 } } \\ P(K\le 5)={ F }_{ K }(5)=\sum _{ k=1 }^{ 5 }{ P{ (1-P) }^{ k-1 } } $$
. 평균 구하기
$$E[K]=\sum _{ k=1 }^{ \infty }{ kP{ (1-P) }^{ k-1 } } =\frac { 1 }{ P } $$
>> 평균이 \(\frac { 1 }{ P } \) 구나
>> 아래 유도공식
$$\sum _{ k=1 }^{ \infty }{ { (1-P) }^{ k }=\frac { 1-P }{ P } } \\ \frac { d }{ dP } =>\sum _{ k=1 }^{ \infty }{ k{ (1-P) }^{ k-1 } } =-\frac { 1 }{ P } $$
. 분산구하기
$${ \sigma }_{ K }^{ 2 }=E[{ K }^{ 2 }]-{ \mu }^{ 2 }=\frac { 1 }{ P } +\frac { 2(1-P) }{ { P }^{ 2 } } $$
>> 아래 유도공식
$$\frac { d }{ dP } =>-\sum _{ k=1 }^{ \infty }{ k(k-1){ (1-P) }^{ k-2 } } =-\frac { 2 }{ { P }^{ 3 } } \\ =>\quad \sum _{ k=1 }^{ \infty }{ { k }^{ 2 }{ (1-P) }^{ k-1 } } =\sum _{ k=1 }^{ \infty }{ k{ (1-P) }^{ k-2 }+\frac { 2 }{ { P }^{ 3 } } } \\ *P(1-P)\quad =>\quad \sum _{ k=1 }^{ \infty }{ k{ (1-P) }^{ k-1 }P+\frac { 2(1-P) }{ { P }^{ 2 } } } \\ $$
* 평균과 분산이 어떤 의미를 가지고 있는가
. 얼굴매칭에서의 판단기준은 아래의 값의 총합이 최소화 되어야한다. 아래와 같이 수치모델을 세워 판단한다.
$${ (TRUE\quad -\quad REAL) }^{ 2 }$$
>> error model
\({ () }^{ 2 }\) -> energy
* 무언가를 예측 하거나 추정할때 분산이 작은것이 좋다.
평균과 분산이 중요한 이유는 신경망의 경우 무언가를 판단할때 판단의 근거가 error 값이 작을 경우를 택한다.
* Median (중간값)
1,2,4,5,7 > 4
$$min\quad g(x)\quad =\quad |x-{ a }_{ 1 }|+|x-{ a }_{ 2 }|+|x-{ a }_{ 3 }|$$
의 경우 x 가 \({ a }_{ 2 }\) 일 때 최소를 가진다
이해가 가지 않음 ?????
* 조건부 확률(Conditional Mean)
for discreate case
$$E[X|A=\sum _{ { x }_{ i }\in A }^{ }{ { x }_{ i }P({ x }_{ i }|A) } $$
for continuous case
$$E[X|A]=\int _{ x\in A }^{ }{ { f }_{ X } } (x|A)dx\\ { f }_{ x }(x|A)=\frac { d }{ dx } { F }_{ X }(x|A)\\ =\frac { d }{ { d }_{ x } } P(X\le x|A)$$
===추가 개념
* 무한 등비 급수 개념 확인
댓글
댓글 쓰기