Leo's Garage

본격적으로 통계학을 공부하기에 앞서 지난 두 확률 과목에서 공부한 MGF를 정리하고 가고자한다. $$M(t) = E(e^{tx})$$ 위 수식을 MGF(Moment Generating Function)이라고 한다. 기본적으로 우리가 확률 변수의 기댓값은 아래와 같이 정의한다. $$E(X) = \sum xP(x)$$ 바로 확률 변수의 원소 값 x와 그에 대응하는 확률 p(x)를 곱한값을 더하는 식이다. 이러한 기댓값은 즉, 확률분포의 중심이 어디인지를 알려주게 된다. 그런데 이런 기댓값이 아닌 다른 어떤 값이 확률 변수의 특성을 알려줄 수 있을까? 이때 나오는 개념이 Moment(적률)이다. 원래 이 Moment라는 개념은 수학보다는 물리학에서 먼저 사용한 개념으로 알려져 있다. 물리학에서 Moment는 ..

Moment Generating Functions, Revisited 랜덤변수 X가 베르누이 혹은 지수 분포를 가질 때, moment generating function은 위와 같이 구할 수 있다. 베르누이 분포의 경우에는 랜덤변수가 0과 1뿐이고 그에 대한 확률값도 p, q(1-p) 뿐이므로 위와 같이 전개될 수 있다. 지수 분포의 경우 연속확률분포이므로 적분을 통해서 기댓값을 계산하게 된다. 여기서 Sigma 기호는 각 index에 해당하는 수를 더하는 것이지만, Pi 연산은 각 index에 해당하는 수를 전부 곱하는 연산을 해야한다. Make Sense하다. mgf는 X의 선형방정식이다. 가령 Y = aX + b이면, My(t) = e^tb * Mx(at). 이런 경우에 Y 또한 3X - 2와 동일..

Moment Generating Functions 여기서 중요한 건 Mx(t)는 X의 함수가 아니다. t에 대한 함수이다. 예제는 X가 베르누이 분포일 때, mgf(moment generating function)을 구하면 위와 같다는 의미이다. 위의 수식 증명은 아래와 같다. 우리는 이러한 mgf를 이용해서 여러가지 응용을 할 수 있는데, 만약에 같은 mgf를 가지는 서로 다른 두 개의 확률변수가 있다면, 이들은 서로 같은 분포를 가지게 된다. 따라서 하나의 mgf는 하나의 확률분포에 대응된다.