최근 수정 시각 : 2024-09-02 10:56:58

지수족


1. 개요2. 정의
2.1. 스칼라 매개변수2.2. 벡터 매개변수
3. 예시

1. 개요

확률론 통계학에서 지수족(exponential family)은 특정한 조건(아래 항목 참고)을 만족하는 매개변수화된 확률분포들의 집합을 원소로 갖는 집합이다( 집합족 집합들의 집합인 셈). 수학적 편의성을 위해 정의되었는데, 알고보니 주어진 확률분포를 가장 자연스러운 매개변수(natural parameters)로 나타내는 것과 깊은 연관이 있다는게 밝혀지기도 했다( 정보기하학의 주요 연구대상이기도 하다). 옛날에는 Koopman-Darmois family라고 불렀다.

지수족이라는 용어는 확률분포들의 집합을 말하는데, 예를들어 지수족에는 정규분포, 푸아송 분포 등 각각의 매개변수들을 가지는 확률분포들이 속한다. 이 개념은 G.Darmois, B.O.Koopman 등이 1935~1936년에 처음 제시했다. 지수족은 매개변수를 가지는 확률분포들을 각자 고유의 가장 자연스러운 매개변수로 나타내는 보편적인 프레임워크를 제공하고 있다.

2. 정의

2.1. 스칼라 매개변수

매개변수가 [math(\theta)] 하나일 때 지수족의 원소는 다음과 같은 확률밀도함수를 원소로 갖는 집합으로 정의된다.
[math(f_X(x|\theta) = h(x)~\exp [\eta (\theta)\cdot T(x)-A(\theta) ])]

이때 [math(T(x),h(x),\eta (\theta), A(\theta))]는 알려진 함수이고, [math(h(x))]는 양수이다.[1] 여기서 [math(\theta)]는 해당 지수족 원소의 매개변수이다.

2.2. 벡터 매개변수

매개변수가 벡터 [math(\boldsymbol\theta = [\theta_1, \theta_2, ..., \theta_s]^T)]로 주어질 때 지수족의 원소를 다음과 같은 확률밀도함수를 원소로 갖는 집합으로 정의한다:
[math(f_X(x|\boldsymbol\theta) = h(x)~\exp[\sum_i^s \eta_i (\boldsymbol\theta) T_i(x)-A(\boldsymbol\theta)])]

혹은, 벡터 곱 형식으로 쓰면:
[math(f_X(x|\boldsymbol\theta) = h(x)~\exp[\boldsymbol\eta (\boldsymbol\theta)\cdot {\boldsymbol T}(x)-A(\boldsymbol\theta)])]

이외에도 확률밀도함수를 표현할 때 자주 쓰이는 형태로는:
[math(f_X(x|\boldsymbol\theta) = h(x)g(\boldsymbol\theta)~\exp(\boldsymbol\eta (\boldsymbol\theta)\cdot {\boldsymbol T}(x)))]

가 있다.

3. 예시

지수족의 원소로는 정규 분포, 베르누이 분포, 지수 분포, 베타 분포, 감마 분포, 푸아송 분포, 카이 제곱 분포 등이 있다.

몇몇 확률 분포들은 특정 매개변수가 고정되었을 때 지수족이 되기도 하는데, 예를들어 시행횟수 N이 고정된 이항 분포의 집합은 지수족의 원소가 된다.
[1] 확률분포니까 당연하다.

분류