Распределение Дирихле

В теории вероятностей и математической статистике распределение Дирихле (по имени Иогaнна Пeтера Гyстава Лежён-Дирихлe) часто обозначаемое Dir(α) — это семейство непрерывных многомерных вероятностных распределений параметризованных вектором α неотрицательных вещественных чисел. Распределение Дирихле является обобщением Бета-распределения на многомерный случай. То есть, его функция плотности вероятности возвращает доверительную вероятность того, что вероятность каждого из K взаимноисключающих событий равна $x_i$ при условии, что каждое событие наблюдалось $\alpha _{i}-1$ раз.

Функция плотности вероятности

Функция плотности вероятности для распределения Дирихле порядка K есть:

$f(x_{1},\dots ,x_{K};\alpha _{1},\dots ,\alpha _{K})={\frac {1}{\mathrm {B} (\alpha )}}\prod _{i=1}^{K}x_{i}^{\alpha _{i}-1}$

где $x_{i}\geq 0\,$, $\sum _{i=1}^{K}x_{i}=1\,$, и $\alpha _{i}\geq 0\,$.

Свойства

Пусть $X=(X_{1},\ldots ,X_{K})\sim \operatorname {Dir} (\alpha )$ и $\alpha _{0}=\sum _{i=1}^{K}\alpha _{i},$ тогда

$\mathrm {E} [X_{i}|\alpha ]={\frac {\alpha _{i}}{\alpha _{0}}},$

$\mathrm {Var} [X_{i}|\alpha ]={\frac {\alpha _{i}(\alpha _{0}-\alpha _{i})}{\alpha _{0}^{2}(\alpha _{0}+1)}},$

$\mathrm {Cov} [X_{i}X_{j}|\alpha ]={\frac {-\alpha _{i}\alpha _{j}}{\alpha _{0}^{2}(\alpha _{0}+1)}}.$

Модой распределения является вектор x (x₁, …,x_K) с

$x_{i}={\frac {\alpha _{i}-1}{\alpha _{0}-K}},\quad \alpha _{i}>1.$

Рапределение Дирихле есть пара к мультиномиальному распределению в следующем смысле: если

$\beta |X=(\beta _{1},\ldots ,\beta _{K})|X\sim \operatorname {Mult} (X),$

где β_i — число вхождений i в выборку из n точек дискретного распределения на {1, …, K} определенного через X, то

$X|\beta \sim \operatorname {Dir} (\alpha +\beta ).$

Эта связь используется в Байесовской статистике для того, чтобы оценить скрытые параметры, X, дискретного вероятностного распределения имея набор из n выборок. Очевидно, если априорное распределение обозначено как Dir(α), то Dir(α + β) есть апостериорное распределение после серии наблюдений с гистограммой β.

Связи с другими распределениями

Если для $i\in \{1,2,\ldots ,K\},$

$Y_{i}\sim \operatorname {Gamma} ({\textrm {shape}}=\alpha _{i},{\textrm {scale}}=1)$ независимо, то

$V=\sum _{i=1}^{K}Y_{i}\sim \operatorname {Gamma} ({\textrm {shape}}=\sum _{i=1}^{K}\alpha _{i},{\textrm {scale}}=1),$

и

$(X_{1},\ldots ,X_{K})=(Y_{1}/V,\ldots ,Y_{K}/V)\sim \operatorname {Dir} (\alpha _{1},\ldots ,\alpha _{K}).$

Несмотря на то, что X_i не являются независимыми друг от друга, они могут быть сгенерированны из набора из $K$ независимых гамма случайных величин. К несчастью, так как сумма $V$ теряется в процессе формирования X = (X₁, …, X_K), становится невозможно восстановить начальные значения гамма случайных величин только по этим значениям. Тем не менее, благодаря тому, что работать с независимыми случайными величинами проще, это преобразование параметров может быть полезно при доказательстве свойств распределения Дирихле.

Генерация случайных чисел

Метод построения случайного вектора $x=(x_{1},\ldots ,x_{K})$ для распределения Дирихле размерности K с параметрами $(\alpha _{1},\ldots ,\alpha _{K})$ следует непосредственно из этой связи. Сначала получим K независимых случайных выборок $y_{1},\ldots ,y_{K}$ из гамма-распределений, каждое из которых имеет плотность

${\frac {y_{i}^{\alpha _{i}-1}\;e^{-y_{i}}}{\Gamma (\alpha _{i})}},\!$

а затем положим

$x_{i}=y_{i}/\sum _{j=1}^{K}y_{j}.\!$

Наглядная трактовка параметров

В качестве примера использования распределения Дирихле можно предложить задачу, в которой требуется разрезать нитки (каждая начальной длины 1.0) на K частей с разными длинами так, чтобы все части имели заданную среднюю длину, но с возможностью некоторой вариации относительных длин частей. Значения α/α₀ определяют средние длины частей нитки, получившиеся из распределения. Дисперсия вокруг среднего значения обратно пропорциональна α₀.

См. также

• Бета-распределение
• Биномиальное распределение
• Мультиномиальное распределение

---

Эта страница использует содержимое раздела Википедии на русском языке. Оригинальная статья находится по адресу: Распределение Дирихле. Список первоначальных авторов статьи можно посмотреть в истории правок. Эта статья так же, как и статья, размещённая в Википедии, доступна на условиях CC-BY-SA .

---