Дополнительная теория вероятностей и статистика

Непреремнная переменная $X$ описывается функцией плотности вероятности $f(x)$, которая может быть задана кусочно. Вероятность попадания в диапазон равна площади под $f$, а среднее значение любой функции от $X$ равно

Функция накопленного распределения $F(x) = P(X \leqslant x)$ — это накопленная сумма: $F(x) = \displaystyle\int_{-\infty}^{x} f(t)\,dt$, и $f(x) = F'(x)$. Используйте $F$ для нахождения вероятностей и перцентилей (например, медиана определяет $F(x) = 0.5$).

Разбор примера. Случайная величина имеет $f(x) = \tfrac12 x$ при $0 \leqslant x \leqslant 2$. Найдите медиану.

Функция накопленного распределения равна $F(x) = \displaystyle\int_0^x \tfrac12 t\,dt = \tfrac14 x^2$. Приравняйте $F(m) = 0.5$:

Распределение связанной переменной. Если $Y=g(X)$, найдите распределение $Y$ через его функцию накопления. Для $Y=X^2$: $F_Y(y)=P(X^2\leqslant y)=P(-\sqrt y\leqslant X\leqslant\sqrt y)=F_X(\sqrt y)-F_X(-\sqrt y)$, затем дифференцируйте для получения $f_Y=F_Y'$. Когда $g$ монотонно возрастает, существует упрощение, $F_Y(y)=F_X\big(g^{-1}(y)\big)$.

Разбор примера. Имеется $f_X(x)=\tfrac12 x$ на интервале $[0,2]$ (поэтому $F_X(x)=\tfrac14 x^2$), пусть $Y=X^2$. Для $0\leqslant y\leqslant 4$, $F_Y(y)=F_X(\sqrt y)=\tfrac14 y$, следовательно $f_Y(y)=F_Y'(y)=\tfrac14$ — то есть $Y$ распределена равномерно на $[0,4]$.

Когда выборка мала, а дисперсия генеральной совокупности неизвестна, основывайте гипотезу на распределении $t$ вместо нормального. Та же идея дает доверительный интервал для среднего:

где $t$ берется из таблиц распределения $t$ с $n - 1$ степенями свободы. Для сравнения двух совокупностей используйте двухвыборочный (2-выборочный) или парный тест $t$, предварительно найдя объединенную оценку общей дисперсии при необходимости.

Разобранное решение. Образец $n = 10$ имеет среднее значение $\bar{x} = 50$ и стандартное отклонение $s = 4$. Найдите доверительный интервал для среднего со степенью достоверности $95\%$ (используйте $t = 2.262$ для $9$ степеней свободы).

Критерий $\chi^2$ (χ²-критерий) сравнивает наблюдаемые частоты $O$ с ожидаемыми частотами $E$ из теоретического распределения:

Сравните это значение с табличным для соответствующего числа степеней свободы. Два применения: тест пригодности (соответствуют ли данные предложенной модели?) и тест на независимость двух переменных в таблице сопряженности.

Разбор примера. Четыре равновероятные категории дают наблюдаемые частоты $20, 30, 25, 25$ (поэтому каждая ожидаемая частота равна $25$). Проверьте соответствие на уровне значимости $5\%$.

При $4 - 1 = 3$ степенях свободы табличное значение равно $7.815$. Поскольку $2 < 7.815$, не отвергаем модель.

Непараметрический тест не предполагает нормальное распределение данных, поэтому он полезен, когда это предположение нарушается. Основные из них:

• знаковый тест: подсчитайте, сколько значений находятся выше и ниже предполагаемой медианы, и протестируйте эти подсчеты с помощью биномиальной модели;
• критерий Вилкоксона для связанных выборок (тест для парных данных), который также использует величины различий, а не только их знаки;
• критерий Вилкоксона для независимых выборок, для сравнения двух отдельных выборок.

Разобранный пример. Проверьте, является ли медиана равной $5$. В выборке из $10$ значений (ни одно не равно $5$), $9$ находятся выше $5$, а $1$ — ниже. Проведите тест на уровне значимости $5\%$ (двусторонний).

При условии $H_0$ (медиана $= 5$) количество наблюдений выше нее следует распределению $B(10, 0.5)$. Наблюдаемый результат ($9$ над медианой) является экстремальным, поэтому найдите P-значение $P(X \geq 9) = \binom{10}{9}(0.5)^{10} + (0.5)^{10} = \dfrac{11}{1024} = 0.0107$. Для двустороннего теста сравните со значением $\tfrac{1}{2}(5\%) = 0.025$. Поскольку $0.0107 < 0.025$, отвергаем гипотезу $H_0$: есть доказательства того, что медиана не равна $5$.

Генерирующая функция вероятностей дискретной случайной величины $X$ имеет вид

Она упаковывает всё распределение в одну функцию. Математическое ожидание и дисперсия получаются из её производных при $t = 1$: $E(X) = G'(1)$ и $\mathrm{Var}(X) = G''(1) + G'(1) - \big(G'(1)\big)^2$. Кроме того, ГФ суммы независимых величин равна произведению их ГФ.

Разбор примера. Случайная величина $X$ принимает значения $P(X=0) = 0.5$, $P(X=1) = 0.3$, $P(X=2) = 0.2$. Найдите P-функцию (PGF) $E(X)$.

Здесь $G(t) = 0.5 + 0.3t + 0.2t^2$, следовательно $G'(t) = 0.3 + 0.4t$ и

• Для непрерывной случайной величины плотность вероятности интегрируется до $1$ по всему диапазону, а интеграл равен $E(X) = \int x f(x)\,dx$.
• Используйте распределение t-Стьюдента ($t$-распределение), когда выборка мала, а генеральная дисперсия неизвестна; укажите число степеней свободы.
• Для χ²-критерия вычислите статистику $\sum (O-E)^2/E$, сравните её с критическим значением для соответствующих степеней свободы и объедините классы с малыми частотами $E < 5$.
• Укажите нулевую и альтернативную гипотезы $H_0$ и $H_1$ и дайте вывод в контексте задачи для каждого теста.