Статистический вывод для категориальных данных: критерий хи-квадрат
Бросьте честную игральную кость шестьдесят раз. Каждая грань должна выпасть десять раз. Но этого никогда не происходит — здесь восемь, там тринадцать. Разрывы всегда присутствуют. Поэтому бросьте еще…
Английское озвучивание · Английский + китайские субтитры (встроенные)
8.1
Неожиданны ли мой результат?
Программа
Вечная идея (VAR-1): Поскольку вариация может быть случайной или нет, выводы остаются неопределенными.
Цель обучения VAR-1.J: Определять вопросы, возникающие из вариации между наблюдаемыми и ожидаемыми частотами в категориальных данных. [Навык 1.A]
VAR-1.J.1 Вариация между тем, что мы находим, и тем, что ожидаем найти, может быть случайной или нет.
Источник: Описание курса и экзамена College Board AP
Когда данные представляют собой подсчеты, распределенные по нескольким категориям, мы проверяем, отличаются ли наблюдаемые подсчеты от предсказанных заявлением. Инструментом является статистика хи-квадрат ($\chi^2$), которая суммирует стандартизированные расхождения между наблюдаемыми и ожидаемыми подсчетами:
Большое значение $\chi^2$ означает, что наблюдаемые подсчеты сильно отличаются от ожидаемых — это доказательство против заявления. Распределение хи-квадрат имеет правый скос и зависит от своего числа степеней свободы.
8.2
Подготовка к тесту соответствия
Программа
Устойчивое понимание (VAR-8): Распределение хи-квадрат может использоваться для моделирования вариации.
Цель обучения VAR-8.A: Описывать распределения хи-квадрат. [Навык 3.C]
VAR-8.A.1 Ожидаемые частоты категориальных данных — это частоты, согласующиеся с нулевой гипотезой. Как правило, ожидаемая частота равна произведению объема выборки на вероятность.
Статистика хи-квадрат измеряет расстояние между наблюдаемыми и ожидаемыми частотами относительно ожидаемых частот.
Распределения хи-квадрат принимают только положительные значения и скошены вправо. В рамках семейства кривых плотности скошенность становится менее выраженной с увеличением числа степеней свободы.
Цель обучения VAR-8.B: Определять нулевую и альтернативную гипотезы в тесте распределения долей в наборе категориальных данных. [Навык 1.F]
VAR-8.B.1 Для критерия хи-квадрат goodness-of-fit нулевая гипотеза задает нулевые доли для каждой категории, а альтернативная гипотеза заключается в том, что хотя бы одна из этих долей не соответствует той, что указана в нулевой гипотезе.
Цель обучения VAR-8.C: Определять соответствующий метод тестирования для распределения долей в наборе категориальных данных. [Навык 1.E]
VAR-8.C.1 При рассмотрении распределения долей по одной категориальной переменной подходящим тестом является критерий хи-квадрат goodness-of-fit.
Цель обучения VAR-8.D: Вычислять ожидаемые частоты для критерия хи-квадрат goodness-of-fit. [Навык 3.A]
Цель обучения VAR-8.E: Проверять условия для проведения статистических выводов при тестировании goodness-of-fit для распределения хи-квадрат. [Навык 4.C]
VAR-8.E.1 Чтобы провести статистические выводы для критерия хи-квадрат goodness-of-fit, необходимо проверить следующее:
a. Для проверки независимости:
i. Данные должны собираться с использованием случайной выборки или рандомизированного эксперимента.
ii. При выборке без возвращения проверьте, что $n \leq 10\%N$.
b. Критерий хи-квадрат goodness-of-fit становится более точным с большим количеством наблюдений, поэтому следует использовать большие частоты (форма).
i. Консервативной проверкой больших частот является условие, что все ожидаемые частоты должны быть больше 5.
Источник: Описание курса и экзамена College Board AP
Тест хи-квадрат (χ²)
Тест соответствия (GOF) проверяет, следует ли одна категориальная переменная заявленному распределению (например, «кубик честный»). Гипотезы:
$$H_0:\text{the distribution is as claimed}\qquad H_a:\text{at least one proportion differs}.$$
Ожидаемый подсчет для каждой категории $=n\times(\text{claimed proportion})$. Условия: случайная выборка, все ожидаемые подсчеты $\ge 5$ и условие 10%.
Распределение хи-квадрат имеет правый скос. Большое значение статистики попадает в заштрихованный правый хвост за критическим значением — именно там мы отвергаем модель.
VAR-8.F.2 Распределение тестовой статистики при условии истинности нулевой гипотезы (нулевое распределение) может быть либо рандомизационным распределением, либо, когда предполагается истинность вероятностной модели, теоретическим распределением (хи-квадрат).
Цель обучения VAR-8.G: Определять значение $p$ для теста значимости критерия хи-квадрат goodness-of-fit. [Навык 3.E]
VAR-8.G.1 Значение $p$ для критерия хи-квадрат goodness-of-fit при определенном числе степеней свободы находится с помощью соответствующей таблицы или компьютерного вывода.
Продолжающееся понимание (DAT-3): Тестирование значимости позволяет нам принимать решения относительно гипотез в конкретном контексте.
Цель обучения DAT-3.I: Интерпретировать значение $p$ для критерия хи-квадрат goodness-of-fit. [Навык 4.B]
DAT-3.I.1 Интерпретацией значения $p$ для критерия хи-квадрат goodness-of-fit является вероятность того, что при истинности нулевой гипотезы и вероятностной модели будет получена тестовая статистика, равная наблюдаемому значению или являющаяся еще более экстремальной.
Цель обучения DAT-3.J: Обосновать утверждение о генеральной совокупности на основе результатов критерия хи-квадрат goodness-of-fit. [Навык 4.E]
DAT-3.J.1 Решение об отвержении или не отвержении нулевой гипотезы основано на сравнении значения $p$ с уровнем значимости $\alpha$.
DAT-3.J.2 Результаты критерия хи-квадрат goodness-of-fit могут служить статистическим обоснованием ответа на исследовательский вопрос о выборочной генеральной совокупности.
Источник: Описание курса и экзамена College Board AP
Вычислите $\chi^2=\sum\dfrac{(O-E)^2}{E}$ с использованием $df=(\text{number of categories})-1$. Найдите критическое $p$-значение из χ²-распределения (правый хвост), сравните его со $\alpha$ и сделайте вывод в контексте задачи. Большая компонента суммы указывает на категорию, которая наиболее отклоняется от ожидаемой.
Хи-квадрат сравнивает наблюдаемые подсчеты с ожидаемыми при нулевой гипотезе
Разобранное решение. Кубик бросают $60$ раз, получая подсчеты $8,10,12,9,11,10$. Если кубик честный, каждый ожидаемый подсчет составляет $60/6=10$, поэтому
при использовании $df=6-1=5$. Распишите каждую категорию, включая те две, которые точно совпадают со своим ожидаемым значением и поэтому дают вклад $0$ – сумма берется по всем шести категориям, а $df$ подсчитывает количество категорий, а не только те, что отличаются. Это $\chi^2$ мало (большое $p$-значение), поэтому мы не отвергаем$H_0$ – нет доказательств того, что игральная кость неравнозначна.
Исследовать
Исследуйте хи-квадрат распределение и его p-значение
p-значение — это площадь в правом хвосте за вашей статистикой, поэтому большее$\chi^2$ означает меньшее p-значение. Перетаскивайте $\chi^2$, чтобы увидеть, как эта площадь уменьшается, и перетаскивайте df, чтобы увидеть изменение формы всего семейства: сильно скошено вправо при малых df, более симметрично при росте df.
8.4
Ожидаемые подсчеты в таблицах сопряженности
Программа
Устойчивое понимание (VAR-8): Распределение хи-квадрат может использоваться для моделирования вариации.
Цель обучения VAR-8.H: Вычислять ожидаемые частоты для таблиц сопряженности категориальных данных. [Навык 3.A]
VAR-8.H.1 Ожидаемую частоту в конкретной ячейке таблицы сопряженности категориальных данных можно рассчитать по формуле:
Это было бы количество, которое мы увидели бы, если бы переменные строк и столбцов были независимы.
Разобранное решение. В таблице сопряженности строковый итог ячейки составляет $40$, столбцовый итог — $50$, а общий итог — $200$. Ее ожидаемый подсчет равен $E=\dfrac{40\times50}{200}=10$. Повторив расчет для каждой ячейки, получаем таблицу ожидаемых значений для сравнения с наблюдаемой.
Электронная таблица организует категориальные подсчеты перед тестом хи-квадрат
8.5
Однородность или независимость?
Программа
Устойчивое понимание (VAR-8): Распределение хи-квадрат может использоваться для моделирования вариации.
Учебная цель VAR-8.I: Определить нулевую и альтернативную гипотезы для критерия хи-квадрат на гомогенность или независимость. [Навык 1.F]
VAR-8.I.1 Соответствующие гипотезы для критерия хи-квадрат на гомогенность:
$H_0$: Нет различий в распределении категориальной переменной между популяциями или группами обработки.
$H_a$: Имеются различия в распределении категориальной переменной между популяциями или группами обработки.
VAR-8.I.2 Соответствующие гипотезы для критерия хи-квадрат на независимость:
$H_0$: Отсутствует связь между двумя категориальными переменными в данной популяции, либо две категориальные переменные независимы.
$H_a$: Две категориальные переменные в популяции связаны или зависимы.
Учебная цель VAR-8.J: Выбрать соответствующий метод тестирования для сравнения распределений в двумерных таблицах категориальных данных. [Навык 1.E]
VAR-8.J.1 При сравнении распределений для определения того, одинаковы ли доли в каждой категории для категориальных данных, собранных из различных популяций, соответствующим тестом является критерий хи-квадрат на гомогенность.
VAR-8.J.2 Для определения того, могут ли строковые и столбцовые переменные в двумерной таблице категориальных данных быть связанными в популяции, из которой были отобраны данные, соответствующим тестом является критерий хи-квадрат на независимость.
Учебная цель VAR-8.K: Проверить условия для проведения статистических выводов при тестировании распределения хи-квадрат на независимость или гомогенность. [Навык 4.C]
VAR-8.K.1 Чтобы проводить статистические выводы для критерия хи-квадрат для двумерных таблиц (гомогенность или независимость), необходимо проверить следующее:
a. Для проверки независимости:
i. Для теста на независимость: Данные должны собираться с использованием простой случайной выборки.
ii. Для теста на гомогенность: Данные должны собираться с использованием стратифицированной случайной выборки или рандомизированного эксперимента.
iii. При выборке без возвращения проверьте, что $n \leq 10\%N$.
b. Тесты хи-квадрат на независимость и гомогенность становятся более точными при увеличении количества наблюдений, поэтому следует использовать большие ожидаемые частоты (форма).
i. Консервативной проверкой больших частот является условие, что все ожидаемые частоты должны быть больше 5.
Источник: Описание курса и экзамена College Board AP
Два теста используют одну и ту же математику $\chi^2$, но отвечают на разные вопросы:
Тест на однородность: являются ли распределения одной категориальной переменной одинаковыми в нескольких популяциях или группах (раздельные выборки/лечения)?
Тест на независимость: связаны ли две категориальные переменные внутри одной популяции (одна выборка, два измеряемых признака)?
Дизайн исследования (несколько выборок против одной выборки) определяет, какое название и гипотезы использовать.
8.6
Проведение теста на однородность или независимость
Программа
Enduring Understanding
Learning Objective
Essential Knowledge
VAR-8
The chi-square distribution may be used to model variation.
VAR-8.L
Calculate the appropriate statistic for a chi-square test for homogeneity or independence. [Skill 3.E]
VAR-8.L.1 The appropriate test statistic for a chi-square test for homogeneity or independence is the chi-square statistic:
Equation:$\chi^2 = \sum \dfrac{(Observed\ count - Expected\ count)^2}{Expected\ count}$, with degrees of freedom equal to: $(number\ of\ rows - 1)(number\ of\ columns - 1)$.
VAR-8.M
Determine the $p$-value for a chi-square significance test for independence or homogeneity. [Skill 3.E]
VAR-8.M.1 The $p$-value for a chi-square test for independence or homogeneity for a number of degrees of freedom is found using the appropriate table or technology.
VAR-8.M.2 For a test of independence or homogeneity for a two-way table, the $p$-value is the proportion of values in a chi-square distribution with appropriate degrees of freedom that are equal to or larger than the test statistic.
DAT-3
Significance testing allows us to make decisions about hypotheses within a particular context.
DAT-3.K
Interpret the $p$-value for the chi-square test for homogeneity or independence. [Skill 4.B]
DAT-3.K.1 An interpretation of the $p$-value for the chi-square test for homogeneity or independence is the probability, given the null hypothesis and probability model are true, of obtaining a test statistic as, or more, extreme than the observed value.
DAT-3.L
Justify a claim about the population based on the results of a chi-square test for homogeneity or independence. [Skill 4.E]
DAT-3.L.1 A decision to either reject or fail to reject the null hypothesis for a chi-square test for homogeneity or independence is based on comparison of the $p$-value to the significance level, $\alpha$.
DAT-3.L.2 The results of a chi-square test for homogeneity or independence can serve as the statistical reasoning to support the answer to a research question about the population that was sampled (independence) or the populations that were sampled (homogeneity).
Источник: Описание курса и экзамена College Board AP
Вычислите ожидаемые подсчеты, затем суммируйте $\chi^2=\sum\dfrac{(O-E)^2}{E}$ по всем ячейкам, где
$$df=(\text{rows}-1)(\text{columns}-1).$$
Условия: случайные данные, все ожидаемые подсчеты $\ge 5$, условие 10%. Найдите p-значение ($p$-значение), сравните его со $\alpha$ и сделайте вывод в контексте — доказательства различия между группами (однородность) или наличия ассоциации (независимость).
8.7
Выбор подходящей процедурной для категориальных данных
Программа
Эта тема предназначена для отработки навыка выбора подходящей процедуры выводов после того, как у студентов появляется широкий спектр вариантов. Студентам следует предоставить возможность практиковаться в том, когда и как применять все учебные цели, связанные с выводами для категориальных данных.
Источник: Описание курса и экзамена College Board AP
Определите по постановке задачи: одна категориальная переменная против предполагаемого распределения $\Rightarrow$соответствие; один выбор, перекрестно классифицированный двумя переменными $\Rightarrow$независимость; несколько выборок/групп сравниваются $\Rightarrow$гомогенность. Сравнение ровно двух долей может быть выполнено с помощью двухдолевого $z$-теста или критерия хи-квадрат, но только для двусторонней альтернативной гипотезы, когда они совпадают точно ($\chi^2=z^2$). Критерий хи-квадрат всегда является двусторонним, поэтому он не дает направления вывода: если $H_a$ — односторонняя (например, $p_1>p_2$), используйте $z$-тест.
Исследовать
Какой это тест хи-квадрат?
Все три теста используют одну и ту же арифметику $\chi^2$, поэтому очки достаются тем, кто назовет правильный. Решение принимает дизайн: сколько было взято выборок и сколько переменных измерялось на каждом объекте.
8.7
Советы для экзамена
Используйте $\chi^2=\sum\tfrac{(O-E)^2}{E}$ для категориальных данных; всегда делите на ожидаемое количество.
Выберите правильный тест: соответствие (одна переменная), независимость или гомогенность (таблица contingency).
Вычислите ожидаемые количества как $\tfrac{\text{row total}\times\text{column total}}{\text{grand total}}$ и убедитесь, что каждое из них $\ge5$.
Большое $\chi^2$ (маленькое p-значение) означает, что наблюдаемые количества отличаются от ожидаемых больше, чем можно объяснить случайностью.
Правильно укажите число степеней свободы (количество категорий $-1$, или $(r-1)(c-1)$).
Интерактивные уроки по этой теме
Пройдите его шаг за шагом с упражнениями мгновенной проверки.