Интерактивная статистика

56 бесплатных интерактивных уроков: от среднего и медианы до A/B-тестов и Байеса. Двигайте графики и стройте интуицию. Без регистрации.

Модуль 9 «Ловушки данных»

Парадокс Симпсона

Следующая ловушка прячется в самих связях между величинами. Иногда тренд, видимый в данных целиком, полностью переворачивается, стоит разбить их на группы. Это парадокс Симпсона — он ломает наивные выводы и регулярно ловит даже опытных аналитиков.

В целом по всем точкам связь нисходящая (отрицательная).

Перед Вами облако точек — скажем, по горизонтали стаж сотрудника, по вертикали зарплата. По всем точкам линия идёт вниз: будто больше стаж — меньше зарплата. Странный вывод.

Что это значит

Классический реальный пример: лекарство в сумме помогало хуже, но в каждой подгруппе пациентов (лёгкие и тяжёлые случаи) — лучше. Просто тяжёлым его давали чаще, и они тянули общий результат вниз.

Поэтому аналитики почти рефлекторно разрезают данные по ключевым сегментам: устройство, регион, возраст. Один и тот же график «в целом» и «по сегментам» может рассказывать противоположное.

Где это встречается

Парадокс ловили в приёмных кампаниях университетов, в сравнении больниц, в эффективности рекламы по каналам. Везде «среднее по всем» вводило в заблуждение, пока не разбили по группам.

Урок простой: агрегат — удобно, но опасно. Всегда держите в голове, какие группы он смешивает.

Определения
Парадокс Симпсона
связь, видимая в объединённых данных, исчезает или меняет знак при разбиении на группы.
По-простому: тренд в общей куче переворачивается, стоит разбить данные на группы.
Скрытая переменная
неучтённый фактор (здесь — отдел), который и создаёт ложный общий тренд.
По-простому: неучтённый фактор, который и рисует обманчивый общий тренд.
Агрегирование
объединение групп в одну кучу. Удобно, но способно исказить или перевернуть связь.
По-простому: сваливание групп в одну кучу — и связь может перевернуться.
Дальше →
Понравились материалы?

Эти материалы делает канал «Кусочек пиццы» — аналитика данных простыми словами: разборы реальных кейсов, метрики, карьера. Подпишитесь, чтобы не потерять.

Подписаться на «Кусочек пиццы»