Интерактивная статистика
Модуль 10 «Ловушки данных»
Прогресспройдено 0 / 63

Парадокс Симпсона

Следующая ловушка прячется в самих связях между величинами. Иногда тренд, видимый в данных целиком, полностью переворачивается, стоит разбить их на группы. Это парадокс Симпсона — он ломает наивные выводы и регулярно ловит даже опытных аналитиков.

В целом по всем точкам связь нисходящая (отрицательная).

Перед вами облако точек — скажем, по горизонтали стаж сотрудника, по вертикали зарплата. По всем точкам линия идёт вниз: будто больше стаж — меньше зарплата. Странный вывод.

Что это значит

Классический реальный пример: лекарство в сумме помогало хуже, но в каждой подгруппе пациентов (лёгкие и тяжёлые случаи) — лучше. Просто тяжёлым его давали чаще, и они тянули общий результат вниз.

Поэтому аналитики почти рефлекторно разрезают данные по ключевым сегментам: устройство, регион, возраст. Один и тот же график «в целом» и «по сегментам» может рассказывать противоположное.

Где это встречается

Парадокс ловили в приёмных кампаниях университетов, в сравнении больниц, в эффективности рекламы по каналам. Везде «среднее по всем» вводило в заблуждение, пока не разбили по группам.

Урок простой: агрегат — удобно, но опасно. Всегда держите в голове, какие группы он смешивает.

Определения

Парадокс Симпсона
связь, видимая в объединённых данных, исчезает или меняет знак при разбиении на группы.
По-простому: тренд в общей куче переворачивается, стоит разбить данные на группы.
Скрытая переменная
неучтённый фактор (здесь — отдел), который и создаёт ложный общий тренд.
По-простому: неучтённый фактор, который и рисует обманчивый общий тренд.
Агрегирование
объединение групп в одну кучу. Удобно, но способно исказить или перевернуть связь.
По-простому: сваливание групп в одну кучу — и связь может перевернуться.
Дальше →
Такие разборы — в канале

Пишу про аналитику простыми словами: как считать метрики, не наврать в A/B, что спрашивают на собесах и как я собираю этот сайт. Без воды.

Подписаться на канал