Интерактивная статистика

56 бесплатных интерактивных уроков: от среднего и медианы до A/B-тестов и Байеса. Двигайте графики и стройте интуицию. Без регистрации.

Модуль 8 «Классификация»

ROC-кривая и AUC

В прошлом уроке мы двигали порог и видели: precision и recall обмениваются. Но порогов бесконечно много, и привязываться к одному не хочется. ROC-кривая показывает поведение классификатора сразу при всех порогах, а AUC сводит его качество в одно число. Двигайте порог и разделимость классов — кривая и точка живут вживую.

FPR (ложные срабатывания) →TPR (пойман спам) →AUC 1.00
AUC: 1.00текущий порог: TPR 100% / FPR 0%

Порог двигает жёлтую точку по кривой. Разделимость лучше — кривая жмётся к левому верхнему углу, площадь под ней (AUC) растёт. AUC = 0.5 (диагональ) — модель не лучше монетки.

Кривую строят так: перебирают все пороги от самого строгого к самому мягкому и для каждого считают две доли из матрицы ошибокFPR (доля ложных срабатываний, по горизонтали) и TPR (доля пойманного спама, по вертикали). Каждый порог даёт одну точку; соединённые, они и образуют ROC-кривую. Жёлтая точка — текущий порог; двигайте ползунок и смотрите, как она едет по кривой.

Что это значит

AUC — стандартная метрика сравнения классификаторов: по ней выбирают модели в кредитном скоринге, медицине, антифроде. Удобно, что AUC не зависит ни от порога, ни от того, насколько класс редкий, — поэтому она честнее «доли верных ответов», которая обманывает на дисбалансе.

Но AUC — это про ранжирование в целом, а не про конкретное решение. Выбрав модель по AUC, рабочую точку (порог) всё равно ставят отдельно: по тому, что дороже — пропуск или ложное срабатывание. На сильно несбалансированных задачах вдобавок смотрят PR-кривую (precision против recall).

Где это встречается

Из радаров ROC перекочевала в медицину (насколько тест отличает больных от здоровых), а оттуда — во всё машинное обучение: детекторы болезней, антифрод, рекомендательные системы, кредитные модели.

Когда в статье или дашборде пишут «AUC 0.87», читают это так: возьми случайного «положительного» и случайного «отрицательного» — в 87% случаев модель поставит первому счёт выше. Удобный единый язык для качества классификаторов.

Определения
ROC-кривая
график TPR против FPR по всем порогам. Показывает все компромиссы классификатора сразу.
По-простому: все компромиссы «поймал / ошибся» классификатора на одном графике.
TPR и FPR
TPR — доля пойманного нужного класса (полнота); FPR — доля ложных срабатываний среди «чистых».
По-простому: TPR — скольких нужных поймали; FPR — скольких чистых зря пометили.
AUCплощадь под ROC
1.0 — идеал, 0.5 — случайность. Равна вероятности, что позитив получит счёт выше негатива.
По-простому: одно число качества модели: 1 — идеал, 0.5 — как монетка.
Receiver Operating Characteristic
историческое имя из радиолокации: характеристика приёмника, отличающего сигнал от шума.
По-простому: старое имя из радаров: отличать полезный сигнал от шума.
Дальше →
Понравились материалы?

Эти материалы делает канал «Кусочек пиццы» — аналитика данных простыми словами: разборы реальных кейсов, метрики, карьера. Подпишитесь, чтобы не потерять.

Подписаться на «Кусочек пиццы»