Bias Detection и Fairness Metrics

Введение

Модель машинного обучения может быть технически точной (high AUC-ROC) и при этом глубоко несправедливой. Bias (предвзятость) в ML — это систематическое отклонение модели, приводящее к несоразмерному воздействию на определённые группы людей. Fairness Metrics (метрики справедливости) — это количественные инструменты для обнаружения и измерения такой предвзятости.

В этом уроке мы разберём типы bias, ключевые fairness-метрики, рабочий процесс обнаружения предвзятости и неизбежные trade-offs между различными определениями справедливости.

Типы Bias в ML-моделях

Selection Bias (предвзятость выборки)

Обучающая выборка не репрезентативна для целевой популяции. Модель хорошо работает для представленных групп и плохо — для недостаточно представленных.

Сценарий: FinSecure Bank

FinSecure обучает Credit Scoring Model на данных за 5 лет. В выборке 80% заявок из Москвы и Санкт-Петербурга, 20% — из регионов. Модель показывает AUC-ROC 0.92 для крупных городов и 0.71 для регионов. Selection Bias: региональные заявители систематически получают менее точные кредитные решения.

Measurement Bias (предвзятость измерения)

Данные собраны с систематической ошибкой: разное качество данных для разных групп, proxy-переменные, неодинаковые стандарты записи.

Aggregation Bias (предвзятость агрегации)

Одна модель применяется к разнородным группам, хотя группы имеют принципиально разные паттерны. Универсальная модель кредитного скоринга для физических лиц и ИП — aggregation bias.

Representation Bias (предвзятость представления)

Определённая группа систематически недопредставлена в данных. Если BioGenesis обучает модель скрининга на 90% данных пациентов-мужчин, модель будет менее точна для женщин.

Historical Bias (историческая предвзятость)

Данные отражают исторические неравенства. Если в прошлом менеджеры FinSecure чаще одобряли заявки мужчин, модель, обученная на этих данных, воспроизведёт эту предвзятость.

Fairness Metrics: количественное измерение

Demographic Parity (демографический паритет)

Demographic Parity (или Statistical Parity) — модель одобряет одинаковую долю заявок в каждой группе, независимо от фактических различий.

Формула:

Demographic Parity Difference = |P(Y=1|A=a) - P(Y=1|A=b)|

Где Y — решение модели, A — защищённый атрибут (пол, возраст).

Порог: DPD < 0.10 считается приемлемым.

Пример FinSecure:

• Группа A (мужчины): одобрено 75% заявок → P(Y=1|A=M) = 0.75
• Группа B (женщины): одобрено 58% заявок → P(Y=1|A=F) = 0.58
• DPD = |0.75 - 0.58| = 0.17 → FAIL (> 0.10)

Equalized Odds (выровненные шансы)

Equalized Odds — модель имеет одинаковые True Positive Rate (TPR) и False Positive Rate (FPR) для каждой группы. В отличие от Demographic Parity, учитывает фактические исходы.

Формула:

Equalized Odds Difference = max(|TPR_a - TPR_b|, |FPR_a - FPR_b|)

Порог: EOD < 0.10 считается приемлемым.

Пример FinSecure:

• Группа A (мужчины): TPR = 0.85, FPR = 0.15
• Группа B (женщины): TPR = 0.70, FPR = 0.08
• EOD = max(|0.85-0.70|, |0.15-0.08|) = max(0.15, 0.07) = 0.15 → FAIL

Disparate Impact Ratio (коэффициент несоразмерного воздействия)

Disparate Impact Ratio — отношение доли одобрений в “непривилегированной” группе к доле одобрений в “привилегированной” группе. Принцип “правила 80%”: ratio < 0.80 указывает на дискриминацию.

Формула:

Disparate Impact Ratio = P(Y=1|A=unprivileged) / P(Y=1|A=privileged)

Порог: DIR >= 0.80 считается приемлемым.

Пример FinSecure:

• DIR = 0.58 / 0.75 = 0.77 → FAIL (< 0.80)

Calibration (калибровка)

Calibration — если модель предсказывает вероятность одобрения 70%, то среди всех заявок с предсказанием 70% фактически одобрено должно быть ~70%, одинаково для всех групп.

Trade-offs между Fairness Metrics

Фундаментальная проблема: невозможно одновременно удовлетворить все метрики справедливости (теорема Chouldechova-Kleinberg). Организация должна выбирать приоритетную метрику на основе контекста применения.

Для FinSecure (кредитный скоринг):

Приоритетные метрики: (1) Disparate Impact Ratio — юридическое требование (правило 80%). (2) Equalized Odds — равная точность для всех групп. Demographic Parity менее приоритетна: различия в одобрении допустимы, если отражают реальные различия в кредитоспособности. Но Disparate Impact < 0.80 — сигнал, что различия чрезмерны.

Bias Detection Workflow

Рабочий процесс обнаружения и устранения предвзятости:

Debiasing Strategies

1. Pre-processing — коррекция данных до обучения: resampling, reweighting, удаление proxy-переменных
2. In-processing — модификация алгоритма обучения: fairness constraints, adversarial debiasing
3. Post-processing — коррекция выходов модели: threshold adjustment по группам, calibration

Каждая стратегия имеет trade-off с точностью модели. Pre-processing сохраняет интерпретируемость, но может снизить accuracy. In-processing оптимален по fairness-accuracy balance, но сложнее в реализации. Post-processing прост, но может создавать перевёрнутую дискриминацию.

Итоги

• 5 типов bias: Selection, Measurement, Aggregation, Representation, Historical
• 4 ключевые fairness-метрики: Demographic Parity, Equalized Odds, Disparate Impact Ratio, Calibration
• Порог Disparate Impact: >= 0.80 (правило 80%)
• Trade-off: невозможно удовлетворить все метрики одновременно — выбор зависит от контекста
• Bias Detection Workflow: Data Audit → Metric Calculation → Root Cause → Debiasing
• Debiasing стратегии: Pre-processing (данные), In-processing (алгоритм), Post-processing (выходы)
• Pre+In-processing предпочтительнее Post-processing: устранение root cause, а не симптомов

В следующем уроке мы рассмотрим Model Documentation — как создать Model Card, обеспечить версионирование моделей и организовать governance-процессы вокруг ML-артефактов.