Przejdź do treści

Przeanalizuj stronniczość algorytmów i spór o to, czym jest „fairness”

Sprawdź, dlaczego matematyka nie gwarantuje bezstronności i dlaczego różne filozoficzne definicje sprawiedliwości nie dają się spełnić jednocześnie.

W następnym kroku dodasz zdjęcie lub plik PDF w oknie rozmowy

Cztery odkrycia etyki AI o pozornie neutralnych danych

  1. 01

    Dane historyczne są lustrem przeszłości, nie ideału

    Model uczący się na dawnych decyzjach ludzi wiernie utrwala i skaluje wcześniejsze nierówności, nazywając je „obiektywnym wzorcem”.

  2. 02

    Wykryj zmienne zastępcze (proxy variables)

    Kod pocztowy, nazwa szkoły czy przerwa w życiorysie często kodują płeć, pochodzenie lub macierzyństwo nawet po usunięciu samej rubryki.

  3. 03

    Nazwij wybór polityczno-etyczny w mierze „fairness”

    Równy odsetek przyjęć między grupami, równa trafność prognozy i równy poziom fałszywych alarmów wykluczają się, gdy bazy startowe są różne.

  4. 04

    Sprawdź pętlę samospełniającej się przepowiedni

    Gdy algorytm wysyła więcej patroli lub kontroli w jedno miejsce, wykrywa tam więcej naruszeń, co z kolei „potwierdza” jego pierwotny model.

Najczęściej zadawane pytania

Co udowodniło twierdzenie o niemożliwości w badaniach nad algorithmic fairness?

Matematycy (m.in. Kleinberg, Chouldechova) wykazali, że jeśli dwie grupy mają różne bazowe częstości zjawiska, żaden algorytm nie spełni jednocześnie kalibracji i równych wskaźników błędów obu typów.

Dlaczego problem stronniczości AI jest w gruncie rzeczy problemem filozoficznym, a nie tylko inżynierskim?

Ponieważ zanim programista napisze jedną linijkę kodu naprawczego, społeczeństwo musi rozstrzygnąć normatywnie, którą koncepcję sprawiedliwości (Arystotelesa, Rawlsa, Nozicka) uznaje w danej sferze za słuszną.

Czy człowiek podejmujący decyzję bez AI jest bardziej bezstronny?

Ludzie również mają silne, ukryte uprzedzenia i wahania nastroju; przewaga dobrze zaprojektowanego algorytmu polega na tym, że jego reguły można zbadać i skorygować — pod warunkiem jawnego audytu.

Dowiedz się więcej

Powiązane poradniki i wyjaśnienia do tego zadania