Policja przestała korzystać z kontrowersyjnego algorytmu

Policja przestała korzystać z Systemu Antycypacji Przestępczości (CAS) w grudniu - algorytmu przewidującego ryzyko działalności przestępczej. Formacja potwierdziła to po doniesieniach w dzienniku „Volkskrant”. Już kilka lat wcześniej Niderlandzki Trybunał Obrachunkowy stwierdził, że algorytm nie spełnia wymaganych standardów.

CAS był pilotażowo testowany od 2015 roku, a w 2017 roku wdrożono go w całym kraju; pozostawał w użyciu do połowy grudnia 2025 roku.

„Policja uznała, że operacyjna wartość CAS jest niejasna, ponieważ nie określono jasnych celów ani mierzalnych kryteriów sukcesu” - poinformowano. Wszystkie zebrane dane, kod źródłowy oraz powiązana dokumentacja zostały zarchiwizowane na pięć lat, po czym zostaną zniszczone.

Niderlandzki Trybunał Obrachunkowy (Algemene Rekenkamer) wskazał w 2022 roku, że różne rządowe algorytmy, w tym CAS, nie spełniały podstawowych standardów. Policja opierała się na przykład na historycznych danych dotyczących poszczególnych dzielnic, aby przewidywać prawdopodobieństwo przestępstw.

„Ponieważ niektóre obszary były w przeszłości monitorowane intensywniej, prognozy prawdopodobnie zawierają niepożądane systemowe uprzedzenia” - stwierdził Trybunał.

Decyzja o zakończeniu korzystania z CAS zapadła po tym, jak we wrześniu 2023 roku policja wycofała inny kontrowersyjny algorytm: Narzędzie Oceny Ryzyka Przemocy (RTI-G). To narzędzie miało przewidywać indywidualne ryzyko popełnienia aktów przemocy, jednak krytykowano je za podatność na profilowanie etniczne oraz brak naukowych podstaw.

Na decyzję o zakończeniu stosowania CAS częściowo wpłynął raport „Navigating No Man’s Land” Rady Naukowej Policji, która zaleciła wstrzymanie tego rodzaju algorytmów predykcyjnych ze względu na „wysokie i poważne ryzyko”, jakie stwarzają dla społeczeństwa.

Po skandalach związanych z algorytmami w instytucjach takich jak administracja podatkowa i celna oraz DUO, holenderski Urząd Ochrony Danych Osobowych (AP) zaostrzył nadzór nad praktykami śledczymi policji, aby zapewnić, że obywatele nie są błędnie klasyfikowani jako „wysokiego ryzyka”.