Ciemna strona AI w działaniach policji

Holenderska policja coraz częściej natrafia na wygenerowaną przez sztuczną inteligencję pornografię dziecięcą w trakcie prowadzonych śledztw. Jak donosi „De Telegraaf”, liczba zgłoszeń dotyczących materiałów przedstawiających wykorzystywanie dzieci stworzonych przy użyciu AI wzrosła w 2024 roku o 86 procent w porównaniu z rokiem 2023 – na podstawie danych z anonimowego centrum zgłoszeń Meld Misdaad Anoniem.

W 2023 roku policja otrzymała 82 takie zgłoszenia. W 2024 roku liczba ta wzrosła do 153.

„Widzimy wyraźny wzrost liczby wykrytych materiałów przedstawiających wykorzystywanie dzieci, które zostały wygenerowane przez AI. Fakt, że ludzie mogą puścić wodze własnej wyobraźni co do tego, co chcą zobaczyć, sprawia, że granica pomiędzy tym, co dopuszczalne, a co skrajnie niepokojące, zaczyna się zacierać,” powiedział dla „De Telegraaf” Danny van Althuis z policji. Brał on udział w ostatniej operacji Europolu przeciwko platformie rozpowszechniającej dziecięcą pornografię stworzoną przez AI. Zatrzymano 25 osób. Czterech obywateli Holandii było podejrzanych o zakup takich materiałów – policja zakończyła ich sprawy jedynie na ostrzeżeniu.

Zespół Policji ds. Pornografii Dziecięcej i Turystyki Seksualnej stanowczo odrzuca przekonanie, że pornografia dziecięca generowana przez AI jest w jakikolwiek sposób „lepsza” od tej przedstawiającej prawdziwe ofiary. „Chociaż nie są to prawdziwe dzieci, to do trenowania i udoskonalania tych narzędzi AI wykorzystano rzeczywiste materiały z przemocą wobec dzieci. Tego typu treści mogą wpływać na dzieci, dając im mylne wyobrażenie, że pewne zachowania są ‘normalne’, co ułatwia ich wykorzystywanie. Oglądanie pornografii dziecięcej może też skłaniać niektóre osoby do faktycznego popełnienia przestępstwa,” powiedział rzecznik policji gazecie.

Prawo holenderskie nie rozróżnia między rzeczywistą a wygenerowaną przez AI pornografią dziecięcą pod względem odpowiedzialności karnej. Tworzenie, rozpowszechnianie i kupowanie takich materiałów – niezależnie od tego, czy są prawdziwe, czy sztucznie wygenerowane – jest karalne.