Deepfake rozwija się w szybkim tempie

Liczba zgłoszeń od kobiet, których zdjęcia zostały przerobione na nagie wizerunki lub których twarze zostały wykorzystane w deepfake’owej pornografii, gwałtownie rośnie – informuje De Telegraaf, powołując się na dane centrum przeciwdziałania przemocy internetowej Offlimits. Między styczniem a kwietniem tego roku Offlimits otrzymało niemal tyle samo zgłoszeń dotyczących nagich zdjęć wygenerowanych przez AI, co w całym 2024 roku.

Liczba zgłoszeń ofiar cyfrowo zmanipulowanych zdjęć wzrosła z 9 w 2023 roku do 59 w roku ubiegłym. W tym roku niemal na pewno padnie nowy, znacznie wyższy rekord – powiedziała gazecie Nikki Lee Janssen z organizacji Offlimits, do której mogą zgłaszać się osoby, których wizerunek został udostępniony bez ich zgody.

„Liczba obrazów tworzonych przy użyciu sztucznej inteligencji eksploduje i bardzo nas to niepokoi” – powiedziała Janssen. „Kiedy dzwonią do nas ofiary, są często w szoku. Gdy wyciekną własne nagie zdjęcia, to i tak jest bardzo bolesne. Ale przynajmniej widzisz tam siebie. Przy zdjęciach wygenerowanych przez AI dochodzi dodatkowy cios – to wizerunek, który jest całkowicie ci obcy.”

Ofiary muszą zmierzyć się z faktem, że ktoś stworzył ich seksualizowany obraz. „Jednocześnie martwią się, gdzie te zdjęcia mogą się pojawić” – dodała.

W Holandii tworzenie i rozpowszechnianie nagich wizerunków wygenerowanych przez AI bez zgody osoby przedstawionej traktowane jest jako pornografia zemsty (revenge porn) i grozi za to kara do dwóch lat więzienia.