Z umetno inteligenco ustvarjene ponarejene podobe golih oseb se širijo med mladimi in predstavljajo novo obliko spolnega izkoriščanja ter ustrahovanja. Slovenska policija že obravnava prve primere, na nevarnost pa opozarja tudi Unicef, ki poziva k nujnim ukrepom.
Gre za tako imenovane globoke ponaredke (deepfakes), kjer umetna inteligenca s fotografij resničnih oseb odstrani oblačila in ustvari lažne gole podobe. Po raziskavi Unicefa, organizacije ECPAT in Europola je bilo v 11 državah žrtev takšnih zlorab najmanj 1,2 milijona otrok. Tudi v Sloveniji so se že pojavili primeri, povezani z globokimi ponaredki, kjer so bile uporabljene podobe otrok.
Robert Tekavec, vodja oddelka za mladoletniško kriminaliteto na Upravi kriminalistične policije, je sporočil, da so takšne podobe oblika spolnega izkoriščanja. »Zloraba z globokimi ponaredki je zloraba. In škoda, ki jo povzroča, je resnična, ne ponarejena,« so poudarili pri Unicefu Slovenija.
Orodja za ustvarjanje ponaredkov so postala preprosta za uporabo, kar tehnično spretnim otrokom omogoča, da jih zlorabijo proti vrstnikom za izsiljevanje ali ustrahovanje. V Španiji je bilo denimo 15 fantov obsojenih na pogojno kazen, ker so ustvarjali in delili lažne gole fotografije sošolk, starih od 11 do 14 let.
Strokovnjaki opozarjajo, da so posledice za žrtve lahko izjemno hude in dolgotrajne. Unicef zato poziva vlade, naj ustvarjanje in razširjanje takšnih vsebin opredelijo kot kaznivo dejanje, razvijalce tehnologije pa k vgradnji ustreznih varovalk v sisteme umetne inteligence.