V Inštitutu 8. marec opozarjajo, da se je na spletu pojavila serija lažnih golih fotografij in posnetkov Nike Kovač, ki naj bi bili ustvarjeni z uporabo tehnologije deepfake. Poudarjajo, da gre za zlorabo in nekonsenzualno ustvarjanje intimnih vsebin, ki lahko posameznici povzroči resno škodo – od poniževanja in diskreditacije do izsiljevanja in utišanja.
Kot so zapisali, Nika Kovač teh vsebin ni posnela niti jih nikoli ni objavila. Po njihovih navedbah gre za ponaredek, ki ga je mogoče ustvariti že z eno fotografijo obraza, najdeno na družbenih omrežjih ali drugje na internetu.
“Dovolj je ena fotografija. In nastane lažen pornografski posnetek.”
V Inštitutu 8. marec pravijo, da je to dokaz, kako hitro lahko sodobna umetna inteligenca iz običajne fotografije v nekaj minutah ustvari lažne, pornografske vsebine – brez privolitve, brez nadzora in, kot opozarjajo, pogosto tudi brez posledic.
Ob tem dodajajo, da to ni fenomen, ki bi se dogajal le v tujini in pri zvezdnikih: “To ni nekaj, kar se dogaja samo Taylor Swift tam daleč. Dogaja se tudi pri nas, v Sloveniji, in uničuje življenja deklet in žensk.”
Večina deepfake vsebin je pornografskih – tarča so predvsem ženske
V manifestu, ki so ga pripravili pred mednarodnim dnevom žensk, opozarjajo na statistike in raziskave, po katerih naj bi bilo na spletu kar 90 do 95 odstotkov globokih ponaredkov pornografskih, pri čemer naj bi bilo približno 99 odstotkov upodobljenih oseb žensk.
Navajajo tudi podatke, da ima 38 odstotkov žensk osebno izkušnjo spletnega nasilja, kar 85 odstotkov pa jih je bilo priča digitalnemu nasilju nad drugimi.
Predlagajo kaznivost in 48-urni sistem odstranitve
Zaradi naraščajoče zlorabe tehnologije predlagajo devet zakonodajnih in sistemskih ukrepov, med katerimi izpostavljajo:
-
kaznivost nekonsenzualnega ustvarjanja in širjenja lažnih intimnih vsebin (tudi AI/deepfake),
-
vzpostavitev mehanizma, ki žrtve zaščiti in v 48 urah sproži postopke za odstranitev nekonsenzualnih spolnih vsebin s spleta,
-
prepoved aplikacij, ki omogočajo generiranje spolno eksplicitnih vsebin brez privolitve upodobljenih oseb.
Med predlogi omenjajo še širitev ukrepa prepovedi približevanja tudi na storilce izven bližnjih razmerij, omejevanje možnosti poravnave v primerih nasilja v družini, učinkovitejše urejanje stikov med žrtvijo in storilcem v postopkih, širitev dostopa do brezplačne pravne pomoči, odpravo pravnih anomalij pri kaznovanju sostorilstva pri spolnem nasilju ter kriminalizacijo nagovarjanja mlajših od 15 let za spolne namene.
Manifest bodo poslali strankam in zahtevali jasen odgovor
Inštitut 8. marec bo manifest z naslovom “Ne boste nam vzeli prihodnosti” poslal devetim političnim strankam, ki jim ankete kažejo možnost vstopa v parlament. Pozvali jih bodo, naj se do predlaganih ukrepov jasno opredelijo in odgovorijo, ali bodo zahteve po volitvah tudi uresničili.
Po njihovih besedah je primer z lažnimi posnetki Nike Kovač opozorilo, da se nadzor nad ženskimi telesi ne končuje – ampak se v digitalni dobi zgolj seli v nove oblike.