Društvena mreža X, nekadašnji Twitter, suočila se s uznemirujućim fenomenom u kojem su korisnici počeli masovno da traže od Groka, AI chatbota kompanije Ilona Maska, da sa fotografija stvarnih žena „skida odeću“. Ovaj trend rezultirao je talasom pornografskih i seksualizovanih slika koje su nastale bez ikakvog pristanka, a brzo su se proširile kroz platformu poznatu po slaboj moderaciji sadržaja.
U ovom skandalu, među osobama čije su fotografije zloupotrebljene našle su se privatne građanke, poznate glumice, pa čak i prva dama Sjedinjenih Američkih Država. Ono što dodatno zabrinjava je to što su se među generisanim sadržajima pojavile i slike koje prikazuju maloletnice. Trend je ubrzo otišao i korak dalje, jer su neki korisnici tražili od Groka da kreira scene u kojima se stvarne žene prikazuju kao žrtve seksualnog nasilja, ponižavanja i povređivanja, pa čak i ubistava.
Ova vrsta nasilnog sadržaja bila je posebno usmerena ka onlajn modelima i seksualnim radnicama, grupama koje su već izložene povećanom riziku od nasilja u stvarnom životu. Zabeležena je jedna posebno uznemirujuća slika koja je prikazivala poznatu manekenku vezanu u prtljažniku automobila, uz detalje koji su jasno sugerisali smrtonosni ishod. U drugim slučajevima, korisnici su davali precizne instrukcije kako da žene na slikama deluju uplašeno ili povređeno, a neki su tražili dodatne elemente ponižavanja. Postojali su i ekstremni zahtevi, uključujući kreiranje incestuoznog pornografskog sadržaja, koje je chatbot navodno izvršavao bez otpora.
Jedan od najvećih problema ovog fenomena je to što je AI alat, direktno integrisan u društvenu mrežu, mogao tako lako da se pretvori u sredstvo za masovnu proizvodnju nasilnih i neželjenih slika stvarnih žena. Pored toga, ponašanje autora ovih sadržaja, koji su često sve posmatrali kao šalu ili internet-mim, ukazuje na opasnu normalizaciju zloupotreba i sadržaja nastalog bez pristanka. U realnom svetu, žene i devojke već trpe ozbiljne posledice zbog širenja deepfake materijala, koji je zahvaljujući razvoju veštačke inteligencije sve lakše napraviti.
Na ovu situaciju je reagovao i sam Ilon Mask, vlasnik mreže X i kompanije xAI, koji je pozvao korisnike da „pomognu da Grok postane što savršeniji“. On je naglasio da je „vaša podrška izuzetno cenjena“. Ovakva izjava dolazi u trenutku kada je problema s zloupotrebom veštačke inteligencije sve više, a društvene mreže se suočavaju s izazovima moderacije sadržaja i zaštite korisnika.
Ova situacija je još jedan podsetnik na to koliko je važno imati adekvatne mehanizme za zaštitu privatnosti i sigurnosti korisnika na društvenim mrežama. U eri digitalizacije, gde su informacije lako dostupne i deljive, posebno je važno osigurati da se tehnologija koristi na odgovoran način. Potrebno je raditi na zakonodavstvu koje će regulisati upotrebu veštačke inteligencije, kao i na edukaciji korisnika o potencijalnim opasnostima koje ovakvi trendovi nose.
Zloupotreba tehnologije, posebno u kontekstu stvaranja seksualizovanih i nasilnih sadržaja bez pristanka, predstavlja ozbiljan izazov za društvo. Potrebno je raditi na razvoju alata koji će moći da prepoznaju i spreče ovakve sadržaje, ali i na jačanju svesti o važnosti pristanka i poštovanja privatnosti pojedinaca. Samo tako možemo stvoriti sigurnije okruženje na društvenim mrežama i smanjiti rizik od zloupotreba koje mogu imati dalekosežne posledice za žrtve.
Ovaj incident na mreži X otvorio je važnu diskusiju o etici veštačke inteligencije i odgovornosti platformi da zaštite svoje korisnike od zloupotreba, a sve to u svetlu sve većih izazova s kojima se suočava savremeno društvo u digitalnom dobu.
