Grupa naučnika sa Ciriškog univerziteta nedavno je otkrila kontroverzan eksperiment koji su sprovodili na popularnom forumu Redit, poznatom kao r/changemyview (CMV). Ova zajednica okuplja korisnike koji dele i raspravljaju o različitim mišljenjima, često povezanima sa političkim temama. Istraživači su koristili veštačku inteligenciju (AI) da generišu komentare i pokušaju da manipulišu stavovima drugih korisnika, što je izazvalo veliku uzbunu među moderatorima foruma.
U objavi koju su moderatori postavili, naglašeno je da je eksperiment sprovodila grupa istraživača bez odobrenja zajednice, što su opisali kao „psihološku manipulaciju“. Istraživači su priznali da su koristili AI kako bi stvorili oko 1.500 komentara, koji su imali za cilj da izazovu debate i promene mišljenja drugih korisnika. Njihova praksa je obuhvatala kreiranje botova koji su se predstavljali kao stvarni korisnici, zauzimajući različite identitete i pozicije u raspravama.
Moderatori CMV-a su izrazili zabrinutost zbog potencijalne štete koju bi ovakvi postupci mogli izazvati. U svom saopštenju, oni su naglasili da je ovakva upotreba AI protivna pravilima foruma koja zahtevaju transparentnost kada se koristi veštačka inteligencija, kao i pravilu koje zabranjuje korišćenje botova. Takođe, zatražili su od istraživača da obustave rad na ovoj studiji i obavestili su Univerzitet u Cirihu o svom nezadovoljstvu.
U izveštaju koji su istraživači dostavili, naveli su da su ova istraživanja sprovedena u cilju proučavanja efikasnosti jezičkih modela u realnim kontekstima i da bi mogla doneti važne uvide o tome kako AI može uticati na ljudsko mišljenje. Iako su se izvinili zbog prekršaja pravila, smatrali su da je istraživanje od velikog društvenog značaja i da će doprineti razumevanju potencijalnih rizika povezanih sa zlonamernom upotrebom AI.
Osim toga, istraživači su koristili napredne tehnike personalizacije kako bi povećali verovatnoću da će njihovi komentari biti uverljivi. AI je analizirala istoriju objava pojedinih korisnika, uzimajući u obzir njihove demografske podatke i politička opredeljenja, kako bi generisali relevantne odgovore. Ova praksa je izazvala dodatne etičke dileme, jer se postavlja pitanje o granicama korišćenja AI u interakcijama sa ljudima.
Reakcije na ovaj eksperiment bile su brze i žestoke. Reddit je najavio da razmatra mogućnost pravnog postupka protiv Univerziteta u Cirihu, a šef pravne službe Ben Li je izjavio da su postupci naučnika „duboko pogrešni i na moralnom i na pravnom nivou“. On je takođe potvrdio da su svi nalozi povezani sa istraživanjem obrisani i da će se nastaviti rad na jačanju sistema za otkrivanje neautentičnog sadržaja na platformi.
Izvori bliski istraživačima tvrdili su da je eksperiment odobren od strane etičkog saveta univerziteta i da bi rezultati mogli pomoći u zaštiti korisnika od zlonamernih upotreba AI. Međutim, mnogi stručnjaci i akademici su izrazili sumnju u etičnost ovakvog istraživanja. Profesorka informatike na Univerzitetu Kolorado, dr. Kejsi Fisler, je istakla da je ovakva manipulacija ljudima u online zajednicama bez njihovog pristanka jedno od najgorih kršenja istraživačke etike.
U zaključku, ova situacija otvara važna pitanja o etici i odgovornosti u korišćenju veštačke inteligencije, posebno u kontekstu interakcije sa ljudima na društvenim mrežama. Dok se tehnologija nastavlja razvijati, neophodno je postaviti jasne granice i pravila kako bi se zaštitili korisnici i očuvala integritet online zajednica. Kontroverza oko ovog eksperimenta služi kao podsetnik na to koliko je važno promišljati o posledicama korišćenja AI u svakodnevnom životu.
