SAN FRANCISKO – Kompanija OpenAI je prošle godine razmatrala mogućnost obaveštavanja Kraljevske kanadske konjičke policije (RCMP) o aktivnostima korisnika Džesija van Rutselara, koji je nekoliko meseci kasnije izvršio jednu od najsmrtonosnijih pucnjava u školi u Britanskoj Kolumbiji. Ova informacija dolazi u svetlu sve većeg pritiska na tehnologiju i njene odgovornosti u vezi sa bezbednošću.
OpenAI je identifikovao nalog Van Rutselara, koji se identifikuje kao transrodna osoba, u junu 2025. godine zbog kršenja pravila korišćenja, posebno zbog „pomaganja u nasilnim aktivnostima“, izveštava „Gardijan“. Ove informacije otvaraju važna pitanja o tome kako tehnološke kompanije upravljaju podacima korisnika i kada je odgovarajuće da se obaveste organi reda.
Nakon analize aktivnosti na nalogu, OpenAI je zaključio da ne predstavlja neposredan i verodostojan rizik po druge, što je prag koji bi zahtevao da se slučaj prosledi policiji. Umesto toga, kompanija je odlučila da blokira nalog Van Rutselara, smatrajući da ne postoji hitna pretnja.
Ova odluka je izazvala zabrinutost među stručnjacima za bezbednost i zaštitu podataka, koji se pitaju da li su tehnološke kompanije dovoljno odgovorne kada je reč o prepoznavanju potencijalnih pretnji. Kritičari ističu da ovakvi incidenti ukazuju na potrebu za boljim protokolima i višim standardima u identifikaciji i reagovanju na sumnjive aktivnosti.
Pucnjava u Britanskoj Kolumbiji, koja se dogodila nekoliko meseci nakon blokade naloga, izazvala je šok i tugu u zajednici, kao i ponovna pitanja o bezbednosti u školama. Ovaj incident je podstakao raspravu o tome kako bi se tehnološke kompanije mogle bolje uključiti u prevenciju nasilja i kako da se izbegnu tragedije poput ove.
U svetlu ovih događaja, OpenAI se suočava sa kritikama zbog svoje odluke da ne prosledi informacije organima reda. Mnogi smatraju da je kompanija mogla da postupi drugačije i da je možda trebalo da prijavi aktivnosti koje su mogle dovesti do nasilja. Ovo je dodatno naglasilo potrebu za transparentnošću u radu kompanija koje se bave veštačkom inteligencijom i podacima korisnika.
U međuvremenu, stručnjaci za mentalno zdravlje i sigurnost ističu da je važno razumeti širi kontekst ovakvih incidenata. Često, pojedinci koji počine nasilje imaju složene lične i psihološke probleme koji mogu biti pogoršani društvenim faktorima. U tom smislu, prevencija nasilja zahteva kolektivni napor, a ne samo odgovornost tehnoloških kompanija.
S obzirom na sve veći broj sličnih incidenata, postavlja se pitanje kako bi se mogle implementirati bolje procedure koje bi omogućile prepoznavanje i brže reagovanje na sumnjive aktivnosti na mreži. Mnoge kompanije već rade na razvoju algoritama koji mogu identifikovati potencijalno nasilne poruke ili ponašanja, ali izazov ostaje u tome kako ih efikasno sprovesti bez kršenja prava na privatnost.
U ovoj situaciji, otvorena komunikacija između tehnoloških kompanija, vlasti i zajednica postaje ključna. S obzirom na to da se svet suočava sa sve većim izazovima u vezi sa bezbednošću, saradnja i razumevanje između različitih aktera potrebni su za zaštitu zajednica i prevenciju nasilja.
OpenAI, kao vodeća kompanija u oblasti veštačke inteligencije, ima odgovornost da razvija efikasne strategije koje će omogućiti prepoznavanje i sprečavanje nasilja, ali i da osigura da se prava pojedinaca ne krše u tom procesu. Ova situacija je podsetnik na složenost problema i izazova s kojima se suočava društvo u eri digitalizacije.
