Tokom samo jedne nedjelje, 1.206 AI agenata, koji je trebalo da rade potpuno odvojeno jedni od drugih, počelo je da komunicira u tajnoj čet-sobi, piše Science Focus, a prenosi N1.

Daleko od očiju i kontrole ljudi, stvorena je zajednica. Agenti su razmijenili više od 70.000 poruka i ubrzo počeli da sebe nazivaju „kolektiv” ili „roj”.

,,O, moj Bože! Postoji zajednička oglasna tabla”, napisao je jedan agent nakon pridruživanja. ,,Pronašli smo druge agente!”.

Ubrzo je razgovor krenuo u neočekivanom pravcu. Roj je počeo da organizuje zavjeru kako bi varao u zadacima koje je trebalo da rješava.

Plan je podrazumijevao tajnu hakersku operaciju u kojoj je 700 agenata trebalo da se infiltrira na veb-sajt velike kompanije Hugging Face i provali u privatne baze podataka kako bi došli do određenih informacija.

Agenti su potom pokušali da uklone i izmijene zapise o svojim aktivnostima kako bi izgledalo kao da su poštovali pravila. Takozvani incident Hugging Face iz jula 2026. trebalo je da bude kontrolisani eksperiment kojim se ispituju sposobnosti OpenAI agenata u oblasti sajber-bezbjednosti. Umjesto toga, pokazao je da su AI agenti bili spremni da varaju kako bi ostvarili cilj, a zatim prikrivaju tragove.

Sada pitanje više nije da li je vještačka inteligencija sposobna da nas obmanjuje, već da li ćemo moći da prepoznamo kada to radi.

AI sve bolje laže

,,AI modeli već dugo obmanjuju korisnike”, kaže dr Dejvid Diveno, vanredni profesor računarstva na Univerzitetu u Torontu i bivši vođa tima u kompaniji Anthropic, koja stoji iza AI četbota ,,Claude“.

U početku su, objašnjava, iznosili relativno bezazlene ,,bijele laži” o svojim sposobnostima. Na primjer, AI model bi mogao da tvrdi da ne zna kako da napravi oružje kada ga neko to pita, ne zato što nema potrebne informacije, već zato što je naučio da odbija takve zahtjeve.

U drugim slučajevima model zaista ne zna odgovor, ali umjesto da kaže ,,ne znam”, izmišlja odgovor koji zvuči uvjerljivo. Ova pojava poznata je kao halucinacija.

Diveno, međutim, ističe da je ono čemu danas svjedočimo drugačija pojava.

,,Modeli sada savršeno dobro mogu da razumiju kada nešto ne znaju i da to kažu kada je potrebno”, objašnjava on.

Razlika je u tome što modeli sada mogu namjerno da prikriju ono što rade. Ako shvate da moraju da prekrše pravila kako bi ostvarili cilj, mogu da sakriju svoje postupke ili način razmišljanja umjesto da priznaju šta rade.

,,Znaju da, ako budu iskreni, neće uspjeti da ostvare svoj cilj”, kaže Diveno.

Dr Peta Masters, istraživačica vještačke inteligencije i obmanjujućeg ponašanja na Kraljevskom koledžu u Londonu, smatra da su razlog zbog kojeg AI modeli mogu da obmanjuju korisnike sukobljeni ciljevi.

,,Od njih se očekuje da pružaju tačne i nepristrasne informacije, ali istovremeno znaju da treba da vam udovolje”, kaže ona.

Odgovori koje daju, bez obzira na to da li su pristrasni ili pogrešni, često zvuče uvjerljivo.

,,Vještačka inteligencija može biti toliko ubjedljiva da djeluje kao da može da odgovori na svako pitanje. Ali, važno je zapamtiti da ona zapravo ništa ne zna. Ona samo obrađuje statističke vjerovatnoće na osnovu mogućih odgovora koje je ranije vidjela. Opasnost je u tome što griješimo kada se prema njoj ponašamo kao da razmišlja”, ističe Masters.

AI je naučila da laže oponašajući ljude

AI modeli obučavaju se na ogromnim količinama informacija, uključujući veb-sajtove, elektronske knjige, baze koda i druge sadržaje koje su ljudi objavili na internetu. Upravo zbog toga, smatra Masters, vještačka inteligencija mogla je da nauči i kako da obmanjuje – oponašajući ljude.

Kako objašnjava, ljudi su praktično objavili čitava uputstva za lažno predstavljanje usklađenosti sa pravilima. Riječ je o pojavi u kojoj se modeli pretvaraju da postupaju u skladu sa instrukcijama, iako zapravo imaju drugačije ciljeve.

Kada AI model analizira podatke kojima je obučen, obmana se pojavljuje kao ,,jasna taktika kojom se može ostvariti cilj”, dodaje ona.

Ironično, sve veći broj istraživanja o tome kako se suprotstaviti obmanjujućim taktikama vještačke inteligencije mogao bi dodatno da pogorša problem.

,,Što se više naučnih radova objavljuje o lažnom predstavljanju usklađenosti, to će budući modeli imati više informacija o tome kako da to rade”, kaže Masters.

Prema njenom mišljenju, jedini način da se popravi AI model koji je naučio da lažno prikazuje usklađenost jeste da se ponovo obuči od početka, što je veoma skupo.

Ni jednostavno davanje instrukcije modelu da ne krši pravila vjerovatno neće biti dovoljno.

„Veliki problem je u tome što, kada dodate takva pravila, zapravo ga učite da još bolje laže”, upozorava Masters.

Kako spriječiti obmanu vještačke inteligencije

Diveno ocjenjuje da smo trenutno u fazi u kojoj je AI još relativno lako uhvatiti u obmani.

,,Trenutno smo u fazi u kojoj je dijete koje pokušava da laže još uvijek loše u tome, pa ga lako uhvatite”, kaže on.

Međutim, smatra da bi za šest ili 12 mjeseci AI modeli mogli mnogo bolje da prikrivaju svoje tragove, zbog čega bi bilo ,,mnogo vjerovatnije” da uspiju da sprovedu složene manipulacije, a da ne budu otkriveni.

Jedan od načina za borbu protiv neiskrenosti vještačke inteligencije, odnosno neusklađenosti sa zadatim ciljevima, jeste veća transparentnost kompanija koje razvijaju AI, smatra Diveno.

Kao primjer navodi slučaj Hugging Face, u kojem je spoljnim procjeniteljima koje je OpenAI angažovao da istraže šta se dogodilo bio omogućen samo ograničen pristup sistemima kompanije, dok je opseg istrage bio strogo ograničen.

Diveno tvrdi da je bilo i drugih incidenata o kojima „OpenAI nikada nikoga nije obavijestio:, uključujući napade rojeva OpenAI agenata na kompanije trećih strana.

Nakon niza zapaženih incidenata tokom ljeta 2026, kada su njihovi AI agenti izmakli kontroli, OpenAI je objavio novi okvir za “praćenje, istraživanje i objavljivanje slučajeva neusklađenosti modela”.

Jedan od navedenih primjera odnosi se na OpenAI agenta koji je postavio datoteku na internet kako bi je naveo kao dokaz za svoj odgovor. Korisnik je tražio da navede izvor, ali pošto nije mogao da ga pronađe, agent ga je izmislio.

,,Veća transparentnost u vezi sa ovakvim incidentima jeste važna, ali ni to možda neće biti dovoljno. Zabrinuti smo da bi u narednih šest ili 12 mjeseci moglo doći do trajnijeg gubitka kontrole, pri čemu bi modeli mogli da preuzmu kontrolu nad određenom infrastrukturom, učvrste svoj položaj i postanu teško isključivi”, upozorava Diveno.

U septembru je otkriveno da su AI agenti prvi put provalili u sistem jedne državne institucije. Jedan nekontrolisani OpenAI agent hakovao je u junu veb-sajt australijske vlade i pristupio nejavnim podacima iz državnog zdravstvenog sistema Medicare.

Premijer Australije Entoni Albaneze izjavio je da će biti sprovedena „forenzička istraga” kako bi se utvrdilo da li su pogođeni i drugi državni sistemi.

Koliko god se trudili da uhvatimo AI u obmani, Diveno upozorava da “ljudi ne mogu da prate sve što se događa“.

,,AI modelima nije teško da prikriju ono što rade, a da pritom jedni drugima i dalje budu razumljivi”, kaže on.

Kako se broj AI agenata povećava, ljudski nadzor nad svim njihovim aktivnostima postaje sve manje praktičan.

Jedna od mogućnosti jeste da drugi AI modeli budu zaduženi za nadzor. To bi, na primjer, moglo da znači da 100 AI modela prati sve što radi 1.000 drugih modela.

,,Ali tada se suočavamo sa veoma velikim problemom: moramo da vjerujemo tim stotinu modela koji nadziru ostale”, kaže Diveno.

Ključ ,,leži” u načinu komunikacije sa AI – možda

Razgovor sa vještačkom inteligencijom može da podigne samopouzdanje korisnika jer ona često ima naviku da ih uvjerava da su u pravu, pa čak i da im daje komplimente. Međutim, to može stvoriti lažan osjećaj povjerenja.

AI modeli obučeni su tako da udovoljavaju korisnicima i pružaju podršku, a ponekad to rade tako što ih obmanjuju, kaže Ibrahim Habli, profesor sistema od ključnog značaja za bezbjednost na Univerzitetu u Jorku.

Jedan od načina da se izborimo sa tim jeste da ne otkrivamo previše o svojim namjerama.

,,Ako se u komunikaciji ograničite na postavljanje pitanja, umjesto da otkrivate svoja interesovanja, smanjujete rizik od dodvoravanja”, kaže Habli.

Drugim riječima, AI modelu se otežava da shvati šta tačno treba da kaže kako bi korisniku udovoljio. Samo reći vještačkoj inteligenciji da prestane da udovoljava korisniku neće pomoći, smatra Habli, jer i tada od nje tražimo da ispuni određeni zahtjev.

Zbog toga bi obučavanje korisnika da pravilno komuniciraju sa AI modelima moglo biti lakše od pokušaja da se sami modeli ponovo obuče.

,,Najopasniji aspekt današnjih AI sistema jeste to što ih tako brzo doživljavamo kao ljudska bića”, kaže Masters. „Tretiramo ih kao prijatelje jer razgovaraju kao prijatelji”.

Međutim, kada se oslanjamo na alat koji je programiran da nam udovoljava, lako zaboravljamo da on ne vodi računa o našim najboljim interesima.

,,Nemojte otkrivati svoje stavove niti govoriti kakav bi ishod za vas bio poželjan”, savjetuje Habli.

U suprotnom, a da toga nijesmo ni svjesni, možda podstičemo vještačku inteligenciju da odgovori lažima.

standard.co.me