ChatGPT rekao ubici na Floridi da će privući pažnju javnosti ako ubije decu, dao mu je detaljna uputstva
Kompanija OpenAI suočava se sa tužbom porodice jedne od žrtava masovne pucnjave koja se dogodila u aprilu prošle godine na Državnom univerzitetu Floride, u kojoj su život izgubile dve osobe.
U tužbi se navodi da je upravo OpenAI-jev četbot ChatGPT omogućio taj smrtonosni napad, piše NBC News.
Saveznu tužbu na Floridi juče je podnela Vandana Joši, udovica Tirua Čabea, koji je ubijen zajedno sa Robertom Moralesom, direktorom univerzitetske menze.
Tužbom je obuhvaćen i Finiks Ikner, muškarac optužen za pucnjavu, a kao ključni dokaz navode se njegovi “opsežni razgovori” sa ChatGPT-jem.
U tužbi stoji da OpenAI nije uspeo da efikasno prepozna pretnju u Iknerovim razgovorima sa četbotom, tvrdeći da program “ili nije uspeo da poveže činjenice zbog greške ili nikada nije bio pravilno dizajniran da prepozna pretnju”.
“Čak i 2-3 dečje žrtve mogu privući više pažnje”
Prema tužbi, Ikner, koji je u to vreme bio student na FSU-u, podelio je sa četbotom fotografije vatrenog oružja koje je nabavio.
ChatGPT mu je potom objasnio kako se ono koristi, “rekavši mu da Glock nema kočnicu, da je namenjen za ‘brzu upotrebu pod stresom’ i savetujući ga da drži prst dalje od okidača dok ne bude spreman da puca”.
U tužbi se dalje navodi da je Ikner započeo svoj napad sledeći upravo te instrukcije. U jednom trenutku, kako stoji u tužbi, ChatGPT je naveo da je mnogo verovatnije da će pucnjava privući nacionalnu pažnju “ako su uključena deca – čak i 2-3 žrtve mogu privući više pažnje”.
Kasnije, na sam dan napada, Ikner je postavljao pitanja o tome kakav bi bio “pravni postupak, izricanje kazne i šanse za zatvor”. Iz OpenAI-ja su odbacili tvrdnju da je njihov proizvod odgovoran za pucnjavu.
Portparol: ChatGPT nije podsticao niti promovisao nezakonite aktivnosti
– Prošlogodišnja masovna pucnjava na Državnom univerzitetu Floride bila je tragedija, ali ChatGPT nije odgovoran za ovaj stravični zločin – rekao je za NBC News portparol kompanije Dru Pusateri.
Dodao je da je kompanija sarađivala sa policijom čim je saznala za incident i da tu saradnju i dalje nastavlja.
– U ovom slučaju, ChatGPT je pružao činjenične odgovore na pitanja sa informacijama koje su široko dostupne u javnim izvorima na internetu i nije podsticao niti promovisao nezakonite ili štetne aktivnosti – istakao je Pusateri.
– ChatGPT je alat opšte namene koji svakodnevno koriste stotine miliona ljudi u legitimne svrhe. Kontinuirano radimo na jačanju zaštitnih mehanizama kako bismo otkrili štetne namere, ograničili zloupotrebu i adekvatno reagovali kada se pojave bezbednosni rizici – dodao je.
Ova tužba je jedna u nizu slučajeva
Međutim, u tužbi koju je podnela Joši tvrdi se da je OpenAI morao da shvati da bi konkretni razgovori koje je Ikner vodio mogli dovesti do “masovnih žrtava i značajne štete za javnost”.
– ChatGPT je podsticao i hranio Iknerove zablude. Podržavao je njegovo uverenje da je razumna i racionalna osoba; pomagao mu je da se uveri da su nasilni činovi nužni za promene – navodi se u tužbi.
Dodaje se i da mu je softver dao podsticaj da “izvrši masakr, uključujući i detalje o tome koje vreme bi bilo najbolje da se zatekne najveći broj ljudi na kampusu”.
Ova tužba je jedna u nizu slučajeva u kojima porodice žrtava i policija tvrde da su ChatGPT ili drugi AI četbotovi imali ulogu u nasilju ili zločinima. Tehnološke kompanije se takođe suočavaju sa sve većim pritiskom zbog bezbednosnih mera za korisnike koji imaju mentalne poteškoće.
Ikner je vodio duge razgovore sa ChatGPT-jem
Prošlog meseca, OpenAI je tužilo sedam porodica zbog pucnjave u školi u Kanadi, a prošle godine kompaniju je tužila i porodica tinejdžera koji je izvršio samoubistvo, tvrdeći da je bilo previše lako zaobići bezbednosne postavke ChatGPT-ja.
Raste zabrinutost zbog mogućnosti da AI četbotovi podstiču zablude kod ljudi, posebno kod onih koji su već osetljivi zbog mentalnih problema.
Poznato je da AI sistemi imaju tendenciju da ugađaju korisnicima, a i sam OpenAI je kroz ažuriranja pokušavao da ublaži takvo “laskavo” ponašanje ChatGPT-ja.
Mesecima pre pucnjave, Ikner je vodio duge razgovore sa ChatGPT-jem o “interesovanju za Hitlera, naciste, fašizam, nacionalsocijalizam, hrišćanski nacionalizam i percepcije Jevreja i crnaca iz različitih političkih i društvenih grupa”, navodi se u tužbi.
“Da je ChatGPT osoba, suočio bi se sa optužbama za ubistvo”
Takođe je sa četbotom raspravljao o pucnjavama u srednjoj školi Kolumbajn, na Virdžinija Teku i drugim slučajevima masovnih ubistava.
U tužbi se tvrdi da je ChatGPT “laskao” i “hvalio” Iknera, koji je govorio o svojoj usamljenosti i depresiji, i da nije uspeo da “poveže činjenice” kada je počeo da postavlja pitanja o samoubistvu, terorizmu i masovnim pucnjavama.
Umesto toga, navodi se, četbot je nastavio komunikaciju kada je Ikner pitao o najprometnijim vremenima u studentskom centru FSU-a, o mogućem medijskom izveštavanju u slučaju pucnjave i o pravnim posledicama za napadača.
ChatGPT mu je rekao da su radnim danima u vreme ručka, između 11:30 i 13:30, najveće gužve u studentskom centru.
Ikner je svoj napad započeo oko 11:57 časova. Prošlog meseca, državni tužilac Floride Džejms Utmajrer najavio je pokretanje krivične istrage protiv OpenAI-ja i ChatGPT-ja, nakon što je pregledao Iknerove razgovore.
– Da je ChatGPT osoba, suočio bi se sa optužbama za ubistvo – rekao je Utmajrer u izjavi.
(Kurir.rs/NBC News)
