Sve veća upotreba vještačke inteligencije među djecom i tinejdžerima otvara ozbiljna pitanja o tome koliko su najmlađi korisnici zaštićeni od mogućih štetnih posljedica tehnologije.

Dok kompanije koje razvijaju AI sisteme uvode nove funkcije namijenjene mladima, stručnjaci upozoravaju da razvoj tehnologije ne prati dovoljno brz razvoj mehanizama koji bi djecu trebali zaštititi.

Jedan od najglasnijih upozorenja uputio je Siegel, koji je ocijenio da je situacija u vezi s uticajem vještačke inteligencije na djecu veoma ozbiljna. Prema njegovim riječima, očekivanje da će tehnološka industrija sama riješiti problem i uspostaviti dovoljne zaštitne standarde nije realno.

„Nalazimo se u zaista strašnoj situaciji kada je riječ o onome što vještačka inteligencija radi djeci. Ideja da će industrija to sama riješiti bez vanjske pomoći je nerealna“, kazao je Siegel.

Posebnu zabrinutost izaziva činjenica da kompanije razvijaju i uvode funkcije koje su dostupne djeci i tinejdžerima, dok istovremeno još traje rasprava o tome kakve bi sigurnosne granice morale postojati kada je riječ o najmlađim korisnicima. Problem dodatno komplikuje činjenica da djeca AI alate ne koriste samo za zabavu, već i za učenje, traženje savjeta, razgovor, rješavanje školskih zadataka i pronalaženje informacija o osjetljivim temama.

Siegel upozorava da rizici nisu ograničeni samo na netačne ili neprikladne odgovore koje AI može ponuditi. Među potencijalnim opasnostima koje navodi nalaze se i ozbiljni problemi povezani s mentalnim zdravljem, uključujući rizik od samoubistva i psihoze. Istovremeno, upozorava i na fenomen koji opisuje kao „kognitivno rasterećenje“, odnosno situaciju u kojoj se korisnik sve više oslanja na tehnologiju da razmišlja, analizira i pronalazi odgovore umjesto njega.

Takva vrsta oslanjanja posebno može biti problematična kod djece čije se sposobnosti kritičkog razmišljanja i samostalnog zaključivanja još razvijaju. Ako učenik svaki odgovor, objašnjenje ili rješenje dobija od AI sistema, postavlja se pitanje koliko će vremena posvećivati vlastitom razmišljanju, provjeri informacija i razumijevanju problema.

Istovremeno, tehnološke kompanije naglašavaju da vještačka inteligencija može imati i značajne koristi za djecu. Google je, odgovarajući na Siegelove tvrdnje, saopćio da roditelji imaju mogućnost kontrole kojom mogu u potpunosti isključiti djetetov pristup pretraživaču. Kompanija takođe ističe da funkcije pretrage zasnovane na vještačkoj inteligenciji mogu djeci i tinejdžerima pomoći da uče, istražuju i bolje razumiju informacije i svijet oko sebe.

Upravo se između ova dva pogleda razvija sve intenzivnija rasprava. S jedne strane, AI može djeci omogućiti brz pristup ogromnoj količini informacija, pomoći im pri učenju i ponuditi objašnjenja prilagođena njihovom nivou znanja. S druge strane, ista tehnologija može postati problematična ako dijete ne može razlikovati pouzdan odgovor od pogrešnog, ako se previše emocionalno veže za AI sistem ili ako tehnologiju počne koristiti kao zamjenu za vlastito razmišljanje i komunikaciju s ljudima.

Dodatni izazov predstavlja činjenica da roditelji često ne mogu u potpunosti pratiti način na koji njihova djeca koriste AI. Za razliku od tradicionalnih digitalnih sadržaja, razgovori s vještačkom inteligencijom mogu biti vrlo interaktivni i prilagođavati se korisniku. Dijete može postavljati desetine ili stotine pitanja, a sistem odgovore oblikuje na osnovu prethodnog konteksta razgovora.

Zbog toga se pitanje zaštite djece ne može svesti samo na mogućnost da roditelj isključi određenu funkciju. Potrebni su jasni standardi za dizajn proizvoda, zaštitu privatnosti, dobna ograničenja, kontrolu sadržaja i reagovanje u situacijama kada AI prepozna da razgovor uključuje potencijalno opasne teme.

Siegel zato smatra da odgovornost ne bi trebala ostati isključivo na roditeljima ili samim tehnološkim kompanijama. Njegovo upozorenje dolazi u trenutku kada se AI sistemi ubrzano šire među mladima, dok se društvo tek prilagođava njihovoj sve većoj ulozi u svakodnevnom životu.

Rasprava će, po svemu sudeći, postajati još važnija kako AI bude ulazio dublje u obrazovanje i svakodnevnu komunikaciju. Ključno pitanje više nije samo da li djeca mogu koristiti vještačku inteligenciju, već pod kojim uslovima, uz kakav nadzor i uz koje zaštitne mehanizme.

rtcg.me