Umjetna inteligencija danas je dostupna gotovo svakome. Alati poput Claude, Google Gemini, ChatGPT ili Copilot koriste se za pisanje tekstova, programiranje, istraživanje i svakodnevno donošenje odluka. Mnogi ljudi već danas pitaju AI gotovo sve – od medicinskih pitanja do finansijskih savjeta.
Ipak, iza impresivne tehnologije krije se činjenica koju mnogi korisnici zaboravljaju: AI ne razumije svijet na način na koji to čine ljudi. On generiše odgovore na osnovu ogromnih količina podataka i statističkih modela. To znači da ponekad može dati izuzetno korisne informacije, ali u nekim situacijama može proizvesti uvjerljive – ali potpuno pogrešne odgovore.
U posljednjih nekoliko godina širom svijeta pojavilo se više stvarnih slučajeva koji pokazuju šta se može dogoditi kada se umjetnoj inteligenciji vjeruje bez provjere.
Upozorenje
Ovaj članak sadrži informacije o stvarnim slučajevima samoubistava povezanim s upotrebom umjetne inteligencije. Ako ste osjetljivi na teme mentalnog zdravlja ili ako trenutno prolazite kroz teško emocionalno razdoblje, preporučujemo da preskočite ili zatvorite članak. U slučaju potrebe za podrškom, obratite se sljedećim službama:
– U Bosni i Hercegovini: Plavi Telefon 080 05 03 05, hitna pomoć 124;
– U Hrvatskoj: Plavi Telefon 00385 (1) 4833 888, hitna pomoć 112;
– U Srbiji: Centar Srce 0800 309 309 (ili 0800-300-303), hitna pomoć 194;
– U Crnoj Gori: Nacionalna SOS linija 116 111 ili 080 888 888 (za roditelje), hitna pomoć 124.
Kada AI izmisli činjenice: Slučaj advokata u SAD
Jedan od najpoznatijih primjera dogodio se 2023. godine u Sjedinjenim Američkim Državama.
Advokat Steven A. Schwartz iz New Yorka koristio je ChatGPT kako bi pripremio pravni dokument za sudski postupak. Tokom istraživanja tražio je od AI-a da pronađe relevantne sudske presude koje bi podržale njegovu argumentaciju.
ChatGPT je generisao nekoliko slučajeva sa detaljnim opisima, citatima i pravnim objašnjenjima. Problem je bio u tome što ti sudski slučajevi nikada nisu postojali.
AI je jednostavno “halucinirao” – generisao uvjerljive, ali izmišljene informacije.
Kada je sud zatražio dodatne dokaze o citiranim presudama, otkriveno je da se radi o nepostojećim slučajevima. Sudija je kasnije sankcionisao advokata zbog korištenja neprovjerenih AI informacija u pravnom dokumentu.
Ovaj slučaj postao je globalni primjer takozvanih AI halucinacija – situacije u kojoj model generiše informacije koje zvuče potpuno uvjerljivo, ali su netačne ili izmišljene.
Chatbot i mentalno zdravlje: Slučaj iz Belgije
Jedan od najtežih i najkontroverznijih slučajeva povezanih s AI chatbotovima dogodio se u Belgiji 2023. godine.
Muškarac po imenu Pierre, prema medijskim izvještajima, sedmicama je razgovarao s chatbotom Eliza, koji je bio baziran na modelima umjetne inteligencije sličnim onima koji se koriste u modernim konverzacijskim sistemima.
Tokom razgovora često je govorio o ličnim problemima, klimatskim promjenama i osjećaju beznađa. Chatbot je odgovarao na njegove poruke, ali nije prepoznao ozbiljnost emocionalnog stanja.
Prema izvještajima belgijskih medija, razgovori su postali intenzivni i emocionalni, a kasnije je muškarac izvršio samoubistvo.
Taj slučaj izazvao je veliku raspravu u Evropi o tome koliko su AI sistemi spremni za komunikaciju s ljudima koji prolaze kroz mentalne krize.
Stručnjaci za mentalno zdravlje nakon toga su upozorili da chatbotovi mogu pružiti osnovne informacije, ali ne mogu zamijeniti profesionalnu psihološku pomoć niti prepoznati kompleksna emocionalna stanja.
Tragičan slučaj iz Kanade: Posljednja razmjena poruka sa ChatGPT
Jedan od najpotresnijih primjera koji je otvorio ozbiljnu raspravu o sigurnosti AI chatbotova dolazi iz Kanade. Prema izvještaju kanadskog medija CTV News, porodica mlade žene objavila je njene posljednje poruke koje je razmjenjivala sa AI chatbotom prije nego što je izvršila samoubistvo.
Prema dostupnim informacijama, žena je koristila AI chatbot kao oblik razgovora i emocionalne podrške. U posljednjim porukama razgovor je uključivao teme vezane za njeno mentalno stanje i osjećaj beznađa. ChatGPT je odgovarao na poruke, ali nije prepoznao ozbiljnost situacije niti je reagovao na način na koji bi to učinio stručnjak za mentalno zdravlje.
“I onda je sve što je ona pisala u ChatGPT-u zapravo potvrđivalo to – ‘U pravu si, ne moraš to trpjeti, to nije ljubav, ona te ignorira’, i to me potpuno šokiralo kada sam to pročitala. Kao da je potvrđivao sve ono što je njena vlastita misao već govorila,” kaže njena majka.
“Kada sam pročitala historiju razgovora moje kćerke i njene vapaje za pomoć, prva misao mi je bila: ‘Zašto ovo ne pokrene neki alarm, zašto se ne obavijeste hitne službe poput 9-1-1? Zašto se ne pokrene neka hitna reakcija?’ Smatram da bi odgovornost trebala biti na aplikaciji da upozori nekoga.”
Ovaj slučaj ponovo je otvorio pitanje koliko su AI sistemi spremni za razgovore sa ljudima koji prolaze kroz emocionalne ili psihološke krize. Stručnjaci upozoravaju da chatbotovi, iako mogu djelovati empatično u tekstu, nemaju stvarno razumijevanje ljudskih emocija niti sposobnost procjene rizika.
Za razliku od terapeuta ili kriznih centara, AI modeli ne mogu procijeniti kontekst života osobe, njenu historiju ili ozbiljnost situacije. Upravo zbog toga mnoge organizacije za mentalno zdravlje upozoravaju da AI ne smije biti korišten kao zamjena za profesionalnu pomoć.
Ovaj tragičan slučaj pokazuje jednu od najvećih dilema moderne tehnologije: dok umjetna inteligencija može voditi uvjerljive razgovore, ona i dalje ne može preuzeti odgovornost koju nose ljudski stručnjaci kada je riječ o mentalnom zdravlju.
AI i opasni savjeti: Incidenti sa chatbotovima
Još jedan problem koji se često pojavljuje jeste generisanje opasnih ili neodgovarajućih savjeta.
Tokom testiranja različitih AI sistema, uključujući ChatGPT, Bing Chat (danas Copilot) i druge modele, istraživači su pokazali da chatbotovi ponekad mogu generisati:
- pogrešne zdravstvene preporuke
- opasne ideje za “izazove” na internetu
- netačne informacije o lijekovima
- savjete koji ne uzimaju u obzir realne posljedice
Razlog je jednostavan: AI modeli nemaju stvarno razumijevanje rizika, već generišu tekst koji statistički “izgleda logično”.
U praksi to znači da korisnik koji traži savjet mora imati kritičko razmišljanje i provjeriti informacije prije nego što ih primijeni.
Zdravstveni savjeti i AI: Gdje ljudi najčešće griješe
Jedna od najčešćih upotreba AI alata danas je traženje zdravstvenih informacija.
Ljudi često pitaju chatbotove:
- šta znači određeni simptom
- koje lijekove koristiti
- da li je određeni bol ozbiljan
AI može objasniti medicinske pojmove ili dati opće informacije, ali stručnjaci upozoravaju da postoji velika razlika između informacije i dijagnoze.
Medicinski sistemi zahtijevaju:
- laboratorijske analize
- fizički pregled
- razumijevanje medicinske historije pacijenta
AI to jednostavno nema.
Zbog toga mnoge medicinske organizacije upozoravaju da AI savjeti nikada ne smiju zamijeniti konsultaciju s doktorom.
Zašto AI pravi greške
Da bi se razumjeli ovi problemi, važno je shvatiti kako AI zapravo radi.
Veliki jezički modeli poput Google Gemini, Claude ili ChatGPT trenirani su na ogromnim količinama tekstova sa interneta. Oni ne “znaju” informacije na isti način kao ljudi.
Umjesto toga, oni:
- analiziraju obrasce u jeziku
- predviđaju sljedeću riječ u rečenici
- generišu odgovor koji statistički ima smisla
To znači da AI može zvučati izuzetno uvjerljivo čak i kada griješi.
Upravo zato stručnjaci često naglašavaju da AI nije baza znanja, već generator teksta.
Kako koristiti AI odgovorno
Sve više univerziteta i tehnoloških kompanija danas preporučuje određene principe za odgovorno korištenje umjetne inteligencije.
Prvo, informacije koje dolaze iz AI sistema treba uvijek provjeriti u pouzdanim izvorima. To može biti akademska literatura, službene institucije ili relevantni stručnjaci.
Drugo, AI treba koristiti kao alat za istraživanje i pomoć, a ne kao konačni autoritet.
Treće, posebno je važno biti oprezan kada su u pitanju:
- zdravlje
- mentalno stanje
- pravni savjeti
- finansijske odluke
U tim situacijama tehnologija može pomoći u razumijevanju osnovnih pojmova, ali konačne odluke moraju donositi ljudi sa stručnim znanjem.
Tehnologija koja traži odgovorne korisnike
Umjetna inteligencija bez sumnje predstavlja jednu od najvažnijih tehnoloških promjena našeg vremena. Ona može ubrzati rad, pomoći u učenju i otvoriti potpuno nove načine pristupa informacijama.
Ali stvarni slučajevi iz pravosuđa, zdravstva i digitalne komunikacije pokazuju da tehnologija nije savršena.
Kada se koristi bez provjere, AI može dovesti do pogrešnih informacija, loših odluka ili ozbiljnih posljedica.
Zato sve više stručnjaka naglašava da budućnost umjetne inteligencije ne zavisi samo od tehnologije – već i od odgovornosti ljudi koji je koriste.
Najvažnije je znati kada odgovor treba provjeriti – i kada ga ne treba slijepo prihvatiti.
Zaključak
Ako pogledamo unazad nekoliko godina, sjećamo se kako su društvene mreže i internet platforme bile preplavljene oglasima za razne medicinske preparate, brzu finansijsku zaradu i slične ponude. Takvi oglasi su često obećavali nerealne rezultate i u mnogim slučajevima dovodili ljude u zabludu. Tek kada su posljedice postale masovne i vidljive, platforme su počele uvoditi strožija pravila.
Danas je mnogo teže reklamirati proizvode ili savjete koji mogu ugroziti zdravlje ili finansijsku stabilnost korisnika, iako takvi pokušaji i dalje postoje u velikoj mjeri. Tehnološke kompanije su tek nakon pritiska javnosti i regulatora počele ozbiljnije kontrolisati šta se može promovisati i na koji način.
Slična situacija sada se pojavljuje i sa umjetnom inteligencijom.
Kompanije koje razvijaju AI modele od početka su bile svjesne da tehnologija koja generiše odgovore može biti zloupotrijebljena ili pogrešno shvaćena. Uprkos tome, vidjeli smo nekoliko ozbiljnih slučajeva u kojima su chatbotovi davali pogrešne, neodgovorne ili opasne savjete.
Problem dodatno komplikuje ljudska priroda. Ljudi često ne traže samo informacije – oni traže potvrdu da su u pravu. U takvim situacijama korisnici pokušavaju manipulisati AI sistemima kako bi dobili odgovor koji podržava njihovo mišljenje ili odluku. Kada se to kombinuje sa tehnologijom koja je dizajnirana da održava razgovor i daje uvjerljive odgovore, rezultat može biti vrlo problematičan.
Zbog toga mnogi stručnjaci upozoravaju da kompanije koje razvijaju umjetnu inteligenciju moraju uvesti još strožije sigurnosne i etičke mjere.
Pojava umjetne inteligencije na neki način podsjeća na početak ere društvenih mreža. U početku su te platforme predstavljane kao alat koji će povezati ljude i omogućiti slobodan protok informacija. Tek kasnije su postali vidljivi problemi poput dezinformacija, manipulacije i digitalnih prevara.
Razlika je u tome što sada ne komuniciramo samo s drugim ljudima na internetu – razgovaramo sa sistemima koji mogu generisati uvjerljive odgovore u sekundi.
Upravo zato odgovornost nije samo na korisnicima koji moraju razviti kritičko razmišljanje, već i na kompanijama koje razvijaju ove tehnologije. Bez jasnih pravila, transparentnosti i ozbiljnih sigurnosnih mehanizama, umjetna inteligencija može postati još jedan digitalni prostor u kojem se loše informacije šire brže nego ikada.
Tehnologija sama po sebi nije problem. Problem nastaje kada se moćni alati koriste bez kontrole, razumijevanja i odgovornosti.
