AI haluciniranja

Sve više se suočavamo s primjenom AI-a a time i problemom netočnih ili izmišljenih informacija. Naime, AI modeli ponekad haluciniraju, odnosno izmišljaju informacije, najčešće u sljedećim slučajevima:

• Kada AI nema dovoljno podataka (dostupnih na internetu ili unesenih putem promptova) pa generira najvjerojatniji odgovor koji može biti netočan ili izmišljen;
• Kada AI modeli izmišljaju reference, citate, događaje, znanstvene činjenice koje ili statistike koje ne postoje;
• Pri izvođenju složenih matematičkih ili logičkih zadataka, gdje može napraviti temeljne pogreške;
• Kad AI simulira odgovore u područjima kao što su medicina, pravo ili financije, bez stvarnog razumijevanja ili validiranja podataka, što može dovesti do netočnih podataka;
• U situacijama kad AI generira sadržaj poput vijesti ili opisa proizvoda koji zvuče uvjerljivo, ali su izmišljeni;
• Kada se AI bazira na podacima koji sadrže pristrane, nepotpune ili zastarjele informacije;
• Kad AI izmišlja zbog ograničenja u nerazumijevanju stvarnosti – AI ne razumije istinu, nego predviđa najvjerojatniji niz riječi.

AI modeli vam u svojim odgovorima mogu ponuditi vrlo uvjerljive priče u kojima se nalaze: gradovi koji ne postoje, događaji koji se nisu dogodili, svjedočanstva ljudi koji ne postoje, vjerne ali izmišljene foto/audio/video simulacije izjava ili aktivnosti stvarnih ili izmišljenih ljudi. Najopasnije laži (one koje se najlakše šire) su one koje u sebi sadrže barem malo istine: Ako pouzdano znamo da je jedan podatak istinit, lakše ćemo povjerovati u preostalih devet izmišljenih.

„ OpenAI je otkrio da njihovi najnapredniji modeli rezoniranja haluciniraju vrlo često, sa stopama od 33-48%, što znači da proizvode netočne ili izmišljene informacije skoro polovinu vremena pri nekim zadacima“. Međutim, i ovaj citat je rezultat prompta, pa ga treba uzimati s rezervom.

Kako se suprotstaviti izmišljenim odgovorima?

Ako primijetimo da postoji takva mogućnost,  nastojte raditi sljedeće:

• prije svega treba razvijati kritičko razmišljanje i ne uzimati svaki odgovor kao apsolutnu istinu,
• budite svjesni ograničenja podataka i moguće zastarjelosti ili pristranosti koju AI može imati,
• oslanjajte se na informacije iz različitih izvora,
• razvijajte AI pismenost i naučite kako postavljati pitanja da biste dobili pouzdanije odgovora (prompt inženjering); isprobajte različite formulacije upita i pratite kako to utječe na rezultate,
• naučite prepoznati AI generiran tekst,
• implementirajte aplikacije s ugrađenim mehanizmima za provjeru činjenica.

A što ako laži dolaze „iz druge ruke“?

Ako se ne reagira na vrijeme, ovaj problem se produbljuje, pa nam tako dolaze dokumenti iz pouzdanih izvora, od ljudi o čijoj stručnosti ne dvojimo, te nema kontrole i preispitivanja istine.  Time se stvara spirala izmišljenih podataka koji cirkuliraju internetom a još uvijek smo u domeni dobronamjerne primjene.

Ako ste u prikupljanju podataka koristili AI modele, ne prosljeđujte informacije, za čiju točnost ne može jamčiti. Osvješćivanjem ove problematike i većom odgovornošću za dokumente koje produciramo, smanjujemo rizike od širenja netočnih ili izmišljenih informacija koje AI može generirati, osiguravajući odgovornije i sigurnije korištenje umjetne inteligencije.

Novi pogled na stvarnost

Izmišljotine nas čekaju tamo gdje im se najmanje nadamo i gdje mislimo da nema razloga izmišljati. Tako na primjer, u potrazi za našim sljedećim odredištem za ljetovanje, možemo gledati slike ulica i trgova koji izgledaju vjerno i autentično – ali, ne postoje. Tu ćemo, u najgorem slučaju, osjetiti razočarenje kad u potrazi za starim zvonikom iz 13. stoljeća na trgu nađemo samo fontanu koju je prošle godine dao napraviti Gradski vodovod. Na „smiješnim“ portalima, stranicama i kanalima, čija je svrha zabava, znamo da nas može dočekati simulacija laži pa ne preispitujemo osvrt Arnolda Schwarzeneggera na lokalne događaje u Travniku i njihov utjecaj na prodaju ćevapa u središnjoj Bosni. Ali, ako gledate tobožnji govor predstavnika EU parlamenta, koji žustro raspravlja o gorućoj problematici, koristeći informacije koje vam djeluju poznato i istinito, te predlaže mjere od općeg interese, stvar postaje malo ozbiljnija. Ili, ako gledate simulirane slike ratova i razaranja, na temelju kojih se donose bitne državne, vojne i financijske odluke, i koje uznemiruju našu svakodnevicu, stvar postaje jako ozbiljna, i laž se širi do neslućenih razmjera.

Zaključak

Alati isprepleteni s umjetnom inteligencijom potiču njihovu kreativnu upotrebu, no neka to ostanu samo alati. Koristite generativne modele za brainstorming ili inspiraciju, ali zadržite kontrolu nad kreativnim procesom!

Iz današnje perspektive primjene naprednih tehnologija, povijesnih zbivanja, proučavanja ponašanja ljudi –  slijetanje na Mjesec 1969. godine više ne izgleda kao teorija zavjere, zar ne? Ne vjerujte baš svemu što čujete, vidite i pročitate, nego kritički promatrajte stvarnost oko sebe! Onu stvarnu, ne virtualnu.