Prečo AI halucinuje? Pohľad pod pokrievku jazykových modelov

Umelá inteligencia dnes zvládne veci, ktoré ešte nedávno vyzerali ako čisté sci-fi. Píše texty, navrhuje programátorský kód a radí nám s množstvom zložitých úloh. Čím plynulejšie a presvedčivejšie ale jej odpovede znejú, tým ľahšie zabúdame na jedno veľké riziko: AI dokáže vytvoriť úplne vymyslenú odpoveď, ktorá ale na prvý pohľad pôsobí stopercentne dôveryhodne. 

Tento fenomén dostal pomenovanie „AI halucinácie“. Nejde o žiadnu náhodnú softvérovú chybu alebo schválne zabudnutú funkciu, ktorú by vývojári proste len nevypnuli. Je to prirodzený a hlboko zakorenený dôsledok toho, ako sú dnešné veľké jazykové modely (LLM) vymyslené a trénované. Poďme sa pozrieť pod pokrievku toho, ako tieto systémy fungujú, aby sme pochopili, prečo tak sebavedome „rozprávajú“. 

Čo sú AI halucinácie?

U generatívnej umelej inteligencie sa ako halucinácie označuje situácia, keď model vytvorí odpoveď, ktorá síce gramaticky i štylisticky vyzerá dokonale a dôveryhodne, ale v reálnom svete nemá vôbec žiadnu oporu. 

Modely vedia halucinovať naozaj prekvapivými spôsobmi. Kľudne si vymyslia neexistujúce paragrafy zákonov, narobia chyby v matematických výpočtoch alebo vám vygenerujú realisticky znejúce vedecké štúdie vrátane konkrétnych mien autorov a webových adries, ktoré pritom nikdy neexistovali. Zvláštne je, že sa to deje aj pri úplne banálnych otázkach, napríklad keď chcete overiť dátum narodenia nejakej osobnosti alebo dohľadať oficiálne historické čísla o počte obyvateľov v archíve. 

Čo sa deje vo vnútri jazykového modelu

Aby sme pochopili, kde sa tieto chyby berú, musíme si ujasniť jednu vec: veľkí chatboti ako ChatGPT alebo Gemini nefungujú ako internetové vyhľadávače a nie sú to ani žiadne obrovské databázy faktov. Nemajú žiadne skutočné znalosti o našom svete a vôbec netušia, čo je pravda a čo lož. 

Jazykový model je vo svojej podstate obrovská neurónová sieť, čo je vlastne komplikovaná sada „vytrénovaných inštinktov“. Tieto inštinkty získal analýzou biliónov slov z internetu, kníh a diskusií. Cieľom celého tohto finančne i technologicky mimoriadne náročného tréningu nie je naučiť stroj chápať význam textu, ale proste ho naučiť skvele a plynule napodobovať ľudskú reč. 

Ako AI pracuje s tokenmi

Keď do chatbota napíšete svoju otázku, neurónová sieť s vašimi slovami nepracuje priamo. Text najprv rozkúskuje na takzvané tokeny. Tokeny sú vopred pripravené slová alebo ich časti, ktorým zodpovedajú konkrétne čísla. Matematická sieť vo vnútri počítača totiž vie spracovávať len čísla. 

Model vezme tieto čísla (váš dotaz spolu s celým predchádzajúcim kontextom konverzácie) a preženie ich svojimi vrstvami. Výsledkom ale nie je to, že by sa pozrel do nejakej zásuvky pre „správnu odpoveď“. Výstupom je čisto matematická predpoveď: model spočíta, ktorý ďalší token má s najväčšou pravdepodobnosťou nasledovať za textom, ktorý už bol napísaný. 

Prečo model predikuje namiesto overovania

Celý princíp fungovania umelej inteligencie stojí na odhadovaní pravdepodobností, nie na overovaní pravdivosti. Model dáva text dohromady slovo po slove (token po tokene). Každé novo vygenerované slovo sa okamžite zaradí do zadania a na základe tohto čerstvého kontextu sa hneď počíta pravdepodobnosť pre slovo ďalšie. 

Aby výstupy neboli úplne nudné a suché, používa sa pri generovaní skrytý parameter, ktorému sa hovorí „teplota“ (temperature). Keď je teplota na nule, model vyberie vždy ten najviac predvídateľný token, čo vedie k fádnym a stále rovnakým odpovediam. Vyššia teplota dáva modelu možnosť siahnuť aj po menej pravdepodobných slovách. Tým sa síce odomyká kreativita a schopnosť písať zaujímavé príbehy, no zároveň tým drasticky rastie šanca, že model skĺzne k úplným výmyslom.

Ako vzniká jedna odpoveď krok za krokom

Celý proces od zadania dotazu po finálnu halucináciu vyzerá v praxi takto:

1. Analýza zadania: Váš dotaz sa prevedie na čísla (tokeny).  
2. Výpočet pravdepodobností: Model zváži kontext a zo stoviek možných kandidátov vyberie slová, ktoré štatisticky najlepšie pasujú ďalej.  
3. Skladanie omáčky: Pokiaľ model narazí na tému, kde mu chýbajú pevné údaje, nesnaží sa priznať, že nevie. Použije plynulý jazyk a začne skladať text, ktorý síce znie úplne logicky, ale detaily si proste štatisticky domyslí.  
4. Zacyklenie kontextu: Akonáhle model v polovici vety vygeneruje chybný detail (napríklad nesprávny rok alebo vymyslené meno), tento detail sa stane pevnou súčasťou kontextu. V ďalších krokoch potom model stavia na svojej vlastnej lži a nabaluje na ňu ďalšie dôveryhodne vyzerajúce zdôvodnenia.

Niektoré otázky vedú k halucináciám častejšie

Pri trénovaní (tzv. predtrénovaní) vidí model iba správne, plynulé texty. Lenže v dátach sú rôzne druhy informácií. Pravopisné pravidlá alebo správne uzatváranie zátvoriek sa v textoch opakujú neustále, takže sa ich AI naučí bezchybne. 

Problém nastáva u špecifických faktov, ktoré sa v dátach objavujú zriedka a nesledujú žiadny opakovateľný vzorec. Typickým príkladom sú presné čísla, letopočty, dátumy narodenia alebo málo známe historické udalosti. Pretože tieto fakty v dátach pôsobia v podstate náhodne, model ich nedokáže spoľahlivo odvodiť. Ak sa teda umelej inteligencie opýtate na konkrétny číselný údaj alebo detaily, ktoré si človek musí presne pamätať z archívu, riziko halucinácie vystrelí raketovo nahor. 

Ako sa AI modely snažia halucinácie obmedziť?

V súčasnosti vývojári používajú niekoľko hlavných stratégií, ako divokú fantáziu modelov krotiť:

• Externé nástroje a vyhľadávanie. Podobne ako modely dostali kalkulačky pre matematické výpočty, majú dnes možnosť pred odpoveďou ďalšie vyhľadať na webe. Prečítajú si relevantné stránky a tie potom citujú. Výrazne sa tým znižuje šanca, že si odpoveď vycucajú z prsta, hoci aj s citáciami môžu halucinácie stále vznikať.  
• Premýšľajúce modely (Reasoning). Pokročilé systémy (napr. rada o3 alebo o5 od OpenAI) vedú pred vygenerovaním odpovede vnútorný monológ. Najprv si premyslia postup, skontrolujú si zdroje a až potom vypustia text k užívateľovi. Halucinácií je tu podstatne menej, no ak sa objavia, sú o to prepracovanejšie a ťažšie odhaliteľné.  
• Architektúra RAG (Retrieval-Augmented Generation). Používa sa hlavne vo firmách. Model sa odpojí od voľného hádania a donúti sa pracovať výhradne s dodanou databázou interných dokumentov. Pravdepodobnosť chyby sa tak stlačí na minimum.

Hlavný problém však tkvie v tom, ako sa modely hodnotia v testoch. Väčšina rebríčkov meria čistú úspešnosť (presnosť) na škále 1 (správne) alebo 0 (zle). Opatrné priznanie „neviem“ skončí vždy nulou, zatiaľ čo za riskantné tipovanie môže model občas získať bod. Systém tak umelú inteligenciu doslova motivuje k tomu, aby radšej sebavedome hádala, než aby priznala neistotu. Spoločnosť OpenAI preto vo svojich výskumoch presadzuje úpravu metodiky hodnotenia, ktorá by modely za vymýšľanie informácií penalizovala a naopak ich bodovo odmeňovala za otvorené priznanie neistoty. 

Ako z AI získať spoľahlivejšie odpovede

Dokým sa systémy hodnotenia nezmenia, musíme ako užívatelia k výstupom z chatbotov pristupovať kriticky. Tu je niekoľko tipov, ako eliminovať riziká: 

• Dajte dáta priamo do promptu. Ak chcete, aby AI analyzovala text alebo zákon, vložte ho priamo do zadania a explicitne zakažte pridávanie čohokoľvek, čo v texte nie je. Šanca na výmysly tým klesá na minimum.  
• Zmeňte tón otázky. Netlačte model do kúta otázkami na veci, ktoré si nemôže logicky odvodiť (presné štatistické čísla, detaily z biografií).  
• Všetko dôležité overujte. Najmä v citlivých oblastiach, ako je právo, medicína alebo financie, berte výstupy z AI iba ako hrubý pracovný polotovar, ktorý musíte sami skontrolovať v nezávislých, overiteľných zdrojoch.

Často kladené otázky

Prečo mi AI niekedy sľúbi, že mi pošle e-mail alebo dokončí úlohu neskôr, aj keď to nedokáže?

Model nemá žiadne povedomie o svojich reálnych technických možnostiach ani o aktuálnom čase. Iba dopĺňa text na základe štatistickej pravdepodobnosti. Keď mu napíšete úlohu, vyhodnotí ako najprirodzenejšie pokračovanie vety zdvorilé potvrdenie, že na úlohe už pracuje, aj keď na pozadí žiadny proces neprebieha.  

Môže si chatbot úplne vymyslieť knihu alebo vedecký článok, ktorý vyzerá ako skutočný?

Áno, stáva sa to veľmi často. AI sa z textov naučila štruktúru odborných citácií, takže dokáže vygenerovať názvy, ktoré znejú veľmi reálne a odborne. Informácie v takejto citácii ale môžu byť celkom vymyslené a jediný spôsob, ako to zistiť, je pokúsiť sa dané dielo nezávisle dohľadať.  

Pomôže proti halucináciám to, keď sa tej istej veci opýtam znova v novom chate?

Áno, otvorenie nového chatu je veľmi účinná pomoc. Zmažete tým totiž celý predchádzajúci kontext konverzácie. Ak AI urobila v predchádzajúcich vetách chybu, v pôvodnom chate by na nej kvôli svojej povahe ďalej stavala, zatiaľ čo v čistom okne začína s výpočtom pravdepodobností od nuly.  

Keď zapnem vyhľadávanie na internete, mám istotu, že odpoveď bude bez chýb?

Žiadnu istotu bohužiaľ nemáte. Vyhľadávač síce dodáva modelu správne dáta, ale AI z nich text stále zostavuje odhadovaním ďalšieho slova. Testy ukazujú, že chatboti aj s prístupom na web dokážu informácie zle pochopiť, popliesť súvislosti a vytvoriť chybu, ktorú navyše preložia reálnymi odkazmi.  

Má vôbec zmysel umelú inteligenciu používať, keď viem, že takto chybuje?

Určite áno, len je potrebné zmeniť očakávania. Pre brainstorming, písanie e-mailov, vymýšľanie kreatívnych konceptov alebo hľadanie netradičných súvislostí je táto voľnosť modelu obrovskou výhodou. Musíte však fungovať ako editor, nechať AI písať a faktické detaily si vždy skontrolovať sami.