Halucinácie AI: čo sú a ako ich odstrániť?

Čo sú halucinácie AI?

Ak napríklad požiadame AI o identifikačné čísla organizácie (IČO) 20 bratislavských firiem, ktorým rastú tržby, môžeme dostať zdanlivo logický a úplný zoznam. Lenže všetky uvedené IČO môžu byť vymyslené.

Pre halucinácie je typická práve táto zdanlivá logika: odpovede pôsobia presvedčivo a AI nedáva najavo nijaké pochybnosti. Preto rozhrania jazykových modelov upozorňujú, že uvádzané čísla a fakty treba overovať.

Prečo vznikajú halucinácie AI?

Halucinácie preto vznikajú najmä v troch situáciách:

• chýbajú údaje (hlavná príčina – model háda);
• zadanie je nepresné (model vypĺňa medzery);
• úloha je príliš zložitá (model sa snaží urobiť všetko naraz).

Nejde len o vlastnosť jazykových modelov, ale aj o ich prístup k údajom. Halucinácie teda nevznikajú úplne náhodne: súvisia s podmienkami, ktoré môžeme zlepšiť.

Ako obmedziť halucinácie AI?

Halucináciám možno predchádzať tým, že modelu poskytneme priamy prístup k štruktúrovaným údajom. V takomto prostredí dokáže jazykový model lepšie interpretovať informácie, rozhodovať sa a vyvodzovať závery.

Na tomto princípe stoja tri nasledujúce metódy. Vyberte si podľa toho, aké pokročilé riešenie potrebujete.

Príprava súboru s údajmi

Najjednoduchšie je poskytnúť modelu vopred pripravené údaje. Výrazne tým zmenšíme priestor na to, aby si niečo „domýšľal“.

Začiatočníci často pristupujú k jazykovému modelu, akoby bol súčasne vyhľadávačom, nástrojom na spracovanie údajov aj systémom na ich získavanie z webu. Ak však úloha vyžaduje zber, čistenie a štandardizáciu údajov, môže presiahnuť možnosti kontextového okna a riziko halucinácií prudko rastie.

Preto sa oplatí rozdeliť zber údajov do viacerých menších zadaní a priebežne kontrolovať, či AI uvádza správne informácie. Môže to znieť zdĺhavo, no vytvoríme tým spoľahlivý základ, na ktorom jazykové modely ukážu svoju skutočnú silu: prácu s dostupnými údajmi.

Využitie API

Pripojenie cez API je pokročilejším riešením: umožňuje rýchlejší prístup k údajom vo väčšom rozsahu, pričom údaje zostávajú aktuálne. Ak je pripravený súbor s údajmi ako vedro vody, API je ako vodovodný kohútik.

Vyhľadávanie, ktoré využívajú ChatGPT, Claude či Gemini, sa veľmi nelíši od ľudského postupu. Jazykové modely prechádzajú obsah externých stránok, napríklad Redditu či Wikipédie, a potom zostavia odpoveď.

Pri tomto postupe však nemáme istotu, že obsah je správny a aktuálny. Zdroje sa líšia formátom aj dátumom vydania a môžu obsahovať ľudské chyby či názory. API túto slabinu zmierňuje tým, že poskytuje stabilný, programovo dostupný zdroj upravených údajov.

Napríklad API Monitly poskytuje prístup k štatistikám z celého sveta prostredníctvom priameho napojenia na zdroje inštitúcií, ako sú Štatistický úrad Slovenskej republiky, Eurostat, Svetová banka (World Bank), WHO či IMF. AI tak nemusí hľadať informácie na rôznych stránkach: odošle požiadavku priamo do API a získa aktuálne údaje na analýzu a interpretáciu.

Pripojenie cez MCP

Prepojenie AI prostredníctvom MCP (Model Context Protocol) umožňuje jazykovým modelom priamy prístup k súborom, tabuľkám, kódu či aplikáciám. Riziko halucinácií sa tým výrazne znižuje, pretože model môže pracovať s dostupnými údajmi.

Napríklad platforma s firemnými údajmi Compabase sprístupnila MCP, vďaka ktorému môže AI rýchlo overovať slovenské firmy. Keď ju požiadame o IČO 20 bratislavských firiem s rastúcimi tržbami, namiesto vymyslených údajov môžeme dostať konzistentný, overený zoznam. Rozdiel nie je v tom, že model zrazu „zmúdrel“. Predtým k týmto údajom nemal prístup; teraz môže v databáze vykonať jednoduchý SQL dopyt a získať výsledok.

Inými slovami:

Bez MCP:

• niektoré firmy neexistujú;
• finančné údaje sú náhodné;
• IČO sú vymyslené.

S MCP:

• model odošle dopyt do databázy;
• získa konkrétne záznamy;
• výsledok dopytu je deterministický.

Samotné halucinácie, samozrejme, nezmiznú, ak od modelu budeme naďalej vyžadovať príliš rozsiahle spracovanie a spájanie údajov. Keď mu však poskytneme prostredie s jasnou štruktúrou, aktuálnymi údajmi a obmedzeným priestorom na voľnú interpretáciu, prestane hádať a začne analyzovať skutočné informácie.