AI-hallucináció: jelentés és gyakorlati példa
AI-hallucinációnak nevezzük, amikor egy generatív AI hibás, kitalált vagy a rendelkezésre álló forrásokkal nem alátámasztott állítást ad elő. A válasz közben lehet nyelvileg meggyőző és magabiztos. A jelenség nem tudatos megtévesztést jelent, és egy látható hivatkozás sem zárja ki automatikusan.
Más elnevezések: AI hallucination · hallucináció · kitalált AI-válasz
Röviden
- A magabiztos hangnem nem a tényszerűség bizonyítéka.
- A forrás létezését és az állítás forráshűségét külön is ellenőrizni kell.
- A forrásalapú válaszadás csökkentheti a hibát, de nem helyettesíti az ellenőrzést.
Ezen az oldalon

Hogyan néz ki egy hallucináció?
A hiba lehet nyilvánvaló, például egy nem létező könyv vagy weboldal megnevezése. Máskor csak egyetlen részlet tér el: a forrás más időszakról szól, az ár más csomagra vonatkozik, vagy a válasz egy feltételes lehetőséget biztos ígéretként fogalmaz meg. Emiatt a nyelvileg rendezett szöveg különösen könnyen kelthet indokolatlan bizalmat.
A Google Cloud magyarázata a hibás vagy félrevezető generált kimenetet tárgyalja. A nagy nyelvi modell szövegalkotási képessége és az állítás igazsága külön kérdés. Nem kell minden hibát ugyanarra az okra visszavezetni ahhoz, hogy az eredményt ellenőrizni tudd.
Milyen hibákat érdemes megkülönböztetni?
A kitalált forrás más ellenőrzést kíván, mint egy létező dokumentum félreolvasása. Az elavult adat pedig lehet korábban helyes, de a jelenlegi kérdésre már alkalmatlan. A hibák elkülönítése segít megérteni, milyen javításra van szükség.
| Hiba | Ellenőrzési kérdés |
|---|---|
| Kitalált hivatkozás | Létezik és megnyitható a forrás? |
| Téves adat | Szerepel a szám vagy állítás az eredeti anyagban? |
| Félreértett feltétel | Ugyanarra a helyzetre vonatkozik? |
| Indokolatlan általánosítás | A forrás tényleg minden esetre állítja? |
Egy AI-forráshivatkozás ezért ellenőrzési lehetőség, nem automatikus hitelességi pecsét. A link megnyitása csak az első lépés; az állítás és a forrás kapcsolatát is meg kell nézni.
Példa: nem létező szolgáltatás egy cégleírásban
Egy képzeletbeli takarítócég leírása irodák rendszeres takarításáról szól. Az AI ebből olyan bemutatást készít, amely hétvégi sürgősségi kiszállást is ígér, pedig a forrás nem tartalmaz ilyet. A mondat jól illeszkedik a szolgáltatói hangnemhez, mégis valótlan vállalást ad a cég szájába.
A helyes javítás nem pusztán a mondat óvatosabbá tétele. Előbb ellenőrizni kell, hogy létezik-e a szolgáltatás; ha nem, el kell hagyni. A példa szemléltető, nem egy megfigyelt ügyfélincidens. Azt mutatja, hogyan keveredhet általános iparági elképzelés egy konkrét vállalkozás tényleges működésével.
Ugyanez előfordulhat nyitvatartásnál, szolgáltatási területnél, árnál vagy határidőnél. Ezeket a cég hiteles, aktuális adatai alapján kell rendezni.
Hogyan segíthetnek a források?
A forrásalapú megalapozás a válasz állításait ellenőrizhető adatokhoz igyekszik kötni. A RAG ennek egyik lehetséges megvalósítási mintája: előbb releváns anyagot keres vissza, majd azt adja a generáláshoz.
Ha azonban a visszakeresett anyag hibás, hiányos vagy rosszul értelmezett, a válasz továbbra is téves lehet. A forrás rendelkezésre állása és a helyes felhasználás két külön feltétel. Érdemes azt is ellenőrizni, hogy a rendszer jelzi-e a hiányzó információt, vagy indokolatlanul kitölti a hézagot egy valószínűnek hangzó részlettel.
Mit tehetsz a feladat megfogalmazásakor?
A promptban nevezd meg, mely anyagokra támaszkodjon a válasz, és kérd a bizonytalan vagy hiányzó információ külön jelzését. Ne várj pontos számot ott, ahol nem adtál megfelelő adatot. A „ne találj ki adatot” hasznos elvárás, de önmagában nem műszaki garancia.
A feladatot érdemes ellenőrizhető részekre bontani: előbb az állítások és forrásaik összegyűjtése, utána a megfogalmazás. Ez megkönnyíti az átnézést, mert nem egy késznek látszó, hosszú szövegből kell visszafejteni minden tény eredetét. A módszer hatását a saját munkán ellenőrizd.
Hogyan ellenőrizd publikálás előtt?
Válaszd ki a fontos tényállításokat, nyisd meg a forrásukat, és nézd meg a vonatkozó feltételeket. A neveket, számokat, időpontokat és üzleti ígéreteket külön figyelemmel kezeld. A nem igazolható részletet javítsd, hagyd el, vagy egyértelműen jelöld feltételezésként, ha annak helye van az anyagban.
A javítás után olvasd újra az egész bekezdést is. Egy téves mondat törlése megváltoztathatja a következtetés alapját, ezért a szöveg maradékának logikáját is ellenőrizni kell. A cél nem a hibátlan hangnem, hanem az állítások és a bizonyíték összhangja.