Ugrás a tartalomra
searchboar.

AI-keresés és láthatóság

AI-hallucináció: jelentés és gyakorlati példa

AI-hallucinációnak nevezzük, amikor egy generatív AI hibás, kitalált vagy a rendelkezésre álló forrásokkal nem alátámasztott állítást ad elő. A válasz közben lehet nyelvileg meggyőző és magabiztos. A jelenség nem tudatos megtévesztést jelent, és egy látható hivatkozás sem zárja ki automatikusan.

Más elnevezések: AI hallucination · hallucináció · kitalált AI-válasz

Röviden

  • A magabiztos hangnem nem a tényszerűség bizonyítéka.
  • A forrás létezését és az állítás forráshűségét külön is ellenőrizni kell.
  • A forrásalapú válaszadás csökkentheti a hibát, de nem helyettesíti az ellenőrzést.
Ezen az oldalon
Egy rendezett válasz kiemelt állításához nem kapcsolódik alátámasztó forrás; nagyító jelzi az ellenőrzést.
Az AI-hallucináció hihetőnek hangzó, mégis hibás vagy alá nem támasztott állítás is lehet.

Hogyan néz ki egy hallucináció?

A hiba lehet nyilvánvaló, például egy nem létező könyv vagy weboldal megnevezése. Máskor csak egyetlen részlet tér el: a forrás más időszakról szól, az ár más csomagra vonatkozik, vagy a válasz egy feltételes lehetőséget biztos ígéretként fogalmaz meg. Emiatt a nyelvileg rendezett szöveg különösen könnyen kelthet indokolatlan bizalmat.

A Google Cloud magyarázata a hibás vagy félrevezető generált kimenetet tárgyalja. A nagy nyelvi modell szövegalkotási képessége és az állítás igazsága külön kérdés. Nem kell minden hibát ugyanarra az okra visszavezetni ahhoz, hogy az eredményt ellenőrizni tudd.

Milyen hibákat érdemes megkülönböztetni?

A kitalált forrás más ellenőrzést kíván, mint egy létező dokumentum félreolvasása. Az elavult adat pedig lehet korábban helyes, de a jelenlegi kérdésre már alkalmatlan. A hibák elkülönítése segít megérteni, milyen javításra van szükség.

HibaEllenőrzési kérdés
Kitalált hivatkozásLétezik és megnyitható a forrás?
Téves adatSzerepel a szám vagy állítás az eredeti anyagban?
Félreértett feltételUgyanarra a helyzetre vonatkozik?
Indokolatlan általánosításA forrás tényleg minden esetre állítja?

Egy AI-forráshivatkozás ezért ellenőrzési lehetőség, nem automatikus hitelességi pecsét. A link megnyitása csak az első lépés; az állítás és a forrás kapcsolatát is meg kell nézni.

Példa: nem létező szolgáltatás egy cégleírásban

Egy képzeletbeli takarítócég leírása irodák rendszeres takarításáról szól. Az AI ebből olyan bemutatást készít, amely hétvégi sürgősségi kiszállást is ígér, pedig a forrás nem tartalmaz ilyet. A mondat jól illeszkedik a szolgáltatói hangnemhez, mégis valótlan vállalást ad a cég szájába.

A helyes javítás nem pusztán a mondat óvatosabbá tétele. Előbb ellenőrizni kell, hogy létezik-e a szolgáltatás; ha nem, el kell hagyni. A példa szemléltető, nem egy megfigyelt ügyfélincidens. Azt mutatja, hogyan keveredhet általános iparági elképzelés egy konkrét vállalkozás tényleges működésével.

Ugyanez előfordulhat nyitvatartásnál, szolgáltatási területnél, árnál vagy határidőnél. Ezeket a cég hiteles, aktuális adatai alapján kell rendezni.

Hogyan segíthetnek a források?

A forrásalapú megalapozás a válasz állításait ellenőrizhető adatokhoz igyekszik kötni. A RAG ennek egyik lehetséges megvalósítási mintája: előbb releváns anyagot keres vissza, majd azt adja a generáláshoz.

Ha azonban a visszakeresett anyag hibás, hiányos vagy rosszul értelmezett, a válasz továbbra is téves lehet. A forrás rendelkezésre állása és a helyes felhasználás két külön feltétel. Érdemes azt is ellenőrizni, hogy a rendszer jelzi-e a hiányzó információt, vagy indokolatlanul kitölti a hézagot egy valószínűnek hangzó részlettel.

Mit tehetsz a feladat megfogalmazásakor?

A promptban nevezd meg, mely anyagokra támaszkodjon a válasz, és kérd a bizonytalan vagy hiányzó információ külön jelzését. Ne várj pontos számot ott, ahol nem adtál megfelelő adatot. A „ne találj ki adatot” hasznos elvárás, de önmagában nem műszaki garancia.

A feladatot érdemes ellenőrizhető részekre bontani: előbb az állítások és forrásaik összegyűjtése, utána a megfogalmazás. Ez megkönnyíti az átnézést, mert nem egy késznek látszó, hosszú szövegből kell visszafejteni minden tény eredetét. A módszer hatását a saját munkán ellenőrizd.

Hogyan ellenőrizd publikálás előtt?

Válaszd ki a fontos tényállításokat, nyisd meg a forrásukat, és nézd meg a vonatkozó feltételeket. A neveket, számokat, időpontokat és üzleti ígéreteket külön figyelemmel kezeld. A nem igazolható részletet javítsd, hagyd el, vagy egyértelműen jelöld feltételezésként, ha annak helye van az anyagban.

A javítás után olvasd újra az egész bekezdést is. Egy téves mondat törlése megváltoztathatja a következtetés alapját, ezért a szöveg maradékának logikáját is ellenőrizni kell. A cél nem a hibátlan hangnem, hanem az állítások és a bizonyíték összhangja.

Források

  1. Google Cloud: AI-hallucinációk
  2. OpenAI: a ChatGPT pontossága és korlátai
  3. Google Cloud: forrásalapú megalapozás