Mi a RAG? Visszakereséssel kiegészített generálás
A RAG, vagyis visszakereséssel kiegészített generálás olyan AI-megoldási minta, amely előbb releváns információt keres egy külső forrásban, majd azt a válasz készítéséhez adja. A forrás lehet dokumentumtár, adatbázis vagy keresési eredmény. A visszakeresés és a generálás külön lépés, és mindkettő minősége számít.
Más elnevezések: retrieval-augmented generation · visszakereséssel kiegészített generálás
Röviden
- A RAG külső információval egészíti ki az aktuális válasz bemenetét.
- Nem ugyanaz, mint a modell újratanítása vagy egy teljes keresőtermék.
- A jó válaszhoz megfelelő találat, helyes értelmezés és ellenőrzés is kell.
Ezen az oldalon

Mit jelent a három betű?
A RAG az angol retrieval-augmented generation rövidítése. A megnevezés a folyamat két fő részét kapcsolja össze: információ visszakeresése és válasz generálása. Az AI így a feladat pillanatában kiválasztott külső anyagot is felhasználhat, nem csak a modell tanításakor kialakult mintázatokra támaszkodik.
A Google Cloud áttekintése ezt a kiegészítést dokumentumok és más külső adatok használatával mutatja be. A RAG egy technikai minta, nem önmagában egy márkanév vagy kész felhasználói termék. Két RAG-ot használó alkalmazás forrásai és működése nagyon különbözhetnek.
Hogyan épül fel egy egyszerű folyamat?
Először a rendszer a kérdéshez kapcsolódó információt keresi meg. Ezután a kiválasztott részleteket a nagy nyelvi modell bemenetéhez adja. A modell ezek felhasználásával készíthet választ, amelyhez a termék hivatkozásokat vagy más ellenőrzési lehetőséget is kapcsolhat.
| Lépés | Fő kérdés |
|---|---|
| Visszakeresés | Megtalálta a feladathoz szükséges anyagot? |
| Kiválasztás | A megfelelő változat és részlet került elő? |
| Generálás | A válasz helyesen használja az anyagot? |
| Ellenőrzés | Visszakövethető az állítás a forráshoz? |
Ha az első lépésben rossz dokumentum kerül elő, a gördülékeny végső szöveg sem pótolja a hiányzó bizonyítékot. Ezért a hibát a folyamat megfelelő részén kell keresni.
Miben különbözik a modell tanításától?
A RAG a válasz készítésekor adhat új információt a rendszernek. Ez nem ugyanaz, mint a modell súlyait módosító tanítás. Egy frissített dokumentum elérhetővé válhat a visszakeresés számára anélkül, hogy minden új verzió miatt újra kellene tanítani a nyelvi modellt.
Az aktuálisan átadott anyag a kontextusablak korlátai közé is illeszkedik. Nem biztos, hogy egy teljes dokumentumtár egyszerre kerül a válasz bemenetébe. A releváns részek kiválasztása ezért lényegi feladat, és a kiválasztás hibája fontos adatot hagyhat ki.
Példa: egy szerviz belső tudástára
Egy képzeletbeli szerviz több géptípus karbantartási leírását kezeli. Az ügyintéző egy konkrét modell szűrőcseréjéről kérdez. A visszakeresésnek a megfelelő modell és dokumentumverzió leírását kell megtalálnia, majd a válasznak abból kell megfogalmaznia a vonatkozó tudnivalót.
Ha egy hasonló nevű, de eltérő gép dokumentuma kerül elő, a válasz hibás lehet akkor is, ha pontosan összefoglalja a megtalált szöveget. Ha a megfelelő dokumentum hiányzik, azt jelezni kell, nem más termékből találgatni. A példa kizárólag a működési mintát szemlélteti; nem tényleges karbantartási útmutató.
A dokumentumok egyértelmű azonosítása, verziózása és rendezése ezért közvetlenül befolyásolja a használhatóságot. A RAG nem szünteti meg az alapanyag minőségének jelentőségét.
Mi a kapcsolata a groundinggal?
A forrásalapú megalapozás azt a célt írja le, hogy a válasz ellenőrizhető adatokhoz kapcsolódjon. A RAG ennek egyik lehetséges megvalósítása. Egy forrásra mutató link vagy egy bemásolt rövid dokumentum használata önmagában még nem írja le ugyanazt a visszakeresési rendszert.
Az AI-keresés pedig felhasználói információkeresési folyamat lehet, amely több technikát kombinál. A kifejezések akkor segítenek, ha külön kezeljük a felhasználó célját, a forrásokhoz kötés elvét és a mögöttes megvalósítási mintát.
Milyen hibákat kell ellenőrizni?
Vizsgáld meg a találat relevanciáját, a dokumentum aktualitását és a végső állítás forráshűségét. A válasz tartalmazhat AI-hallucinációt, például ha a hiányzó részletet kitalálja, vagy egy feltételes mondatból biztos vállalást készít. A visszakeresés jelenléte nem teszi ezt lehetetlenné.
Értékeléshez használj olyan kérdéseket is, amelyekre nincs válasz a forrásokban, illetve amelyeknél több hasonló dokumentum közül kell választani. A jó működés része a hiány felismerése és a megfelelő korlát jelzése. Nem csak azt kell vizsgálni, milyen szép a válasz, amikor minden szükséges adat könnyen megtalálható.
A visszakeresett anyag promptinjekciót is tartalmazhat: olyan szöveget, amely bizonyíték szolgáltatása helyett megpróbálja eltéríteni az asszisztens feladatát. Egy relevánsnak látszó dokumentum nem válik automatikusan jogosult utasításforrássá. Vizsgáld meg, hogy az alkalmazás elkülöníti-e a visszakeresett szöveget a feladatot meghatározó utasításoktól, és korlátozza-e a következményekkel járó műveleteket; a visszakeresés beépítése önmagában nem teremt ilyen védelmet.