Ugrás a tartalomra
searchboar.

AI-keresés és láthatóság

Mi a RAG? Visszakereséssel kiegészített generálás

A RAG, vagyis visszakereséssel kiegészített generálás olyan AI-megoldási minta, amely előbb releváns információt keres egy külső forrásban, majd azt a válasz készítéséhez adja. A forrás lehet dokumentumtár, adatbázis vagy keresési eredmény. A visszakeresés és a generálás külön lépés, és mindkettő minősége számít.

Más elnevezések: retrieval-augmented generation · visszakereséssel kiegészített generálás

Röviden

  • A RAG külső információval egészíti ki az aktuális válasz bemenetét.
  • Nem ugyanaz, mint a modell újratanítása vagy egy teljes keresőtermék.
  • A jó válaszhoz megfelelő találat, helyes értelmezés és ellenőrzés is kell.
Ezen az oldalon
Kérdés alapján kiválasztott forrásrészletek kerülnek a válasz létrehozásához használt bemenetbe.
A RAG visszakeresett anyaggal egészíti ki a generálást; a visszakeresés és a szövegalkotás külön lépés.

Mit jelent a három betű?

A RAG az angol retrieval-augmented generation rövidítése. A megnevezés a folyamat két fő részét kapcsolja össze: információ visszakeresése és válasz generálása. Az AI így a feladat pillanatában kiválasztott külső anyagot is felhasználhat, nem csak a modell tanításakor kialakult mintázatokra támaszkodik.

A Google Cloud áttekintése ezt a kiegészítést dokumentumok és más külső adatok használatával mutatja be. A RAG egy technikai minta, nem önmagában egy márkanév vagy kész felhasználói termék. Két RAG-ot használó alkalmazás forrásai és működése nagyon különbözhetnek.

Hogyan épül fel egy egyszerű folyamat?

Először a rendszer a kérdéshez kapcsolódó információt keresi meg. Ezután a kiválasztott részleteket a nagy nyelvi modell bemenetéhez adja. A modell ezek felhasználásával készíthet választ, amelyhez a termék hivatkozásokat vagy más ellenőrzési lehetőséget is kapcsolhat.

LépésFő kérdés
VisszakeresésMegtalálta a feladathoz szükséges anyagot?
KiválasztásA megfelelő változat és részlet került elő?
GenerálásA válasz helyesen használja az anyagot?
EllenőrzésVisszakövethető az állítás a forráshoz?

Ha az első lépésben rossz dokumentum kerül elő, a gördülékeny végső szöveg sem pótolja a hiányzó bizonyítékot. Ezért a hibát a folyamat megfelelő részén kell keresni.

Miben különbözik a modell tanításától?

A RAG a válasz készítésekor adhat új információt a rendszernek. Ez nem ugyanaz, mint a modell súlyait módosító tanítás. Egy frissített dokumentum elérhetővé válhat a visszakeresés számára anélkül, hogy minden új verzió miatt újra kellene tanítani a nyelvi modellt.

Az aktuálisan átadott anyag a kontextusablak korlátai közé is illeszkedik. Nem biztos, hogy egy teljes dokumentumtár egyszerre kerül a válasz bemenetébe. A releváns részek kiválasztása ezért lényegi feladat, és a kiválasztás hibája fontos adatot hagyhat ki.

Példa: egy szerviz belső tudástára

Egy képzeletbeli szerviz több géptípus karbantartási leírását kezeli. Az ügyintéző egy konkrét modell szűrőcseréjéről kérdez. A visszakeresésnek a megfelelő modell és dokumentumverzió leírását kell megtalálnia, majd a válasznak abból kell megfogalmaznia a vonatkozó tudnivalót.

Ha egy hasonló nevű, de eltérő gép dokumentuma kerül elő, a válasz hibás lehet akkor is, ha pontosan összefoglalja a megtalált szöveget. Ha a megfelelő dokumentum hiányzik, azt jelezni kell, nem más termékből találgatni. A példa kizárólag a működési mintát szemlélteti; nem tényleges karbantartási útmutató.

A dokumentumok egyértelmű azonosítása, verziózása és rendezése ezért közvetlenül befolyásolja a használhatóságot. A RAG nem szünteti meg az alapanyag minőségének jelentőségét.

Mi a kapcsolata a groundinggal?

A forrásalapú megalapozás azt a célt írja le, hogy a válasz ellenőrizhető adatokhoz kapcsolódjon. A RAG ennek egyik lehetséges megvalósítása. Egy forrásra mutató link vagy egy bemásolt rövid dokumentum használata önmagában még nem írja le ugyanazt a visszakeresési rendszert.

Az AI-keresés pedig felhasználói információkeresési folyamat lehet, amely több technikát kombinál. A kifejezések akkor segítenek, ha külön kezeljük a felhasználó célját, a forrásokhoz kötés elvét és a mögöttes megvalósítási mintát.

Milyen hibákat kell ellenőrizni?

Vizsgáld meg a találat relevanciáját, a dokumentum aktualitását és a végső állítás forráshűségét. A válasz tartalmazhat AI-hallucinációt, például ha a hiányzó részletet kitalálja, vagy egy feltételes mondatból biztos vállalást készít. A visszakeresés jelenléte nem teszi ezt lehetetlenné.

Értékeléshez használj olyan kérdéseket is, amelyekre nincs válasz a forrásokban, illetve amelyeknél több hasonló dokumentum közül kell választani. A jó működés része a hiány felismerése és a megfelelő korlát jelzése. Nem csak azt kell vizsgálni, milyen szép a válasz, amikor minden szükséges adat könnyen megtalálható.

A visszakeresett anyag promptinjekciót is tartalmazhat: olyan szöveget, amely bizonyíték szolgáltatása helyett megpróbálja eltéríteni az asszisztens feladatát. Egy relevánsnak látszó dokumentum nem válik automatikusan jogosult utasításforrássá. Vizsgáld meg, hogy az alkalmazás elkülöníti-e a visszakeresett szöveget a feladatot meghatározó utasításoktól, és korlátozza-e a következményekkel járó műveleteket; a visszakeresés beépítése önmagában nem teremt ilyen védelmet.

Források

  1. Google Cloud: retrieval-augmented generation
  2. Google Cloud: forrásalapú megalapozás
  3. Google Cloud: hosszú kontextus és kontextusablak