Słownikretrieval augmented generation
Co to jest RAG w asystencie głosowym
RAG (retrieval augmented generation, generowanie wspomagane wyszukiwaniem) to sposób pracy agenta, w którym model językowy przed odpowiedzią wyszukuje pasujący fragment dokumentów firmy, zamiast opierać się wyłącznie na tym, czego nauczył się podczas treningu. Dzięki RAG agent podaje aktualną cenę usługi albo godziny otwarcia zgodnie z cennikiem, który firma naprawdę ma, a nie z tym, co model uznał za prawdopodobne.
Model nie zna twojego cennika
Model językowy nie wie nic o twojej firmie: nie zna jej cennika, adresu ani zasad odwoływania wizyt, chyba że ktoś mu to poda. Bez RAG agent musiałby albo mieć wszystko wpisane w jedną, ogromną instrukcję, albo zgadywać, a zgadywanie w rozmowie z klientem kończy się halucynacją, czyli zmyśloną odpowiedzią brzmiącą przekonująco.
Dokumenty firmy, choćby cennik czy regulamin, dzieli się na fragmenty i przeszukuje na bieżąco. Gdy klient zapyta o cenę albo warunki, system znajduje właściwy fragment i dopiero na jego podstawie model układa odpowiedź. Skoro odpowiedź powstaje z tych fragmentów, zacznij od przygotowania bazy wiedzy: nieaktualny cennik w dokumentach agent powtórzy równie przekonująco jak aktualny.
Pytanie o dyżur, na które odpowiada harmonogram
Apteka Zdrowie, dzień dobry, tu asystent AI.
Dzwonię zapytać, czy macie dziś dyżur do dwudziestej drugiej.
Sprawdzam harmonogram dyżurów. Dziś apteka ma dyżur do 22:00, tak jak pan pyta.
Odpowiedź pochodzi z harmonogramu dyżurów tej apteki, nie z pamięci modelu.
Gdyby dyżury zmieniły się tydzień wcześniej, odpowiedź i tak byłaby zgodna z nowym stanem, o ile apteka wgrała nowy harmonogram do bazy wiedzy. RAG czyta bieżącą treść dokumentów.
Co RAG poprawia, a czego nie naprawi
RAG wyraźnie ogranicza zmyślanie, ale go nie eliminuje.
Jeśli w dokumentach firmy czegoś brakuje, na przykład ceny nowej usługi albo zmienionych godzin, model może spróbować odpowiedzieć z domysłu, chyba że instrukcja każe mu w takiej sytuacji powiedzieć „nie wiem” i przekazać sprawę dalej. Bez tej reguły brak w bazie kończy się pewnym siebie zgadywaniem: klient usłyszy cenę, której nikt w firmie nie ustalił, i uzna ją za obowiązującą. Przed takimi wpadkami chroni kontrola odpowiedzi, czyli reguły w instrukcji i regularne testy.
Posłuchaj, jak to brzmi w praktyce
Pięciu asystentów demo rozmawia po polsku w przeglądarce, bez instalowania czegokolwiek. Dane w rozmowach są przykładowe, ale sposób prowadzenia rozmowy jest taki sam jak w prawdziwym wdrożeniu.