Baza wiedzy, z której asystent głosowy bierze ceny i godziny otwarcia

Kiedy wystarczy instrukcja, a kiedy potrzebny jest RAG

Jeśli cała wiedza o firmie mieści się na kilku stronach, na przykład godziny, cennik na dwadzieścia pozycji, trzydzieści częstych pytań i zasady rezerwacji, najprościej wpisać ją wprost do instrukcji agenta. Model widzi wtedy wszystko przy każdej odpowiedzi i nic mu nie umknie. Minusem jest długość, bo dłuższa instrukcja to więcej tokenów, a więc wolniejsza i droższa odpowiedź, zwłaszcza przy większym modelu językowym.

RAG ma sens, gdy dokumentów są dziesiątki albo setki stron: regulaminy, katalog produktów, procedury serwisowe, opisy usług. Działa w trzech krokach.

1. Dokumenty dzieli się na krótkie fragmenty, zwykle po kilka zdań.
2. Gdy klient o coś pyta, system szuka fragmentów najbliższych znaczeniem, a nie tylko tych z tymi samymi słowami.
3. Kilka najlepiej pasujących fragmentów trafia do modelu razem z pytaniem, a model układa z nich odpowiedź.

Wyszukiwanie przez telefon: czas, potoczne słowa i długość fragmentów

Wyszukiwanie trwa zwykle od kilkudziesięciu do kilkuset milisekund i wlicza się w opóźnienie odpowiedzi.

Ważniejsze jest co innego. Klienci mówią swoimi słowami: pytają o „przegląd”, choć w dokumencie stoi „badanie techniczne pojazdu”, albo o „zapisy do lekarza”, gdy plik nazywa to „rejestracją”. Jeśli dokument nie zawiera tych potocznych słów, wyszukiwarka może trafić obok. A błędy rozpoznawania mowy idą dalej: gdy system usłyszy „EKG” zamiast „USG”, poda cenę innego badania.

Osobny kłopot to długość. Fragment regulaminu potrafi mieć pół strony, a klient potrzebuje jednego zdania. Instrukcja musi kazać agentowi streszczać, a dokumenty lepiej od razu pisać krótko.

Dokumenty pisane pod ucho: cennik przed i po

Dokument dla agenta pisze się inaczej niż cennik do druku. Widać to na cenniku wulkanizacji przed sezonem opon:

Z takich przeróbek wynika kilka zasad. Jeden temat mieści się w jednym fragmencie, najlepiej w układzie pytanie i odpowiedź. Zamiast skrótów i odsyłaczy w rodzaju „patrz punkt 4.2” piszesz pełne zdania, które da się powiedzieć na głos. Obok nazw fachowych dopisujesz słowa, których używają klienci, a przy każdej informacji datę, od której obowiązuje, i osobę, która za nią odpowiada. Dokument mówi też, co agent ma zrobić, gdy odpowiedzi nie ma. Cały proces, od zebrania plików po pierwsze testy, opisujemy w poradniku jak przygotować bazę wiedzy.

Ceny i godziny się zmieniają, baza wiedzy musi nadążyć

Po starcie obok zmyśleń pojawia się drugi kłopot: informacje po prostu nieaktualne. Nowy cennik trafił na stronę, a do agenta nie. Stary plik z godzinami został obok nowego i agent raz cytuje jeden, raz drugi.

Trzymaj jedną wersję każdej informacji i usuwaj stare pliki, zamiast dokładać nowe. Wyznacz osobę, która odpowiada za bazę wiedzy, i daj jej kalendarz zmian: Wszystkich Świętych i 11 listopada, okres świąteczny z Wigilią, majówka, a w handlu niedziele handlowe. W wulkanizacji dochodzi sezon opon, w biurze rachunkowym okres rozliczeń PIT.

Przegląd bazy wiedzy przypnij do tego samego rytmu co składki ZUS, czyli raz w miesiącu, bez wyjątków. Po każdej zmianie wystarczą trzy telefony testowe, żeby sprawdzić, czy agent podaje nowe ceny. Takie przeglądy składają się na utrzymanie agenta po starcie.

Czego do bazy wiedzy nie wkładać

Zasada jest prosta: wszystko, co trafi do bazy wiedzy, agent może powiedzieć każdemu, kto zadzwoni. Dlatego nie ma tam miejsca na dane osobowe, na przykład listy pacjentów czy dłużników, ani na notatki wewnętrzne w rodzaju „klient uciążliwy, nie dawać rabatu”. Poza bazą zostają też ceny zakupu, marże, hasła i kody do drzwi.

Wolne terminy czy stany magazynowe zmieniają się co godzinę, więc też nie należą do bazy wiedzy. Agent pobiera je na bieżąco przez integracje z systemami firmy, a dane konkretnego klienta podaje dopiero po sprawdzeniu, z kim rozmawia.

Kilka telefonów, po których wiesz, czy agent zgaduje

Wystarczy kilka telefonów i jedna prośba do dostawcy.

• Zapytaj o coś, co jest tylko w bazie wiedzy, na przykład o cenę rzadkiej usługi.
• Zadaj to samo pytanie innymi słowami, potocznie i z przekręconą nazwą.
• Wybierz pytanie, na które w bazie nie ma odpowiedzi. Agent powinien przyznać, że nie wie, zamiast zmyślać odpowiedź.
• Zmień cenę w bazie i zadzwoń jeszcze raz.
• Poproś dostawcę o podgląd, z których fragmentów agent skorzystał w danej odpowiedzi.

Agenci w wersji demo rozmawiają na przykładowych danych, więc możesz sprawdzić, jak reagują na pytanie spoza nich.