Bot na sztywnym scenariuszu czy agent na modelu językowym

Drzewo gotowych odpowiedzi kontra model, który czyta całe zdanie

Bot na scenariuszu działa jak drzewo decyzyjne: rozpoznaje kilka ustalonych fraz albo cyfr z klawiatury i przechodzi do kolejnego kroku. Agent na modelu językowym (LLM) czyta całe zdanie, rozumie kontekst i odpowiada własnymi słowami, opierając się na bazie wiedzy firmy.

Sztywny scenariusz przy kilku prostych sprawach

Scenariusz sprawdza się tam, gdzie liczba możliwych pytań jest naprawdę mała i da się ją z góry wypisać na kartce. Status zamówienia po numerze, godziny otwarcia, adres, informacja o awarii w danym rejonie: tu nie trzeba rozumieć niuansów, wystarczy rozpoznać intencję i podać gotową odpowiedź.

Zaletą jest przewidywalność: bot nie powie niczego, czego ktoś wcześniej nie zaakceptował, bo cała treść leży zapisana z góry.

To ważne w sprawach, gdzie pomyłka kosztuje, na przykład przy statusie zamówienia czy prostej infolinii technicznej. Wadą jest kruchość: gdy klient sformułuje pytanie inaczej, niż przewidział projektant, bot się gubi i albo prosi o powtórzenie, albo przełącza do człowieka.

Model językowy, gdy klient dopytuje i zmienia zdanie

Klient zaczyna od umówienia wizyty, w połowie zmienia zdanie i przy okazji pyta o cenę. Takiej rozmowy nie poprowadzi drzewo decyzyjne. Podobnie z reklamacją, przy której trzeba dopytać o szczegóły, i z kwalifikacją leadów, gdzie kolejne pytania zależą od wcześniejszych odpowiedzi: to teren modelu językowego.

Cena tej elastyczności to kontrola. Model może się pomylić albo odpowiedzieć na podstawie czegoś, czego nie ma w bazie wiedzy firmy, i to właśnie jest halucynacja: odpowiedź brzmi wiarygodnie, ale nie ma pokrycia w niczym, co firma napisała. Dobrze zbudowany agent ma więc ograniczenia: mówi wyłącznie na podstawie dostarczonych materiałów, a w niepewnych sprawach przekazuje rozmowę dalej.

Scenariusz na wejściu, model w środku rozmowy

Nie trzeba wybierać jednego z dwóch: część platform wprost pozwala łączyć oba podejścia. Powitanie i rozpoznanie intencji na wejściu bywa oparte na prostych regułach, bo to przyspiesza rozmowę i zmniejsza pole do pomyłki na starcie. Dalsza część, w której trzeba zrozumieć, o co dokładnie chodzi klientowi, przechodzi na model językowy z dostępem do bazy wiedzy i do konkretnych narzędzi, na przykład sprawdzenia terminu w kalendarzu albo statusu zamówienia w systemie sklepu internetowego.

Takie połączenie zmniejsza ryzyko tam, gdzie błąd kosztuje najwięcej, choćby przy zbieraniu danych osobowych, a swobodę zostawia tam, gdzie klienci naprawdę różnie formułują pytania. Technicznie są to narzędzia agenta; im węższy ich zestaw, tym łatwiej przewidzieć skutki pomyłki.

Co się dzieje z kosztami, gdy zakres rośnie

Prosty bot na scenariuszu bywa tańszy na starcie, bo przygotowanie kilku ścieżek dialogowych zajmuje mniej czasu niż zbudowanie i przetestowanie bazy wiedzy dla modelu językowego. Problem pojawia się przy zmianie zakresu: każda nowa sprawa to nowa gałąź drzewa, którą trzeba zaprojektować i przetestować od nowa.

Model językowy wymaga więcej pracy na starcie, ale rozbudowa zakresu zwykle sprowadza się do dopisania informacji do bazy wiedzy, a nie do przebudowy całej logiki. Same koszty uruchomienia i utrzymania wyglądają przy obu typach bota podobnie, więc różnicę robi głównie cena zmian.

Firmie z jedną powtarzalną sprawą wystarczy sztywny scenariusz. Gdy zakres rośnie, utrzymanie scenariusza potrafi zdrożeć szybciej niż model.

Test na dziesięciu rozmowach z twojej infolinii

Wypisz dziesięć najczęstszych rozmów, jakie odbiera twoja infolinia albo recepcja. Jeśli da się je zamknąć w prostych, przewidywalnych ścieżkach bez dopytań, scenariusz wystarczy. Jeśli już przy piątej rozmowie widzisz, że klienci pytają na różne sposoby albo łączą kilka spraw, potrzebujesz modelu językowego.

Policz też, jak często dziś przekazujesz takie rozmowy dalej, bo klient chciał czegoś nietypowego („to przełączę pana do kolegi”). Sztywny scenariusz odeśle do człowieka każdą taką rozmowę, więc im częściej się to zdarza, tym mniej odciąży telefon.