Narzędzia agenta, czyli co asystent głosowy potrafi zrobić, a nie tylko powiedzieć

Function calling: jak model sięga do systemów firmy

Model językowy sam z siebie nie ma dostępu do niczego poza tekstem rozmowy i instrukcją, którą dostał na starcie. Nie zajrzy do systemu magazynowego, nie sprawdzi grafiku, nie wyśle SMS-a. Function calling pozwala mu na to pod kontrolą: dostawca definiuje konkretne funkcje, na przykład sprawdzenie statusu zamówienia, z określonymi parametrami, a model w trakcie rozmowy decyduje, kiedy taką funkcję wywołać i z jakimi danymi.

Sama funkcja działa poza modelem, w systemie firmy albo na serwerze dostawcy. Model dostaje z powrotem tylko wynik, na przykład że zamówienie numer 4521 jest w drodze i dotrze jutro, i na tej podstawie układa zdanie do klienta. Na tej samej zasadzie działają integracja z kalendarzem i integracja z CRM: to po prostu zestawy takich funkcji.

Trzy narzędzia, które wystarczą na początek

Resztę dokłada się później, gdy widać, czego naprawdę brakuje.

Każde brzmi prosto, a każde wymaga osobnej decyzji: co agent może sprawdzić, zapisać i wysłać bez pytania człowieka o zgodę.

Jak zaprojektować narzędzie, żeby nie zrobiło więcej, niż powinno

Dobre narzędzie robi jedną rzecz i robi ją wąsko. Narzędzie do zapisania zgłoszenia awarii powinno przyjmować adres, opis usterki i dane zgłaszającego, a nie mieć przy okazji możliwości zmiany danych klienta w systemie, bo do tego służy zupełnie inna funkcja, z innymi uprawnieniami. Im szersze narzędzie, tym trudniej przewidzieć, co model zrobi w nietypowej rozmowie.

W serwisie RTV i AGD dobrze zaprojektowane narzędzie do sprawdzania statusu naprawy przyjmuje tylko numer zgłoszenia albo numer telefonu klienta i zwraca sam status, nic więcej. Nie pozwala na przykład zmienić statusu na „naprawa gotowa”, bo to nie jest decyzja, którą ma podejmować rozmowa telefoniczna. Sprawdzaj też parametry funkcji, zanim polecą dalej: numer zgłoszenia, który wygląda jak zdanie, a nie jak ciąg cyfr, powinien zostać odrzucony, zanim trafi do systemu.

Ile agent może zrobić bez pytania człowieka

Nie każde narzędzie powinno działać od razu i bez pytania. Sprawdzenie statusu zamówienia niewiele ryzykuje, więc może działać w pełni samodzielnie. Zapisanie nowego zgłoszenia też zwykle jest bezpieczne, bo najgorsze, co się stanie przy pomyłce, to zbędny wpis do poprawienia. Gorzej, gdy narzędzie potrafi coś odwołać, usunąć albo obiecać w imieniu firmy, na przykład przesunąć termin płatności czy przyznać rabat.

Tę zasadę widać już w podziale pól w CRM, gdzie agent część danych wpisuje sam, a część tylko proponuje do zatwierdzenia. Z narzędziami jest tak samo: im większe skutki błędu, tym więcej kroków pośrednich, czasem razem ze zgodą człowieka, zanim narzędzie faktycznie coś zmieni. Takie ograniczenia nazywają się guardrails, po polsku barierki: trzymają agenta na wyznaczonej drodze.

Zacznij od węższych uprawnień, nawet kosztem tego, że agent będzie czasem mówił, że sprawę musi sprawdzić człowiek. Szeroki dostęp od pierwszego dnia to zły pomysł, bo w pierwszych tygodniach zwykle wychodzą sytuacje, o których nikt nie pomyślał przy projektowaniu.

Pusta odpowiedź z systemu: rozmowa w sklepie z odzieżą sportową

Uczciwa reakcja na pustą odpowiedź z narzędzia to jeden z ważniejszych testów agenta. Tak powinna przebiegać rozmowa w sklepie internetowym z odzieżą sportową, gdy numer zamówienia się nie zgadza.

Agent nie zmyślił statusu, żeby zabrzmieć pomocnie. Powiedział wprost, że nic nie znalazł, i zaproponował sposób na poprawienie danych. Zgadywanie przy braku danych to już problem halucynacji i kontroli odpowiedzi, bo wymyślony status brzmi równie pewnie jak prawdziwy.

Które narzędzia są gotowe, a które trzeba zbudować

Zapytaj dostawcę, co ma gotowe od razu, a co trzeba napisać pod twoją firmę, i kto odpowiada za parametry oraz walidację każdego narzędzia: on, twój dział IT czy ktoś zlecony osobno. Poproś o pokazanie panelu w chwili, gdy narzędzie zwraca błąd albo puste dane. Na etapie testów sprawdź jeszcze, czy narzędzie da się ograniczyć do samego odczytu, bez możliwości zapisu.

Największą uwagę poświęć historii wywołań. Zapisuje ona, co agent zrobił i kiedy, więc najszybciej z niej widać, czy trzyma się swoich uprawnień, czy zaczął korzystać z nich szerzej, niż ktokolwiek planował.