Co to jest function calling w asystencie głosowym

Model wybiera narzędzie sam

Dostawca agenta opisuje modelowi dostępne narzędzia: co robią i jakich danych wejściowych wymagają. Gdy w rozmowie pojawia się pytanie, na które model nie zna odpowiedzi z góry, choćby o wolny termin, sam decyduje, żeby wywołać właściwe narzędzie, poczekać na wynik i dopiero na jego podstawie odpowiedzieć klientowi.

Dzwoniący tego nie widzi, słyszy najwyżej krótką przerwę w odpowiedzi.

Bez function calling model mógłby tylko zgadywać albo odpowiadać ogólnikami, co szybko prowadzi do halucynacji. Z nim agent sprawdza, co dzieje się w systemach firmy, zamiast to zakładać. Od tego, jakie narzędzia agenta dostanie i z jakimi uprawnieniami, zależy, ile zrobi naprawdę.

Agent sprawdza w systemie, czy mieszkanie jest wolne

Zanim odpowiedział, agent wywołał narzędzie i sprawdził aktualny status oferty.

Agent widzi tylko to, co biuro wpisało do systemu: mieszkanie sprzedane godzinę temu, ale nieoznaczone jako sprzedane, dalej figurowałoby jako wolne.

Granice, które trzeba ustawić ręcznie

Narzędzia pozwalają agentowi coś realnie zmienić, więc trzeba jasno ograniczyć, do czego ma dostęp: może sprawdzać terminy, ale nie zmieniać cen, może zapisać zgłoszenie, ale nie kasować danych klienta bez potwierdzenia. Te granice ustawia się na poziomie uprawnień narzędzia, osobno od instrukcji rozmowy, bo instrukcję model potrafi źle zinterpretować, a uprawnienia nie. To jedno z ważniejszych zabezpieczeń agenta, więc zanim wybierzesz ofertę, zapytaj dostawcę, co agent może tylko odczytać, a co zmienić.