Słownikduży model językowy
Co to jest LLM w asystencie głosowym
LLM (large language model, duży model językowy) to program, który w voicebocie odpowiada za rozumienie wypowiedzi klienta i układanie odpowiedzi. Dostaje tekst od rozpoznawania mowy, łączy go z instrukcją firmy i dotychczasową rozmową, a potem albo odpowiada, albo sięga po narzędzie, na przykład sprawdza wolny termin w kalendarzu.
Instrukcja waży więcej niż nazwa modelu
Model nie zna twojej firmy sam z siebie.
O cenniku, godzinach czy zasadach rezerwacji dowiaduje się z instrukcji i bazy wiedzy, które przygotowuje firma albo dostawca. To, czego nauczył się podczas treningu, bywa ogólne i nieaktualne, więc o jakości rozmowy decyduje głównie instrukcja. Model nie słyszy głosu klienta ani sam nie mówi: przetwarza tekst. Przed nim stoi rozpoznawanie mowy, a za nim synteza mowy, która czyta jego odpowiedź na głos. Wszystkie trzy elementy składają się na to, jak działa asystent głosowy.
Mały czy duży model do rozmowy telefonicznej
Salon kosmetyczny Bella, dzień dobry, tu asystent AI.
Chciałabym umówić manicure hybrydowy na przyszły tydzień.
Mam wolne terminy we wtorek o 12:00 i w piątek o 16:30. Który wybrać?
Do prostych spraw, jak zapisy czy godziny otwarcia, zwykle wystarcza mniejszy i szybszy model, bo w telefonie liczy się każda sekunda ciszy.
Większy model przydaje się tam, gdzie klient opowiada zawiłą historię, na przykład przy reklamacji, ale odpowiada wolniej; szerzej o modelach językowych w rozmowie piszemy osobno.
Najczęstsze pytania
Czy LLM w voicebocie uczy się na rozmowach z klientami?
Zwykle nie samo z siebie. Agent nie zmienia się po każdej rozmowie, poprawki wprowadza człowiek, który zmienia instrukcję albo bazę wiedzy. Osobną sprawą jest to, czy dostawca modelu wykorzystuje dane z rozmów do trenowania. Sprawdź to w umowie.
Posłuchaj, jak to brzmi w praktyce
Pięciu asystentów demo rozmawia po polsku w przeglądarce, bez instalowania czegokolwiek. Dane w rozmowach są przykładowe, ale sposób prowadzenia rozmowy jest taki sam jak w prawdziwym wdrożeniu.