Słownikopóźnienie odpowiedzi
Co to jest latencja w rozmowie z asystentem głosowym
Latencja to czas, jaki mija od momentu, w którym klient skończył mówić, do pierwszego słowa odpowiedzi voicebota. Składa się na nią kilka etapów: czekanie na koniec wypowiedzi, rozpoznawanie mowy, praca modelu językowego, czasem sprawdzenie danych w systemie firmy, i wreszcie synteza mowy. W dobrze zestrojonym systemie cała przerwa trwa zwykle od niecałej sekundy do około dwóch.
Cisza, która brzmi jak awaria
Na czacie tekstowym klient widzi kropki oznaczające, że ktoś pisze, i spokojnie czeka.
Przez telefon nie widzi nic, więc każda dłuższa cisza brzmi jak zerwane połączenie. Kiedy latencja przekracza dwie, trzy sekundy, dzwoniący zaczyna mówić „halo?” albo powtarza pytanie, a agent dostaje wtedy drugą wypowiedź w trakcie układania odpowiedzi na pierwszą.
Centrum Medyczne Rynek, dzień dobry, mówi asystent AI.
Chciałam przełożyć wizytę u doktora Nowaka z czwartku, bo mam wtedy badania.
Widzę wizytę w czwartek o 10:20. Mogę ją przenieść na wtorek na 9:40 albo na środę na 12:15. Który termin wybrać?
Tu cisza po pytaniu obejmuje jeszcze zajrzenie do grafiku lekarza, więc będzie dłuższa niż przy pytaniu o godziny otwarcia.
Na co ucieka najwięcej czasu
Najwięcej czasu zabierają zwykle czekanie na koniec wypowiedzi i praca modelu językowego, który musi przeczytać instrukcję i całą dotychczasową rozmowę. Gdy agent sprawdza coś w systemie firmy, na przykład wolne terminy w kalendarzu, dokłada to kolejne opóźnienie, zależne od tego, jak szybko odpowiada ten system, a nie sam voicebot. Dwie takie same rozmowy mogą więc brzmieć inaczej, zależnie od systemu po drugiej stronie. Pełne rozbicie opóźnienia odpowiedzi na etapy, razem ze sposobami skracania, ma osobną stronę.
Najczęstsze pytania
Ile powinna trwać latencja dobrego voicebota?
Orientacyjnie od niecałej sekundy do około 2 sekund od końca pytania do pierwszego słowa agenta, choć dokładny czas zależy od dostawcy, modelu i tego, czy agent musi coś sprawdzić w systemie firmy. Ważniejsza od samej średniej bywa przewidywalność: agent, który zawsze odpowiada w podobnym tempie, brzmi spokojniej niż taki, który raz reaguje od razu, a raz milczy kilka sekund.
Posłuchaj, jak to brzmi w praktyce
Pięciu asystentów demo rozmawia po polsku w przeglądarce, bez instalowania czegokolwiek. Dane w rozmowach są przykładowe, ale sposób prowadzenia rozmowy jest taki sam jak w prawdziwym wdrożeniu.