Asystenci GłosowiDemo na żywo

TechnologiaJak działa rozmowa

Opóźnienie odpowiedzi asystenta głosowego: skąd cisza i jak ją skrócić

Opóźnienie odpowiedzi to czas od chwili, w której klient skończył mówić, do pierwszego słowa asystenta głosowego (voicebota). Składa się na nie czekanie na koniec wypowiedzi, rozpoznawanie mowy, praca modelu językowego, czasem sprawdzenie danych w systemie firmy, synteza mowy i droga dźwięku przez sieć. W dobrze zestrojonym systemie cała przerwa trwa zwykle od niecałej sekundy do około 2 sekund, zależnie od dostawcy i konfiguracji. Każdy z tych odcinków da się zmierzyć osobno i każdy skraca się inaczej.

Z czego składa się cisza po pytaniu

Milisekunda to tysięczna część sekundy. Kilka odcinków po kilkaset milisekund daje razem przerwę, którą klient wyraźnie słyszy.

OdcinekCo się wtedy dziejeOrientacyjny czas
Czekanie na koniec wypowiedzisystem upewnia się, że klient skończył, a nie tylko nabiera powietrzazwykle 0,3-1 s ciszy, zależnie od ustawień
Rozpoznawanie mowydomknięcie tekstu ostatnich słówod kilkudziesięciu do kilkuset ms
Model językowyprzeczytanie instrukcji i rozmowy, pierwsze słowa odpowiedziod około 0,2 s do ponad 1 s
Narzędziasprawdzenie grafiku, statusu zamówienia albo CRMod kilkudziesięciu ms do kilku sekund
Synteza mowyzamiana pierwszego zdania na dźwiękokoło 0,1-0,5 s
Telefonia i siećdroga dźwięku w obie strony i odległość do serwerówod kilkudziesięciu do kilkuset ms

Orientacyjne rzędy wielkości. Rzeczywiste czasy zależą od dostawcy, modelu, konfiguracji i jakości połączenia.

Tych liczb nie sumuje się wprost, bo w dobrym systemie odcinki na siebie zachodzą. Narzędzia pojawiają się tylko w części wypowiedzi. Kiedy już są, potrafią dołożyć najwięcej.

Ile ciszy klient zniesie, zanim powie „halo?”

Ludzie w rozmowie odpowiadają sobie bardzo szybko, zwykle w ułamku sekundy. Kiedy przerwa po pytaniu przeciąga się do dwóch, trzech sekund, dzwoniący zaczyna podejrzewać, że połączenie się zerwało. Mówi „halo?” albo powtarza pytanie. Agent dostaje wtedy drugą wypowiedź w chwili, gdy kończy układać odpowiedź na pierwszą, i obie strony zaczynają mówić naraz.

Ważniejsza od średniej jest przewidywalność. Agent, który zawsze odzywa się po sekundzie z kawałkiem, brzmi spokojnie i rzeczowo. Taki, który raz odpowiada natychmiast, a raz milknie na cztery sekundy, sprawia wrażenie zepsutego, nawet jeśli średnio jest szybszy.

Jak zmierzyć opóźnienie u siebie

  1. Dzwoń ze zwykłej komórki na numer, który wybierają klienci. Test w przeglądarce na szybkim biurowym łączu wypada zwykle lepiej niż prawdziwe połączenie.
  2. Nagraj 20-30 rozmów w różnych porach, także w godzinach największego ruchu, na przykład o 8:00 w przychodni.
  3. Na nagraniu zmierz odstęp od końca swojego zdania do pierwszego dźwięku agenta. Byle program do edycji dźwięku pokazuje to na wykresie fali.
  4. Osobno notuj wypowiedzi, przy których agent coś sprawdzał w systemie, bo mają inny czas niż zwykła odpowiedź.
  5. Policz medianę, czyli wartość środkową, oraz czas, którego nie przekracza 9 na 10 odpowiedzi. Średnia potrafi ukryć pojedyncze długie przerwy.

Część platform pokazuje czas każdej wypowiedzi w panelu. Porównaj go z własnym pomiarem, bo log nie zawsze obejmuje drogę przez sieć telefoniczną. Wynik przyda się też przy testowaniu asystenta głosowego przed startem.

Gdzie da się odzyskać czas

  • Synteza mowy zaczyna czytać pierwsze zdanie, zanim model napisze następne. Takie strumieniowanie powinno działać na każdym etapie, inaczej dłuższa odpowiedź rusza wyraźnie później.
  • Model czyta instrukcję i fragmenty wiedzy przy każdej wypowiedzi od nowa, więc krótsza instrukcja od razu skraca czekanie. Czasem pomaga też szybszy model językowy.
  • Wszystkie elementy łańcucha powinny działać blisko siebie i blisko rozmówcy. Jeśli część z nich pracuje w Europie, a część za oceanem, każda wymiana dokłada podróż danych przez Atlantyk, rzędu stu milisekund. To także sprawa danych osobowych (o hostingu danych piszemy osobno).
  • Grafik, który odpowiada po trzech sekundach, spowalnia agenta bardziej niż jakikolwiek model, dlatego czas narzędzi agenta trzeba mierzyć osobno. Część danych da się pobrać zawczasu, na przykład rozpoznać stałego klienta po numerze, zanim skończy się powitanie.
  • Zbyt ostrożny próg ciszy wydłuża każdą odpowiedź, a zbyt nerwowy sprawia, że agent wchodzi w słowo. Wartość dobiera się razem z wykrywaniem końca wypowiedzi.

„Chwileczkę, sprawdzam” jako uczciwe wypełnienie ciszy

Czasem przerwy nie da się skrócić, bo system firmy potrzebuje chwili. Wtedy agent może powiedzieć krótkie zdanie, zanim dostanie wynik. To działa, bo jest prawdą: agent naprawdę coś sprawdza.

Asystent AI

Dzień dobry, wulkanizacja Opony Bór, mówi asystent AI. W czym mogę pomóc?

Dzwoniący

Chciałem się umówić na zmianę opon na zimowe, najlepiej w sobotę.

Asystent AI

Już sprawdzam wolne godziny w sobotę.

Dzwoniący

Mhm.

Asystent AI

W sobotę wolne są 8:30 i 13:00. Który termin wybrać?

Dzwoniący

Ósma trzydzieści.

Asystent AI

Zapisałem zmianę opon w sobotę na 8:30. Czy opony czekają w naszej przechowalni, czy przyjadą z samochodem?

Przykład. Wulkanizacja i godziny są zmyślone.

W sezonie opon, kiedy do wulkanizacji dzwonią wszyscy naraz, system rezerwacji też potrafi zwolnić, więc takie zdanie ratuje sytuację.

Gorzej, kiedy wypełniacz staje się tikiem. Agent, który przed każdą odpowiedzią mówi „chwileczkę”, choć niczego nie sprawdza, irytuje już przy trzeciej wymianie. Ta sama pułapka czeka przy sztucznym „yyy” i odgłosie stukania w klawiaturę, które da się włączyć w niektórych systemach. Klient szybko wyczuwa teatr.

Zanim uwierzysz w liczbę z prezentacji dostawcy

Zapytaj, ile wynosi czas do pierwszego słowa agenta w medianie i w najwolniejszych rozmowach na zwykłych połączeniach telefonicznych. Ustal, gdzie fizycznie działają poszczególne elementy i czy wszystkie w tym samym regionie, czy każdy etap pracuje strumieniowo i czy w panelu widać czas każdej wypowiedzi. Dopytaj też o awarie: co agent mówi, gdy integracja milczy przez kilka sekund, i po jakim czasie przestaje czekać? Resztę pytań do dostawcy, niezwiązanych z czasem, zebraliśmy w poradniku jak wybrać dostawcę.

Jeśli dostawca podaje jedną liczbę z pokazu, poproś o nagrania z prawdziwego ruchu, najlepiej z godzin szczytu.

Najczęstsze pytania

Ile trwa odpowiedź voicebota?

Zwykle od niecałej sekundy do około 2 sekund od końca pytania do pierwszego słowa agenta, jeśli system jest dobrze ustawiony. Gdy agent sprawdza coś w systemie firmy, na przykład grafik, może to potrwać dłużej. Dokładne wartości trzeba zmierzyć na własnych połączeniach.

Dlaczego asystent głosowy odpowiada z opóźnieniem?

Bo każda odpowiedź przechodzi przez kilka etapów: system czeka, aż klient skończy, zamienia mowę na tekst, model układa odpowiedź, a synteza zamienia ją w głos. Najwięcej czasu zabierają zwykle czekanie na koniec wypowiedzi i praca modelu, a przy sprawdzaniu danych także integracje z systemami firmy.

Czy opóźnienie zależy od internetu dzwoniącego?

Przy zwykłym połączeniu telefonicznym zwykle nie, liczy się zasięg i droga połączenia przez sieć operatora. Przy rozmowie w przeglądarce, jak w demo na stronie głównej, słabe łącze klienta może dołożyć opóźnienie i przerywać dźwięk.

Czy szybszy model zawsze oznacza lepszą rozmowę?

Nie. Jeśli szybszy model częściej źle rozumie klienta, ten musi powtarzać, a jedno powtórzenie zjada cały zaoszczędzony czas. Wybieraj model, który jest dość szybki i w twoich sprawach rzadko się myli.

Przeczytaj też

SłownikLatencjaCzas od końca pytania klienta do pierwszego słowa odpowiedzi agenta. Im krótszy, tym rozmowa brzmi naturalniej.TechnologiaJak działa asystent głosowy: droga zdania od słuchawki do odpowiedziDroga głosu od telefonu do odpowiedzi: rozpoznawanie mowy, model językowy, narzędzia, synteza mowy i czas każdego kroku.TechnologiaTelefonia SIP, czyli jak numer firmy trafia do asystenta głosowegoJak numer stacjonarny albo komórkowy trafia do voicebota: SIP trunk, centrala PBX, przeniesienie numeru i kodeki, które wpływają na jakość.TechnologiaPrzerywanie wypowiedzi, czyli co robi asystent głosowy, gdy klient wchodzi mu w słowoBarge-in, czyli klient wchodzi agentowi w słowo: jak system to wykrywa, fałszywe przerwania przez kaszel i hałas, polskie „mhm”.PoradnikiPilotaż asystenta głosowego, czyli jak sprawdzić agenta na żywym ruchu bez ryzyka dla całej firmyJak wybrać fragment ruchu na start, co mierzyć co tydzień przez 30 dni i jakie kryteria decydują o przejściu na pełną obsługę.TechnologiaJaki model językowy wybrać do asystenta głosowego, gdy liczy się każda sekundaMały czy duży model, polska odmiana, temperatura i koszt tokenów, czyli jak dobrać model językowy do rozmowy przez telefon.

Posłuchaj, jak to brzmi w praktyce

Pięciu asystentów demo rozmawia po polsku w przeglądarce, bez instalowania czegokolwiek. Dane w rozmowach są przykładowe, ale sposób prowadzenia rozmowy jest taki sam jak w prawdziwym wdrożeniu.

Porozmawiaj z demoWdrożenie u siebie: Infinity Tech