TechnologiaJak działa rozmowa
Opóźnienie odpowiedzi asystenta głosowego: skąd cisza i jak ją skrócić
Opóźnienie odpowiedzi to czas od chwili, w której klient skończył mówić, do pierwszego słowa asystenta głosowego (voicebota). Składa się na nie czekanie na koniec wypowiedzi, rozpoznawanie mowy, praca modelu językowego, czasem sprawdzenie danych w systemie firmy, synteza mowy i droga dźwięku przez sieć. W dobrze zestrojonym systemie cała przerwa trwa zwykle od niecałej sekundy do około 2 sekund, zależnie od dostawcy i konfiguracji. Każdy z tych odcinków da się zmierzyć osobno i każdy skraca się inaczej.
Z czego składa się cisza po pytaniu
Milisekunda to tysięczna część sekundy. Kilka odcinków po kilkaset milisekund daje razem przerwę, którą klient wyraźnie słyszy.
| Odcinek | Co się wtedy dzieje | Orientacyjny czas |
|---|---|---|
| Czekanie na koniec wypowiedzi | system upewnia się, że klient skończył, a nie tylko nabiera powietrza | zwykle 0,3-1 s ciszy, zależnie od ustawień |
| Rozpoznawanie mowy | domknięcie tekstu ostatnich słów | od kilkudziesięciu do kilkuset ms |
| Model językowy | przeczytanie instrukcji i rozmowy, pierwsze słowa odpowiedzi | od około 0,2 s do ponad 1 s |
| Narzędzia | sprawdzenie grafiku, statusu zamówienia albo CRM | od kilkudziesięciu ms do kilku sekund |
| Synteza mowy | zamiana pierwszego zdania na dźwięk | około 0,1-0,5 s |
| Telefonia i sieć | droga dźwięku w obie strony i odległość do serwerów | od kilkudziesięciu do kilkuset ms |
Orientacyjne rzędy wielkości. Rzeczywiste czasy zależą od dostawcy, modelu, konfiguracji i jakości połączenia.
Tych liczb nie sumuje się wprost, bo w dobrym systemie odcinki na siebie zachodzą. Narzędzia pojawiają się tylko w części wypowiedzi. Kiedy już są, potrafią dołożyć najwięcej.
Ile ciszy klient zniesie, zanim powie „halo?”
Ludzie w rozmowie odpowiadają sobie bardzo szybko, zwykle w ułamku sekundy. Kiedy przerwa po pytaniu przeciąga się do dwóch, trzech sekund, dzwoniący zaczyna podejrzewać, że połączenie się zerwało. Mówi „halo?” albo powtarza pytanie. Agent dostaje wtedy drugą wypowiedź w chwili, gdy kończy układać odpowiedź na pierwszą, i obie strony zaczynają mówić naraz.
Ważniejsza od średniej jest przewidywalność. Agent, który zawsze odzywa się po sekundzie z kawałkiem, brzmi spokojnie i rzeczowo. Taki, który raz odpowiada natychmiast, a raz milknie na cztery sekundy, sprawia wrażenie zepsutego, nawet jeśli średnio jest szybszy.
Jak zmierzyć opóźnienie u siebie
- Dzwoń ze zwykłej komórki na numer, który wybierają klienci. Test w przeglądarce na szybkim biurowym łączu wypada zwykle lepiej niż prawdziwe połączenie.
- Nagraj 20-30 rozmów w różnych porach, także w godzinach największego ruchu, na przykład o 8:00 w przychodni.
- Na nagraniu zmierz odstęp od końca swojego zdania do pierwszego dźwięku agenta. Byle program do edycji dźwięku pokazuje to na wykresie fali.
- Osobno notuj wypowiedzi, przy których agent coś sprawdzał w systemie, bo mają inny czas niż zwykła odpowiedź.
- Policz medianę, czyli wartość środkową, oraz czas, którego nie przekracza 9 na 10 odpowiedzi. Średnia potrafi ukryć pojedyncze długie przerwy.
Część platform pokazuje czas każdej wypowiedzi w panelu. Porównaj go z własnym pomiarem, bo log nie zawsze obejmuje drogę przez sieć telefoniczną. Wynik przyda się też przy testowaniu asystenta głosowego przed startem.
Gdzie da się odzyskać czas
- Synteza mowy zaczyna czytać pierwsze zdanie, zanim model napisze następne. Takie strumieniowanie powinno działać na każdym etapie, inaczej dłuższa odpowiedź rusza wyraźnie później.
- Model czyta instrukcję i fragmenty wiedzy przy każdej wypowiedzi od nowa, więc krótsza instrukcja od razu skraca czekanie. Czasem pomaga też szybszy model językowy.
- Wszystkie elementy łańcucha powinny działać blisko siebie i blisko rozmówcy. Jeśli część z nich pracuje w Europie, a część za oceanem, każda wymiana dokłada podróż danych przez Atlantyk, rzędu stu milisekund. To także sprawa danych osobowych (o hostingu danych piszemy osobno).
- Grafik, który odpowiada po trzech sekundach, spowalnia agenta bardziej niż jakikolwiek model, dlatego czas narzędzi agenta trzeba mierzyć osobno. Część danych da się pobrać zawczasu, na przykład rozpoznać stałego klienta po numerze, zanim skończy się powitanie.
- Zbyt ostrożny próg ciszy wydłuża każdą odpowiedź, a zbyt nerwowy sprawia, że agent wchodzi w słowo. Wartość dobiera się razem z wykrywaniem końca wypowiedzi.
„Chwileczkę, sprawdzam” jako uczciwe wypełnienie ciszy
Czasem przerwy nie da się skrócić, bo system firmy potrzebuje chwili. Wtedy agent może powiedzieć krótkie zdanie, zanim dostanie wynik. To działa, bo jest prawdą: agent naprawdę coś sprawdza.
Dzień dobry, wulkanizacja Opony Bór, mówi asystent AI. W czym mogę pomóc?
Chciałem się umówić na zmianę opon na zimowe, najlepiej w sobotę.
Już sprawdzam wolne godziny w sobotę.
Mhm.
W sobotę wolne są 8:30 i 13:00. Który termin wybrać?
Ósma trzydzieści.
Zapisałem zmianę opon w sobotę na 8:30. Czy opony czekają w naszej przechowalni, czy przyjadą z samochodem?
W sezonie opon, kiedy do wulkanizacji dzwonią wszyscy naraz, system rezerwacji też potrafi zwolnić, więc takie zdanie ratuje sytuację.
Gorzej, kiedy wypełniacz staje się tikiem. Agent, który przed każdą odpowiedzią mówi „chwileczkę”, choć niczego nie sprawdza, irytuje już przy trzeciej wymianie. Ta sama pułapka czeka przy sztucznym „yyy” i odgłosie stukania w klawiaturę, które da się włączyć w niektórych systemach. Klient szybko wyczuwa teatr.
Zanim uwierzysz w liczbę z prezentacji dostawcy
Zapytaj, ile wynosi czas do pierwszego słowa agenta w medianie i w najwolniejszych rozmowach na zwykłych połączeniach telefonicznych. Ustal, gdzie fizycznie działają poszczególne elementy i czy wszystkie w tym samym regionie, czy każdy etap pracuje strumieniowo i czy w panelu widać czas każdej wypowiedzi. Dopytaj też o awarie: co agent mówi, gdy integracja milczy przez kilka sekund, i po jakim czasie przestaje czekać? Resztę pytań do dostawcy, niezwiązanych z czasem, zebraliśmy w poradniku jak wybrać dostawcę.
Jeśli dostawca podaje jedną liczbę z pokazu, poproś o nagrania z prawdziwego ruchu, najlepiej z godzin szczytu.
Najczęstsze pytania
Ile trwa odpowiedź voicebota?
Zwykle od niecałej sekundy do około 2 sekund od końca pytania do pierwszego słowa agenta, jeśli system jest dobrze ustawiony. Gdy agent sprawdza coś w systemie firmy, na przykład grafik, może to potrwać dłużej. Dokładne wartości trzeba zmierzyć na własnych połączeniach.
Dlaczego asystent głosowy odpowiada z opóźnieniem?
Bo każda odpowiedź przechodzi przez kilka etapów: system czeka, aż klient skończy, zamienia mowę na tekst, model układa odpowiedź, a synteza zamienia ją w głos. Najwięcej czasu zabierają zwykle czekanie na koniec wypowiedzi i praca modelu, a przy sprawdzaniu danych także integracje z systemami firmy.
Czy opóźnienie zależy od internetu dzwoniącego?
Przy zwykłym połączeniu telefonicznym zwykle nie, liczy się zasięg i droga połączenia przez sieć operatora. Przy rozmowie w przeglądarce, jak w demo na stronie głównej, słabe łącze klienta może dołożyć opóźnienie i przerywać dźwięk.
Czy szybszy model zawsze oznacza lepszą rozmowę?
Nie. Jeśli szybszy model częściej źle rozumie klienta, ten musi powtarzać, a jedno powtórzenie zjada cały zaoszczędzony czas. Wybieraj model, który jest dość szybki i w twoich sprawach rzadko się myli.
Posłuchaj, jak to brzmi w praktyce
Pięciu asystentów demo rozmawia po polsku w przeglądarce, bez instalowania czegokolwiek. Dane w rozmowach są przykładowe, ale sposób prowadzenia rozmowy jest taki sam jak w prawdziwym wdrożeniu.