Słownikzmyślona odpowiedź
Co to jest halucynacja w asystencie głosowym
Halucynacja to sytuacja, w której model językowy podaje informację, która brzmi wiarygodnie, ale nie ma pokrycia w żadnym dokumencie firmy ani w faktach z rozmowy. W voicebocie bywa groźniejsza niż w czacie tekstowym, bo klient słyszy odpowiedź na żywo, głosem, i rzadko ma jak ją od razu zweryfikować, zanim się do niej zastosuje.
Skąd się bierze halucynacja
Model językowy przewiduje najbardziej prawdopodobne dalsze słowa zdania, a nie sprawdza faktów w bazie danych, chyba że ktoś wyraźnie da mu do tego narzędzie. Gdy nie ma pod ręką odpowiedzi, bo pytanie dotyczy czegoś spoza bazy wiedzy albo nowej usługi, o której nikt nie napisał w dokumentach, model i tak generuje zdanie, które brzmi jak odpowiedź. To nie awaria, tylko skutek tego, jak działa cały mechanizm: model dokańcza tekst tak, żeby brzmiał sensownie.
RAG ogranicza to ryzyko, bo daje modelowi gotowy fragment tekstu do oparcia odpowiedzi, ale nie usuwa go całkiem: luka w dokumentach firmy i instrukcja bez wskazówki, co wtedy zrobić, wystarczą, żeby model znów zaczął zgadywać.
Przeglądy aut na LPG: agent nie zna odpowiedzi
Warsztat Auto Serwis, dzień dobry, tu asystent AI.
Czy robicie przeglądy aut na LPG?
Nie mam tej informacji w naszych materiałach, więc nie chcę zgadywać. Zapytam mechanika i oddzwonimy jeszcze dziś. Pod jaki numer?
Agent przyznał, że nie wie, i zaproponował oddzwonienie.
Źle skonfigurowany agent odpowiedziałby w tym miejscu „tak, oczywiście”, bo takie zdanie statystycznie pasuje do pytania o usługi warsztatu, choć nikt mu tego nie potwierdził.
Jak firma ogranicza ryzyko halucynacji
Pierwsza reguła: w instrukcji ma stać jasne przyzwolenie na „nie wiem”.
Model bez takiego przyzwolenia częściej próbuje zgadywać, niż przyznać się do braku danych. Uzupełniają ją testy i kontrola odpowiedzi: regularne odsłuchiwanie nagrań i sprawdzanie, czy agent czegoś nie zmyślił, zwłaszcza przy pytaniach spoza typowego zakresu.
Najczęstsze pytania
Czy da się całkiem wyeliminować halucynacje agenta?
Nie da się ich wyeliminować całkiem, ale można wyraźnie ograniczyć: pomaga dobra baza wiedzy, instrukcja z przyzwoleniem na „nie wiem” i regularne testy. Im węższy zakres tematów, o których agent może mówić, tym mniej okazji do zmyślania.
Posłuchaj, jak to brzmi w praktyce
Pięciu asystentów demo rozmawia po polsku w przeglądarce, bez instalowania czegokolwiek. Dane w rozmowach są przykładowe, ale sposób prowadzenia rozmowy jest taki sam jak w prawdziwym wdrożeniu.