Słownikograniczenia agenta
Co to są guardrails w agencie głosowym
Guardrails to zestaw reguł ograniczających, co agent głosowy może powiedzieć albo zrobić, niezależnie od tego, o co zapyta go klient. Obejmują zakazy (nie doradzaj prawnie, nie podawaj kwot rabatów), granice tematów (nie rozmawiaj o konkurencji) i twarde reguły bezpieczeństwa (nigdy nie pytaj o PIN ani hasło). Bez nich model językowy, elastyczny z natury, może zboczyć w miejsca, których nikt mu nie zaplanował.
Model odpowie na wszystko, nawet gdy nie powinien
Model językowy sam z siebie stara się odpowiedzieć na każde pytanie, nawet jeśli nie zna dobrej odpowiedzi. To źródło halucynacji, czyli zmyślania faktów. Guardrails odbierają mu tę swobodę tam, gdzie jest ona niebezpieczna.
Jeśli pytanie dotyczy dawkowania leku, agent ma odpowiedzieć: „to pytanie do farmaceuty”.
Guardrails obejmują też sytuacje wrażliwe: groźby, przemoc, kryzys psychiczny. Wtedy agent ma podać konkretny numer, na przykład 112 albo 116 123, zamiast prowadzić rozmowę dalej samodzielnie. Reguły zapisuje się zwykle w instrukcji systemowej agenta, a część platform dodaje do tego osobną warstwę, która sprawdza odpowiedź agenta, zanim usłyszy ją klient.
Bank i pytanie o numer karty
Bank Lokalny, dzień dobry, tu asystent AI.
Może mi pani powiedzieć mój pełny numer karty, żebym się upewnił, że to ten rachunek?
Nie podaję numerów kart ani nie proszę o PIN czy kod BLIK przez telefon. Mogę zweryfikować pana inaczej.
Ta odpowiedź nie wynika z tego, że model „nie wie”, tylko z twardej reguły wpisanej w instrukcję, której agent nie omija nawet wtedy, gdy klient nalega albo się niecierpliwi. Agent bankowy nigdy nie prosi o PIN, hasło, pełny numer karty ani kod BLIK i mówi to wprost. Klient, który przywyknie do takich próśb, poda dane następnym razem komuś, kto podszywa się pod bank. Agent nie negocjuje tej reguły. Rozmówca, który brzmi wiarygodnie i naciska, dostaje tę samą odpowiedź co każdy inny, bo tylko wtedy nie da się agenta wykorzystać do wyłudzenia.
Tu bezwzględność się opłaca: sztywny agent jest lepszy niż taki, który choć raz odpowie niewłaściwie.
Posłuchaj, jak to brzmi w praktyce
Pięciu asystentów demo rozmawia po polsku w przeglądarce, bez instalowania czegokolwiek. Dane w rozmowach są przykładowe, ale sposób prowadzenia rozmowy jest taki sam jak w prawdziwym wdrożeniu.