Hoe werkt een voicebot?

Achter een voicebot zit geen enkel slim programma, maar een keten van onderdelen die elk een stukje van het gesprek doen. Wie die keten begrijpt, snapt ook waarom een voicebot soms traag reageert, iemand onderbreekt of een straatnaam verkeerd verstaat.

De bouwstenen van een voicebot

Een voicebot bestaat uit zes onderdelen. Niet elk platform toont ze apart, maar ze zitten er altijd in.

SIP (Session Initiation Protocol) is de standaard waarmee internettelefonie gesprekken opzet. Voor jou betekent het vooral: je kan je bestaande nummer houden en oproepen doorschakelen naar de voicebot. Function calling is wat van een praatprogramma een medewerker maakt. Het taalmodel beslist zelf dat het de agenda moet raadplegen, de software voert die opdracht uit en geeft het resultaat terug.^[1] Hoe je die koppelingen veilig opzet, lees je in een voicebot koppelen.

Wat er gebeurt tijdens één beurt

Neem een tandartspraktijk in Leuven. Een patiënt belt en zegt: "Ik wil graag een afspraak voor volgende week, liefst 's ochtends."

1. Binnenkomen. De oproep komt via de telefoonlijn binnen. De audio wordt live doorgestuurd naar de spraakherkenning.
2. Luisteren. De STT zet de zin om in tekst, woord per woord, terwijl de patiënt nog praat.
3. Einde inschatten. Het systeem beslist dat de patiënt uitgesproken is (eindebeurtdetectie, zie verder).
4. Denken. Het taalmodel krijgt de tekst, samen met de instructies van de praktijk en het gesprek tot nu toe. Het beslist dat het de agenda moet raadplegen.
5. Handelen. Via function calling vraagt het de vrije ochtendmomenten van volgende week op.
6. Antwoorden. Het taalmodel formuleert een antwoord ("Ik heb dinsdag om 9 uur of donderdag om 10 uur"), de TTS spreekt het uit, terwijl de rest van de zin nog wordt aangemaakt.

Dat hele rondje moet in een fractie van een seconde gebeuren. Elke stap voegt vertraging toe, en die vertragingen tellen op.

Cascade of speech-to-speech?

Er bestaan twee architecturen.^[2]

Ter illustratie van het kostenverschil: Retell rekent in zijn eigen voorbeeld voor een cascade ongeveer $0,11 per minuut, terwijl het voor het speech-to-speech-model GPT Realtime 2 $0,38 per minuut doorrekent, enkel voor dat onderdeel.^[3] Voor een kmo met veel gesprekken is dat een verschil dat je merkt. Meer over kosten in wat kost een voicebot.

Latentie: waarom een halve seconde telt

Mensen wisselen in een gesprek opvallend snel van beurt. Een studie over tien talen, waaronder het Nederlands, mat een gemiddelde vertraging van ongeveer 208 milliseconden tussen een vraag en het antwoord.^[4] Ander onderzoek bevestigt gaten in de orde van 200 ms, met meer dan de helft van de beurtwissels onder die grens. Dat lukt alleen omdat luisteraars het einde van een zin voorspellen en hun antwoord al voorbereiden.^[5]

Voicebots komen daar niet aan:

• Wat platformen claimen. Retell spreekt van een latentie "as low as 600 ms", gemeten van het einde van de spraak van de beller tot het begin van het antwoord.^[6] Deepgram meldt voor zijn model Flux een eindebeurtdetectie van ongeveer 260 ms (mediaan), volgens eigen metingen.^[7] Dat zijn cijfers van de aanbieders zelf.
• Wat onafhankelijke metingen tonen. Onafhankelijke cijfers zijn schaars. Eén vergelijkende test mat bij Retell gemiddeld 714 ms.^[8] Een andere bron citeert productiedata met een mediaan van 1,4 tot 1,7 seconden.^[9] Beide zijn secundaire bronnen; behandel ze als indicatie, niet als harde benchmark.

Wat je daaruit meeneemt: reken in de praktijk op 0,6 tot 1,5 seconden. Een grote taalmodelvariant, een trage koppeling of een premium stem kunnen dat oprekken. Daarom kiezen goede opzetten vaak een kleiner, sneller model voor het gesprek zelf, en laten ze zwaardere taken (zoals een uitgebreide samenvatting) na het gesprek gebeuren.

Eindebeurtdetectie en onderbreken

Twee instellingen bepalen of een gesprek natuurlijk aanvoelt.

Eindebeurtdetectie (endpointing of turn detection) is het inschatten wanneer de beller uitgesproken is. Wacht de bot te kort, dan valt hij iemand in de rede die even nadenkt of een huisnummer opzoekt. Wacht hij te lang, dan ontstaan ongemakkelijke stiltes. Bij Vapi wacht de bot standaard 0,4 seconden; daarnaast bestaan "slimme" detectiemodellen die ook naar de inhoud kijken.^[10] ElevenLabs gebruikt een eigen model voor beurtwisseling.^[1]

Barge-in is het omgekeerde: de beller onderbreekt de bot, en de bot moet dan stoppen met praten. Ook dat vraagt afstemming. Bij Vapi moet de beller standaard 0,2 seconden spreken voor de bot zwijgt, en je kan instellen dat korte reacties als "ja" of "oké" de bot niet onderbreken.^[10] Te gevoelig, en een kuchje of een blaffende hond legt de bot stil. Te ongevoelig, en de beller moet door een uitleg heen praten die hij niet nodig heeft.

Wat er na het gesprek gebeurt

Een groot deel van de waarde komt na het ophangen:

1. Transcript en eventueel opname worden bewaard, volgens wat je vooraf hebt beslist. Over de regels lees je meer in telefoongesprekken opnemen.
2. Samenvatting: wie belde, waarvoor, wat er is afgesproken.
3. Gestructureerde gegevens: naam, telefoonnummer, adres, type vraag, dringendheid.
4. Acties in je systemen: een opportunity in het CRM, een taak voor een collega, een bevestigingsmail of -sms.

Bij Leisure Pools Benelux maakt de AI-receptioniste na elk gesprek een opportunity aan in Odoo, gekoppeld aan de bestaande klantenfiche en toegewezen aan de juiste verkoper, met een opvolgtaak (case Leisure Pools).

Waar het misgaat

De meest voorkomende oorzaken van een slecht gesprek, en bij welke schakel ze horen:

• Spraakherkenning: namen, straatnamen, e-mailadressen en dialect. Zie een meertalige voicebot in België.
• Taalmodel: een antwoord verzinnen dat niet in de kennisbank staat, of te lange antwoorden geven.
• Timing: te trage antwoorden, of de beller onderbreken.
• Koppelingen: een agenda die niet antwoordt of een fout teruggeeft, waarna de bot niet weet wat hij moet zeggen.
• Doorverbinden: geen duidelijke weg naar een mens als de bot vastloopt.

De oplossing is zelden één onderdeel vervangen. Het gaat om testen met echte gesprekken en per schakel bijsturen, zoals beschreven in een voicebot testen en verbeteren.

Veelgestelde vragen

Gebruikt een voicebot ChatGPT?

Vaak een taalmodel van OpenAI, maar niet altijd. De meeste platformen laten je kiezen tussen modellen van verschillende aanbieders, zoals OpenAI, Anthropic of Google. De keuze hangt af van snelheid, kost en hoe goed het model instructies volgt.

Waarom is er een stilte voor een voicebot antwoordt?

Omdat meerdere stappen na elkaar moeten gebeuren: inschatten dat je uitgesproken bent, je zin omzetten in tekst, een antwoord bedenken, soms een systeem raadplegen, en dat antwoord uitspreken. Mensen doen dat in ongeveer 200 ms, voicebots in de praktijk eerder in 0,6 tot 1,5 seconden.

Wat is het verschil tussen cascade en speech-to-speech?

Een cascade gebruikt drie aparte onderdelen: spraakherkenning, een taalmodel en een stem. Speech-to-speech doet alles in één model. Cascade geeft meer controle en is doorgaans goedkoper, speech-to-speech klinkt vaak vlotter.

Kan je een voicebot onderbreken?

Ja, als barge-in aan staat en goed is afgesteld. De bot stopt dan met praten zodra je begint te spreken. Hoe gevoelig dat reageert, is een instelling die je per toepassing test.

Heeft een voicebot toegang tot mijn agenda of CRM?

Alleen als je dat koppelt. Via function calling roept de voicebot tijdens het gesprek een agenda of CRM aan. Geef hem daarbij een eigen gebruiker met enkel de rechten die hij nodig heeft.