ThunderPhone aangekondigd

Vandaag kondigen we met trots de publieke lancering aan van ThunderPhone, waarmee je eenvoudig telefoongesprekken kunt automatiseren met AI. Dankzij een volledig andere geïntegreerde architectuur dan andere AI-platforms voor telefonie kan ThunderPhone veel hogere prestaties, lagere kosten en minder integratieproblemen bieden. ThunderPhone ondersteunt inkomende en uitgaande gesprekken in tientallen talen en voldoet aan HIPAA en de AVG.

Het voordeel van integratie

Andere AI-platforms voor telefonie beperken de prestaties van hun systemen door een structuur in drie stappen af te dwingen:

1. Eén transcriptiemodel dat de stem van de gebruiker omzet in tekst.
2. Eén LLM dat de tekst van de gebruiker verwerkt en een antwoord genereert.
3. Eén TTS-model dat de antwoordtekst weer omzet in audio.

De meeste schuiven ook technisch werk af op hun gebruikers door hen te dwingen te kiezen welke modellen ze willen gebruiken, evenals configuratieopties zoals parameters voor ruisonderdrukking en reactievermogen.

Wij hebben een andere aanpak gekozen: we hebben naar onze mening de best mogelijke stack met de modellen van vandaag samengesteld en gebruiksklaar gemaakt zonder complexe configuratie. Ons systeem gebruikt veel modellen tegelijk en routeert daar intelligent tussen, afhankelijk van het verloop van het gesprek. Dit omvat:

• Het combineren van meerdere transcriptiemodellen, waarvan sommige sneller en andere nauwkeuriger zijn, om snelheid en nauwkeurigheid in balans te brengen en elkaars fouten op te vangen.
• Het combineren van LLM's met audio-invoer, die mogelijk minder algemene intelligentie maar een beter begrip van audio hebben, met LLM's die alleen tekst verwerken, die fouten kunnen maken door onnauwkeurige transcripties maar vaak slimmer zijn.
• Het combineren van snelle maar minder slimme LLM's, die snel antwoorden kunnen genereren, met veel slimmere maar tragere LLM's, die op de achtergrond kunnen draaien en ervoor zorgen dat de AI zijn prompt volgt en correct reageert op wat de gebruiker zegt.
• Het combineren van commerciële modellen van toonaangevende aanbieders, waaronder OpenAI en Google, die de hoogste intelligentie bieden die vandaag beschikbaar is, met een breed assortiment opensourcemodellen, die vaak betere snelheid bieden tegen lagere kosten.
• Het gelijktijdig gebruiken van meerdere modellen om achtergrondgeluid, gesprekken op de achtergrond en andere afleidende geluiden te classificeren en te elimineren, die een gesprek anders kunnen ontsporen.

Deze componenten en meer worden op verschillende manieren georkestreerd in onze drie servicepakketten, Spark, Bolt en Storm — waarbij Spark wordt geoptimaliseerd voor kosten, Bolt voor snelheid en Storm voor intelligentie, terwijl de nadelen van elk pakket zoveel mogelijk worden beperkt. Alle drie de systemen bieden voordelen zoals een ongelooflijk nauwkeurig begrip van wat gebruikers zeggen, zelfs bij eigennamen en spelling.

We zien dat deze nauw geïntegreerde architectuur ons systeem veel hogere prestaties tegen lagere kosten biedt dan de rigide aanpak in drie stappen van andere leveranciers. In lijn met de modulariteitstheorie van Clay Christensen staat spraak-AI nog in de kinderschoenen, en is het nog altijd waardevoller om prestaties te maximaliseren met een geïntegreerde architectuur dan om aanpasbaarheid te maximaliseren met een modulaire architectuur.

Geoptimaliseerde keuzes

En wat aanpasbaarheid betreft, zijn we ertegen! De meeste huidige AI-telefoonplatforms dwingen gebruikers om eindeloze keuzes te doorlopen, van de exacte gebruikte modellen tot uiterst gedetailleerde parameters, zoals hoe snel de AI de gebruiker onderbreekt.

Volgens ons is het ONZE taak om deze keuzes achter de schermen te optimaliseren, zodat de gebruikers van ThunderPhone zich kunnen richten op waar ze goed in zijn en zich geen zorgen hoeven te maken over gedetailleerde configuratie van spraak-AI. We zien onszelf als een soort Squarespace, waarmee we het onze gebruikers gemakkelijk maken om telefoonagenten in te stellen met de allerhoogste prestaties die mogelijk zijn met de modellen van vandaag, zonder dat ze daar iets voor hoeven te doen.

Gebruiksgemak

ThunderPhone is ook ongelooflijk eenvoudig te gebruiken, of je nu een nieuwe telefoonagent instelt of overstapt vanaf een ander platform of een eigen stack. Het enige wat je hoeft te doen om een telefoonagent op ThunderPhone in te stellen, is:

1. Beslissen of je Spark, Bolt of Storm wilt gebruiken.
2. Een stem kiezen.
3. Ons je prompt geven. Geen agents met meerdere prompts nodig! Als je prompt te ingewikkeld is voor Spark of Bolt, upgrade dan naar Storm, dat zelfs complexe use cases met één enkele prompt aankan.
4. Software-integraties verbinden (elk endpoint of de native n8n-integratie) met een ongelooflijk eenvoudig te gebruiken wizard.
5. Je VoIP verbinden met een ongelooflijk eenvoudig te gebruiken wizard.

Dit alles duurt doorgaans 10 minuten of minder.

ThunderPhone voldoet aan HIPAA en de AVG, en we ondertekenen en verstrekken op verzoek BAA's en DPA's.

Ons verhaal

We zijn een team van alumni van het Stanford AI Lab en Y Combinator dat sinds 2024 aan spraak-AI werkt. Oorspronkelijk lag onze focus op Flux Interpreting, dat telefoongesprekken tussen talen vertaalt. Maar nadat klanten ons herhaaldelijk vroegen om telefoongesprekken voor hun bedrijven te automatiseren in plaats van ze alleen te vertalen, verlegden we onze focus naar wat nu ThunderPhone is.

Het probleem met bestaande platforms

Aanvankelijk begonnen we met het bouwen van spraakagenten voor klanten op de telefoon-AI-platforms van andere bedrijven. We hebben vrijwel elk telefoon-AI-platform op de markt getest, maar helaas schoten ze tekort, vooral als het ging om:

• Audio begrijpen: De beperkingen van slechts één transcriptiemodel om de audio van de gebruiker naar tekst om te zetten, betekenden dat de AI de gebruiker vaak “verkeerd verstond”, vooral bij eigennamen, ongebruikelijke woorden en spellingen.
• Instructies opvolgen: Doordat één snelle LLM het daadwerkelijke “denkwerk” achter het gesprek deed, hadden de AI's vaak moeite om instructies correct op te volgen en ontspoorden ze.
• Moeizame integraties: De platforms die we probeerden maakten het erg lastig om verbinding te maken met externe software. Meestal moesten we uitgebreide JSON-configuraties invoeren voor toolaanroepen en daar herhaaldelijk met bash tegenaan werken, met weinig tot geen feedback totdat ze plotseling begonnen te werken.
• Prijs: Bestaande platforms vroegen doorgaans de hoofdprijs: meestal 10 cent per minuut of meer voor matige prestaties.

Onze eigen stack bouwen

Toen we een overeenkomst sloten om een usecase voor verkoopgesprekken te implementeren voor een enterpriseklant, waren we genoodzaakt onze eigen maatwerkstack te bouwen om aan hun behoeften te voldoen. Deze usecase was veeleisend: anders dan bij klantenservice, waar bellers grotendeels afhankelijk zijn van het bedrijf, hangen bellers bij verkoopgesprekken snel op.

De gesprekskwaliteit moet uitstekend zijn om de verkoop te sluiten in plaats van de lead kwijt te raken. Dat betekende dat we een groot aantal eigennamen en spellingen moesten verwerken, waaronder namen en adressen, die voor standaard transcriptiemodellen moeilijk correct te herkennen zijn. Om deze usecase goed te laten werken, bouwden we wat nu ThunderPhone is.

Onderweg ontmoetten we steeds weer mensen in de San Francisco-spraak-AI-community die bedrijven voor branchespecifieke spraakagenten bouwden — voor dierenartsen, vrachtwagenchauffeurs en meer. Verrassend genoeg hadden de meesten dezelfde mening: bestaande platforms waren goed genoeg voor demo's, maar niet voor productie.

Schokkend genoeg bouwden veel, zo niet de meeste, van onze vrienden bij branchespecifieke spraak-AI-bedrijven daadwerkelijk “hun eigen” stacks... Dat sloeg voor ons nergens op — het is eigenlijk vergelijkbaar met webstart-ups in de jaren 90 die hun eigen webservers moesten hosten op een server in hun meterkast.

Met dat inzicht realiseerden we ons dat het tijd was om ons telefoon-AI-systeem om te vormen tot een platform dat iedereen kon gebruiken.

Branchespecifieke spraak-AI-bedrijven en consultants zouden zich moeten kunnen richten op de behoeften van hun doelmarkt met hun branchespecifieke expertise — niet op het ingewikkeld engineeren van de onderliggende AI- en telefoontechnologie! Dat is wat we vandaag lanceren met ThunderPhone.

Het was een lange weg om hier te komen! Excuses aan iedereen die zich sinds afgelopen april bij ons heeft ingeschreven en nog steeds op toegang wacht: wat volgens ons een korte sprint zou zijn om de klus af te ronden, bleek een maandenlange odyssee te worden waarin we uitzochten hoe we de modellen die vandaag beschikbaar zijn konden verweven tot een zo robuust mogelijk systeem.

Maar we zijn eindelijk live — probeer het en laat ons weten wat je ervan vindt!

Hoewel we de grootste knelpunten hebben opgelost, zitten er vast nog bugs in het systeem. Als je problemen tegenkomt, stuur dan een e-mail naar alex@thunderphone.com, dan zorg ik ervoor dat het zo snel mogelijk voor je wordt opgelost. Laat het ons ook weten als je functieverzoeken hebt, dan maken we die eveneens zo snel mogelijk mogelijk voor je.

En als je meer maatwerkbehoeften hebt, zoals ondersteuning bij maatwerkimplementaties en integraties, compliance die verder gaat dan de gebruikelijke HIPAA en GDPR, SLA's en maatwerkfunctieverzoeken, praten we graag over een enterpriseovereenkomst. Neem contact op via alex@thunderphone.com, dan bespreken we je behoeften en of we kunnen helpen.

En algemener: onze belofte aan jou is dat het ONZE taak is om ervoor te zorgen dat ThunderPhone direct werkt met zo min mogelijk inspanning van jouw kant, en de gesprekken van je bedrijf zo perfect mogelijk afhandelt met de AI van vandaag, binnen de grenzen van het pakket dat je kiest: Spark, Bolt of Storm. Probeer ons, we kijken ernaar uit om je te laten zien wat ThunderPhone kan doen.

Laat ons weten wat je ervan vindt, en bedankt voor je steun!