Vi præsenterer ThunderPhone

I dag er vi stolte af at annoncere den offentlige lancering af ThunderPhone, som gør det nemt at automatisere telefonopkald med AI. Med en fuldstændig anderledes integreret arkitektur end andre AI-platforme til telefoni kan ThunderPhone opnå langt højere ydeevne, lavere omkostninger og færre problemer med integrationer. ThunderPhone understøtter indgående og udgående opkald på snesevis af sprog og overholder HIPAA og GDPR.

Fordelen ved integration

Andre AI-platforme til telefoni begrænser deres systemers ydeevne ved at påtvinge deres systemer en struktur i tre trin:

1. Én transskriptionsmodel, som omdanner brugerens stemme til tekst.
2. Én LLM, som behandler brugerens tekst og genererer et svar.
3. Én TTS-model, som omdanner svarteksten tilbage til lyd.

De fleste lægger også ingeniørarbejdet over på deres brugere ved at tvinge dem til at vælge, hvilke modeller de vil bruge, samt konfigurationsmuligheder som støjreduktion og parametre for reaktionsevne.

Vi har valgt en anden tilgang: Vi har sammensat det, vi efter vores mening er den bedst mulige modelstak med nutidens modeller, og gjort den klar til brug uden omfattende konfigurationsarbejde. Vores system bruger mange modeller samtidig og ruter intelligent mellem dem afhængigt af samtalens forløb. Det omfatter:

• Kombination af flere transskriptionsmodeller, hvor nogle er hurtigere end andre, og nogle er mere præcise end andre, for at balancere hastighed og præcision og kompensere for hinandens fejl.
• Kombination af LLM'er med lydinput, som kan have lavere generel intelligens, men bedre forståelse af lyd, med LLM'er, der kun bruger tekst, som kan begå fejl på grund af upræcise transskriptioner, men ofte er klogere.
• Kombination af hurtige, men mindre intelligente LLM'er, som kan generere hurtige svar, med langt klogere, men langsommere LLM'er, som kan køre i baggrunden og sikre, at AI'en følger sin prompt og svarer korrekt på det, brugeren siger.
• Kombination af kommercielle modeller fra førende udbydere, herunder OpenAI og Google, som tilbyder den højeste intelligens, der findes i dag, med et bredt udvalg af open source-modeller, som ofte giver bedre hastighed til lavere omkostninger.
• Brug af flere modeller samtidigt til at klassificere og eliminere baggrundsstøj, sidesamtaler og anden forstyrrende støj, som ellers kan afspore en samtale.

Disse komponenter og flere til orkestreres på forskellige måder i vores tre serviceniveauer, Spark, Bolt og Storm — hvor Spark optimeres til pris, Bolt til hastighed og Storm til intelligens, mens ulemperne ved hver enkelt minimeres mest muligt. Alle tre systemer deler fordele som utroligt præcis forståelse af det, brugerne siger, selv med egennavne og stavning.

Vi oplever, at denne tæt integrerede arkitektur giver vores system langt højere ydeevne til lavere omkostninger end den rigide tilgang i tre trin, som andre leverandører tilbyder. I tråd med Clay Christensens modularitetsteori er det stadig tidligt for stemme-AI, og det er stadig mere værdifuldt at maksimere ydeevnen med en integreret arkitektur end at maksimere tilpasningsmulighederne med en modulær arkitektur.

Optimerede beslutninger

Og hvad angår tilpasningsmuligheder, er vi imod dem. De fleste af nutidens AI-platforme til telefoni tvinger brugerne til at navigere i endeløse valg, fra de præcise modeller, der bruges, til ultradetaljerede parametre som hvor hurtigt AI'en skal afbryde brugeren.

Efter vores mening er det VORES opgave at optimere disse valg bag kulisserne, så ThunderPhones brugere kan fokusere på det, de er gode til, og ikke behøver at bekymre sig om detaljeret konfiguration af stemme-AI. Vi ser os selv som en slags Squarespace, der gør det nemt for vores brugere at opsætte telefonagenter med den absolut højest mulige ydeevne med nutidens modeller, uden at løfte en finger.

Brugervenlighed

ThunderPhone er også utroligt nemt at bruge, uanset om du opsætter en ny telefonagent eller migrerer fra en anden platform eller en specialbygget stack. Alt, du skal gøre for at opsætte en telefonagent på ThunderPhone, er:

1. Beslut, om du vil bruge Spark, Bolt eller Storm.
2. Vælg en stemme.
3. Giv os din prompt. Du behøver ikke agenter med flere prompts. Hvis din prompt er for kompliceret til Spark eller Bolt, så opgrader til Storm, som kan håndtere selv komplekse brugsscenarier med én enkelt prompt.
4. Forbind softwareintegrationer (ethvert endpoint eller indbygget n8n-integration) med en utroligt brugervenlig guide.
5. Forbind din VoIP med en utroligt brugervenlig guide.

Alt dette tager typisk 10 minutter eller mindre.

ThunderPhone overholder HIPAA og GDPR, og vi underskriver og leverer BAA'er og DPA'er efter anmodning.

Vores historie

Vi er et team af alumner fra Stanford AI Lab og Y Combinator, som har arbejdet med stemme-AI siden 2024. Oprindeligt fokuserede vi på Flux Interpreting, som oversætter telefonopkald mellem sprog. Men efter gentagne gange at være blevet bedt af kunder om at automatisere telefonopkald for deres virksomheder i stedet for blot at oversætte dem, skiftede vi fokus til det, der nu er ThunderPhone.

Problemet med eksisterende platforme

I begyndelsen byggede vi telefonagenter for kunder på andre virksomheders telefoni-AI-platforme. Vi testede stort set alle telefoni-AI-platforme på markedet, men fandt desværre, at de ikke slog til, især når det gjaldt:

• Lydforståelse: Begrænsningen ved kun at have én transskriptionsmodel til at omsætte brugerens lyd til tekst betød, at AI'en ofte "misforstod" brugeren, især ved egennavne, usædvanlige ord og stavemåder.
• At følge instruktioner: At have én hurtig LLM til at udføre det egentlige "hjernearbejde" bag opkaldet betød, at AI'erne ofte havde svært ved at følge instruktionerne korrekt og kom på afveje.
• Vanskelige integrationer: Platformene, vi prøvede, gjorde det meget svært at forbinde til ekstern software og tvang os som regel til at skrive omfattende JSON-konfigurationer til værktøjskald og kæmpe med dem igen og igen med minimal eller ingen feedback, indtil de pludselig begyndte at virke.
• Pris: Eksisterende platforme kostede som regel en formue: typisk 10 cent pr. minut eller mere for middelmådig ydeevne.

At bygge vores egen stack

Da vi indgik en aftale om at implementere et salgsopkalds-use case for en enterprisekunde, blev vi nødt til at bygge vores egen skræddersyede stack for at opfylde deres behov. Dette use case var krævende: I modsætning til kundesupport, hvor opkaldere i høj grad er prisgivet virksomheden, lægger opkaldere ved salgsopkald hurtigt på.

Opkaldskvaliteten skal være i topklasse for at sikre salget i stedet for at miste leadet. Det betød, at vi skulle håndtere mange egennavne og stavemåder, herunder navne og adresser, som standardtransskriptionsmodeller har svært ved at få rigtigt. For at mestre dette use case byggede vi det, der nu er ThunderPhone.

Undervejs mødte vi hele tiden folk i stemme-AI-miljøet i San Francisco, som byggede vertikale virksomheder med telefonagenter — til dyrlæger, lastbilchauffører og meget mere. Overraskende nok havde de fleste den samme holdning: Eksisterende platforme var gode nok til demoer, men ikke til produktion.

Chokerende nok byggede mange, hvis ikke de fleste, af vores venner i vertikale stemme-AI-virksomheder faktisk deres egne stacks... Det gav ingen mening for os — det svarer i virkeligheden til, at webstartups i 90'erne selv skulle hoste deres webservere på en server i deres kosteskab.

Med den erkendelse indså vi, at tiden var inde til at gøre vores telefoni-AI-system til en platform, som alle kan bruge.

Vertikale stemme-AI-virksomheder og konsulenter bør kunne fokusere på at opfylde behovene i deres målmarked med deres branchespecifikke ekspertise — ikke på minutiøst at konstruere den underliggende AI- og telefoniteknologi! Det er det, vi lancerer i dag med ThunderPhone.

Det har været en lang vej hertil! Undskyld til alle, der har tilmeldt sig hos os siden sidste april og stadig venter på adgang: Det, vi troede ville være en hurtig spurt for at gøre arbejdet færdigt, viste sig at være en odyssé over flere måneder, hvor vi fandt ud af, hvordan vi kunne væve de modeller, der er tilgængelige i dag, sammen til et så robust system som muligt.

Men nu er vi endelig live — prøv det, og se hvad du synes!

Selv om vi har løst de største problemer, vil der helt sikkert stadig være fejl i systemet. Hvis du finder problemer, så skriv til alex@thunderphone.com, og jeg sørger for, at det bliver løst hurtigst muligt for dig. Fortæl også gerne, hvis du har ønsker til funktioner, så gør vi også dem til virkelighed for dig, så hurtigt vi kan.

Og hvis du har mere skræddersyede behov, såsom hjælp til specialtilpasset implementering og integration, compliance ud over almindelig HIPAA og GDPR, SLA'er og ønsker til specialfunktioner, tager vi gerne en snak om en enterpriseaftale. Kontakt os på alex@thunderphone.com, så taler vi om dine behov, og om vi kan hjælpe.

Og mere generelt: Vores forpligtelse over for dig er, at det er VORES opgave at sikre, at ThunderPhone virker fra start med minimal indsats fra din side og håndterer din virksomheds opkald så perfekt, som det er muligt med dagens AI, inden for rammerne af det prisniveau, du vælger: Spark, Bolt eller Storm. Prøv os, og vi glæder os til at vise dig, hvad ThunderPhone kan.

Fortæl os, hvad du synes, og tak for din støtte!