Anunțăm ThunderPhone

Astăzi, anunțăm cu mândrie lansarea publică a ThunderPhone, care facilitează automatizarea apelurilor telefonice cu ajutorul IA. Cu o arhitectură integrată complet diferită de cea a altor platforme de IA pentru telefonie, ThunderPhone poate obține performanțe mult mai ridicate, costuri mai mici și mai puține probleme de integrare. ThunderPhone acceptă apeluri primite și efectuate în zeci de limbi și respectă cerințele HIPAA și GDPR.

Avantajul integrării

Alte platforme de IA pentru telefonie limitează performanța sistemelor lor prin impunerea unei structuri în 3 pași:

1. Un model de transcriere, care transformă vocea utilizatorului în text.
2. Un LLM, care procesează textul utilizatorului și generează un răspuns.
3. Un model TTS, care transformă textul răspunsului înapoi în sunet.

Majoritatea transferă, de asemenea, munca de inginerie către utilizatorii lor, obligându-i să aleagă modelele pe care doresc să le folosească, precum și opțiuni de configurare, cum ar fi parametrii de eliminare a zgomotului și de reactivitate.

Noi am adoptat o abordare diferită: am configurat, după părerea noastră, cea mai bună suită posibilă de modele disponibile astăzi și am pregătit-o pentru utilizare fără eforturi complexe de configurare. Sistemul nostru utilizează simultan mai multe modele și direcționează inteligent fluxul între ele în funcție de evoluția conversației. Aceasta include:

• Combinarea mai multor modele de transcriere, unele mai rapide decât altele, altele mai precise decât altele, pentru a echilibra viteza cu precizia și pentru a compensa greșelile reciproce.
• Combinarea LLM-urilor cu intrare audio, care pot avea o inteligență generală mai redusă, dar o înțelegere mai bună a sunetului, cu LLM-uri bazate exclusiv pe text, care pot face greșeli din cauza transcrierilor inexacte, dar sunt adesea mai inteligente.
• Combinarea LLM-urilor rapide, dar mai puțin inteligente, care pot genera răspunsuri rapide, cu LLM-uri mult mai inteligente, dar mai lente, care pot rula în fundal și se pot asigura că IA urmează instrucțiunile și răspunde corect la ceea ce spune utilizatorul.
• Combinarea modelelor comerciale de la furnizori de top, inclusiv OpenAI și Google, care oferă cel mai înalt nivel de inteligență disponibil astăzi, cu o gamă largă de modele cu sursă deschisă, care oferă adesea viteză mai bună la costuri mai mici.
• Utilizarea simultană a mai multor modele pentru a clasifica și elimina zgomotul de fundal, conversațiile paralele și alte zgomote care distrag atenția și care altfel pot deraia o conversație.

Aceste componente și altele sunt orchestrate în moduri diferite în cele trei niveluri ale noastre de servicii, Spark, Bolt și Storm — optimizând Spark pentru cost, Bolt pentru viteză și Storm pentru inteligență, reducând totodată pe cât posibil dezavantajele fiecăruia. Toate cele trei sisteme oferă beneficii comune, precum o înțelegere incredibil de precisă a ceea ce spun utilizatorii, inclusiv a numelor proprii și a ortografierii.

Considerăm că această arhitectură strâns integrată oferă sistemului nostru performanțe mult mai ridicate la costuri mai mici decât abordarea rigidă în 3 pași oferită de alți furnizori. În concordanță cu teoria modularității a lui Clay Christensen, IA vocală este încă la început, iar maximizarea performanței printr-o arhitectură integrată are încă mai multă valoare decât maximizarea posibilităților de personalizare printr-o arhitectură modulară.

Decizii optimizate

În ceea ce privește personalizarea, suntem împotriva ei! Majoritatea platformelor de AI telefonic de astăzi îi obligă pe utilizatori să navigheze prin opțiuni nesfârșite, de la modelele exacte utilizate până la parametri ultradetaliați, precum cât de rapid întrerupe AI-ul utilizatorul.

În opinia noastră, este treaba NOASTRĂ să optimizăm aceste alegeri în culise, astfel încât utilizatorii ThunderPhone să se poată concentra pe ceea ce fac cel mai bine și să nu își facă griji pentru configurarea detaliată a AI-ului vocal. Ne vedem ca un fel de Squarespace, facilitând configurarea de către utilizatorii noștri a agenților vocali la cel mai înalt nivel de performanță posibil cu modelele de astăzi, fără niciun efort.

Ușurință în utilizare

ThunderPhone este, de asemenea, incredibil de ușor de utilizat, fie că configurați un nou agent vocal, fie că migrați de la o altă platformă sau de la un stack personalizat. Tot ce este necesar pentru a configura un agent vocal în ThunderPhone este:

1. Decideți dacă doriți să utilizați Spark, Bolt sau Storm.
2. Alegeți o voce.
3. Trimiteți-ne promptul dumneavoastră. Nu este nevoie de agenți cu mai multe prompturi! Dacă promptul dumneavoastră este prea complicat pentru Spark sau Bolt, faceți upgrade la Storm, care poate gestiona chiar și cazuri de utilizare complexe cu un singur prompt.
4. Conectați integrările software (orice endpoint sau integrarea nativă n8n) cu un asistent extrem de ușor de utilizat.
5. Conectați-vă serviciul VoIP cu un asistent extrem de ușor de utilizat.

Toate acestea durează, de obicei, 10 minute sau mai puțin.

ThunderPhone respectă HIPAA și GDPR, iar la cerere vom semna și furniza BAA-uri și DPA-uri.

Povestea noastră

Suntem o echipă de absolvenți ai Stanford AI Lab și Y Combinator care lucrează în domeniul AI vocal din 2024. La început, ne-am concentrat pe Flux Interpreting, care traduce apeluri telefonice între limbi. Dar, după ce clienții ne-au cerut în mod repetat să automatizăm apelurile telefonice pentru afacerile lor, nu doar să le traducem, ne-am îndreptat atenția către ceea ce este acum ThunderPhone.

Problema platformelor existente

Inițial, am început să construim agenți vocali pentru clienți pe platformele de AI telefonic ale altor companii. Am testat aproape toate platformele de AI telefonic de pe piață, dar, din păcate, le-am găsit deficitare, mai ales când era vorba despre:

• Înțelegerea audio: Limitarea de a avea un singur model de transcriere care transformă sunetul utilizatorului în text însemna că AI-ul „auzea greșit” frecvent utilizatorul, mai ales în cazul numelor proprii, al cuvintelor neobișnuite și al ortografiei.
• Respectarea instrucțiunilor: Faptul că un singur LLM rapid făcea efectiv „munca de gândire” din spatele apelului însemna că AI-urile aveau adesea dificultăți în a urma corect instrucțiunile și o luau pe arătură.
• Integrări dificile: Platformele pe care le-am încercat făceau foarte dificilă conectarea la software extern, obligându-ne de regulă să introducem configurații JSON ample pentru apelurile de instrumente și să ne luptăm cu ele în mod repetat, cu puțin sau deloc feedback până când începeau brusc să funcționeze.
• Prețul: Platformele existente cereau, în general, sume exorbitante: de obicei 10 cenți pe minut sau mai mult pentru o performanță doar acceptabilă.

Construirea propriului nostru stack

Când am semnat un contract pentru implementarea unui caz de utilizare de apeluri de vânzări pentru un client enterprise, am fost nevoiți să ne construim propriul stack personalizat pentru a-i satisface nevoile. Acest caz de utilizare era solicitant: spre deosebire de asistența pentru clienți, unde apelanții sunt în mare măsură la discreția companiei, apelanții din vânzări închid rapid.

Calitatea apelului trebuie să fie impecabilă pentru a realiza vânzarea, nu pentru a pierde potențialul client. Asta a însemnat gestionarea unui număr mare de nume proprii și de ortografieri, inclusiv nume și adrese, pe care modelele standard de transcriere nu le redau corect cu ușurință. Pentru a reuși în acest caz de utilizare, am construit ceea ce este acum ThunderPhone.

Pe parcurs, am continuat să întâlnim oameni din comunitatea de AI vocal din San Francisco care construiau companii verticale de agenți vocali — pentru veterinari, șoferi de camion și multe altele. În mod surprinzător, cei mai mulți aveau aceeași părere: platformele existente erau suficient de bune pentru demonstrații, dar nu pentru producție.

În mod șocant, mulți, dacă nu chiar majoritatea prietenilor noștri din companiile verticale de AI vocal își construiau de fapt propriile stack-uri... Pentru noi nu avea niciun sens — este, în esență, echivalentul startup-urilor web din anii ’90 care trebuiau să-și găzduiască propriile servere web pe un server din dulapul lor.

Cu această perspectivă, ne-am dat seama că era momentul să transformăm sistemul nostru de AI telefonic într-o platformă pe care oricine să o poată folosi.

Companiile verticale de AI vocal și consultanții ar trebui să se poată concentra pe satisfacerea nevoilor pieței lor țintă cu expertiza lor specifică industriei — nu pe proiectarea minuțioasă a tehnologiei AI și telefonice de bază! Asta lansăm astăzi cu ThunderPhone.

A fost un drum lung până aici! Ne cerem scuze tuturor celor care s-au înscris la noi din aprilie anul trecut și încă așteaptă accesul: ceea ce credeam că va fi un sprint rapid pentru a termina treaba s-a dovedit a fi o odisee de câteva luni, în care am descoperit cum să îmbinăm modelele disponibile astăzi într-un sistem cât mai robust posibil.

Dar acum suntem, în sfârșit, activi — încercați-l și vedeți ce părere aveți!

Deși am rezolvat principalele probleme, cu siguranță mai există erori în sistem. Dacă întâmpinați probleme, vă rugăm să trimiteți un e-mail la alex@thunderphone.com, iar eu mă voi asigura că se rezolvă cât mai repede pentru dumneavoastră. Spuneți-mi și dacă aveți solicitări de funcționalități, iar noi le vom realiza cât mai curând posibil.

Iar dacă aveți nevoi mai personalizate, cum ar fi suport pentru implementare și integrare personalizate, conformitate dincolo de HIPAA și GDPR standard, SLA-uri și solicitări de funcționalități personalizate, suntem bucuroși să discutăm despre un contract enterprise. Contactați-ne la alex@thunderphone.com și vom discuta despre nevoile dumneavoastră și despre cum vă putem ajuta.

Și, mai general: angajamentul nostru față de dumneavoastră este că este TREABA NOASTRĂ să ne asigurăm că ThunderPhone funcționează imediat, cu un efort minim din partea dumneavoastră, și că gestionează apelurile afacerii dumneavoastră cât mai perfect posibil cu AI-ul de astăzi, în limitele nivelului de preț pe care îl alegeți: Spark, Bolt sau Storm. Încercați-ne și abia așteptăm să vă arătăm ce poate face ThunderPhone.

Spuneți-ne ce părere aveți și vă mulțumim pentru susținere!