Novità e approfondimenti dal team di ThunderPhone.

Oggi sono felice di annunciare il lancio pubblico della nostra piattaforma self-service ThunderPhone v2.

Ora chiunque può utilizzare ThunderPhone pronto all'uso per automatizzare un'ampia varietà di chiamate telefoniche.

Come siamo arrivati fin qui

Dallo scorso anno lavoriamo con un piccolo gruppo di clienti Enterprise per automatizzare le loro chiamate telefoniche. In alcuni casi, queste chiamate riguardavano casi d'uso sensibili alle prestazioni, come le attività pre-vendita e l'inserimento dati, dove abbiamo scoperto che le piattaforme vocali IA esistenti sbagliavano così spesso da frustrare troppi chiamanti, inducendoli a riagganciare e compromettendo l'economia unitaria del caso d'uso.

Per risolvere questi problemi, abbiamo finito per costruire da zero uno stack personalizzato, capace di commettere meno errori durante le chiamate e di rendere possibili casi d'uso difficili. Dopo aver automatizzato migliaia di chiamate in produzione quest'anno, rendiamo ora il nostro stack disponibile al pubblico come piattaforma self-service ThunderPhone v2.

Tre livelli, a partire da 2¢/min

Il nostro sistema parte da soli 2¢/min per il livello Spark, modelli inclusi, risultando la piattaforma IA vocale full-stack dal prezzo più basso sul mercato. Per una maggiore velocità, offriamo anche Bolt a partire da 5¢/min. Per la massima intelligenza possibile, offriamo Storm a partire da 9¢/min.

Storm può gestire anche i flussi di chiamata più complessi con elevata affidabilità, senza bisogno di configurazioni manuali con un “flow builder”: basta un prompt!

Con l'opzione di intelligenza aggiuntiva attivata (+3¢/min), Storm ottiene il 99,4% su Big Bench Audio, superando ogni modello nella classifica di Artificial Analysis fino a oggi. Il nostro set di valutazione e le trascrizioni sono pubblici su Hugging Face, e presto condivideremo altri risultati di benchmark. Se vuoi ridurre al minimo gli errori nelle tue chiamate in produzione, Storm è la scelta migliore.

L'architettura integrata

ThunderPhone può essere al tempo stesso più intelligente e più conveniente di altri stack grazie alla nostra esclusiva architettura integrata. Invece di una “pipeline in 3 passaggi” che combina un modello di trascrizione, un LLM e un modello text-to-speech, utilizziamo una rete più complessa in cui molteplici modelli di trascrizione, molteplici LLM e altri componenti interagiscono tutti in modi attentamente orchestrati per raggiungere le migliori prestazioni possibili, al costo più basso possibile.

Tra gli altri vantaggi, questo rende i nostri agenti vocali eccezionali nel comprendere correttamente i chiamanti, anche in ambienti rumorosi o con accenti marcati. Le chiamate procedono così più fluidamente, con un inserimento dati più affidabile per nomi, indirizzi e altro ancora. Gli agenti ThunderPhone azzeccano persino grafie difficili in un solo turno di conversazione, mentre altri sistemi richiedono diversi tentativi. E ogni "mi scusi, potrebbe fare lo spelling ancora una volta?" è un'altra occasione perché il chiamante riagganci!

Il nostro sistema include inoltre numerosi componenti per affrontare le difficoltà delle chiamate reali, tra cui rumore di fondo, scarsa qualità del segnale, interruzioni e altro. Abbiamo ottimizzato i meccanismi di gestione della conversazione su migliaia di ore di dati del mondo reale, e offrono un miglioramento significativo all'esperienza dei chiamanti reali.

Una piattaforma completa

ThunderPhone offre anche una piattaforma completa che rende eccezionalmente semplice creare, testare, distribuire e monitorare agenti vocali. Senza mai uscire da ThunderPhone, puoi:

• Configurare chiamate in entrata e in uscita e gestire i numeri di telefono
• Eseguire test umani e con IA degli agenti telefonici
• Monitorare le chiamate in diretta, mentre avvengono
• Lasciare che il sistema rilevi problemi ricorrenti nelle chiamate in produzione, proponga correzioni e le esamini e applichi
• Vedere come stanno andando le tue chiamate e dove richiedono interventi, con report sui funnel

La piattaforma ThunderPhone rende inoltre semplicissimo collegare la telefonia e le integrazioni software. Una procedura guidata connette il tuo account Twilio o Telnyx esistente, oppure qualsiasi trunk SIP standard, con pochi dati del tuo provider, mentre connettori nativi supportano Google Sheets, Google Calendar, HubSpot, Salesforce e Cal.com. E per tutte le altre integrazioni, una procedura guidata consente connessioni a qualsiasi API con il semplice “incolla e clicca”.

Nell'app web è integrato un copilota sempre attivo che rende estremamente facile capire come usare la piattaforma ThunderPhone. Può perfino navigare nell'app ed eseguire azioni per te e, dato che siamo un'azienda di IA vocale, può naturalmente parlarti invece di farti digitare.

API, Enterprise e conformità

Per i casi d'uso che richiedono più personalizzazione di quella offerta dalla piattaforma web, ThunderPhone dispone anche di un'API completa che rende possibili diverse integrazioni personalizzate. E per una personalizzazione ancora più approfondita della piattaforma, requisiti specifici di costi e latenza, esigenze di conformità e altro, offriamo implementazioni e supporto Enterprise su misura. (Contattami direttamente per richieste: alex@thunderphone.com)

ThunderPhone è conforme a HIPAA e GDPR per applicazioni sanitarie e dell'UE/Regno Unito fin da subito, e firmiamo BAA e DPA senza costi aggiuntivi.

Provalo oggi

Per maggiori informazioni, dai un'occhiata al nostro sito web, dove approfondiamo la nostra tecnologia, i prezzi, le funzionalità della piattaforma e molto altro.

Ancora meglio, prova ThunderPhone e scopri come funziona per il tuo caso d'uso! Ti basteranno pochi minuti per iniziare e la nostra app web e il copilota sono progettati per rendere il più semplice possibile configurare tutto ciò di cui hai bisogno.

Se riscontri problemi o hai richieste, contattami personalmente a alex@thunderphone.com

Alex Kolchinski, CEO

Oggi siamo orgogliosi di annunciare il lancio pubblico di ThunderPhone, che semplifica l'automazione delle chiamate telefoniche con l'IA. Grazie a un'architettura integrata completamente diversa da quella delle altre piattaforme di IA telefonica, ThunderPhone offre prestazioni molto più elevate, costi inferiori e meno problemi di integrazione. ThunderPhone supporta chiamate in entrata e in uscita in decine di lingue ed è conforme a HIPAA e GDPR.

Il vantaggio dell'integrazione

Altre piattaforme di IA telefonica limitano le prestazioni dei loro sistemi imponendo una struttura in 3 fasi:

1. Un modello di trascrizione, che trasforma la voce dell'utente in testo.
2. Un LLM, che elabora il testo dell'utente e produce una risposta.
3. Un modello TTS, che trasforma il testo della risposta nuovamente in audio.

La maggior parte di queste piattaforme scarica inoltre il lavoro tecnico sui propri utenti, costringendoli a scegliere quali modelli utilizzare e opzioni di configurazione come i parametri di riduzione del rumore e reattività.

Abbiamo adottato un approccio diverso: abbiamo configurato quello che, secondo noi, è il miglior stack possibile con i modelli oggi disponibili, rendendolo pronto all'uso senza richiedere complesse operazioni di configurazione. Il nostro sistema utilizza molti modelli contemporaneamente e instrada in modo intelligente tra loro in base al flusso della conversazione. Questo include:

• Combinare più modelli di trascrizione, alcuni più veloci di altri e alcuni più accurati di altri, per bilanciare velocità e accuratezza e compensare gli errori reciproci.
• Combinare LLM con input audio, che possono avere un'intelligenza generale inferiore ma una migliore comprensione dell'audio, con LLM solo testuali, che possono commettere errori a causa di trascrizioni imprecise ma sono spesso più intelligenti.
• Combinare LLM veloci ma poco intelligenti, in grado di generare risposte rapide, con LLM molto più intelligenti ma più lenti, che possono operare in background e assicurarsi che l'IA segua il proprio prompt e risponda correttamente a ciò che dice l'utente.
• Combinare modelli commerciali dei principali provider, tra cui OpenAI e Google, che offrono il più alto livello di intelligenza oggi disponibile, con un'ampia selezione di modelli open source, che spesso offrono maggiore velocità a costi inferiori.
• Utilizzare più modelli simultaneamente per classificare ed eliminare rumore di fondo, conversazioni laterali e altri rumori distraenti che altrimenti potrebbero compromettere una conversazione.

Questi componenti e molti altri sono orchestrati in modi diversi nei nostri tre livelli di servizio, Spark, Bolt e Storm — ottimizzando Spark per il costo, Bolt per la velocità e Storm per l'intelligenza, riducendo al minimo gli svantaggi di ciascuno per quanto possibile. Tutti e tre i sistemi condividono vantaggi come una comprensione incredibilmente accurata di ciò che dicono gli utenti, anche in presenza di nomi propri e ortografia.

Abbiamo constatato che questa architettura strettamente integrata offre al nostro sistema prestazioni molto più elevate a costi inferiori rispetto al rigido approccio in 3 fasi proposto da altri fornitori. In linea con la teoria della modularità di Clay Christensen, siamo ancora agli inizi nell'IA vocale, ed è ancora più importante massimizzare le prestazioni con un'architettura integrata che massimizzare la personalizzabilità con un'architettura modulare.

Decisioni ottimizzate

E per quanto riguarda la personalizzazione, siamo contrari. La maggior parte delle piattaforme di IA telefonica di oggi costringe gli utenti a destreggiarsi tra infinite scelte, dai modelli esatti utilizzati a parametri ultra-dettagliati, come la rapidità con cui l'IA interrompe l'utente.

Secondo noi, è compito NOSTRO ottimizzare queste scelte dietro le quinte, così che gli utenti di ThunderPhone possano concentrarsi su ciò che sanno fare meglio senza preoccuparsi della configurazione dettagliata dell'IA vocale. Ci vediamo un po' come Squarespace: rendiamo semplice per i nostri utenti configurare agenti telefonici con le prestazioni più elevate possibili offerte dai modelli di oggi, senza dover muovere un dito.

Facilità d'uso

ThunderPhone è anche incredibilmente facile da usare, sia che tu stia configurando un nuovo agente telefonico, sia che tu stia migrando da una piattaforma diversa o da uno stack personalizzato. Per configurare un agente telefonico su ThunderPhone, basta:

1. Decidere se usare Spark, Bolt o Storm.
2. Scegliere una voce.
3. Fornirci il tuo prompt. Non servono agenti multi-prompt. Se il tuo prompt è troppo complicato per Spark o Bolt, passa a Storm, che può gestire anche casi d'uso complessi con un solo prompt.
4. Collegare le integrazioni software (qualsiasi endpoint o l'integrazione nativa con n8n) con una procedura guidata incredibilmente facile da usare.
5. Collegare il tuo VoIP con una procedura guidata incredibilmente facile da usare.

In genere, tutto questo richiede 10 minuti o meno.

ThunderPhone è conforme a HIPAA e GDPR e, su richiesta, firmeremo e forniremo BAA e DPA.

La nostra storia

Siamo un team di ex membri dello Stanford AI Lab e di Y Combinator che lavora sull'IA vocale dal 2024. In origine ci concentravamo su Flux Interpreting, che traduce le telefonate tra lingue diverse. Ma dopo che i clienti ci hanno chiesto ripetutamente di automatizzare le telefonate per le loro attività invece di limitarci a tradurle, abbiamo spostato l'attenzione su quello che oggi è ThunderPhone.

Il problema delle piattaforme esistenti

All'inizio, abbiamo iniziato a creare agenti telefonici per i clienti sulle piattaforme di IA telefonica di altre aziende. Abbiamo testato praticamente tutte le piattaforme di IA telefonica sul mercato, ma purtroppo le abbiamo trovate carenti, soprattutto per quanto riguarda:

• Comprensione dell'audio: I limiti di avere un solo modello di trascrizione per trasformare l'audio dell'utente in testo facevano sì che l'IA spesso “fraintendesse” l'utente, soprattutto con nomi propri, parole non comuni e ortografie.
• Rispetto delle istruzioni: Avere un singolo LLM veloce a svolgere il vero “lavoro mentale” della chiamata significava che le IA spesso faticavano a seguire correttamente le istruzioni e finivano fuori strada.
• Integrazioni difficili: Le piattaforme che abbiamo provato rendevano molto difficile collegarsi a software esterni, costringendoci in genere a inserire estese configurazioni JSON per le chiamate degli strumenti e ad armeggiare ripetutamente con esse, con feedback minimo o inesistente, finché all'improvviso non iniziavano a funzionare.
• Prezzo: Le piattaforme esistenti in genere costavano un occhio della testa: di solito 10 centesimi al minuto o più per prestazioni così così.

Costruire il nostro stack

Quando abbiamo firmato un accordo per implementare un caso d'uso di chiamate di vendita per un cliente Enterprise, siamo stati costretti a creare il nostro stack personalizzato per soddisfare le sue esigenze. Questo caso d'uso era impegnativo: a differenza dell'assistenza clienti, dove chi chiama dipende in larga misura dall'azienda, chi riceve chiamate commerciali riaggancia in fretta.

La qualità della chiamata deve essere eccellente per chiudere la vendita invece di perdere il potenziale cliente. Questo significava gestire numerosi nomi propri e ortografie, inclusi nomi e indirizzi, che per i modelli di trascrizione standard sono difficili da azzeccare. Per azzeccare questo caso d'uso, abbiamo creato quello che oggi è ThunderPhone.

Nel frattempo, continuavamo a incontrare persone della comunità dell'IA vocale di San Francisco che stavano creando aziende di agenti telefonici verticali — per veterinari, camionisti e molto altro. Sorprendentemente, la maggior parte di loro condivideva la stessa opinione: le piattaforme esistenti erano abbastanza valide per le demo, ma non per la produzione.

Sorprendentemente, molti, se non la maggior parte, dei nostri amici nelle aziende verticali di IA vocale stavano in realtà “creando da zero” i propri stack... Per noi non aveva senso: è davvero l'equivalente delle startup web degli anni '90 che dovevano ospitare i propri server web su un server nell'armadio.

Con questa consapevolezza, abbiamo capito che era il momento di trasformare il nostro sistema di IA telefonica in una piattaforma che chiunque potesse usare.

Le aziende verticali di IA vocale e i consulenti dovrebbero potersi concentrare sul soddisfare le esigenze del proprio mercato di riferimento con la loro esperienza specifica di settore — non sull'ingegnerizzazione complessa dell'IA e della tecnologia telefonica sottostanti! È questo che lanciamo oggi con ThunderPhone.

È stato un lungo percorso per arrivare fin qui! Ci scusiamo con tutti coloro che si sono iscritti con noi dallo scorso aprile e stanno ancora aspettando l'accesso: quello che pensavamo sarebbe stato uno sprint rapido per finire il lavoro si è rivelato un'odissea di mesi per capire come intrecciare i modelli disponibili oggi in un sistema il più robusto possibile.

Ma ora siamo finalmente online — provalo e dicci cosa ne pensi!

Anche se abbiamo risolto le principali criticità, ci saranno sicuramente ancora bug nel sistema. Se riscontri problemi, invia un'email a alex@thunderphone.com e farò in modo che vengano risolti per te al più presto. Facci sapere anche se hai richieste di funzionalità e faremo il possibile per realizzarle quanto prima.

E se hai esigenze più personalizzate, come supporto per implementazioni e integrazioni su misura, conformità oltre HIPAA e GDPR standard, SLA e richieste di funzionalità personalizzate, saremo felici di parlare di un accordo Enterprise. Contattaci a alex@thunderphone.com e parleremo delle tue esigenze e di come possiamo aiutarti.

Più in generale: il nostro impegno nei tuoi confronti è che è compito NOSTRO assicurarci che ThunderPhone funzioni subito, con il minimo sforzo da parte tua, e gestisca le chiamate della tua attività nel modo più efficace possibile con l'IA di oggi, entro i limiti del livello di prezzo che scegli: Spark, Bolt o Storm. Provaci: non vediamo l'ora di mostrarti cosa può fare ThunderPhone.

Facci sapere cosa ne pensi e grazie per il tuo supporto!