Novinky a postrehy od tímu ThunderPhone.

Dnes s nadšením oznamujem verejné spustenie našej samoobslužnej platformy ThunderPhone v2.

Ktokoľvek teraz môže používať ThunderPhone bez ďalších úprav na automatizáciu širokej škály telefonických hovorov.

Ako sme sa sem dostali

Od minulého roka spolupracujeme s malou skupinou podnikových zákazníkov na automatizácii ich telefonických hovorov. V niektorých prípadoch išlo o použitia citlivé na výkon, napríklad predpredaj a zadávanie údajov, pri ktorých sme zistili, že existujúce platformy hlasovej AI robili toľko chýb, že príliš veľa volajúcich bolo frustrovaných a zložilo hovor, čím sa zničila ekonomika daného použitia.

Aby sme tieto problémy vyriešili, nakoniec sme od základov vytvorili vlastný technologický balík, ktorý robí počas hovorov menej chýb a umožňuje aj náročné použitia. Po automatizácii tisícov produkčných hovorov v tomto roku teraz náš technologický balík sprístupňujeme verejnosti ako samoobslužnú platformu ThunderPhone v2.

Tri úrovne už od 2 centov/min

Náš systém začína už na 2 centoch/min pre úroveň Spark vrátane modelov, čo z neho robí cenovo najdostupnejšiu komplexnú platformu hlasovej AI na trhu. Pre vyššiu rýchlosť ponúkame aj Bolt od 5 centov/min. Pre najvyššiu možnú inteligenciu ponúkame Storm od 9 centov/min.

Storm dokáže s vysokou spoľahlivosťou zvládnuť aj tie najkomplexnejšie scenáre hovorov bez potreby ručne vytvorených nastavení vo „flow builderi“ – stačí jeden prompt!

S aktivovanou možnosťou dodatočnej inteligencie (+3 centy/min) Storm dosahuje 99,4 % v Big Bench Audio, čím prekonáva každý model na rebríčku Artificial Analysis doteraz. Naša hodnotiaca sada a prepisy sú verejné na Hugging Face a čoskoro budeme zdieľať ďalšie výsledky benchmarkov. Ak chcete minimalizovať chyby vo svojich produkčných hovoroch, Storm je vaša najlepšia voľba.

Integrovaná architektúra

ThunderPhone môže byť inteligentnejší aj lacnejší než iné technologické balíky vďaka našej jedinečnej integrovanej architektúre. Namiesto „trojkrokového reťazca“, ktorý kombinuje jeden model prepisu, jeden LLM a jeden model prevodu textu na reč, prevádzkujeme zložitejšiu sieť, v ktorej viaceré modely prepisu, viaceré LLM a ďalšie komponenty vzájomne spolupracujú starostlivo koordinovaným spôsobom, aby dosiahli čo najlepší výkon pri čo najnižších nákladoch.

Okrem iných výhod vďaka tomu naši agenti mimoriadne dobre správne rozumejú volajúcim aj v hlučnom prostredí alebo pri výraznom prízvuku. Hovory tak prebiehajú plynulejšie a zadávanie mien, adries a ďalších údajov je spoľahlivejšie. Agenti ThunderPhone zvyčajne zvládnu aj náročné hláskovanie v jednom konverzačnom kole, zatiaľ čo iné systémy potrebujú viacero pokusov. A každé „prepáčte, mohli by ste to ešte raz vyhláskovať?“ je ďalšou príležitosťou, aby volajúci zložil hovor!

Náš systém zahŕňa aj množstvo komponentov na riešenie ťažkostí reálnych hovorov vrátane hluku v pozadí, slabej kvality signálu, prerušení a ďalších problémov. Mechanizmy spracovania konverzácií sme vyladili na tisícoch hodín reálnych dát a výrazne zlepšujú skúsenosť skutočných volajúcich.

Kompletná platforma

ThunderPhone ponúka aj komplexnú platformu, vďaka ktorej je vytváranie, testovanie, nasadzovanie a monitorovanie hlasových agentov mimoriadne jednoduché. Bez toho, aby ste museli opustiť ThunderPhone, môžete:

• Konfigurovať prichádzajúce a odchádzajúce hovory a spravovať telefónne čísla
• Vykonávať testovanie telefónnych agentov ľuďmi aj AI
• Monitorovať hovory naživo, tak ako prebiehajú
• Nechať systém odhaliť opakujúce sa problémy vo vašich produkčných hovoroch, navrhnúť riešenia a následne ich skontrolovať a použiť
• Pomocou reportov lievika zistiť, ako si vaše hovory vedú a kde je potrebné ich zlepšiť

Platforma ThunderPhone tiež výrazne uľahčuje prepojenie telefónie a softvérových integrácií. Sprievodca nastavením prepojí váš existujúci účet Twilio alebo Telnyx, prípadne ľubovoľný štandardný SIP trunk, pomocou niekoľkých údajov od vášho poskytovateľa a natívne konektory pokrývajú Google Sheets, Google Calendar, HubSpot, Salesforce a Cal.com. Pri všetkých ostatných integráciách vám sprievodca umožní prepojenia s akýmkoľvek API typu „stačí vložiť a kliknúť“.

Do webovej aplikácie je integrovaný stále dostupný kopilot, ktorý vám výrazne uľahčí zistenie, ako platformu ThunderPhone používať. Dokáže sa dokonca pohybovať v aplikácii a vykonávať akcie za vás – a keďže sme spoločnosť zameraná na hlasovú AI, môže sa s vami, samozrejme, rozprávať namiesto toho, aby ste museli písať.

API, enterprise a súlad s predpismi

Pre prípady použitia, ktoré vyžadujú viac prispôsobenia, než ponúka webová platforma, má ThunderPhone aj plnohodnotné API, ktoré umožňuje rôzne vlastné integrácie. Pre ešte hlbšie prispôsobenie platformy, vlastné požiadavky na náklady a latenciu, potreby súladu s predpismi a podobne ponúkame individuálne enterprise implementácie a podporu. (V prípade záujmu ma kontaktujte priamo – alex@thunderphone.com)

ThunderPhone je štandardne v súlade s HIPAA a GDPR pre zdravotnícke aplikácie aj aplikácie v EÚ/Spojenom kráľovstve a zmluvy BAA a DPA podpisujeme bez dodatočných poplatkov.

Vyskúšajte ho ešte dnes

Viac informácií nájdete na našom webe, kde sa podrobnejšie venujeme našej technológii, cenám, funkciám platformy a ďalším témam.

Ešte lepšie bude, ak ThunderPhone vyskúšate a zistíte, ako funguje pre váš prípad použitia! Začať vám zaberie len pár minút a naša webová aplikácia aj kopilot sú navrhnuté tak, aby čo najviac uľahčili nastavenie všetkého, čo potrebujete.

Ak narazíte na akékoľvek problémy alebo máte akékoľvek požiadavky, kontaktujte ma osobne na adrese alex@thunderphone.com

Alex Kolchinski, CEO

Dnes s hrdosťou oznamujeme verejné uvedenie ThunderPhone, ktoré uľahčuje automatizáciu telefonických hovorov pomocou AI. Vďaka úplne odlišnej integrovanej architektúre než ostatné platformy telefónnej AI dokáže ThunderPhone dosahovať výrazne vyšší výkon, nižšie náklady a menej problémov s integráciami. ThunderPhone podporuje prichádzajúce aj odchádzajúce hovory v desiatkach jazykov a spĺňa požiadavky HIPAA a GDPR.

Výhoda integrácie

Ostatné platformy telefónnej AI obmedzujú výkon svojich systémov tým, že presadzujú trojkrokovú štruktúru:

1. Jeden model prepisu, ktorý prevádza hlas používateľa na text.
2. Jeden LLM, ktorý spracuje text používateľa a vytvorí odpoveď.
3. Jeden model TTS, ktorý prevedie text odpovede späť na zvuk.

Väčšina z nich tiež prenáša technickú prácu na svojich používateľov tým, že ich núti vyberať si modely, ktoré chcú používať, ako aj možnosti konfigurácie, napríklad potlačenie šumu a parametre odozvy.

Zvolili sme iný prístup: nakonfigurovali sme podľa nášho názoru najlepšiu možnú zostavu s modelmi, ktoré sú dnes k dispozícii, a pripravili ju na používanie bez náročnej konfigurácie. Náš systém používa súčasne viacero modelov a inteligentne medzi nimi prepína podľa priebehu konverzácie. Zahŕňa to:

• Kombinovanie viacerých modelov prepisu — niektoré sú rýchlejšie, iné presnejšie — aby sa vyvážila rýchlosť a presnosť a pokryli sa chyby jednotlivých modelov.
• Kombinovanie LLM so zvukovým vstupom, ktoré môžu mať nižšiu všeobecnú inteligenciu, ale lepšie rozumejú zvuku, s LLM určenými len pre text, ktoré môžu robiť chyby v dôsledku nepresných prepisov, no často sú inteligentnejšie.
• Kombinovanie rýchlych, no menej inteligentných LLM, ktoré dokážu vytvárať rýchle odpovede, s omnoho inteligentnejšími, ale pomalšími LLM, ktoré môžu bežať na pozadí a zabezpečiť, aby sa AI riadila svojimi pokynmi a správne reagovala na to, čo používateľ hovorí.
• Kombinovanie komerčných modelov od popredných poskytovateľov vrátane OpenAI a Google, ktoré ponúkajú najvyššiu dnes dostupnú inteligenciu, so širokou škálou open-source modelov, ktoré často ponúkajú vyššiu rýchlosť pri nižších nákladoch.
• Súčasné používanie viacerých modelov na klasifikáciu a odstránenie hluku v pozadí, vedľajších konverzácií a ďalších rušivých zvukov, ktoré by inak mohli narušiť konverzáciu.

Tieto a ďalšie komponenty sú rôznymi spôsobmi koordinované v našich troch úrovniach služieb Spark, Bolt a Storm — Spark je optimalizovaný na náklady, Bolt na rýchlosť a Storm na inteligenciu, pričom čo najviac minimalizujeme nevýhody každej z nich. Všetky tri systémy zdieľajú výhody, ako je mimoriadne presné porozumenie tomu, čo používatelia hovoria, vrátane vlastných mien a hláskovania.

Zistili sme, že táto úzko integrovaná architektúra poskytuje nášmu systému oveľa vyšší výkon pri nižších nákladoch než strnulý trojkrokový prístup, ktorý ponúkajú iní dodávatelia. V súlade s teóriou modularity Claya Christensena je hlasová AI stále len na začiatku a maximalizácia výkonu pomocou integrovanej architektúry má stále väčšiu hodnotu než maximalizácia prispôsobiteľnosti pomocou modulárnej architektúry.

Optimalizované rozhodnutia

A čo sa týka prispôsobiteľnosti, sme proti nej. Väčšina dnešných AI platforiem pre telefóniu núti používateľov prechádzať nekonečnými možnosťami, od presných použitých modelov až po mimoriadne podrobné parametre, napríklad ako rýchlo má AI prerušovať používateľa.

Podľa nás je NAŠOU úlohou optimalizovať tieto voľby na pozadí, aby sa používatelia ThunderPhone mohli sústrediť na to, v čom sú dobrí, a nemuseli sa zaoberať podrobnou konfiguráciou hlasovej AI. Vnímame sa ako určitý druh Squarespace, ktorý používateľom uľahčuje nastavenie hlasových agentov s absolútne najvyšším výkonom, aký dnešné modely umožňujú, bez jediného zásahu.

Jednoduché používanie

ThunderPhone sa tiež používa mimoriadne jednoducho, či už nastavujete nového hlasového agenta, alebo migrujete z inej platformy či vlastného technologického riešenia. Na nastavenie hlasového agenta v ThunderPhone stačí:

1. Rozhodnúť sa, či chcete použiť Spark, Bolt alebo Storm.
2. Vybrať hlas.
3. Poskytnúť nám svoj prompt. Nie sú potrební agenti s viacerými promptmi. Ak je váš prompt pre Spark alebo Bolt príliš zložitý, prejdite na Storm, ktorý zvládne aj komplexné prípady použitia s jediným promptom.
4. Pripojiť softvérové integrácie (ľubovoľný endpoint alebo natívnu integráciu n8n) pomocou mimoriadne jednoduchého sprievodcu.
5. Pripojiť svoje VoIP pomocou mimoriadne jednoduchého sprievodcu.

Celý tento proces zvyčajne trvá 10 minút alebo menej.

ThunderPhone je v súlade s HIPAA aj GDPR a na požiadanie podpíšeme a poskytneme BAA a DPA.

Náš príbeh

Sme tím bývalých členov Stanford AI Lab a Y Combinator, ktorí pracujú na hlasovej AI od roku 2024. Pôvodne sme sa zameriavali na Flux Interpreting, ktorý prekladá telefonické hovory medzi jazykmi. Keď nás však zákazníci opakovane žiadali, aby sme pre ich firmy telefonické hovory automatizovali, a nie iba prekladali, presunuli sme svoje zameranie na to, čo je dnes ThunderPhone.

Problém existujúcich platforiem

Najprv sme začali vytvárať hlasových agentov pre zákazníkov na platformách AI pre telefonovanie od iných spoločností. Otestovali sme prakticky každú platformu AI pre telefonovanie na trhu, no, žiaľ, sme zistili, že majú nedostatky, najmä pokiaľ ide o:

• Porozumenie zvuku: Obmedzenie na jediný model prepisu, ktorý prevádza zvuk používateľa na text, znamenalo, že AI používateľa často „zle počula“, najmä pri vlastných menách, nezvyčajných slovách a hláskovaní.
• Dodržiavanie pokynov: Jediný rýchly LLM, ktorý vykonával skutočnú „mentálnu prácu“ počas hovoru, často spôsoboval, že AI mali problém správne dodržiavať pokyny a odchýlili sa od požadovaného postupu.
• Náročné integrácie: Platformy, ktoré sme vyskúšali, výrazne sťažovali pripojenie k externému softvéru. Vo všeobecnosti sme museli zadávať rozsiahle konfigurácie JSON pre volania nástrojov a opakovane sa s nimi trápiť bez akejkoľvek spätnej väzby, až kým zrazu nezačali fungovať.
• Cena: Existujúce platformy si vo všeobecnosti účtovali premrštené sumy: zvyčajne 10 centov za minútu alebo viac za len priemerný výkon.

Budovanie vlastného technologického riešenia

Keď sme podpísali zmluvu na implementáciu predajného telefonického scenára pre podnikového klienta, boli sme nútení vytvoriť vlastné riešenie na mieru, aby sme splnili jeho potreby. Tento scenár bol náročný: na rozdiel od zákazníckej podpory, kde sú volajúci vo veľkej miere odkázaní na firmu, ľudia pri predajných hovoroch rýchlo zložia.

Kvalita hovoru musí byť špičková, aby sa predaj uskutočnil a potenciálny zákazník sa nestratil. To znamenalo zvládnuť veľké množstvo vlastných mien a hláskovania vrátane mien a adries, ktoré štandardné modely prepisu len ťažko správne rozpoznajú. Aby sme tento scenár zvládli dokonale, vytvorili sme to, čo je dnes ThunderPhone.

Popri tom sme sa stále stretávali s ľuďmi z komunity hlasovej AI v San Franciscu, ktorí budovali spoločnosti s hlasovými agentmi pre konkrétne odvetvia — pre veterinárov, vodičov nákladných vozidiel a ďalších. Prekvapivo mala väčšina z nich rovnaký názor: existujúce platformy boli dosť dobré na ukážky, no nie na produkčné nasadenie.

Šokujúco, mnohí, ak nie väčšina našich priateľov zo spoločností s hlasovou AI pre konkrétne odvetvia, si v skutočnosti „budovali vlastné“ technologické riešenia... Nedávalo nám to zmysel — je to v podstate ekvivalent situácie, keď by webové startupy v 90. rokoch museli prevádzkovať vlastné webové servery na serveri v skrini.

Vďaka tomuto zisteniu sme si uvedomili, že nastal čas premeniť náš systém AI pre telefonovanie na platformu, ktorú môže používať ktokoľvek.

Spoločnosti s hlasovou AI pre konkrétne odvetvia a konzultanti by sa mali môcť sústrediť na potreby svojho cieľového trhu pomocou odbornosti vo svojom odvetví — nie na zložité technické budovanie základnej AI a technológie telefonovania! Presne to dnes uvádzame s ThunderPhone.

Bola to dlhá cesta! Ospravedlňujeme sa všetkým, ktorí sa u nás zaregistrovali od minulého apríla a stále čakajú na prístup: to, čo sme považovali za rýchly finiš, sa ukázalo ako niekoľkomesačná výprava za hľadaním spôsobu, ako prepojiť dnes dostupné modely do čo najspoľahlivejšieho systému.

Teraz sme však konečne spustení — vyskúšajte si to a povedzte nám, čo si myslíte!

Hoci sme vyriešili hlavné nedostatky, v systéme sa určite stále môžu vyskytovať chyby. Ak narazíte na akýkoľvek problém, napíšte na alex@thunderphone.com a postarám sa, aby bol čo najskôr vyriešený. Dajte mi tiež vedieť, aké funkcie by ste si želali, a čo najskôr ich pre vás zrealizujeme.

Ak máte špecifickejšie potreby, napríklad podporu pri vlastnej implementácii a integrácii, požiadavky na súlad nad rámec bežných HIPAA a GDPR, SLA alebo vlastné požiadavky na funkcie, radi sa s vami porozprávame o podnikovej dohode. Kontaktujte nás na adrese alex@thunderphone.com a prediskutujeme vaše potreby aj to, či vám môžeme pomôcť.

Vo všeobecnosti vám sľubujeme, že je NAŠOU úlohou zabezpečiť, aby ThunderPhone fungoval hneď po nasadení s minimálnym úsilím z vašej strany a aby telefonické hovory vašej firmy spracúval tak dokonale, ako to dnešná AI umožňuje, v rámci cenovej úrovne, ktorú si vyberiete — Spark, Bolt alebo Storm. Vyskúšajte nás a tešíme sa, že vám ukážeme, čo ThunderPhone dokáže.

Dajte nám vedieť, čo si myslíte, a ďakujeme za vašu podporu!