Novosti i uvidi tima ThunderPhone.

Danas s uzbuđenjem najavljujem javno lansiranje naše platforme ThunderPhone v2 za samostalno korištenje.

Svatko sada može koristiti ThunderPhone bez prilagodbe za automatizaciju širokog raspona telefonskih poziva.

Kako smo došli do ovoga

Od prošle godine surađujemo s malom skupinom poslovnih korisnika na automatizaciji njihovih telefonskih poziva. U nekim su slučajevima ti pozivi bili u primjenama osjetljivima na performanse, poput pretprodaje i unosa podataka, gdje smo utvrdili da postojeće AI glasovne platforme rade toliko mnogo pogrešaka da bi se previše pozivatelja frustriralo i prekinulo poziv, čime bi se narušila jedinična ekonomika primjene.

Kako bismo riješili te probleme, na kraju smo od nule izgradili prilagođeni sustav koji radi manje pogrešaka u pozivima i omogućuje zahtjevne primjene. Nakon što smo ove godine automatizirali tisuće produkcijskih poziva, naš sustav sada stavljamo na raspolaganje javnosti kao platformu ThunderPhone v2 za samostalno korištenje.

Tri razine, već od 2 centa/min

Naš sustav počinje već od 2 centa/min za razinu Spark, s uključenim modelima, što ga čini najpovoljnijom cjelovitom AI glasovnom platformom na tržištu. Za veću brzinu nudimo i Bolt već od 5 centa/min. Za najveću moguću inteligenciju nudimo Storm već od 9 centa/min.

Storm može s velikom pouzdanošću upravljati i najsloženijim tijekovima poziva, bez potrebe za ručno izrađenim postavkama „izrađivača tijekova” - dovoljan je jedan upit!

S uključenom opcijom dodatne inteligencije (+3 centa/min), Storm postiže 99,4 % na Big Bench Audio, ispred svakog modela na dosadašnjoj ljestvici Artificial Analysis. Naš skup za evaluaciju i prijepisi javno su dostupni na Hugging Faceu, a uskoro ćemo podijeliti još rezultata usporednih testiranja. Ako želite svesti pogreške u produkcijskim pozivima na najmanju mjeru, Storm je najbolji izbor.

Integrirana arhitektura

ThunderPhone može biti i pametniji i jeftiniji od drugih sustava zahvaljujući našoj jedinstvenoj integriranoj arhitekturi. Umjesto „procesa u 3 koraka” koji kombinira jedan model za transkripciju, jedan LLM i jedan model za pretvaranje teksta u govor, koristimo složeniju mrežu u kojoj više modela za transkripciju, više LLM-ova i drugi elementi međusobno djeluju na pažljivo orkestrirane načine kako bi postigli najbolje moguće performanse uz najniži mogući trošak.

Među ostalim prednostima, to naše agente čini iznimnima u pravilnom razumijevanju pozivatelja, čak i u bučnim okruženjima ili uz izražene naglaske. Tako pozivi prolaze jednostavnije, uz pouzdaniji unos podataka za imena, adrese i drugo. Agenti ThunderPhonea obično pravilno razumiju čak i zahtjevna sricanja u jednoj izmjeni razgovora, dok drugim sustavima treba nekoliko pokušaja. A svako „oprosti, možete li to slovkati još jednom?” još je jedna prilika da pozivatelj prekine poziv!

Naš sustav uključuje i brojne komponente za suočavanje s poteškoćama stvarnih poziva, uključujući pozadinsku buku, lošu kvalitetu signala, prekide i drugo. Sustav za upravljanje razgovorima usavršavali smo na tisućama sati podataka iz stvarnog svijeta, a on značajno poboljšava iskustvo stvarnih pozivatelja.

Potpuna platforma

ThunderPhone također nudi sveobuhvatnu platformu koja iznimno olakšava izradu, testiranje, implementaciju i praćenje glasovnih agenata. Bez napuštanja ThunderPhonea možete:

• Konfigurirati dolazne i odlazne pozive te upravljati telefonskim brojevima
• Provoditi testiranje telefonskih agenata s ljudima i umjetnom inteligencijom
• Pratiti pozive uživo, dok se odvijaju
• Dopustiti sustavu da otkriva ponavljajuće probleme u vašim produkcijskim pozivima, predlaže rješenja te ih pregledava i primjenjuje
• Uz izvješća o lijevku vidjeti kako vaši pozivi funkcioniraju i gdje ih treba poboljšati

Platforma ThunderPhone također omogućuje jednostavno povezivanje telefonije i softverskih integracija. Čarobnjak za postavljanje povezuje vaš postojeći Twilio ili Telnyx račun, odnosno bilo koji standardni SIP trunk, uz nekoliko podataka vašeg pružatelja usluga, a nativni konektori pokrivaju Google Sheets, Google Calendar, HubSpot, Salesforce i Cal.com. Za sve ostale integracije čarobnjak omogućuje povezivanje s bilo kojim API-jem metodom „samo zalijepite i kliknite”.

U web-aplikaciju je ugrađen stalno dostupan kopilot koji iznimno olakšava snalaženje u korištenju platforme ThunderPhone. Može čak navigirati aplikacijom i poduzimati radnje umjesto vas — a budući da smo tvrtka za glasovnu umjetnu inteligenciju, može, naravno, razgovarati s vama umjesto da morate tipkati!

API-ji, poslovna rješenja i usklađenost

Za slučajeve upotrebe koji zahtijevaju više prilagodbi nego što nudi web-platforma, ThunderPhone ima i potpuno opremljen API koji omogućuje razne prilagođene integracije. Za još dublju prilagodbu platforme, posebne zahtjeve za troškove i latenciju, potrebe usklađenosti i slično nudimo prilagođene implementacije i podršku za poslovne korisnike. (Za upite me izravno kontaktirajte na alex@thunderphone.com)

ThunderPhone je standardno usklađen s HIPAA-om i GDPR-om za zdravstvene primjene i primjene u EU-u/Ujedinjenom Kraljevstvu, a BAA-ove i DPA-ove potpisujemo bez dodatne naknade.

Isprobajte danas

Za više informacija pogledajte našu web-stranicu, na kojoj detaljnije predstavljamo našu tehnologiju, cijene, značajke platforme i još mnogo toga.

Još bolje, isprobajte ThunderPhone i provjerite kako funkcionira za vaš slučaj upotrebe! Za početak će vam trebati samo nekoliko minuta, a naša web-aplikacija i kopilot osmišljeni su kako bi što jednostavnije postavili sve što vam je potrebno.

Ako naiđete na bilo kakve poteškoće ili imate zahtjeve, osobno mi se obratite na alex@thunderphone.com

Alex Kolchinski, CEO

Danas s ponosom najavljujemo javno lansiranje ThunderPhonea, koji olakšava automatizaciju telefonskih poziva uz pomoć AI-ja. Zahvaljujući potpuno drukčijoj integriranoj arhitekturi od drugih AI platformi za telefoniju, ThunderPhone može postići znatno bolje performanse, niže troškove i manje poteškoća s integracijama. ThunderPhone podržava dolazne i odlazne pozive na desecima jezika te je usklađen s propisima HIPAA i GDPR.

Prednost integracije

Druge AI platforme za telefoniju ograničavaju performanse svojih sustava namećući im strukturu od 3 koraka:

1. Jedan model za transkripciju, koji korisnikov glas pretvara u tekst.
2. Jedan LLM, koji obrađuje korisnikov tekst i daje odgovor.
3. Jedan TTS model, koji tekst odgovora ponovno pretvara u zvuk.

Većina njih također prebacuje inženjerski posao na korisnike tako što ih prisiljava da odaberu modele koje žele koristiti, kao i opcije konfiguracije poput parametara uklanjanja šuma i odazivnosti.

Mi smo odabrali drukčiji pristup: konfigurirali smo, prema našem mišljenju, najbolji mogući skup današnjih modela i pripremili ga za upotrebu bez složenog konfiguriranja. Naš sustav istodobno koristi mnogo modela te inteligentno usmjerava među njima ovisno o tijeku razgovora. To uključuje:

• Kombiniranje više modela za transkripciju, od kojih su neki brži, a neki precizniji, kako bismo uravnotežili brzinu i točnost te nadoknadili međusobne pogreške.
• Kombiniranje LLM-ova s audioulazom, koji mogu imati nižu opću inteligenciju, ali bolje razumijevanje zvuka, s LLM-ovima koji rade samo s tekstom, koji mogu griješiti zbog netočnih transkripata, ali su često inteligentniji.
• Kombiniranje brzih, ali manje sposobnih LLM-ova, koji mogu generirati brze odgovore, sa znatno inteligentnijim, ali sporijim LLM-ovima, koji mogu raditi u pozadini i osigurati da AI slijedi svoj prompt te ispravno odgovara na ono što korisnik kaže.
• Kombiniranje komercijalnih modela vodećih pružatelja, uključujući OpenAI i Google, koji nude najvišu danas dostupnu inteligenciju, sa širokim izborom modela otvorenog koda, koji često nude bolju brzinu uz niže troškove.
• Istodobno korištenje više modela za klasifikaciju i uklanjanje pozadinske buke, sporednih razgovora i druge ometajuće buke koja bi inače mogla poremetiti razgovor.

Ove i druge komponente orkestrirane su na različite načine u naša tri razreda usluge, Spark, Bolt i Storm — Spark je optimiziran za troškove, Bolt za brzinu, a Storm za inteligenciju, uz što veće smanjenje nedostataka svakoga od njih. Sva tri sustava dijele prednosti poput iznimno preciznog razumijevanja onoga što korisnici govore, čak i kada je riječ o vlastitim imenima i sricanju.

Smatramo da ova čvrsto integrirana arhitektura našem sustavu pruža znatno bolje performanse uz niže troškove od krutog pristupa u 3 koraka koji nude drugi pružatelji. U skladu s teorijom modularnosti Claya Christensena, glasovni AI još je u ranoj fazi razvoja i još je vrijednije maksimizirati performanse integriranom arhitekturom nego maksimizirati prilagodljivost modularnom arhitekturom.

Optimizirane odluke

Kad je riječ o prilagodljivosti, mi smo protiv nje! Većina današnjih platformi za telefonski AI prisiljava korisnike da se snalaze među beskrajnim izborima, od točnih modela koji se koriste do iznimno detaljnih parametara poput brzine kojom AI prekida korisnika.

Po našem mišljenju, NAŠ je posao optimizirati te izbore u pozadini kako bi se korisnici ThunderPhonea mogli usredotočiti na ono u čemu su dobri i ne brinuti o detaljnoj konfiguraciji glasovnog AI-ja. Sebe vidimo kao svojevrsni Squarespace koji korisnicima olakšava postavljanje telefonskih agenata uz apsolutno najbolje performanse koje današnji modeli mogu pružiti, bez ikakvog truda.

Jednostavnost upotrebe

ThunderPhone je također iznimno jednostavan za upotrebu, bilo da postavljate novog telefonskog agenta ili prelazite s druge platforme ili prilagođenog tehnološkog rješenja. Za postavljanje telefonskog agenta na ThunderPhoneu potrebno je samo:

1. Odlučiti želite li koristiti Spark, Bolt ili Storm.
2. Odabrati glas.
3. Dati nam svoj prompt. Nisu potrebni agenti s više promptova! Ako je vaš prompt previše složen za Spark ili Bolt, prijeđite na Storm, koji može obraditi čak i složene slučajeve upotrebe jednim promptom.
4. Povezati softverske integracije (bilo koju krajnju točku ili izvornu integraciju s n8n-om) pomoću iznimno jednostavnog čarobnjaka.
5. Povezati svoj VoIP pomoću iznimno jednostavnog čarobnjaka.

Sve to obično traje 10 minuta ili manje.

ThunderPhone je usklađen s HIPAA-om i GDPR-om, a na zahtjev ćemo potpisati i dostaviti BAA-ove i DPA-ove.

Naša priča

Tim smo bivših članova Stanford AI Laba i Y Combinatora koji rade na glasovnoj umjetnoj inteligenciji od 2024. godine. U početku smo bili usmjereni na Flux Interpreting, koji prevodi telefonske pozive između jezika. No nakon što su nas korisnici više puta pitali da automatiziramo telefonske pozive za njihove tvrtke, umjesto da ih samo prevodimo, preusmjerili smo fokus na ono što je danas ThunderPhone.

Problem s postojećim platformama

U početku smo izrađivali telefonske agente za korisnike na platformama za telefonsku umjetnu inteligenciju drugih tvrtki. Isprobali smo gotovo svaku platformu za telefonsku umjetnu inteligenciju na tržištu, ali nažalost utvrdili da im mnogo toga nedostaje, osobito kada je riječ o:

• Razumijevanju zvuka: Ograničenja jednog jedinog modela za transkripciju koji korisnikov zvuk pretvara u tekst značila su da bi umjetna inteligencija često „pogrešno čula” korisnika, osobito kod vlastitih imena, neuobičajenih riječi i slovkanja.
• Praćenju uputa: To što je sav stvarni „misaoni rad” poziva obavljao jedan brzi LLM značilo je da su se umjetne inteligencije često mučile s pravilnim praćenjem uputa i skretale s puta.
• Zahtjevnim integracijama: Platforme koje smo isprobali znatno su otežavale povezivanje s vanjskim softverom te su od nas uglavnom zahtijevale unos opsežnih JSON konfiguracija za pozive alata i neprestano borbu s njima, uz malo ili nimalo povratnih informacija sve dok odjednom ne bi počele raditi.
• Cijeni: Postojeće platforme uglavnom su naplaćivale papreno: obično 10 centi po minuti ili više za osrednje performanse.

Izgradnja vlastitog sustava

Kada smo potpisali ugovor za implementaciju slučaja upotrebe prodajnih poziva za klijenta iz segmenta velikih poduzeća, bili smo primorani izgraditi vlastiti prilagođeni sustav kako bismo zadovoljili njegove potrebe. Taj je slučaj upotrebe bio zahtjevan: za razliku od korisničke podrške, gdje su pozivatelji uglavnom prepušteni na milost i nemilost tvrtke, pozivatelji u prodaji brzo prekidaju poziv.

Kvaliteta poziva mora biti vrhunska kako bi se ostvarila prodaja, umjesto da se izgubi potencijalni klijent. To je značilo obradu brojnih vlastitih imena i slovkanja, uključujući imena i adrese, koje je standardnim modelima za transkripciju teško točno prepoznati. Kako bismo savladali taj slučaj upotrebe, izgradili smo ono što je danas ThunderPhone.

Usput smo se stalno susretali s ljudima iz zajednice glasovne umjetne inteligencije u San Franciscu koji su gradili tvrtke s vertikalnim telefonskim agentima — za veterinare, vozače kamiona i druge. Iznenađujuće, većina njih dijelila je isto mišljenje: postojeće platforme bile su dovoljno dobre za demonstracije, ali ne i za produkciju.

Začuđujuće je da su mnogi, ako ne i većina naših prijatelja u tvrtkama za vertikalnu glasovnu umjetnu inteligenciju zapravo „gradili vlastite” sustave... To nam nije imalo smisla — to je zaista kao da su internetski startupi devedesetih morali sami hostati vlastite web-poslužitelje na poslužitelju u ormaru.

S tim smo uvidom shvatili da je vrijeme da naš sustav telefonske umjetne inteligencije pretvorimo u platformu koju može koristiti bilo tko.

Tvrtke s vertikalnom glasovnom umjetnom inteligencijom i konzultanti trebali bi se moći usredotočiti na potrebe svojeg ciljnog tržišta uz pomoć stručnosti specifične za svoju industriju — a ne na složeno inženjerstvo temeljne umjetne inteligencije i telefonske tehnologije! To danas pokrećemo s ThunderPhoneom.

Bio je to dug put do ovdje! Ispričavamo se svima koji su se prijavili kod nas od prošlog travnja i još čekaju pristup: ono što smo smatrali kratkim sprintom za dovršetak posla pretvorilo se u višemjesečnu odiseju otkrivanja kako povezati danas dostupne modele u sustav koji je što robusniji.

No sada smo napokon dostupni — isprobajte ga i recite nam što mislite!

Iako smo riješili glavne probleme, u sustavu će zasigurno još biti grešaka. Ako naiđete na bilo kakve poteškoće, pošaljite e-poruku na alex@thunderphone.com, a ja ću se pobrinuti da to bude riješeno za Vas što prije. Javite nam i ako imate zahtjeve za novim značajkama, a mi ćemo ih također ostvariti čim budemo mogli.

Ako imate prilagođenije potrebe, kao što su podrška za prilagođenu implementaciju i integraciju, usklađenost koja nadilazi uobičajene HIPAA i GDPR zahtjeve, SLA-ovi i zahtjevi za prilagođene značajke, rado ćemo razgovarati o poslovnom ugovoru. Javite se na alex@thunderphone.com, pa ćemo razgovarati o Vašim potrebama i o tome možemo li pomoći.

Općenito, naša je obveza prema Vama sljedeća: NAŠ je posao pobrinuti se da ThunderPhone radi odmah po instalaciji uz minimalan trud s Vaše strane te da obrađuje pozive Vaše tvrtke onoliko savršeno koliko je to moguće s današnjom umjetnom inteligencijom, unutar ograničenja cjenovne razine koju odaberete — Spark, Bolt ili Storm. Isprobajte nas; uzbuđeni smo što ćemo Vam pokazati što ThunderPhone može učiniti.

Javite nam što mislite i hvala Vam na podršci!