Predstavljamo ThunderPhone

Danas s ponosom najavljujemo javno lansiranje ThunderPhonea, koji olakšava automatizaciju telefonskih poziva uz pomoć AI-ja. Zahvaljujući potpuno drukčijoj integriranoj arhitekturi od drugih AI platformi za telefoniju, ThunderPhone može postići znatno bolje performanse, niže troškove i manje poteškoća s integracijama. ThunderPhone podržava dolazne i odlazne pozive na desecima jezika te je usklađen s propisima HIPAA i GDPR.

Prednost integracije

Druge AI platforme za telefoniju ograničavaju performanse svojih sustava namećući im strukturu od 3 koraka:

1. Jedan model za transkripciju, koji korisnikov glas pretvara u tekst.
2. Jedan LLM, koji obrađuje korisnikov tekst i daje odgovor.
3. Jedan TTS model, koji tekst odgovora ponovno pretvara u zvuk.

Većina njih također prebacuje inženjerski posao na korisnike tako što ih prisiljava da odaberu modele koje žele koristiti, kao i opcije konfiguracije poput parametara uklanjanja šuma i odazivnosti.

Mi smo odabrali drukčiji pristup: konfigurirali smo, prema našem mišljenju, najbolji mogući skup današnjih modela i pripremili ga za upotrebu bez složenog konfiguriranja. Naš sustav istodobno koristi mnogo modela te inteligentno usmjerava među njima ovisno o tijeku razgovora. To uključuje:

• Kombiniranje više modela za transkripciju, od kojih su neki brži, a neki precizniji, kako bismo uravnotežili brzinu i točnost te nadoknadili međusobne pogreške.
• Kombiniranje LLM-ova s audioulazom, koji mogu imati nižu opću inteligenciju, ali bolje razumijevanje zvuka, s LLM-ovima koji rade samo s tekstom, koji mogu griješiti zbog netočnih transkripata, ali su često inteligentniji.
• Kombiniranje brzih, ali manje sposobnih LLM-ova, koji mogu generirati brze odgovore, sa znatno inteligentnijim, ali sporijim LLM-ovima, koji mogu raditi u pozadini i osigurati da AI slijedi svoj prompt te ispravno odgovara na ono što korisnik kaže.
• Kombiniranje komercijalnih modela vodećih pružatelja, uključujući OpenAI i Google, koji nude najvišu danas dostupnu inteligenciju, sa širokim izborom modela otvorenog koda, koji često nude bolju brzinu uz niže troškove.
• Istodobno korištenje više modela za klasifikaciju i uklanjanje pozadinske buke, sporednih razgovora i druge ometajuće buke koja bi inače mogla poremetiti razgovor.

Ove i druge komponente orkestrirane su na različite načine u naša tri razreda usluge, Spark, Bolt i Storm — Spark je optimiziran za troškove, Bolt za brzinu, a Storm za inteligenciju, uz što veće smanjenje nedostataka svakoga od njih. Sva tri sustava dijele prednosti poput iznimno preciznog razumijevanja onoga što korisnici govore, čak i kada je riječ o vlastitim imenima i sricanju.

Smatramo da ova čvrsto integrirana arhitektura našem sustavu pruža znatno bolje performanse uz niže troškove od krutog pristupa u 3 koraka koji nude drugi pružatelji. U skladu s teorijom modularnosti Claya Christensena, glasovni AI još je u ranoj fazi razvoja i još je vrijednije maksimizirati performanse integriranom arhitekturom nego maksimizirati prilagodljivost modularnom arhitekturom.

Optimizirane odluke

Kad je riječ o prilagodljivosti, mi smo protiv nje! Većina današnjih platformi za telefonski AI prisiljava korisnike da se snalaze među beskrajnim izborima, od točnih modela koji se koriste do iznimno detaljnih parametara poput brzine kojom AI prekida korisnika.

Po našem mišljenju, NAŠ je posao optimizirati te izbore u pozadini kako bi se korisnici ThunderPhonea mogli usredotočiti na ono u čemu su dobri i ne brinuti o detaljnoj konfiguraciji glasovnog AI-ja. Sebe vidimo kao svojevrsni Squarespace koji korisnicima olakšava postavljanje telefonskih agenata uz apsolutno najbolje performanse koje današnji modeli mogu pružiti, bez ikakvog truda.

Jednostavnost upotrebe

ThunderPhone je također iznimno jednostavan za upotrebu, bilo da postavljate novog telefonskog agenta ili prelazite s druge platforme ili prilagođenog tehnološkog rješenja. Za postavljanje telefonskog agenta na ThunderPhoneu potrebno je samo:

1. Odlučiti želite li koristiti Spark, Bolt ili Storm.
2. Odabrati glas.
3. Dati nam svoj prompt. Nisu potrebni agenti s više promptova! Ako je vaš prompt previše složen za Spark ili Bolt, prijeđite na Storm, koji može obraditi čak i složene slučajeve upotrebe jednim promptom.
4. Povezati softverske integracije (bilo koju krajnju točku ili izvornu integraciju s n8n-om) pomoću iznimno jednostavnog čarobnjaka.
5. Povezati svoj VoIP pomoću iznimno jednostavnog čarobnjaka.

Sve to obično traje 10 minuta ili manje.

ThunderPhone je usklađen s HIPAA-om i GDPR-om, a na zahtjev ćemo potpisati i dostaviti BAA-ove i DPA-ove.

Naša priča

Tim smo bivših članova Stanford AI Laba i Y Combinatora koji rade na glasovnoj umjetnoj inteligenciji od 2024. godine. U početku smo bili usmjereni na Flux Interpreting, koji prevodi telefonske pozive između jezika. No nakon što su nas korisnici više puta pitali da automatiziramo telefonske pozive za njihove tvrtke, umjesto da ih samo prevodimo, preusmjerili smo fokus na ono što je danas ThunderPhone.

Problem s postojećim platformama

U početku smo izrađivali telefonske agente za korisnike na platformama za telefonsku umjetnu inteligenciju drugih tvrtki. Isprobali smo gotovo svaku platformu za telefonsku umjetnu inteligenciju na tržištu, ali nažalost utvrdili da im mnogo toga nedostaje, osobito kada je riječ o:

• Razumijevanju zvuka: Ograničenja jednog jedinog modela za transkripciju koji korisnikov zvuk pretvara u tekst značila su da bi umjetna inteligencija često „pogrešno čula” korisnika, osobito kod vlastitih imena, neuobičajenih riječi i slovkanja.
• Praćenju uputa: To što je sav stvarni „misaoni rad” poziva obavljao jedan brzi LLM značilo je da su se umjetne inteligencije često mučile s pravilnim praćenjem uputa i skretale s puta.
• Zahtjevnim integracijama: Platforme koje smo isprobali znatno su otežavale povezivanje s vanjskim softverom te su od nas uglavnom zahtijevale unos opsežnih JSON konfiguracija za pozive alata i neprestano borbu s njima, uz malo ili nimalo povratnih informacija sve dok odjednom ne bi počele raditi.
• Cijeni: Postojeće platforme uglavnom su naplaćivale papreno: obično 10 centi po minuti ili više za osrednje performanse.

Izgradnja vlastitog sustava

Kada smo potpisali ugovor za implementaciju slučaja upotrebe prodajnih poziva za klijenta iz segmenta velikih poduzeća, bili smo primorani izgraditi vlastiti prilagođeni sustav kako bismo zadovoljili njegove potrebe. Taj je slučaj upotrebe bio zahtjevan: za razliku od korisničke podrške, gdje su pozivatelji uglavnom prepušteni na milost i nemilost tvrtke, pozivatelji u prodaji brzo prekidaju poziv.

Kvaliteta poziva mora biti vrhunska kako bi se ostvarila prodaja, umjesto da se izgubi potencijalni klijent. To je značilo obradu brojnih vlastitih imena i slovkanja, uključujući imena i adrese, koje je standardnim modelima za transkripciju teško točno prepoznati. Kako bismo savladali taj slučaj upotrebe, izgradili smo ono što je danas ThunderPhone.

Usput smo se stalno susretali s ljudima iz zajednice glasovne umjetne inteligencije u San Franciscu koji su gradili tvrtke s vertikalnim telefonskim agentima — za veterinare, vozače kamiona i druge. Iznenađujuće, većina njih dijelila je isto mišljenje: postojeće platforme bile su dovoljno dobre za demonstracije, ali ne i za produkciju.

Začuđujuće je da su mnogi, ako ne i većina naših prijatelja u tvrtkama za vertikalnu glasovnu umjetnu inteligenciju zapravo „gradili vlastite” sustave... To nam nije imalo smisla — to je zaista kao da su internetski startupi devedesetih morali sami hostati vlastite web-poslužitelje na poslužitelju u ormaru.

S tim smo uvidom shvatili da je vrijeme da naš sustav telefonske umjetne inteligencije pretvorimo u platformu koju može koristiti bilo tko.

Tvrtke s vertikalnom glasovnom umjetnom inteligencijom i konzultanti trebali bi se moći usredotočiti na potrebe svojeg ciljnog tržišta uz pomoć stručnosti specifične za svoju industriju — a ne na složeno inženjerstvo temeljne umjetne inteligencije i telefonske tehnologije! To danas pokrećemo s ThunderPhoneom.

Bio je to dug put do ovdje! Ispričavamo se svima koji su se prijavili kod nas od prošlog travnja i još čekaju pristup: ono što smo smatrali kratkim sprintom za dovršetak posla pretvorilo se u višemjesečnu odiseju otkrivanja kako povezati danas dostupne modele u sustav koji je što robusniji.

No sada smo napokon dostupni — isprobajte ga i recite nam što mislite!

Iako smo riješili glavne probleme, u sustavu će zasigurno još biti grešaka. Ako naiđete na bilo kakve poteškoće, pošaljite e-poruku na alex@thunderphone.com, a ja ću se pobrinuti da to bude riješeno za Vas što prije. Javite nam i ako imate zahtjeve za novim značajkama, a mi ćemo ih također ostvariti čim budemo mogli.

Ako imate prilagođenije potrebe, kao što su podrška za prilagođenu implementaciju i integraciju, usklađenost koja nadilazi uobičajene HIPAA i GDPR zahtjeve, SLA-ovi i zahtjevi za prilagođene značajke, rado ćemo razgovarati o poslovnom ugovoru. Javite se na alex@thunderphone.com, pa ćemo razgovarati o Vašim potrebama i o tome možemo li pomoći.

Općenito, naša je obveza prema Vama sljedeća: NAŠ je posao pobrinuti se da ThunderPhone radi odmah po instalaciji uz minimalan trud s Vaše strane te da obrađuje pozive Vaše tvrtke onoliko savršeno koliko je to moguće s današnjom umjetnom inteligencijom, unutar ograničenja cjenovne razine koju odaberete — Spark, Bolt ili Storm. Isprobajte nas; uzbuđeni smo što ćemo Vam pokazati što ThunderPhone može učiniti.

Javite nam što mislite i hvala Vam na podršci!