ThunderPhone publiskā palaišana

Šodien ar lepnumu paziņojam par ThunderPhone publisko palaišanu, kas atvieglo tālruņa zvanu automatizēšanu ar mākslīgo intelektu. Pateicoties pilnīgi atšķirīgai integrētai arhitektūrai nekā citām tālruņu AI platformām, ThunderPhone spēj nodrošināt ievērojami augstāku veiktspēju, zemākas izmaksas un mazāk problēmu ar integrācijām. ThunderPhone atbalsta ienākošos un izejošos zvanus desmitiem valodu un atbilst HIPAA un GDPR prasībām.

Integrētās arhitektūras priekšrocība

Citas tālruņu AI platformas ierobežo savu sistēmu veiktspēju, uzspiežot tām 3 posmu struktūru:

1. Viens transkribēšanas modelis, kas lietotāja balsi pārvērš tekstā.
2. Viens LLM, kas apstrādā lietotāja tekstu un ģenerē atbildi.
3. Viens TTS modelis, kas atbildes tekstu pārvērš atpakaļ audio formātā.

Vairums no tām arī uzliek inženiertehnisko darbu saviem lietotājiem, liekot izvēlēties izmantojamos modeļus, kā arī konfigurācijas opcijas, piemēram, trokšņu slāpēšanas un reaģēšanas ātruma parametrus.

Mēs esam izvēlējušies citu pieeju: esam konfigurējuši, mūsuprāt, labāko iespējamo steku ar mūsdienu modeļiem un padarījuši to gatavu lietošanai bez sarežģītiem konfigurēšanas darbiem. Mūsu sistēma vienlaikus izmanto daudzus modeļus un inteliģenti pārslēdzas starp tiem atkarībā no sarunas gaitas. Tas ietver:

• Vairāku transkribēšanas modeļu apvienošanu — daži ir ātrāki, citi precīzāki — lai līdzsvarotu ātrumu un precizitāti un kompensētu cits cita kļūdas.
• LLM ar audio ievadi, kuriem var būt zemāks vispārējā intelekta līmenis, bet labāka audio izpratne, apvienošanu ar tikai teksta LLM, kuri var kļūdīties neprecīzu transkripciju dēļ, bet bieži ir gudrāki.
• Ātru, bet vienkāršu LLM, kas var ģenerēt ātras atbildes, apvienošanu ar daudz gudrākiem, bet lēnākiem LLM, kas var darboties fonā un nodrošināt, ka AI ievēro savu uzvedni un pareizi reaģē uz lietotāja teikto.
• Vadošo piegādātāju, tostarp OpenAI un Google, komerciālo modeļu, kas piedāvā mūsdienās pieejamo augstāko intelekta līmeni, apvienošanu ar plašu atvērtā pirmkoda modeļu klāstu, kas bieži nodrošina lielāku ātrumu par zemākām izmaksām.
• Vairāku modeļu vienlaicīgu izmantošanu, lai klasificētu un novērstu fona troksni, blakussarunas un citus traucējošus trokšņus, kas citādi var izjaukt sarunu.

Šie un citi komponenti mūsu trīs pakalpojumu līmeņos — Spark, Bolt un Storm — tiek orķestrēti dažādos veidos: Spark ir optimizēts izmaksām, Bolt — ātrumam, bet Storm — intelektam, vienlaikus pēc iespējas samazinot katra risinājuma trūkumus. Visām trim sistēmām ir kopīgas priekšrocības, piemēram, neticami precīza lietotāju teiktā izpratne pat tad, ja tiek minēti īpašvārdi un vārdi tiek izrunāti pa burtiem.

Mēs uzskatām, ka šī cieši integrētā arhitektūra mūsu sistēmai nodrošina daudz augstāku veiktspēju par zemākām izmaksām nekā citu piegādātāju piedāvātā stingrā 3 posmu pieeja. Saskaņā ar Kleja Kristensena modularitātes teoriju balss AI joprojām ir agrīnā attīstības posmā, un integrēta arhitektūra veiktspējas maksimizēšanai joprojām ir vērtīgāka nekā modulāra arhitektūra pielāgojamības maksimizēšanai.

Optimizēti lēmumi

Un attiecībā uz pielāgojamību mēs esam pret to! Lielākā daļa mūsdienu tālruņa AI platformu liek lietotājiem orientēties bezgalīgā izvēļu klāstā — no precīzi izmantotajiem modeļiem līdz ļoti detalizētiem parametriem, piemēram, tam, cik ātri AI pārtrauc lietotāju.

Mūsuprāt, tieši MŪSU uzdevums ir optimizēt šīs izvēles aizkulisēs, lai ThunderPhone lietotāji varētu koncentrēties uz to, ko viņi prot vislabāk, un neuztraukties par detalizētu balss AI konfigurēšanu. Mēs sevi redzam kā sava veida Squarespace, kas ļauj mūsu lietotājiem bez piepūles iestatīt tālruņa aģentus ar visaugstāko iespējamo veiktspēju, ko nodrošina mūsdienu modeļi.

Lietošanas vienkāršība

ThunderPhone ir arī neticami vienkārši lietojams — gan iestatot jaunu tālruņa aģentu, gan migrējot no citas platformas vai pielāgota tehnoloģiju komplekta. Lai iestatītu tālruņa aģentu pakalpojumā ThunderPhone, nepieciešams tikai:

1. Izlemt, vai vēlaties izmantot Spark, Bolt vai Storm.
2. Izvēlēties balsi.
3. Iedot mums savu uzvedni. Nav nepieciešami aģenti ar vairākām uzvednēm! Ja jūsu uzvedne ir pārāk sarežģīta Spark vai Bolt, pārejiet uz Storm, kas ar vienu uzvedni spēj apstrādāt pat sarežģītus lietošanas scenārijus.
4. Savienot programmatūras integrācijas (jebkuru galapunktu vai vietējo n8n integrāciju), izmantojot neticami vienkāršu vedni.
5. Savienot savu VoIP, izmantojot neticami vienkāršu vedni.

Parasti tas viss aizņem 10 minūtes vai mazāk.

ThunderPhone atbilst HIPAA un GDPR prasībām, un pēc pieprasījuma mēs parakstīsim un nodrošināsim BAA un DPA.

Mūsu stāsts

Mēs esam Stanforda MI laboratorijas un Y Combinator absolventu komanda, kas ar balss MI strādā kopš 2024. gada. Sākotnēji koncentrējāmies uz Flux Interpreting, kas tulko telefona zvanus starp valodām. Taču, kad klienti vairākkārt lūdza mums automatizēt tālruņa zvanus viņu uzņēmumiem, nevis tikai tos tulkot, mēs pievērsāmies tam, ko tagad saucam par ThunderPhone.

Esošo platformu problēmas

Sākumā mēs veidojām tālruņa aģentus klientiem, izmantojot citu uzņēmumu tālruņu MI platformas. Izmēģinājām teju visas tirgū pieejamās tālruņu MI platformas, taču diemžēl konstatējām, ka tām trūkst daudzu būtisku iespēju, jo īpaši šādās jomās:

• Audio izpratne: Tas, ka lietotāja audio pārvēršanai tekstā bija pieejams tikai viens transkripcijas modelis, nozīmēja, ka MI bieži lietotāju “pārklausīja”, īpaši attiecībā uz īpašvārdiem, retiem vārdiem un burtiskojumiem.
• Norādījumu izpilde: Viens ātrs LLM, kas veica zvana faktisko “domāšanas darbu”, nozīmēja, ka MI bieži vien nespēja pareizi ievērot norādījumus un novirzījās no uzdevuma.
• Sarežģītas integrācijas: Mūsu izmēģinātās platformas ļoti apgrūtināja savienošanu ar ārēju programmatūru, parasti liekot mums ievadīt apjomīgas JSON konfigurācijas rīku izsaukumiem un atkārtoti ar tām cīnīties, nesaņemot gandrīz nekādu atgriezenisko saiti, līdz tās pēkšņi sāka darboties.
• Cena: Esošās platformas parasti prasīja nesamērīgi daudz — par viduvēju veiktspēju parasti 10 centus minūtē vai vairāk.

Mūsu pašu tehnoloģiju steka izveide

Kad noslēdzām līgumu par pārdošanas zvanu risinājuma ieviešanu korporatīvam klientam, mums nācās izveidot savu pielāgoto tehnoloģiju steku, lai apmierinātu viņu vajadzības. Šis lietojums bija prasīgs: atšķirībā no klientu atbalsta, kur zvanītāji lielākoties ir uzņēmuma noteikumu varā, pārdošanas zvanu laikā cilvēki ātri noliek klausuli.

Lai noslēgtu pārdošanu, nevis zaudētu potenciālo klientu, zvana kvalitātei jābūt nevainojamai. Tas nozīmēja pareizi apstrādāt daudzus īpašvārdus un burtiskojumus, tostarp vārdus un adreses, ko standarta transkripcijas modeļiem ir grūti atpazīt. Lai šo lietojumu īstenotu nevainojami, mēs izveidojām to, kas tagad ir ThunderPhone.

Pa ceļam mēs turpinājām satikt cilvēkus Sanfrancisko balss MI kopienā, kuri veidoja nozares specifiskus tālruņa aģentu uzņēmumus — veterinārārstiem, kravas automašīnu vadītājiem un citiem. Pārsteidzoši, vairumam no viņiem bija viens un tas pats viedoklis: esošās platformas bija pietiekami labas demonstrācijām, bet ne darbam produkcijas vidē.

Šokējoši, daudzi, ja ne lielākā daļa mūsu draugu no nozares specifisko balss MI uzņēmumu patiesībā veidoja savus tehnoloģiju stekus... Mums tas nešķita loģiski — tas būtībā līdzinās situācijai, kurā tīmekļa jaunuzņēmumiem 90. gados būtu pašiem jāmitina savi tīmekļa serveri uz servera savā skapī.

Ar šo atziņu sapratām, ka ir pienācis laiks pārvērst mūsu tālruņu MI sistēmu par platformu, ko var izmantot ikviens.

Nozares specifisko balss MI uzņēmumu un konsultantu uzmanībai jābūt vērstai uz sava mērķa tirgus vajadzību apmierināšanu, izmantojot savas nozares zināšanas — nevis uz sarežģītu pamatā esošās MI un tālruņu tehnoloģijas izstrādi! Tieši to mēs šodien piedāvājam ar ThunderPhone.

Ceļš līdz šim brīdim ir bijis garš! Atvainojamies ikvienam, kurš ir reģistrējies pie mums kopš pagājušā gada aprīļa un joprojām gaida piekļuvi: tas, kas, mūsuprāt, būs ātrs finiša sprints, izvērtās par vairāku mēnešu odiseju, mēģinot saprast, kā savienot šobrīd pieejamos modeļus sistēmā, kas ir pēc iespējas izturīgāka.

Taču tagad beidzot esam pieejami — izmēģiniet un pastāstiet, ko domājat!

Lai gan esam novērsuši galvenās problēmas, sistēmā noteikti vēl būs kļūdas. Ja atrodat kādu problēmu, lūdzu, rakstiet uz alex@thunderphone.com, un es parūpēšos, lai tā tiktu novērsta pēc iespējas ātrāk. Informējiet arī par saviem funkciju pieprasījumiem, un mēs centīsimies tos īstenot, cik vien ātri iespējams.

Ja jums ir īpašākas vajadzības, piemēram, pielāgota ieviešana un integrāciju atbalsts, atbilstības prasības, kas pārsniedz standarta HIPAA un GDPR prasības, SLA vai pielāgotu funkciju pieprasījumi, mēs labprāt apspriedīsim uzņēmuma līgumu. Rakstiet uz alex@thunderphone.com, un pārrunāsim jūsu vajadzības un to, vai varam palīdzēt.

Un vispārīgi: mūsu apņemšanās pret jums ir šāda — MŪSU uzdevums ir nodrošināt, lai ThunderPhone darbotos uzreiz, ar minimālu jūsu piepūli, un apstrādātu jūsu uzņēmuma zvanus tik nevainojami, cik tas ir iespējams ar mūsdienu MI, ievērojot jūsu izvēlētā cenu līmeņa — Spark, Bolt vai Storm — robežas. Izmēģiniet mūs, un mēs ar prieku parādīsim, ko ThunderPhone spēj.

Pastāstiet mums, ko domājat, un paldies par jūsu atbalstu!