ThunderPhone'i tutvustus

Täna teatame uhkusega ThunderPhone'i avalikust käivitamisest, mis teeb AI abil telefonikõnede automatiseerimise lihtsaks. Teistest telefoni-AI platvormidest täiesti erineva integreeritud arhitektuuriga ThunderPhone saavutab märksa suurema jõudluse, madalamad kulud ja vähem integratsioonidega seotud peavalu. ThunderPhone toetab sisse- ja väljuvaid kõnesid kümnetes keeltes ning vastab HIPAA ja GDPRi nõuetele.

Integreeritud lahenduse eelis

Teised telefoni-AI platvormid piiravad oma süsteemide jõudlust, surudes neile peale 3-etapilise struktuuri:

1. Üks transkriptsioonimudel, mis muudab kasutaja hääle tekstiks.
2. Üks LLM, mis töötleb kasutaja teksti ja annab vastuse.
3. Üks TTS-mudel, mis muudab vastuse teksti tagasi heliks.

Enamik neist lükkab inseneritöö ka kasutajate õlgadele, sundides neid valima, milliseid mudeleid kasutada, ning seadistama selliseid valikuid nagu mürasummutus ja reageerimiskiiruse parameetrid.

Meie lähenesime teisiti: oleme seadistanud tänapäevaste mudelitega meie hinnangul parima võimaliku mudelipinu ning teinud selle kasutusvalmis ilma keeruka seadistustööta. Meie süsteem kasutab korraga mitut mudelit ja suunab nende vahel arukalt vastavalt vestluse kulgemisele. See hõlmab järgmist:

• Mitme transkriptsioonimudeli kombineerimine — mõned neist on kiiremad, teised täpsemad — et tasakaalustada kiirust ja täpsust ning kompenseerida üksteise vigu.
• Heli sisendiga LLM-ide, mille üldine intelligentsus võib olla madalam, kuid heli mõistmine parem, kombineerimine ainult tekstiga LLM-idega, mis võivad ebatäpsete transkriptsioonide tõttu vigu teha, kuid on sageli nutikamad.
• Kiirete, kuid rumalate LLM-ide, mis suudavad luua kiireid vastuseid, kombineerimine palju nutikamate, kuid aeglasemate LLM-idega, mis saavad töötada taustal ning tagada, et AI järgib oma viipa ja vastab kasutaja jutule õigesti.
• Tippteenusepakkujate, sealhulgas OpenAI ja Google'i kommertsmudelite, mis pakuvad praegu kõrgeimat saadaolevat intelligentsust, kombineerimine suure hulga avatud lähtekoodiga mudelitega, mis pakuvad sageli paremat kiirust madalama hinnaga.
• Mitme mudeli samaaegne kasutamine taustamüra, kõrvalvestluste ja muu häiriva müra klassifitseerimiseks ja kõrvaldamiseks, mis võiksid muidu vestluse rööpast välja viia.

Neid komponente ja palju muud orkestreeritakse meie kolmes teenusetasemes — Spark, Bolt ja Storm — erinevalt: Spark on optimeeritud kulude, Bolt kiiruse ja Storm intelligentsuse jaoks, minimeerides samal ajal igaühe puudusi nii palju kui võimalik. Kõigil kolmel süsteemil on ühised eelised, näiteks uskumatult täpne arusaamine kasutajate jutust ka pärisnimede ja õigekirja puhul.

Leiame, et see tihedalt integreeritud arhitektuur annab meie süsteemile teiste pakkujate jäiga 3-etapilise lähenemisega võrreldes palju suurema jõudluse madalama hinnaga. Clay Christenseni modulaarsusteooriaga kooskõlas on hääl-AI alles varajases arengujärgus ning praegu on integreeritud arhitektuuriga jõudluse maksimeerimine endiselt väärtuslikum kui modulaarsusega kohandatavuse maksimeerimine.

Optimeeritud otsused

Mis puudutab kohandatavust, siis oleme sellele vastu. Enamik tänapäevaseid telefonitehisintellekti platvorme sunnib kasutajaid navigeerima lõpututes valikutes, alates kasutatavatest täpsetest mudelitest kuni ülidetailsete parameetriteni, näiteks kui kiiresti tehisintellekt kasutajale vahele segab.

Meie arvates on MEIE ülesanne neid valikuid taustal optimeerida, et ThunderPhone’i kasutajad saaksid keskenduda sellele, milles nad head on, ega peaks muretsema häältehisintellekti üksikasjaliku seadistamise pärast. Näeme end omamoodi Squarespace’ina, mis teeb kasutajatele telefonihäälagentide seadistamise võimalikult lihtsaks ja tagab tänapäevaste mudelitega absoluutse parima võimaliku jõudluse, ilma et peaksid sõrmegi liigutama.

Kasutuslihtsus

ThunderPhone’i on ka uskumatult lihtne kasutada, olenemata sellest, kas seadistad uut telefonihäälagenti või migreerid mõnelt teiselt platvormilt või kohandatud süsteemist. Telefonihäälagendi seadistamiseks ThunderPhone’is tuleb teha vaid järgmist:

1. Otsusta, kas soovid kasutada Sparki, Bolti või Stormi.
2. Vali hääl.
3. Anna meile oma prompt. Mitme promptiga agente pole vaja! Kui sinu prompt on Sparki või Bolti jaoks liiga keeruline, vali Storm, mis saab ka keerukate kasutusjuhtudega hakkama ühe promptiga.
4. Ühenda tarkvaraintegratsioonid (mis tahes lõpp-punkt või natiivne n8n-integratsioon) uskumatult lihtsasti kasutatava viisardi abil.
5. Ühenda oma VoIP uskumatult lihtsasti kasutatava viisardi abil.

Kõik see võtab tavaliselt 10 minutit või vähem.

ThunderPhone vastab HIPAA ja GDPRi nõuetele ning allkirjastame ja väljastame soovi korral BAA-d ja DPA-d.

Meie lugu

Oleme Stanfordi AI Labi ja Y Combinatori vilistlastest koosnev meeskond, kes on tegelenud häältehisintellektiga alates 2024. aastast. Algselt keskendusime Flux Interpretingule, mis tõlgib telefonikõnesid eri keelte vahel. Kuid kuna kliendid palusid meil korduvalt nende ettevõtete telefonikõnesid pelgalt tõlkimise asemel automatiseerida, suunasime fookuse sellele, millest sai ThunderPhone.

Olemasolevate platvormide probleemid

Alustasime telefonihäälagentide loomisega klientidele teiste ettevõtete telefonitehisintellekti platvormidel. Testisime peaaegu kõiki turul saadaolevaid telefonitehisintellekti platvorme, kuid kahjuks jäid need meie arvates puudulikuks, eriti järgmistes valdkondades:

• Heli mõistmine: Piirang, et kasutaja heli tekstiks muutmiseks oli vaid üks transkriptsioonimudel, tähendas, et tehisintellekt „kuulis” kasutajat sageli valesti, eriti pärisnimede, haruldaste sõnade ja õigekirja puhul.
• Juhiste järgimine: Kui kõne tegeliku „mõttetöö” tegi üks kiire LLM, oli tehisintellektil sageli raske juhiseid õigesti järgida ning see kaldus rajalt kõrvale.
• Keerulised integratsioonid: Meie proovitud platvormidel oli välise tarkvaraga ühendamine väga keeruline; üldjuhul pidime tööriistakutsete jaoks sisestama mahukaid JSON-i konfiguratsioone ja neid vähese või olematu tagasisidega üha uuesti läbi proovima, kuni need äkki tööle hakkasid.
• Hind: Olemasolevad platvormid küsisid üldjuhul hingehinda: keskpärase jõudluse eest tavaliselt 10 senti minutis või rohkem.

Oma tehnoloogiapinu ehitamine

Kui sõlmisime ettevõttest kliendiga lepingu müügikõnede kasutusjuhtumi juurutamiseks, pidime nende vajaduste täitmiseks ehitama oma kohandatud tehnoloogiapinu. See kasutusjuhtum oli nõudlik: erinevalt klienditoest, kus helistajad sõltuvad suuresti ettevõtte heatahtlikkusest, katkestavad müügikõnede helistajad kiiresti kõne.

Müügi tegemiseks, mitte potentsiaalse kliendi kaotamiseks, peab kõne kvaliteet olema tipptasemel. See tähendas suure hulga pärisnimede ja kirjapiltide, sealhulgas nimede ja aadresside käsitlemist, mida tavapärastel transkriptsioonimudelitel on raske õigesti tabada. Selle kasutusjuhtumi laitmatuks lahendamiseks ehitasime selle, millest sai ThunderPhone.

Selle käigus kohtasime San Francisco häältehisintellekti kogukonnas üha inimesi, kes ehitasid vertikaalseid telefonihäälagentide ettevõtteid — veterinaaridele, veokijuhtidele ja teistele. Üllataval kombel jagas enamik neist sama arvamust: olemasolevad platvormid olid demode jaoks piisavalt head, kuid mitte tootmiskeskkonna jaoks.

Šokeerivalt kasutasid paljud, kui mitte enamik meie sõpru vertikaalsete häältehisintellekti ettevõtete seas tegelikult omaenda tehnoloogiapinusid... See ei olnud meie jaoks loogiline — see on sisuliselt sama, nagu oleksid veebialustavad ettevõtted 90ndatel pidanud oma veebiservereid majutama kapis seisvas serveris.

Selle taipamisega mõistsime, et on aeg muuta meie telefonitehisintellekti süsteem platvormiks, mida saab kasutada igaüks.

Vertikaalsete häältehisintellekti ettevõtete ja konsultantide fookus peaks olema oma sihtturu vajaduste täitmisel valdkonnaspetsiifilise asjatundlikkusega — mitte aluseks oleva tehisintellekti- ja telefonitehnoloogia keerukal projekteerimisel! Just seda me täna ThunderPhone'iga lansseerime.

Siia jõudmine on olnud pikk teekond! Vabandame kõigi ees, kes on meiega eelmise aasta aprillist alates liitunud ja ootavad endiselt juurdepääsu: see, mis meie arvates pidi olema kiire lõpuspurt, kujunes mitme kuu pikkuseks odüsseiaks, mille jooksul selgitasime välja, kuidas põimida täna saadaolevad mudelid võimalikult töökindlaks süsteemiks.

Aga nüüd oleme viimaks avalikult saadaval — proovi järele ja vaata, mida arvad!

Kuigi oleme suuremad probleemid lahendanud, leidub süsteemis kindlasti veel vigu. Kui leiad mõne probleemi, kirjuta palun aadressile alex@thunderphone.com ning hoolitsen selle eest, et see saaks sinu jaoks võimalikult kiiresti parandatud. Anna teada ka võimalikest funktsioonisoovidest ning viime need ellu niipea, kui saame.

Kui sul on kohandatumaid vajadusi, näiteks kohandatud juurutus- ja integratsioonitugi, tavapärasest HIPAA- ja GDPR-vastavusest ulatuslikum nõuetele vastavus, SLA-d või kohandatud funktsioonisoovid, räägime hea meelega ettevõttepaketist. Võta ühendust aadressil alex@thunderphone.com ning arutame sinu vajadusi ja seda, kas saame aidata.

Ja üldisemalt: meie lubadus sulle on, et ThunderPhone peab minimaalse sinu-poolse vaevaga töötama kohe algusest peale ning käsitlema sinu ettevõtte kõnesid nii täiuslikult, kui see tänapäeva tehisintellektiga võimalik on, valitud hinnataseme — Spark, Bolt või Storm — piirides. Proovi meid ning ootame põnevusega, et näidata sulle, mida ThunderPhone suudab.

Anna meile teada, mida arvad, ja aitäh toetuse eest!