ThunderPhone-tiimin uutisia ja näkemyksiä.

Tänään ilmoitan innolla ThunderPhone v2 -itsepalvelualustamme julkisesta julkaisusta.

Kuka tahansa voi nyt käyttää ThunderPhonea sellaisenaan automatisoidakseen monenlaisia puheluita.

Näin pääsimme tähän

Viime vuodesta lähtien olemme työskennelleet pienen yritysasiakasryhmän kanssa automatisoidaksemme heidän puheluitaan. Joissakin tapauksissa nämä puhelut ovat olleet suorituskykyherkissä käyttökohteissa, kuten myyntiä edeltävässä työssä ja tietojen syötössä, joissa huomasimme nykyisten puhe-AI-alustojen tekevän niin paljon virheitä, että liian moni soittaja turhautui ja katkaisi puhelun, mikä romutti käyttökohteen yksikkötalouden.

Ratkaistaksemme nämä ongelmat päädyimme rakentamaan räätälöidyn pinon alusta asti, jotta puheluissa tehtäisiin vähemmän virheitä ja vaikeat käyttökohteet olisivat mahdollisia. Automatisoituamme tänä vuonna tuhansia tuotantopuheluita tuomme pinomme nyt julkisesti saataville ThunderPhone v2 -itsepalvelualustana.

Kolme tasoa, alkaen 2 snt/min

Järjestelmämme alkaa Spark-tasolla vain 2 snt/min, mallit sisältyvät hintaan, mikä tekee siitä markkinoiden edullisimman täyden pinon puhe-AI-alustan. Lisää nopeutta varten tarjoamme myös Boltin alkaen 5 snt/min. Korkeinta mahdollista älykkyyttä varten tarjoamme Stormin alkaen 9 snt/min.

Storm pystyy käsittelemään jopa kaikkein monimutkaisimmat puhelukulut luotettavasti ilman käsin rakennettuja ”työnkulunrakentaja”-asetuksia – yksi kehote riittää!

Kun sen lisä-älykkyysvaihtoehto on käytössä (+3 snt/min), Storm saavuttaa 99,4 % Big Bench Audiossa, edellä kaikkia tähän mennessä Artificial Analysis -vertailutaulukossa olevia malleja. Arviointiaineistomme ja transkriptimme ovat julkisesti saatavilla Hugging Facessa, ja jaamme pian lisää vertailutuloksia. Jos haluat minimoida virheet tuotantopuheluissasi, Storm on paras valintasi.

Integroitu arkkitehtuuri

ThunderPhone voi olla muita pinoja sekä älykkäämpi että edullisempi ainutlaatuisen integroidun arkkitehtuurimme ansiosta. Sen sijaan, että käyttäisimme ”kolmivaiheista putkea”, joka yhdistää yhden puheentunnistusmallin, yhden LLM:n ja yhden tekstistä puheeksi -mallin, käytämme monimutkaisempaa verkostoa, jossa useat puheentunnistusmallit, useat LLM:t ja muut komponentit toimivat yhdessä tarkoin koordinoiduilla tavoilla saavuttaakseen parhaan mahdollisen suorituskyvyn mahdollisimman pienillä kustannuksilla.

Muiden etujen ohella tämä tekee agenteistamme poikkeuksellisen hyviä ymmärtämään soittajat oikein, myös meluisissa ympäristöissä tai vahvojen aksenttien läpi. Puhelut sujuvat näin jouhevammin, ja nimien, osoitteiden ja muiden tietojen syöttö on luotettavampaa. ThunderPhone-agentit saavat tyypillisesti jopa hankalat kirjoitusasut oikein yhdellä keskusteluvuorolla, kun muut järjestelmät tarvitsevat useita yrityksiä. Ja jokainen ”anteeksi, voisitko tavata sen vielä kerran?” on uusi mahdollisuus soittajalle katkaista puhelu!

Järjestelmäämme kuuluu myös lukuisia komponentteja, jotka käsittelevät todellisten puheluiden haasteita, kuten taustamelua, heikkoa signaalin laatua, keskeytyksiä ja paljon muuta. Olemme virittäneet keskustelunkäsittelyjärjestelmämme tuhansien tuntien todellisen maailman datalla, ja se parantaa merkittävästi oikeiden soittajien kokemusta.

Kokonaisvaltainen alusta

ThunderPhone sisältää myös kattavan alustan, jonka avulla puheagenttien rakentaminen, testaaminen, käyttöönotto ja seuranta on poikkeuksellisen helppoa. Voit ThunderPhonesta poistumatta:

• Määrittää saapuvat ja lähtevät puhelut sekä hallita puhelinnumeroita
• Testata puheagentteja ihmisten ja tekoälyn avulla
• Seurata puheluita reaaliajassa niiden tapahtuessa
• Antaa järjestelmän havaita tuotantopuheluissasi toistuvat ongelmat, ehdottaa korjauksia sekä tarkistaa ja ottaa ne käyttöön
• Nähdä suppiloraporttien avulla, miten puhelusi toimivat ja missä niitä on parannettava

ThunderPhone-alustan avulla myös puhelin- ja ohjelmistointegraatioiden käyttöönotto on vaivatonta. Asennusvelho yhdistää nykyisen Twilio- tai Telnyx-tilisi tai minkä tahansa tavallisen SIP-rungon palveluntarjoajaltasi saatavien muutamien tietojen avulla, ja natiivit liittimet kattavat Google Sheetsin, Google Calendarin, HubSpotin, Salesforcen ja Cal.comin. Kaikkia muita integraatioita varten velhon avulla voit muodostaa mihin tahansa APIin ”liitä ja klikkaa” -yhteyden.

Verkkosovellukseen on integroitu aina käytettävissä oleva avustaja, jonka avulla ThunderPhone-alustan käytön oppiminen on erittäin helppoa. Se voi jopa navigoida sovelluksessa ja tehdä toimintoja puolestasi – ja koska olemme puhetekoälyyritys, se voi tietysti puhua kanssasi kirjoittamisen sijaan!

API-rajapinnat, yritysratkaisut ja vaatimustenmukaisuus

Käyttötapauksiin, jotka vaativat enemmän mukautuksia kuin verkkoalusta tarjoaa, ThunderPhonessa on myös monipuolinen API-rajapinta, joka mahdollistaa erilaiset räätälöidyt integraatiot. Vielä syvempää alustamukautusta, erityisiä kustannus- ja viivevaatimuksia, vaatimustenmukaisuustarpeita ja muuta varten tarjoamme räätälöityjä yritystoteutuksia ja tukea. (Ota minuun suoraan yhteyttä kysymyksissäsi – alex@thunderphone.com)

ThunderPhone täyttää HIPAA- ja GDPR-vaatimukset terveydenhuollon sekä EU:n ja Ison-Britannian käyttötapauksissa heti käyttöönotosta lähtien, ja allekirjoitamme BAA- ja DPA-sopimuksia ilman lisämaksua.

Kokeile jo tänään

Lisätietoja saat tutustumalla verkkosivustoomme, jossa kerrotaan tarkemmin teknologiastamme, hinnoittelustamme, alustan ominaisuuksista ja muusta.

Vielä parempi vaihtoehto on kokeilla ThunderPhonea ja nähdä, miten se toimii sinun käyttötapauksessasi! Aloittamiseen pitäisi kulua vain muutama minuutti, ja verkkosovelluksemme sekä avustajamme on suunniteltu tekemään kaiken tarvitsemasi käyttöönotosta mahdollisimman helppoa.

Jos kohtaat ongelmia tai sinulla on toiveita, ota minuun henkilökohtaisesti yhteyttä osoitteessa alex@thunderphone.com

Alex Kolchinski, toimitusjohtaja

Tänään julkaisemme ylpeinä ThunderPhone:n, jonka avulla puheluiden automatisointi tekoälyn avulla on helppoa. ThunderPhone käyttää täysin erilaista integroitua arkkitehtuuria kuin muut puhelintekoälyalustat, minkä ansiosta se tarjoaa huomattavasti paremman suorituskyvyn, alhaisemmat kustannukset ja vähemmän integraatioihin liittyviä hankaluuksia. ThunderPhone tukee saapuvia ja lähteviä puheluita kymmenillä kielillä ja noudattaa HIPAA- ja GDPR-vaatimuksia.

Integroidun arkkitehtuurin etu

Muut puhelintekoälyalustat rajoittavat järjestelmiensä suorituskykyä pakottamalla ne kolmivaiheiseen rakenteeseen:

1. Yksi transkriptiomalli, joka muuntaa käyttäjän puheen tekstiksi.
2. Yksi LLM, joka käsittelee käyttäjän tekstin ja tuottaa vastauksen.
3. Yksi TTS-malli, joka muuntaa vastaustekstin takaisin ääneksi.

Useimmat niistä myös siirtävät teknistä työtä käyttäjiensä vastuulle pakottamalla nämä valitsemaan käytettävät mallit sekä asetukset, kuten kohinanpoiston ja reagointinopeuden parametrit.

Olemme valinneet toisenlaisen lähestymistavan: olemme koonneet mielestämme parhaimman mahdollisen kokonaisuuden nykyisistä malleista ja tehneet siitä käyttövalmiin ilman monimutkaista konfigurointia. Järjestelmämme käyttää useita malleja samanaikaisesti ja reitittää niiden välillä älykkäästi keskustelun kulun mukaan. Tähän kuuluu:

• Useiden transkriptiomallien yhdistäminen: jotkin ovat toisia nopeampia, jotkin tarkempia, jotta nopeus ja tarkkuus pysyvät tasapainossa ja mallien virheet voidaan paikata.
• Ääntä syötteenä käyttävien LLM:ien, joiden yleinen älykkyys voi olla heikompi mutta äänen ymmärrys parempi, yhdistäminen vain tekstiä käsitteleviin LLM:iin, jotka voivat tehdä virheitä epätarkkojen transkriptien vuoksi mutta ovat usein älykkäämpiä.
• Nopeiden mutta yksinkertaisten LLM:ien, jotka voivat tuottaa nopeita vastauksia, yhdistäminen huomattavasti älykkäämpiin mutta hitaampiin LLM:iin, jotka voivat toimia taustalla ja varmistaa, että tekoäly noudattaa kehotettaan ja vastaa oikein käyttäjän sanomaan.
• Kaupallisten mallien yhdistäminen johtavilta palveluntarjoajilta, kuten OpenAI:lta ja Googlelta, jotka tarjoavat nykyisin korkeimman saatavilla olevan älykkyyden, laajaan valikoimaan avoimen lähdekoodin malleja, jotka tarjoavat usein paremman nopeuden alhaisemmilla kustannuksilla.
• Useiden mallien samanaikainen käyttäminen taustamelun, sivukeskustelujen ja muiden häiritsevien äänien luokitteluun ja poistamiseen, sillä ne voivat muuten suistaa keskustelun raiteiltaan.

Näitä komponentteja ja muita ohjataan eri tavoin kolmella palvelutasollamme, Spark, Bolt ja Storm — Spark on optimoitu kustannuksille, Bolt nopeudelle ja Storm älykkyydelle, samalla kun kunkin haittapuolet minimoidaan mahdollisimman tehokkaasti. Kaikilla kolmella järjestelmällä on yhteisiä etuja, kuten uskomattoman tarkka ymmärrys käyttäjien puheesta myös erisnimien ja tavauksen kohdalla.

Olemme havainneet, että tämä tiiviisti integroitu arkkitehtuuri tarjoaa järjestelmällemme huomattavasti paremman suorituskyvyn alhaisemmilla kustannuksilla kuin muiden toimittajien tarjoama jäykkä kolmivaiheinen lähestymistapa. Clay Christensenin modulaarisuusteorian mukaisesti puhetekoäly on yhä alkutaipaleellaan, ja suorituskyvyn maksimointi integroidulla arkkitehtuurilla on edelleen arvokkaampaa kuin mukautettavuuden maksimointi modulaarisella arkkitehtuurilla.

Optimoidut päätökset

Mitä muokattavuuteen tulee, vastustamme sitä! Useimmat nykyiset puhelin-AI-alustat pakottavat käyttäjät selaamaan loputtomia valintoja käytettävistä malleista äärimmäisen yksityiskohtaisiin parametreihin, kuten siihen, kuinka nopeasti AI keskeyttää käyttäjän.

Mielestämme on MEIDÄN tehtävämme optimoida nämä valinnat taustalla, jotta ThunderPhonen käyttäjät voivat keskittyä siihen, missä he ovat hyviä, eikä heidän tarvitse huolehtia puhe-AI:n yksityiskohtaisesta määrittelystä. Näemme itsemme eräänlaisena Squarespacena, joka helpottaa käyttäjiämme ottamaan käyttöön puheagentteja tämän päivän malleilla mahdollisimman korkealla suorituskyvyllä ilman, että heidän tarvitsee tehdä mitään.

Helppokäyttöisyys

ThunderPhone on myös uskomattoman helppokäyttöinen, olitpa ottamassa käyttöön uutta puheagenttia tai siirtymässä toiselta alustalta tai omasta teknisestä kokonaisuudesta. Puheagentin käyttöönotto ThunderPhonessa vaatii vain seuraavat vaiheet:

1. Päätä, haluatko käyttää Sparkia, Boltia vai Stormia.
2. Valitse ääni.
3. Anna meille kehotteesi. Monikehotteisia agentteja ei tarvita! Jos kehotteesi on liian monimutkainen Sparkille tai Boltille, päivitä Stormiin, joka pystyy käsittelemään monimutkaisetkin käyttötapaukset yhdellä kehotteella.
4. Yhdistä ohjelmistointegraatiot (mikä tahansa päätepiste tai natiivi n8n-integraatio) uskomattoman helppokäyttöisellä ohjatulla toiminnolla.
5. Yhdistä VoIP-palvelusi uskomattoman helppokäyttöisellä ohjatulla toiminnolla.

Tähän kuluu yleensä 10 minuuttia tai vähemmän.

ThunderPhone on HIPAA- ja GDPR-yhteensopiva, ja allekirjoitamme sekä toimitamme BAA- ja DPA-sopimukset pyynnöstä.

Tarinamme

Olemme Stanford AI Labin ja Y Combinatorin alumneista koostuva tiimi, joka on työskennellyt puhe-AI:n parissa vuodesta 2024 lähtien. Alun perin keskityimme Flux Interpretingiin, joka kääntää puheluita eri kielten välillä. Kun asiakkaat kuitenkin pyysivät meitä toistuvasti automatisoimaan yritystensä puheluita niiden pelkän kääntämisen sijaan, siirsimme fokuksemme siihen, mikä nykyään on ThunderPhone.

Nykyisten alustojen ongelmat

Aluksi rakensimme puheagentteja asiakkaille muiden yritysten puhelin-AI-alustoilla. Testasimme lähes kaikki markkinoilla olevat puhelin-AI-alustat, mutta valitettavasti huomasimme niissä puutteita, erityisesti seuraavissa asioissa:

• Äänen ymmärtäminen: Kun käyttäjän ääni muunnetaan tekstiksi vain yhdellä transkriptiomallilla, AI ”kuulee” käyttäjän usein väärin, etenkin erisnimien, harvinaisten sanojen ja tavutusten kohdalla.
• Ohjeiden noudattaminen: Kun puhelun varsinaisesta ”aivotyöstä” vastaa yksi nopea LLM, AI:t kamppailevat usein ohjeiden oikean noudattamisen kanssa ja ajautuvat sivuraiteille.
• Vaikeat integraatiot: Kokeilemamme alustat tekivät ulkoisten ohjelmistojen yhdistämisestä erittäin hankalaa. Yleensä jouduimme kirjoittamaan laajoja JSON-määrityksiä työkalukutsuja varten ja hakkaamaan niitä toistuvasti lähes ilman palautetta, kunnes ne yhtäkkiä alkoivat toimia.
• Hinta: Nykyiset alustat veloittivat yleensä maltaita: tavallisesti 10 senttiä minuutilta tai enemmän keskinkertaisesta suorituskyvystä.

Oman kokonaisuutemme rakentaminen

Kun solmimme sopimuksen myyntipuhelukäyttötapauksen toteuttamisesta suuryritysasiakkaalle, jouduimme rakentamaan oman räätälöidyn kokonaisuutemme vastataksemme heidän tarpeisiinsa. Tämä käyttötapaus oli vaativa: toisin kuin asiakastuen puheluissa, joissa soittajat toimivat pitkälti yrityksen ehdoilla, myyntipuheluissa soittajat lopettavat puhelun herkästi.

Puhelun laadun on oltava huippuluokkaa, jotta kauppa syntyy eikä liidiä menetetä. Tämä tarkoitti lukuisten erisnimien ja tavutusten, kuten nimien ja osoitteiden, käsittelyä – asioiden, jotka tavallisten transkriptiomallien on vaikea saada oikein. Jotta pystyimme toteuttamaan tämän käyttötapauksen täydellisesti, rakensimme sen, mikä nykyään on ThunderPhone.

Matkan varrella tapasimme San Franciscon puhe-AI-yhteisössä jatkuvasti ihmisiä, jotka rakensivat toimialakohtaisia puheagenttiyrityksiä – eläinlääkäreille, kuorma-autonkuljettajille ja muille. Yllättäen useimmilla heistä oli sama näkemys: nykyiset alustat olivat riittävän hyviä demoihin, mutta eivät tuotantoon.

Hätkähdyttävää kyllä, monet, elleivät jopa useimmat ystävistämme toimialakohtaisissa puhe-AI-yrityksissä rakensivat omia kokonaisuuksiaan... Tämä ei käynyt meille järkeen – se vastaa käytännössä sitä, että 90-luvun verkkostartupien olisi pitänyt ylläpitää omia verkkopalvelimiaan vaatekaappinsa palvelimella.

Tämän oivalluksen myötä ymmärsimme, että oli aika tehdä puhelin-AI-järjestelmästämme alusta, jota kuka tahansa voi käyttää.

Toimialakohtaisten puhe-AI-yritysten ja konsulttien pitäisi voida keskittyä kohdemarkkinansa tarpeisiin toimialakohtaisella osaamisellaan — ei taustalla olevan AI- ja puhelinteknologian monimutkaiseen suunnitteluun! Tätä julkaisemme tänään ThunderPhonen kanssa.

Tie tänne on ollut pitkä! Pahoittelut kaikille, jotka ovat rekisteröityneet meille viime huhtikuusta lähtien ja odottavat yhä pääsyä: se, minkä ajattelimme olevan nopea loppukiri työn viimeistelemiseksi, osoittautui kuukausia kestäväksi matkaksi, jolla selvitimme, miten nykyiset saatavilla olevat mallit voidaan kutoa yhteen mahdollisimman vankaksi järjestelmäksi.

Mutta nyt olemme vihdoin julkaisseet sen — kokeile ja kerro, mitä mieltä olet!

Vaikka olemme ratkaisseet suurimmat ongelmat, järjestelmässä on varmasti yhä bugeja. Jos löydät ongelmia, lähetä sähköpostia osoitteeseen alex@thunderphone.com, niin varmistan, että ne korjataan sinulle mahdollisimman pian. Kerro myös mahdollisista ominaisuustoiveistasi, niin toteutamme nekin sinulle niin pian kuin pystymme.

Jos sinulla on räätälöidympiä tarpeita, kuten tukea räätälöityyn toteutukseen ja integraatioihin, tavallista HIPAA- ja GDPR-vaatimustenmukaisuutta laajempia vaatimuksia, palvelutasosopimuksia tai räätälöityjä ominaisuustoiveita, keskustelemme mielellämme yrityssopimuksesta. Ota yhteyttä osoitteessa alex@thunderphone.com, niin keskustellaan tarpeistasi ja siitä, voimmeko auttaa.

Yleisemmin ottaen sitoumuksemme sinulle on tämä: ON MEIDÄN tehtävämme varmistaa, että ThunderPhone toimii heti käyttövalmiina mahdollisimman pienellä vaivalla sinulta ja hoitaa yrityksesi puhelut niin täydellisesti kuin nykyisellä AI:lla on mahdollista valitsemastasi Spark-, Bolt- tai Storm-hintatasosta riippuen. Kokeile meitä — odotamme innolla, että pääsemme näyttämään, mihin ThunderPhone pystyy.

Kerro meille, mitä mieltä olet, ja kiitos tuestasi!