Hírek és szakmai gondolatok a ThunderPhone csapatától.

Ma örömmel jelentem be ThunderPhone v2 önkiszolgáló platformunk nyilvános indulását.

Mostantól bárki használhatja a ThunderPhone-t azonnal, telefonhívások széles körének automatizálására.

Hogyan jutottunk el idáig

Tavaly óta vállalati ügyfelek egy kisebb csoportjával dolgozunk telefonhívásaik automatizálásán. Egyes esetekben ezek teljesítményérzékeny felhasználási területek voltak, például értékesítés előtti megkeresések és adatbevitel, ahol azt tapasztaltuk, hogy a meglévő hangalapú AI-platformok annyi hibát vétettek, hogy túl sok hívó fél frusztrálttá vált és bontotta a hívást, ami tönkretette az adott felhasználási terület gazdaságosságát.

E problémák megoldására végül a semmiből építettünk egy egyedi technológiai rendszert, hogy kevesebb hibát vétsünk a hívások során, és lehetővé tegyük a nehéz felhasználási eseteket. Miután idén több ezer éles hívást automatizáltunk, most a ThunderPhone v2 önkiszolgáló platformjaként a nyilvánosság számára is elérhetővé tesszük rendszerünket.

Három csomag, 2 cent/perctől

Rendszerünk a Spark csomagban már 2 cent/perc ártól elérhető, modellekkel együtt, így ez a piac legalacsonyabb árú, teljes körű hangalapú AI-platformja. Nagyobb sebességhez a Bolt csomagot is kínáljuk, 5 cent/perctől. A lehető legmagasabb intelligenciához a Storm csomagot kínáljuk, 9 cent/perctől.

A Storm nagy megbízhatósággal még a legösszetettebb hívási folyamatokat is képes kezelni, kézzel összeállított „folyamatépítő” beállítások nélkül – egyetlen prompt is elegendő!

Bekapcsolt extra intelligencia opcióval (+3 cent/perc) a Storm 99,4%-ot ér el a Big Bench Audio teszten, megelőzve az Artificial Analysis ranglistáján eddig szereplő összes modellt. Értékelési adathalmazunk és az átiratok nyilvánosan elérhetők a Hugging Face-en, és hamarosan további benchmarkeredményeket is megosztunk. Ha minimalizálni szeretné az éles hívások során előforduló hibákat, a Storm a legjobb választás.

Az integrált architektúra

A ThunderPhone egyedi integrált architektúránknak köszönhetően más rendszereknél intelligensebb és olcsóbb is lehet. Egy transzkripciós modellt, egy LLM-et és egy szövegfelolvasó modellt kombináló „háromlépéses folyamat” helyett egy összetettebb rendszert működtetünk, amelyben több transzkripciós modell, több LLM és más komponensek gondosan összehangolt módon működnek együtt, hogy a lehető legjobb teljesítményt érjék el a lehető legalacsonyabb költség mellett.

Ez többek között kiemelkedővé teszi ügynökeinket abban, hogy a hívó feleket helyesen értsék, akár zajos környezetben vagy erős akcentus mellett is. Ennek eredményeként a hívások gördülékenyebbek, a nevek, címek és egyéb adatok bevitele pedig megbízhatóbb. A ThunderPhone AI-ügynökök jellemzően még a nehéz betűzéseket is egyetlen beszélgetési körben helyesen rögzítik, míg más rendszereknek ehhez több próbálkozásra van szükségük. És minden egyes „elnézést, le tudná még egyszer betűzni?” újabb lehetőség arra, hogy a hívó fél bontsa a hívást!

Rendszerünk számos komponenst tartalmaz a valós hívások nehézségeinek kezelésére is, beleértve a háttérzajt, a gyenge jelerősséget, a félbeszakításokat és egyebeket. A beszélgetéskezelési mechanizmust több ezer órányi valós adaton hangoltuk, és ez jelentősen javítja a valódi hívó felek élményét.

Teljes körű platform

A ThunderPhone egy átfogó platformot is kínál, amely kivételesen egyszerűvé teszi a hangalapú AI-ügynökök létrehozását, tesztelését, üzembe helyezését és monitorozását. Anélkül, hogy elhagyná a ThunderPhone-t, a következőket teheti:

• Konfigurálhatja a bejövő és kimenő hívásokat, valamint kezelheti a telefonszámokat
• Emberi és AI-alapú tesztelést futtathat a telefonos ügynökökön
• Élőben figyelheti a hívásokat, miközben azok zajlanak
• Hagyhatja, hogy a rendszer felismerje az éles hívásokban ismétlődő problémákat, javításokat javasoljon, majd felülvizsgálja és alkalmazza azokat
• Tölcsérjelentésekkel láthatja, hogyan teljesítenek a hívásai, és hol szorulnak fejlesztésre

A ThunderPhone platform a telefonos és szoftveres integrációk bekötését is gyerekjátékká teszi. Egy beállítási varázsló néhány, a szolgáltatójától kapott adattal összekapcsolja meglévő Twilio- vagy Telnyx-fiókját, illetve bármely szabványos SIP-trönköt, a natív csatlakozók pedig lefedik a Google Sheets, Google Calendar, HubSpot, Salesforce és Cal.com rendszereket. Minden más integrációhoz pedig egy varázsló teszi lehetővé az „egyszerűen beilleszti és rákattint” típusú kapcsolódást bármely API-hoz.

A webalkalmazásba egy folyamatosan elérhető segéd is be van építve, hogy rendkívül egyszerű legyen kideríteni, hogyan használhatja a ThunderPhone platformot. Akár az alkalmazásban is navigálhat, és műveleteket végezhet Ön helyett – és mivel hangalapú AI-val foglalkozó vállalat vagyunk, természetesen beszélhet is Önnel a gépelés helyett!

API-k, vállalati megoldások és megfelelőség

Azokhoz a felhasználási esetekhez, amelyek több testreszabást igényelnek, mint amennyit a webes platform kínál, a ThunderPhone teljes körű API-t is biztosít, amely számos egyedi integrációt tesz lehetővé. Még mélyebb platformtestreszabáshoz, egyedi költség- és késleltetési követelményekhez, megfelelőségi igényekhez és hasonlókhoz pedig egyedi vállalati megvalósítást és támogatást kínálunk. (Kérdéseivel közvetlenül keressen meg – alex@thunderphone.com)

A ThunderPhone alapértelmezetten megfelel a HIPAA és GDPR követelményeinek egészségügyi, illetve EU-s és brit alkalmazásokhoz, és felár nélkül írunk alá BAA-kat és DPA-kat.

Próbálja ki még ma

További információért tekintse meg weboldalunkat, ahol részletesebben bemutatjuk technológiánkat, árainkat, platformfunkcióinkat és még sok mást.

Még jobb, ha kipróbálja a ThunderPhone-t, és megnézi, hogyan teljesít az Ön felhasználási esetében! Az indulás mindössze néhány percet vesz igénybe, webalkalmazásunkat és segédünket pedig úgy terveztük, hogy a lehető legegyszerűbbé tegyék mindannak a beállítását, amire szüksége van.

Ha bármilyen problémába ütközik, vagy bármilyen kérése van, személyesen is elérhet a alex@thunderphone.com címen

Alex Kolchinski, vezérigazgató

Ma büszkén jelentjük be a ThunderPhone nyilvános indulását, amely egyszerűvé teszi a telefonhívások AI-val történő automatizálását. A többi telefonos AI-platformétól teljesen eltérő, integrált architektúrájának köszönhetően a ThunderPhone jelentősen magasabb teljesítményt, alacsonyabb költséget és kevesebb integrációs nehézséget kínál. A ThunderPhone több tucat nyelven támogatja a bejövő és kimenő hívásokat, valamint megfelel a HIPAA és a GDPR követelményeinek.

Az integrált megközelítés előnye

Más telefonos AI-platformok egy háromlépéses struktúra kikényszerítésével korlátozzák rendszereik teljesítményét:

1. Egy átíró modell, amely a felhasználó hangját szöveggé alakítja.
2. Egy LLM, amely feldolgozza a felhasználó szövegét, és választ ad.
3. Egy TTS-modell, amely a válasz szövegét ismét hanggá alakítja.

A legtöbb ilyen platform a mérnöki munkát is a felhasználókra hárítja: nekik kell kiválasztaniuk, mely modelleket szeretnék használni, valamint olyan konfigurációs lehetőségeket is, mint a zajszűrés és a válaszidő paraméterei.

Mi más megközelítést választottunk: a mai modellekből véleményünk szerint elérhető legjobb stacket állítottuk össze, és komplex konfigurációs munka nélkül használatra kész formában kínáljuk. Rendszerünk egyszerre sok modellt használ, és a beszélgetés menete alapján intelligensen irányít közöttük. Ez többek között a következőket jelenti:

• Több átíró modell kombinálását — egyesek gyorsabbak, mások pontosabbak —, hogy egyensúlyt teremtsünk a sebesség és a pontosság között, valamint ellensúlyozzuk egymás hibáit.
• Hangbemenetet fogadó LLM-ek kombinálását, amelyek általános intelligenciája alacsonyabb lehet, de jobban értik a hangot, kizárólag szöveges LLM-ekkel, amelyek a pontatlan átiratok miatt hibázhatnak, de gyakran intelligensebbek.
• Gyors, de kevésbé intelligens LLM-ek kombinálását, amelyek gyors válaszokat tudnak generálni, jóval intelligensebb, de lassabb LLM-ekkel, amelyek a háttérben futva biztosítják, hogy az AI kövesse az utasításait, és helyesen reagáljon arra, amit a felhasználó mond.
• A vezető szolgáltatók — köztük az OpenAI és a Google — kereskedelmi modelljeinek kombinálását, amelyek ma a legmagasabb elérhető intelligenciát nyújtják, nyílt forráskódú modellek széles választékával, amelyek gyakran nagyobb sebességet kínálnak alacsonyabb költség mellett.
• Több modell egyidejű használatát a háttérzaj, a mellékbeszélgetések és más zavaró zajok osztályozására és kiszűrésére, amelyek egyébként eltéríthetnék a beszélgetést.

Ezeket és további komponenseket három szolgáltatási szintünkön — Spark, Bolt és Storm — eltérő módokon hangoljuk össze: a Sparkot a költségekre, a Boltot a sebességre, a Stormot pedig az intelligenciára optimalizáljuk, miközben mindegyik hátrányait a lehető legnagyobb mértékben csökkentjük. Mindhárom rendszer olyan előnyöket kínál, mint annak rendkívül pontos megértése, amit a felhasználók mondanak, még tulajdonnevek és betűzések esetén is.

Tapasztalataink szerint ez a szorosan integrált architektúra jóval magasabb teljesítményt nyújt alacsonyabb költségen, mint a más szolgáltatók által kínált merev, háromlépéses megközelítés. Clay Christensen modularitáselméletével összhangban a hangalapú AI még korai szakaszban jár, ezért továbbra is értékesebb az integrált architektúrával maximalizálni a teljesítményt, mint a moduláris architektúrával maximalizálni a testreszabhatóságot.

Optimalizált döntések

A testreszabhatóságot illetően pedig ellenezzük azt. A mai telefonos AI-platformok többsége végtelen számú választási lehetőséget kényszerít a felhasználókra, a használt modellektől egészen az olyan rendkívül részletes paraméterekig, mint hogy az AI milyen gyorsan szakítsa félbe a felhasználót.

Véleményünk szerint A MI feladatunk ezeket a választásokat a háttérben optimalizálni, hogy a ThunderPhone felhasználói arra koncentrálhassanak, amihez értenek, és ne kelljen a hangalapú AI részletes konfigurálásával foglalkozniuk. Olyasféle Squarespace-ként tekintünk magunkra, amely megkönnyíti felhasználóink számára, hogy a mai modellekkel elérhető lehető legmagasabb teljesítményű telefonos AI-ügynököket állítsák be, egyetlen mozdulat nélkül.

Egyszerű használat

A ThunderPhone használata is hihetetlenül egyszerű, akár új telefonos AI-ügynököt állít be, akár egy másik platformról vagy egy egyedi technológiai stackből migrál. Telefonos AI-ügynök ThunderPhone-on történő beállításához mindössze a következőkre van szükség:

1. Döntse el, hogy a Spark, a Bolt vagy a Storm használatát szeretné.
2. Válasszon hangot.
3. Adja meg nekünk a promptját. Nincs szükség többpromptos ügynökökre. Ha a promptja túl összetett a Spark vagy a Bolt számára, váltson Stormra, amely egyetlen prompttal is képes kezelni még az összetett felhasználási eseteket is.
4. Csatlakoztasson szoftverintegrációkat (bármilyen végpontot vagy natív n8n-integrációt) egy rendkívül könnyen használható varázslóval.
5. Csatlakoztassa VoIP-rendszerét egy rendkívül könnyen használható varázslóval.

Mindez általában 10 percet vagy kevesebbet vesz igénybe.

A ThunderPhone megfelel a HIPAA és a GDPR előírásainak, és kérésre BAA-kat és DPA-kat írunk alá és biztosítunk.

Történetünk

A Stanford AI Lab és a Y Combinator öregdiákjaiból álló csapat vagyunk, és 2024 óta dolgozunk hangalapú AI-megoldásokon. Eredetileg a Flux Interpretingre összpontosítottunk, amely különböző nyelvek között fordítja a telefonhívásokat. Az ügyfeleink azonban ismételten azt kérték tőlünk, hogy ne csak fordítsuk le a hívásaikat, hanem automatizáljuk is azokat a vállalkozásuk számára, ezért a figyelmünket arra irányítottuk, ami ma ThunderPhone néven ismert.

A meglévő platformok problémái

Kezdetben más vállalatok telefonos AI-platformjain építettünk telefonos ügynököket az ügyfeleinknek. Szinte minden, a piacon elérhető telefonos AI-platformot teszteltünk, de sajnos hiányosságokat tapasztaltunk náluk, különösen az alábbi területeken:

• Hangértés: Az, hogy a felhasználó hangját szöveggé alakításhoz csak egyetlen átíró modellt használtak, azt jelentette, hogy az AI gyakran „félrehallotta” a felhasználót, különösen tulajdonnevek, ritka szavak és betűzések esetén.
• Utasításkövetés: Az, hogy a hívás mögötti tényleges „szellemi munkát” egyetlen gyors LLM végezte, azt eredményezte, hogy az AI-k gyakran nehezen követték helyesen az utasításokat, és kisiklottak.
• Nehézkes integrációk: Az általunk kipróbált platformok rendkívül megnehezítették a külső szoftverekhez való kapcsolódást; általában hosszadalmas JSON-konfigurációkat kellett begépelnünk az eszközhívásokhoz, majd újra és újra küzdenünk velük, szinte semmilyen visszajelzés nélkül, egészen addig, amíg hirtelen működni nem kezdtek.
• Ár: A meglévő platformok általában vagyonokat kértek: rendszerint percenként 10 centet vagy még többet, közepes teljesítményért.

Saját technológiai rendszerünk felépítése

Amikor szerződést kötöttünk egy nagyvállalati ügyfél értékesítési hívási esetének megvalósítására, kénytelenek voltunk saját, egyedi technológiai rendszert építeni az igényeik teljesítéséhez. Ez az eset komoly kihívást jelentett: az ügyfélszolgálattal ellentétben, ahol a hívók jórészt a vállalkozás kegyére vannak bízva, az értékesítési hívók gyorsan bontják a hívást.

A hívásminőségnek kifogástalannak kell lennie ahhoz, hogy az értékesítés létrejöjjön, ne pedig az érdeklődőt veszítsük el. Ez azt jelentette, hogy sok tulajdonnevet és betűzést kellett kezelni, köztük neveket és címeket, amelyeket a hagyományos átíró modellek nehezen ismernek fel helyesen. Ennek az esetnek a tökéletes megoldására építettük fel azt, ami ma ThunderPhone.

Közben folyamatosan találkoztunk a San Franciscó-i hangalapú AI-közösség olyan tagjaival, akik vertikális telefonosügynök-vállalatokat építettek — állatorvosok, teherautó-sofőrök és mások számára. Meglepő módon a legtöbbjük ugyanazon a véleményen volt: a meglévő platformok demókhoz elég jók, de éles használatra nem.

Megdöbbentő módon a vertikális hangalapú AI-vállalatoknál dolgozó barátaink közül sokan, ha nem a legtöbben, valójában saját technológiai rendszereket „raktak össze”... Ennek semmi értelme nem volt számunkra — ez nagyjából annak felel meg, mintha a 90-es évek webes startupjainak a szekrényükben lévő szerveren kellett volna saját webszervert üzemeltetniük.

E felismerés nyomán rájöttünk, hogy eljött az ideje annak, hogy telefonos AI-rendszerünket olyan platformmá alakítsuk, amelyet bárki használhat.

A vertikális hangalapú AI-vállalatoknak és tanácsadóknak arra kellene összpontosítaniuk, hogy iparágspecifikus szakértelmükkel megfeleljenek célpiacuk igényeinek — nem pedig arra, hogy aprólékosan megtervezzék a mögöttes AI- és telefonos technológiát! Ezt indítjuk el ma a ThunderPhone-nal.

Hosszú út vezetett idáig! Elnézést kérünk mindenkitől, aki tavaly április óta regisztrált nálunk, és még mindig hozzáférésre vár: ami szerintünk egy gyors hajrá lett volna a munka befejezéséhez, abból több hónapos odüsszeia lett, miközben kitaláltuk, hogyan szőjük össze a ma elérhető modelleket egy lehető legmegbízhatóbb rendszerré.

De végre elindultunk — próbálja ki, és nézze meg, mit gondol róla!

Bár a főbb hibákat már kijavítottuk, a rendszerben biztosan maradtak még problémák. Ha bármilyen hibát talál, írjon az alex@thunderphone.com címre, és gondoskodom róla, hogy a lehető leghamarabb kijavítsuk Önnek. Funkcióigényeit is ossza meg velünk, és azokat is igyekszünk a lehető leghamarabb megvalósítani.

Ha pedig egyedibb igényei vannak, például egyedi megvalósítási és integrációs támogatásra, a szokásos HIPAA- és GDPR-követelményeken túli megfelelőségre, SLA-kra vagy egyedi funkciókra van szüksége, szívesen beszélünk vállalati megállapodásról. Keressen minket az alex@thunderphone.com címen, és átbeszéljük az igényeit, valamint azt, hogy tudunk-e segíteni.

Általánosságban pedig: azt vállaljuk Önnek, hogy a MI feladatunk biztosítani, hogy a ThunderPhone az Ön részéről minimális ráfordítással, külön beállítás nélkül működjön, és a lehető legtökéletesebben kezelje vállalkozása hívásait a mai AI képességein belül, az Ön által választott Spark, Bolt vagy Storm árszint keretei között. Próbálja ki, és örömmel megmutatjuk, mire képes a ThunderPhone.

Írja meg, mit gondol, és köszönjük a támogatását!