Bemutatjuk a ThunderPhone-t

Ma büszkén jelentjük be a ThunderPhone nyilvános indulását, amely egyszerűvé teszi a telefonhívások AI-val történő automatizálását. A többi telefonos AI-platformétól teljesen eltérő, integrált architektúrájának köszönhetően a ThunderPhone jelentősen magasabb teljesítményt, alacsonyabb költséget és kevesebb integrációs nehézséget kínál. A ThunderPhone több tucat nyelven támogatja a bejövő és kimenő hívásokat, valamint megfelel a HIPAA és a GDPR követelményeinek.

Az integrált megközelítés előnye

Más telefonos AI-platformok egy háromlépéses struktúra kikényszerítésével korlátozzák rendszereik teljesítményét:

1. Egy átíró modell, amely a felhasználó hangját szöveggé alakítja.
2. Egy LLM, amely feldolgozza a felhasználó szövegét, és választ ad.
3. Egy TTS-modell, amely a válasz szövegét ismét hanggá alakítja.

A legtöbb ilyen platform a mérnöki munkát is a felhasználókra hárítja: nekik kell kiválasztaniuk, mely modelleket szeretnék használni, valamint olyan konfigurációs lehetőségeket is, mint a zajszűrés és a válaszidő paraméterei.

Mi más megközelítést választottunk: a mai modellekből véleményünk szerint elérhető legjobb stacket állítottuk össze, és komplex konfigurációs munka nélkül használatra kész formában kínáljuk. Rendszerünk egyszerre sok modellt használ, és a beszélgetés menete alapján intelligensen irányít közöttük. Ez többek között a következőket jelenti:

• Több átíró modell kombinálását — egyesek gyorsabbak, mások pontosabbak —, hogy egyensúlyt teremtsünk a sebesség és a pontosság között, valamint ellensúlyozzuk egymás hibáit.
• Hangbemenetet fogadó LLM-ek kombinálását, amelyek általános intelligenciája alacsonyabb lehet, de jobban értik a hangot, kizárólag szöveges LLM-ekkel, amelyek a pontatlan átiratok miatt hibázhatnak, de gyakran intelligensebbek.
• Gyors, de kevésbé intelligens LLM-ek kombinálását, amelyek gyors válaszokat tudnak generálni, jóval intelligensebb, de lassabb LLM-ekkel, amelyek a háttérben futva biztosítják, hogy az AI kövesse az utasításait, és helyesen reagáljon arra, amit a felhasználó mond.
• A vezető szolgáltatók — köztük az OpenAI és a Google — kereskedelmi modelljeinek kombinálását, amelyek ma a legmagasabb elérhető intelligenciát nyújtják, nyílt forráskódú modellek széles választékával, amelyek gyakran nagyobb sebességet kínálnak alacsonyabb költség mellett.
• Több modell egyidejű használatát a háttérzaj, a mellékbeszélgetések és más zavaró zajok osztályozására és kiszűrésére, amelyek egyébként eltéríthetnék a beszélgetést.

Ezeket és további komponenseket három szolgáltatási szintünkön — Spark, Bolt és Storm — eltérő módokon hangoljuk össze: a Sparkot a költségekre, a Boltot a sebességre, a Stormot pedig az intelligenciára optimalizáljuk, miközben mindegyik hátrányait a lehető legnagyobb mértékben csökkentjük. Mindhárom rendszer olyan előnyöket kínál, mint annak rendkívül pontos megértése, amit a felhasználók mondanak, még tulajdonnevek és betűzések esetén is.

Tapasztalataink szerint ez a szorosan integrált architektúra jóval magasabb teljesítményt nyújt alacsonyabb költségen, mint a más szolgáltatók által kínált merev, háromlépéses megközelítés. Clay Christensen modularitáselméletével összhangban a hangalapú AI még korai szakaszban jár, ezért továbbra is értékesebb az integrált architektúrával maximalizálni a teljesítményt, mint a moduláris architektúrával maximalizálni a testreszabhatóságot.

Optimalizált döntések

A testreszabhatóságot illetően pedig ellenezzük azt. A mai telefonos AI-platformok többsége végtelen számú választási lehetőséget kényszerít a felhasználókra, a használt modellektől egészen az olyan rendkívül részletes paraméterekig, mint hogy az AI milyen gyorsan szakítsa félbe a felhasználót.

Véleményünk szerint A MI feladatunk ezeket a választásokat a háttérben optimalizálni, hogy a ThunderPhone felhasználói arra koncentrálhassanak, amihez értenek, és ne kelljen a hangalapú AI részletes konfigurálásával foglalkozniuk. Olyasféle Squarespace-ként tekintünk magunkra, amely megkönnyíti felhasználóink számára, hogy a mai modellekkel elérhető lehető legmagasabb teljesítményű telefonos AI-ügynököket állítsák be, egyetlen mozdulat nélkül.

Egyszerű használat

A ThunderPhone használata is hihetetlenül egyszerű, akár új telefonos AI-ügynököt állít be, akár egy másik platformról vagy egy egyedi technológiai stackből migrál. Telefonos AI-ügynök ThunderPhone-on történő beállításához mindössze a következőkre van szükség:

1. Döntse el, hogy a Spark, a Bolt vagy a Storm használatát szeretné.
2. Válasszon hangot.
3. Adja meg nekünk a promptját. Nincs szükség többpromptos ügynökökre. Ha a promptja túl összetett a Spark vagy a Bolt számára, váltson Stormra, amely egyetlen prompttal is képes kezelni még az összetett felhasználási eseteket is.
4. Csatlakoztasson szoftverintegrációkat (bármilyen végpontot vagy natív n8n-integrációt) egy rendkívül könnyen használható varázslóval.
5. Csatlakoztassa VoIP-rendszerét egy rendkívül könnyen használható varázslóval.

Mindez általában 10 percet vagy kevesebbet vesz igénybe.

A ThunderPhone megfelel a HIPAA és a GDPR előírásainak, és kérésre BAA-kat és DPA-kat írunk alá és biztosítunk.

Történetünk

A Stanford AI Lab és a Y Combinator öregdiákjaiból álló csapat vagyunk, és 2024 óta dolgozunk hangalapú AI-megoldásokon. Eredetileg a Flux Interpretingre összpontosítottunk, amely különböző nyelvek között fordítja a telefonhívásokat. Az ügyfeleink azonban ismételten azt kérték tőlünk, hogy ne csak fordítsuk le a hívásaikat, hanem automatizáljuk is azokat a vállalkozásuk számára, ezért a figyelmünket arra irányítottuk, ami ma ThunderPhone néven ismert.

A meglévő platformok problémái

Kezdetben más vállalatok telefonos AI-platformjain építettünk telefonos ügynököket az ügyfeleinknek. Szinte minden, a piacon elérhető telefonos AI-platformot teszteltünk, de sajnos hiányosságokat tapasztaltunk náluk, különösen az alábbi területeken:

• Hangértés: Az, hogy a felhasználó hangját szöveggé alakításhoz csak egyetlen átíró modellt használtak, azt jelentette, hogy az AI gyakran „félrehallotta” a felhasználót, különösen tulajdonnevek, ritka szavak és betűzések esetén.
• Utasításkövetés: Az, hogy a hívás mögötti tényleges „szellemi munkát” egyetlen gyors LLM végezte, azt eredményezte, hogy az AI-k gyakran nehezen követték helyesen az utasításokat, és kisiklottak.
• Nehézkes integrációk: Az általunk kipróbált platformok rendkívül megnehezítették a külső szoftverekhez való kapcsolódást; általában hosszadalmas JSON-konfigurációkat kellett begépelnünk az eszközhívásokhoz, majd újra és újra küzdenünk velük, szinte semmilyen visszajelzés nélkül, egészen addig, amíg hirtelen működni nem kezdtek.
• Ár: A meglévő platformok általában vagyonokat kértek: rendszerint percenként 10 centet vagy még többet, közepes teljesítményért.

Saját technológiai rendszerünk felépítése

Amikor szerződést kötöttünk egy nagyvállalati ügyfél értékesítési hívási esetének megvalósítására, kénytelenek voltunk saját, egyedi technológiai rendszert építeni az igényeik teljesítéséhez. Ez az eset komoly kihívást jelentett: az ügyfélszolgálattal ellentétben, ahol a hívók jórészt a vállalkozás kegyére vannak bízva, az értékesítési hívók gyorsan bontják a hívást.

A hívásminőségnek kifogástalannak kell lennie ahhoz, hogy az értékesítés létrejöjjön, ne pedig az érdeklődőt veszítsük el. Ez azt jelentette, hogy sok tulajdonnevet és betűzést kellett kezelni, köztük neveket és címeket, amelyeket a hagyományos átíró modellek nehezen ismernek fel helyesen. Ennek az esetnek a tökéletes megoldására építettük fel azt, ami ma ThunderPhone.

Közben folyamatosan találkoztunk a San Franciscó-i hangalapú AI-közösség olyan tagjaival, akik vertikális telefonosügynök-vállalatokat építettek — állatorvosok, teherautó-sofőrök és mások számára. Meglepő módon a legtöbbjük ugyanazon a véleményen volt: a meglévő platformok demókhoz elég jók, de éles használatra nem.

Megdöbbentő módon a vertikális hangalapú AI-vállalatoknál dolgozó barátaink közül sokan, ha nem a legtöbben, valójában saját technológiai rendszereket „raktak össze”... Ennek semmi értelme nem volt számunkra — ez nagyjából annak felel meg, mintha a 90-es évek webes startupjainak a szekrényükben lévő szerveren kellett volna saját webszervert üzemeltetniük.

E felismerés nyomán rájöttünk, hogy eljött az ideje annak, hogy telefonos AI-rendszerünket olyan platformmá alakítsuk, amelyet bárki használhat.

A vertikális hangalapú AI-vállalatoknak és tanácsadóknak arra kellene összpontosítaniuk, hogy iparágspecifikus szakértelmükkel megfeleljenek célpiacuk igényeinek — nem pedig arra, hogy aprólékosan megtervezzék a mögöttes AI- és telefonos technológiát! Ezt indítjuk el ma a ThunderPhone-nal.

Hosszú út vezetett idáig! Elnézést kérünk mindenkitől, aki tavaly április óta regisztrált nálunk, és még mindig hozzáférésre vár: ami szerintünk egy gyors hajrá lett volna a munka befejezéséhez, abból több hónapos odüsszeia lett, miközben kitaláltuk, hogyan szőjük össze a ma elérhető modelleket egy lehető legmegbízhatóbb rendszerré.

De végre elindultunk — próbálja ki, és nézze meg, mit gondol róla!

Bár a főbb hibákat már kijavítottuk, a rendszerben biztosan maradtak még problémák. Ha bármilyen hibát talál, írjon az alex@thunderphone.com címre, és gondoskodom róla, hogy a lehető leghamarabb kijavítsuk Önnek. Funkcióigényeit is ossza meg velünk, és azokat is igyekszünk a lehető leghamarabb megvalósítani.

Ha pedig egyedibb igényei vannak, például egyedi megvalósítási és integrációs támogatásra, a szokásos HIPAA- és GDPR-követelményeken túli megfelelőségre, SLA-kra vagy egyedi funkciókra van szüksége, szívesen beszélünk vállalati megállapodásról. Keressen minket az alex@thunderphone.com címen, és átbeszéljük az igényeit, valamint azt, hogy tudunk-e segíteni.

Általánosságban pedig: azt vállaljuk Önnek, hogy a MI feladatunk biztosítani, hogy a ThunderPhone az Ön részéről minimális ráfordítással, külön beállítás nélkül működjön, és a lehető legtökéletesebben kezelje vállalkozása hívásait a mai AI képességein belül, az Ön által választott Spark, Bolt vagy Storm árszint keretei között. Próbálja ki, és örömmel megmutatjuk, mire képes a ThunderPhone.

Írja meg, mit gondol, és köszönjük a támogatását!