Новости и увиди ThunderPhone тима.

Данас са узбуђењем најављујем јавно покретање наше ThunderPhone v2 платформе за самостално коришћење.

Сада свако може одмах да користи ThunderPhone за аутоматизацију широког спектра телефонских позива.

Како смо дошли довде

Од прошле године сарађујемо са малом групом корпоративних клијената на аутоматизацији њихових телефонских позива. У неким случајевима, радило се о применама осетљивим на перформансе, попут претпродаје и уноса података, где смо установили да постојеће AI гласовне платформе праве толико грешака да би се превише позивалаца фрустрирало и прекинуло везу, нарушавајући економску исплативост тог случаја примене.

Да бисмо решили те проблеме, на крају смо од нуле изградили сопствени технолошки систем који прави мање грешака у позивима и омогућава сложене случајеве примене. Након аутоматизације хиљада продукционих позива ове године, наш систем сада стављамо на располагање јавности као ThunderPhone v2 платформу за самостално коришћење.

Три нивоа, већ од 2 цента/мин

Наш систем почиње већ од 2 цента/мин за ниво Spark, са укљученим моделима, што га чини најповољнијом целовитом AI гласовном платформом на тржишту. За већу брзину, нудимо и Bolt већ од 5 центи/мин. За највиши могући ниво интелигенције, нудимо Storm већ од 9 центи/мин.

Storm може поуздано да обрађује и најсложеније токове позива, без потребе за ручно израђеним поставкама „алата за изградњу токова“ — довољан је један упит!

Када је омогућена његова опција додатне интелигенције (+3 цента/мин), Storm постиже 99.4% на Big Bench Audio, испред сваког модела на листи Artificial Analysis до данас. Наш скуп за евалуацију и транскрипти су јавно доступни на Hugging Face, а ускоро ћемо поделити још резултата бенчмарка. Ако желите да сведете грешке у продукционим позивима на минимум, Storm је ваш најбољи избор.

Интегрисана архитектура

ThunderPhone може бити и паметнији и повољнији од других система захваљујући нашој јединственој интегрисаној архитектури. Уместо „цевовода у 3 корака“ који комбинује један модел за транскрипцију, један LLM и један модел за претварање текста у говор, ми користимо сложенију мрежу у којој више модела за транскрипцију, више LLM-ова и други модели међусобно делују на пажљиво оркестриране начине како би постигли најбоље могуће перформансе, уз најнижи могући трошак.

Између осталих предности, то наше агенте чини изузетним у правилном разумевању позивалаца, чак и у бучним окружењима или са израженим акцентима. Због тога разговори теку глатко, уз поузданији унос имена, адреса и других података. ThunderPhone агенти обично тачно забележе чак и незгодна срочавања већ у једној размени, док је другим системима потребно више покушаја. А свако „извините, можете ли још једном да срочите?“ је још једна прилика да позивалац прекине везу!

Наш систем такође укључује бројне компоненте за суочавање са изазовима стварних позива, укључујући позадинску буку, слаб квалитет сигнала, прекиде и друго. Механизме за вођење разговора прилагодили смо на хиљадама сати података из стварног света, а они значајно побољшавају искуство стварних позивалаца.

Комплетна платформа

ThunderPhone такође нуди свеобухватну платформу која изузетно олакшава израду, тестирање, примену и надгледање гласовних агената. Без напуштања ThunderPhone-а, можете:

• Подесити долазне и одлазне позиве и управљати телефонским бројевима
• Покретати тестирања телефонских агената са људима и AI-јем
• Пратити позиве уживо, док се одвијају
• Дозволити систему да открива понављајуће проблеме у вашим продукционим позивима, предлаже исправке и прегледа их и примењује
• Видети како ваши позиви функционишу и на чему треба радити, уз извештаје о току

ThunderPhone платформа такође без напора повезује телефонију и софтверске интеграције. Чаробњак за подешавање повезује ваш постојећи Twilio или Telnyx налог, или било који стандардни SIP trunk, уз неколико детаља од вашег добављача, док изворни конектори покривају Google Sheets, Google Calendar, HubSpot, Salesforce и Cal.com. За све остале интеграције, чаробњак омогућава везе са било којим API-јем по принципу „само налепите и кликните“.

Стално доступан копилот је интегрисан у веб-апликацију како би вам олакшао да сазнате како се користи ThunderPhone платформа. Може чак и да се креће кроз апликацију и обавља радње уместо вас — а пошто смо компанија за гласовни AI, наравно може и да разговара са вама уместо да вас тера да куцате!

API-ји, предузећа и усклађеност

За случајеве употребе који захтевају више прилагођавања него што веб-платформа нуди, ThunderPhone има и потпуно опремљен API који омогућава различите прилагођене интеграције. За још дубље прилагођавање платформе, посебне захтеве у погледу трошкова и кашњења, потребе усклађености и слично, нудимо прилагођене имплементације и подршку за предузећа. (За упите ми се обратите директно — alex@thunderphone.com)

ThunderPhone је одмах усклађен са HIPAA и GDPR захтевима за примене у здравству и ЕУ/УК, а BAA и DPA споразуме потписујемо без додатне накнаде.

Испробајте данас

За више информација, погледајте наш веб-сајт, где детаљније обрађујемо нашу технологију, цене, функције платформе и још много тога.

Још боље, испробајте ThunderPhone и видите како ради за ваш случај употребе! За почетак ће вам бити потребно само неколико минута, а наша веб-апликација и копилот су осмишљени да што више олакшају подешавање свега што вам је потребно.

Ако наиђете на било какве проблеме или имате било какве захтеве, обратите ми се лично на alex@thunderphone.com

Алекс Колчински, генерални директор

Данас с поносом најављујемо јавно лансирање ThunderPhone-а, који олакшава аутоматизацију телефонских позива уз AI. Са потпуно другачијом интегрисаном архитектуром у односу на друге AI платформе за телефонију, ThunderPhone постиже знатно боље перформансе, ниже трошкове и мање проблема са интеграцијама. ThunderPhone подржава долазне и одлазне позиве на десетинама језика и усклађен је са HIPAA и GDPR прописима.

Предност интегрисаног приступа

Друге AI платформе за телефонију ограничавају перформансе својих система наметањем структуре од 3 корака:

1. Један модел за транскрипцију, који претвара глас корисника у текст.
2. Један LLM, који обрађује текст корисника и генерише одговор.
3. Један TTS модел, који текст одговора поново претвара у аудио.

Већина њих таксама пребацује инжењерски посао на кориснике тако што их приморава да бирају моделе које желе да користе, као и опције подешавања попут уклањања шума и параметара одзивности.

Ми смо изабрали другачији приступ: конфигурисали смо, по нашем мишљењу, најбољи могући скуп данашњих модела и припремили га за употребу без сложеног подешавања. Наш систем истовремено користи више модела и интелигентно бира између њих у зависности од тока разговора. То укључује:

• Комбиновање више модела за транскрипцију, од којих су неки бржи, а други прецизнији, како би се уравнотежили брзина и тачност и надокнадиле грешке једни других.
• Комбиновање LLM-ова са аудио-улазом, који могу имати мању општу интелигенцију, али боље разумевање звука, са LLM-овима који раде само са текстом, који могу грешити због нетачних транскрипата, али су често интелигентнији.
• Комбиновање брзих, али мање способних LLM-ова, који могу генерисати брзе одговоре, са знатно интелигентнијим, али споријим LLM-овима, који могу радити у позадини и осигурати да AI прати своје упутство и исправно одговара на оно што корисник каже.
• Комбиновање комерцијалних модела водећих добављача, укључујући OpenAI и Google, који нуде највиши ниво интелигенције доступан данас, са широким избором модела отвореног кода, који често нуде већу брзину уз ниже трошкове.
• Истовремено коришћење више модела за класификацију и уклањање позадинске буке, споредних разговора и других ометајућих звукова који иначе могу скренути разговор с тока.

Ове компоненте и многе друге оркестриране су на различите начине у наша три нивоа услуге, Spark, Bolt и Storm — Spark је оптимизован за трошкове, Bolt за брзину, а Storm за интелигенцију, уз што веће смањење недостатака сваког од њих. Сва три система деле предности као што је изузетно прецизно разумевање онога што корисници кажу, чак и када су у питању властита имена и срицање.

Сматрамо да ова чврсто интегрисана архитектура нашем систему доноси далеко боље перформансе уз ниже трошкове од ригидног приступа у 3 корака који нуде други добављачи. У складу са теоријом модуларности Клеја Кристенсена, AI за гласовну комуникацију је још у раној фази, а максимизовање перформанси интегрисаном архитектуром и даље је вредније од максимизовања прилагодљивости модуларном архитектуром.

Оптимизоване одлуке

Када је реч о прилагодљивости, ми смо против ње. Већина данашњих AI платформи за телефонију приморава кориснике да се крећу кроз бескрајан број избора, од тачних модела који се користе до изузетно детаљних параметара, попут тога колико брзо AI прекида корисника.

По нашем мишљењу, НАШ је посао да ове изборе оптимизујемо иза сцене, како би корисници ThunderPhone-а могли да се усредсреде на оно у чему су добри и да не брину о детаљној конфигурацији гласовног AI-ја. Видимо себе као неку врсту Squarespace-а, који корисницима олакшава постављање телефонских агената са апсолутно највишим могућим перформансама које данашњи модели могу да пруже, без икаквог труда.

Једноставност коришћења

ThunderPhone је такође изузетно једноставан за коришћење, било да постављате новог телефонског агента или прелазите са друге платформе или прилагођеног техничког решења. Да бисте поставили телефонског агента на ThunderPhone-у, потребно је само следеће:

1. Одлучите да ли желите да користите Spark, Bolt или Storm.
2. Изаберите глас.
3. Пошаљите нам свој упит. Нема потребе за агентима са више упита. Ако је ваш упит превише сложен за Spark или Bolt, пређите на Storm, који може да обради чак и сложене случајеве употребе помоћу једног упита.
4. Повежите софтверске интеграције (било који endpoint или изворну n8n интеграцију) помоћу изузетно једноставног чаробњака.
5. Повежите свој VoIP помоћу изузетно једноставног чаробњака.

За све ово је обично потребно 10 минута или мање.

ThunderPhone је усклађен са HIPAA и GDPR прописима, а на захтев ћемо потписати и обезбедити BAA и DPA споразуме.

Наша прича

Ми смо тим бивших чланова Stanford AI Lab-а и Y Combinator-а који се бави гласовним AI-јем од 2024. године. Првобитно смо били усмерени на Flux Interpreting, који преводи телефонске разговоре између језика. Али пошто су нас клијенти више пута питали да аутоматизујемо телефонске позиве за њихове послове, уместо да их само преводимо, преусмерили смо се на оно што је данас ThunderPhone.

Проблем са постојећим платформама

У почетку смо почели да развијамо гласовне агенте за клијенте на платформама за телефонски AI других компанија. Тестирали смо готово сваку платформу за телефонски AI на тржишту, али смо, нажалост, увидели да им много тога недостаје, нарочито када је реч о:

• Разумевању звука: Ограничење на само један модел транскрипције који претвара звук корисника у текст значило је да би AI често „погрешно чуо” корисника, нарочито код властитих именица, неуобичајених речи и начина писања.
• Праћењу упутстава: То што је један брзи LLM обављао стварни „умни рад” иза позива значило је да су AI-јеви често имали потешкоћа да правилно прате упутства и скретали са пута.
• Сложеним интеграцијама: Платформе које смо испробали веома су отежавале повезивање са спољним софтвером, углавном нас приморавајући да уносимо опсежне JSON конфигурације за позиве алата и да се изнова мучимо са њима, уз мало или нимало повратних информација, све док одједном не прораде.
• Цени: Постојеће платформе су углавном наплаћивале папрено: обично 10 центи у минуту или више за осредње перформансе.

Изградња сопственог технолошког скупа

Када смо потписали уговор да за корпоративног клијента применимо случај употребе продајних позива, били смо приморани да изградимо сопствени прилагођени технолошки скуп како бисмо испунили њихове потребе. Овај случај употребе био је захтеван: за разлику од корисничке подршке, где су позиваоци углавном препуштени на милост и немилост предузећу, позиваоци у продајним разговорима брзо спуштају слушалицу.

Квалитет позива мора бити врхунски да бисте остварили продају, уместо да изгубите потенцијалног клијента. То је значило обраду великог броја властитих именица и начина писања, укључујући имена и адресе, које је стандардним моделима транскрипције тешко да тачно препознају. Да бисмо савладали овај случај употребе, изградили смо оно што је данас ThunderPhone.

Успут смо наставили да упознајемо људе из заједнице гласовног AI-ја у Сан Франциску који су градили компаније за гласовне агенте за одређене индустрије — за ветеринаре, возаче камиона и друге. Изненађујуће, већина њих делила је исто мишљење: постојеће платформе су биле довољно добре за демонстрације, али не и за продукцију.

Запањујуће, многи, ако не и већина наших пријатеља из компанија за гласовни AI у одређеним индустријама, заправо су „правили сопствене” технолошке скупове... То нам није имало смисла — то је заиста исто као да су веб стартапови деведесетих морали да покрећу сопствене веб-сервере на серверу у свом орману.

Са тим увидом, схватили смо да је време да наш систем за телефонски AI претворимо у платформу коју свако може да користи.

Компаније за гласовни AI у одређеним индустријама и консултанти требало би да могу да се усредсреде на испуњавање потреба свог циљног тржишта помоћу стручности специфичне за њихову индустрију — а не на сложено пројектовање основног AI-ја и телефонске технологије! Управо то данас покрећемо са ThunderPhone.

Био је то дуг пут до овде! Извињавамо се свима који су се пријавили код нас од прошлог априла и још увек чекају приступ: оно за шта смо мислили да ће бити кратак спринт да завршимо посао претворило се у вишемесечну одисеју током које смо откривали како да повежемо данас доступне моделе у систем који је што робуснији.

Али сада смо коначно активни — испробајте га и реците нам шта мислите!

Иако смо решили главне проблеме, сигурно ће и даље бити грешака у систему. Ако наиђете на било какве проблеме, пошаљите имејл на alex@thunderphone.com и побринућу се да буду отклоњени што пре. Такође ми јавите ако имате предлоге за нове функције, па ћемо се потрудити да их реализујемо што пре.

А ако имате сложеније прилагођене потребе, као што су подршка за прилагођену примену и интеграцију, усклађеност која превазилази уобичајене HIPAA и GDPR захтеве, SLA-ови и захтеви за прилагођене функције, радо ћемо разговарати о корпоративном уговору. Јавите се на alex@thunderphone.com, па ћемо разговарати о вашим потребама и о томе да ли можемо да помогнемо.

И уопштено: наша обавеза према вама је да је НАШ посао да осигурамо да ThunderPhone ради одмах, уз минималан труд с ваше стране, и да обрађује позиве вашег предузећа онолико савршено колико је то могуће са данашњим AI-јем, у оквиру ценовног нивоа који изаберете: Spark, Bolt или Storm. Испробајте нас, а ми једва чекамо да вам покажемо шта ThunderPhone може.

Реците нам шта мислите и хвала вам на подршци!