Најава ThunderPhone-а

Данас с поносом најављујемо јавно лансирање ThunderPhone-а, који олакшава аутоматизацију телефонских позива уз AI. Са потпуно другачијом интегрисаном архитектуром у односу на друге AI платформе за телефонију, ThunderPhone постиже знатно боље перформансе, ниже трошкове и мање проблема са интеграцијама. ThunderPhone подржава долазне и одлазне позиве на десетинама језика и усклађен је са HIPAA и GDPR прописима.

Предност интегрисаног приступа

Друге AI платформе за телефонију ограничавају перформансе својих система наметањем структуре од 3 корака:

1. Један модел за транскрипцију, који претвара глас корисника у текст.
2. Један LLM, који обрађује текст корисника и генерише одговор.
3. Један TTS модел, који текст одговора поново претвара у аудио.

Већина њих таксама пребацује инжењерски посао на кориснике тако што их приморава да бирају моделе које желе да користе, као и опције подешавања попут уклањања шума и параметара одзивности.

Ми смо изабрали другачији приступ: конфигурисали смо, по нашем мишљењу, најбољи могући скуп данашњих модела и припремили га за употребу без сложеног подешавања. Наш систем истовремено користи више модела и интелигентно бира између њих у зависности од тока разговора. То укључује:

• Комбиновање више модела за транскрипцију, од којих су неки бржи, а други прецизнији, како би се уравнотежили брзина и тачност и надокнадиле грешке једни других.
• Комбиновање LLM-ова са аудио-улазом, који могу имати мању општу интелигенцију, али боље разумевање звука, са LLM-овима који раде само са текстом, који могу грешити због нетачних транскрипата, али су често интелигентнији.
• Комбиновање брзих, али мање способних LLM-ова, који могу генерисати брзе одговоре, са знатно интелигентнијим, али споријим LLM-овима, који могу радити у позадини и осигурати да AI прати своје упутство и исправно одговара на оно што корисник каже.
• Комбиновање комерцијалних модела водећих добављача, укључујући OpenAI и Google, који нуде највиши ниво интелигенције доступан данас, са широким избором модела отвореног кода, који често нуде већу брзину уз ниже трошкове.
• Истовремено коришћење више модела за класификацију и уклањање позадинске буке, споредних разговора и других ометајућих звукова који иначе могу скренути разговор с тока.

Ове компоненте и многе друге оркестриране су на различите начине у наша три нивоа услуге, Spark, Bolt и Storm — Spark је оптимизован за трошкове, Bolt за брзину, а Storm за интелигенцију, уз што веће смањење недостатака сваког од њих. Сва три система деле предности као што је изузетно прецизно разумевање онога што корисници кажу, чак и када су у питању властита имена и срицање.

Сматрамо да ова чврсто интегрисана архитектура нашем систему доноси далеко боље перформансе уз ниже трошкове од ригидног приступа у 3 корака који нуде други добављачи. У складу са теоријом модуларности Клеја Кристенсена, AI за гласовну комуникацију је још у раној фази, а максимизовање перформанси интегрисаном архитектуром и даље је вредније од максимизовања прилагодљивости модуларном архитектуром.

Оптимизоване одлуке

Када је реч о прилагодљивости, ми смо против ње. Већина данашњих AI платформи за телефонију приморава кориснике да се крећу кроз бескрајан број избора, од тачних модела који се користе до изузетно детаљних параметара, попут тога колико брзо AI прекида корисника.

По нашем мишљењу, НАШ је посао да ове изборе оптимизујемо иза сцене, како би корисници ThunderPhone-а могли да се усредсреде на оно у чему су добри и да не брину о детаљној конфигурацији гласовног AI-ја. Видимо себе као неку врсту Squarespace-а, који корисницима олакшава постављање телефонских агената са апсолутно највишим могућим перформансама које данашњи модели могу да пруже, без икаквог труда.

Једноставност коришћења

ThunderPhone је такође изузетно једноставан за коришћење, било да постављате новог телефонског агента или прелазите са друге платформе или прилагођеног техничког решења. Да бисте поставили телефонског агента на ThunderPhone-у, потребно је само следеће:

1. Одлучите да ли желите да користите Spark, Bolt или Storm.
2. Изаберите глас.
3. Пошаљите нам свој упит. Нема потребе за агентима са више упита. Ако је ваш упит превише сложен за Spark или Bolt, пређите на Storm, који може да обради чак и сложене случајеве употребе помоћу једног упита.
4. Повежите софтверске интеграције (било који endpoint или изворну n8n интеграцију) помоћу изузетно једноставног чаробњака.
5. Повежите свој VoIP помоћу изузетно једноставног чаробњака.

За све ово је обично потребно 10 минута или мање.

ThunderPhone је усклађен са HIPAA и GDPR прописима, а на захтев ћемо потписати и обезбедити BAA и DPA споразуме.

Наша прича

Ми смо тим бивших чланова Stanford AI Lab-а и Y Combinator-а који се бави гласовним AI-јем од 2024. године. Првобитно смо били усмерени на Flux Interpreting, који преводи телефонске разговоре између језика. Али пошто су нас клијенти више пута питали да аутоматизујемо телефонске позиве за њихове послове, уместо да их само преводимо, преусмерили смо се на оно што је данас ThunderPhone.

Проблем са постојећим платформама

У почетку смо почели да развијамо гласовне агенте за клијенте на платформама за телефонски AI других компанија. Тестирали смо готово сваку платформу за телефонски AI на тржишту, али смо, нажалост, увидели да им много тога недостаје, нарочито када је реч о:

• Разумевању звука: Ограничење на само један модел транскрипције који претвара звук корисника у текст значило је да би AI често „погрешно чуо” корисника, нарочито код властитих именица, неуобичајених речи и начина писања.
• Праћењу упутстава: То што је један брзи LLM обављао стварни „умни рад” иза позива значило је да су AI-јеви често имали потешкоћа да правилно прате упутства и скретали са пута.
• Сложеним интеграцијама: Платформе које смо испробали веома су отежавале повезивање са спољним софтвером, углавном нас приморавајући да уносимо опсежне JSON конфигурације за позиве алата и да се изнова мучимо са њима, уз мало или нимало повратних информација, све док одједном не прораде.
• Цени: Постојеће платформе су углавном наплаћивале папрено: обично 10 центи у минуту или више за осредње перформансе.

Изградња сопственог технолошког скупа

Када смо потписали уговор да за корпоративног клијента применимо случај употребе продајних позива, били смо приморани да изградимо сопствени прилагођени технолошки скуп како бисмо испунили њихове потребе. Овај случај употребе био је захтеван: за разлику од корисничке подршке, где су позиваоци углавном препуштени на милост и немилост предузећу, позиваоци у продајним разговорима брзо спуштају слушалицу.

Квалитет позива мора бити врхунски да бисте остварили продају, уместо да изгубите потенцијалног клијента. То је значило обраду великог броја властитих именица и начина писања, укључујући имена и адресе, које је стандардним моделима транскрипције тешко да тачно препознају. Да бисмо савладали овај случај употребе, изградили смо оно што је данас ThunderPhone.

Успут смо наставили да упознајемо људе из заједнице гласовног AI-ја у Сан Франциску који су градили компаније за гласовне агенте за одређене индустрије — за ветеринаре, возаче камиона и друге. Изненађујуће, већина њих делила је исто мишљење: постојеће платформе су биле довољно добре за демонстрације, али не и за продукцију.

Запањујуће, многи, ако не и већина наших пријатеља из компанија за гласовни AI у одређеним индустријама, заправо су „правили сопствене” технолошке скупове... То нам није имало смисла — то је заиста исто као да су веб стартапови деведесетих морали да покрећу сопствене веб-сервере на серверу у свом орману.

Са тим увидом, схватили смо да је време да наш систем за телефонски AI претворимо у платформу коју свако може да користи.

Компаније за гласовни AI у одређеним индустријама и консултанти требало би да могу да се усредсреде на испуњавање потреба свог циљног тржишта помоћу стручности специфичне за њихову индустрију — а не на сложено пројектовање основног AI-ја и телефонске технологије! Управо то данас покрећемо са ThunderPhone.

Био је то дуг пут до овде! Извињавамо се свима који су се пријавили код нас од прошлог априла и још увек чекају приступ: оно за шта смо мислили да ће бити кратак спринт да завршимо посао претворило се у вишемесечну одисеју током које смо откривали како да повежемо данас доступне моделе у систем који је што робуснији.

Али сада смо коначно активни — испробајте га и реците нам шта мислите!

Иако смо решили главне проблеме, сигурно ће и даље бити грешака у систему. Ако наиђете на било какве проблеме, пошаљите имејл на alex@thunderphone.com и побринућу се да буду отклоњени што пре. Такође ми јавите ако имате предлоге за нове функције, па ћемо се потрудити да их реализујемо што пре.

А ако имате сложеније прилагођене потребе, као што су подршка за прилагођену примену и интеграцију, усклађеност која превазилази уобичајене HIPAA и GDPR захтеве, SLA-ови и захтеви за прилагођене функције, радо ћемо разговарати о корпоративном уговору. Јавите се на alex@thunderphone.com, па ћемо разговарати о вашим потребама и о томе да ли можемо да помогнемо.

И уопштено: наша обавеза према вама је да је НАШ посао да осигурамо да ThunderPhone ради одмах, уз минималан труд с ваше стране, и да обрађује позиве вашег предузећа онолико савршено колико је то могуће са данашњим AI-јем, у оквиру ценовног нивоа који изаберете: Spark, Bolt или Storm. Испробајте нас, а ми једва чекамо да вам покажемо шта ThunderPhone може.

Реците нам шта мислите и хвала вам на подршци!