Новини и анализи от екипа на ThunderPhone.

Днес с вълнение обявявам публичното пускане на нашата платформа ThunderPhone v2 за самостоятелно обслужване.

Вече всеки може да използва ThunderPhone готово решение за автоматизиране на най-разнообразни телефонни разговори.

Как стигнахме дотук

От миналата година работим с малка група корпоративни клиенти, за да автоматизираме телефонните им разговори. В някои случаи това бяха приложения, чувствителни към производителността, като предварителни продажби и въвеждане на данни, при които установихме, че съществуващите платформи за гласов AI допускат толкова много грешки, че твърде много обаждащи се се разочароват и затварят, което проваля икономиката на конкретното приложение.

За да решим тези проблеми, създадохме собствен стек от нулата, за да допускаме по-малко грешки при разговорите и да направим възможни сложни приложения. След като автоматизирахме хиляди разговори в продукционна среда тази година, сега предоставяме нашия стек на обществеността като платформа ThunderPhone v2 за самостоятелно обслужване.

Три нива, започващи от 2 цента/мин.

Нашата система започва от само 2 цента/мин. за нивото Spark с включени модели, което я прави най-достъпната цялостна платформа за гласов AI на пазара. За по-висока скорост предлагаме и Bolt от 5 цента/мин. За възможно най-висока интелигентност предлагаме Storm от 9 цента/мин.

Storm може надеждно да обработва дори най-сложните сценарии за разговори, без нужда от ръчно създадени настройки в „конструктор на потоци“ — достатъчна е една подкана!

С включена опция за допълнителна интелигентност (+3 цента/мин.), Storm постига 99,4% в Big Bench Audio, изпреварвайки всеки модел в класацията на Artificial Analysis до момента. Нашият набор за оценяване и транскрипциите са публични в Hugging Face, а скоро ще споделим още резултати от бенчмаркове. Ако искате да сведете грешките в разговорите си в продукционна среда до минимум, Storm е най-добрият ви избор.

Интегрираната архитектура

ThunderPhone може да бъде едновременно по-интелигентен и по-достъпен от други стекове благодарение на нашата уникална интегрирана архитектура. Вместо „3-стъпков конвейер“, който комбинира един модел за транскрипция, един LLM и един модел за преобразуване на текст в реч, ние използваме по-сложна мрежа, в която множество модели за транскрипция, множество LLM-и и други компоненти взаимодействат по внимателно оркестрирани начини, за да постигнат възможно най-добра производителност при възможно най-ниска цена.

Наред с други предимства, това прави нашите агенти изключително добри в правилното разпознаване на обаждащите се, дори в шумна среда или при силен акцент. Това прави разговорите по-гладки и осигурява по-надеждно въвеждане на имена, адреси и други данни. Агентите на ThunderPhone обикновено разпознават дори сложни изписвания в рамките на една реплика в разговора, докато други системи се нуждаят от няколко опита. А всяко „извинете, бихте ли го изписали още веднъж?“ е още една възможност обаждащият се да затвори.

Нашата система включва и множество компоненти за справяне с трудностите на разговорите от реалния живот, включително фонов шум, лошо качество на сигнала, прекъсвания и други. Настроихме механизмите за управление на разговорите върху хиляди часове данни от реални ситуации и те значително подобряват изживяването на истинските обаждащи се.

Цялостна платформа

ThunderPhone предлага и цялостна платформа, която прави изграждането, тестването, внедряването и наблюдението на гласови агенти изключително лесно. Без изобщо да напускате ThunderPhone, можете да:

• Конфигурирате входящи и изходящи обаждания и да управлявате телефонни номера
• Провеждате тестове на телефонни агенти с хора и с AI
• Наблюдавате обажданията на живо, в момента на случването им
• Оставите системата да открива повтарящи се проблеми в обажданията ви в продукционна среда, да предлага поправки и да ги преглежда и прилага
• Виждате как се представят обажданията ви и къде се нуждаят от подобрение чрез фунийни отчети

Платформата ThunderPhone също така прави свързването на телефония и софтуерни интеграции безпроблемно. Съветник за настройка свързва вашия съществуващ акаунт в Twilio или Telnyx, или всеки стандартен SIP trunk, само с няколко данни от вашия доставчик, а вградените конектори обхващат Google Sheets, Google Calendar, HubSpot, Salesforce и Cal.com. А за всички останали интеграции съветникът позволява връзки от типа „само поставете и щракнете“ към всеки API.

В уеб приложението е интегриран постоянно активен помощник, който прави разбирането как да използвате платформата ThunderPhone изключително лесно. Той дори може да навигира в приложението и да извършва действия вместо вас — и тъй като сме компания за гласов AI, разбира се, може да разговаря с вас, вместо да ви кара да пишете!

API, корпоративни решения и съответствие

За случаи на употреба, които изискват повече персонализация, отколкото предлага уеб платформата, ThunderPhone разполага и с пълнофункционален API, който позволява разнообразни персонализирани интеграции. А за още по-задълбочена персонализация на платформата, специфични изисквания за разходи и латентност, нужди от съответствие и други, предлагаме индивидуални корпоративни реализации и поддръжка. (Свържете се директно с мен за запитвания — alex@thunderphone.com)

ThunderPhone отговаря на изискванията на HIPAA и GDPR за приложения в здравеопазването и в ЕС/Обединеното кралство още от самото начало, а ние подписваме BAA и DPA без допълнително заплащане.

Изпробвайте го още днес

За повече информация разгледайте нашия уебсайт, където ще научите повече за нашата технология, цени, функции на платформата и още.

Още по-добре, изпробвайте ThunderPhone и вижте как се справя за вашия случай на употреба! Ще ви отнеме само няколко минути да започнете, а нашето уеб приложение и помощник са създадени, за да направят настройването на всичко необходимо възможно най-лесно.

Ако срещнете проблеми или имате някакви заявки, свържете се лично с мен на alex@thunderphone.com

Алекс Колчински, главен изпълнителен директор

Днес с гордост обявяваме публичния старт на ThunderPhone, който улеснява автоматизирането на телефонни разговори с AI. С напълно различна интегрирана архитектура от тази на другите платформи за AI телефонни разговори, ThunderPhone постига значително по-висока производителност, по-ниска цена и по-малко затруднения при интеграциите. ThunderPhone поддържа входящи и изходящи разговори на десетки езици и отговаря на изискванията на HIPAA и GDPR.

Предимството на интеграцията

Другите платформи за AI телефонни разговори ограничават производителността на системите си, като налагат 3-стъпкова структура:

1. Един модел за транскрипция, който превръща гласа на потребителя в текст.
2. Един LLM, който обработва текста на потребителя и извежда отговор.
3. Един TTS модел, който превръща текста на отговора обратно в аудио.

Повечето от тях прехвърлят и инженерната работа към потребителите си, като ги принуждават да избират кои модели да използват, както и опции за конфигуриране като параметри за премахване на шум и бързина на реакцията.

Ние избрахме различен подход: конфигурирахме това, което според нас е най-добрият възможен стек с днешните модели, и го направихме готово за използване без сложни усилия по конфигурирането. Нашата система използва много модели едновременно, като интелигентно насочва между тях според хода на разговора. Това включва:

• Комбиниране на множество модели за транскрипция — някои по-бързи, други по-точни — за баланс между скорост и точност и за компенсиране на грешките им.
• Комбиниране на LLM с аудио вход, които може да имат по-ниска обща интелигентност, но по-добро разбиране на аудио, с LLM само за текст, които могат да допускат грешки заради неточни транскрипции, но често са по-интелигентни.
• Комбиниране на бързи, но неособено интелигентни LLM, които могат да генерират бързи отговори, с много по-интелигентни, но по-бавни LLM, които могат да работят във фонов режим и да гарантират, че AI следва подканата си и отговаря правилно на казаното от потребителя.
• Комбиниране на търговски модели от водещи доставчици, включително OpenAI и Google, които предлагат най-високата налична днес интелигентност, с богат набор от модели с отворен код, които често предлагат по-добра скорост на по-ниска цена.
• Едновременно използване на множество модели за класифициране и премахване на фонов шум, странични разговори и други разсейващи шумове, които иначе могат да провалят разговора.

Тези компоненти и още много други се организират по различен начин в нашите три нива на услугата — Spark, Bolt и Storm — като Spark е оптимизиран за цена, Bolt за скорост, а Storm за интелигентност, при същевременно максимално ограничаване на недостатъците на всяко от тях. И трите системи споделят предимства като изключително точно разбиране на казаното от потребителите, дори при собствени имена и правопис.

Установихме, че тази тясно интегрирана архитектура осигурява на нашата система много по-висока производителност при по-ниска цена от твърдия 3-стъпков подход, предлаган от други доставчици. В съответствие с теорията за модулността на Клей Кристенсен, AI за гласови разговори все още е в ранен етап и все още е по-ценно да се максимизира производителността с интегрирана архитектура, отколкото възможностите за персонализиране с модулна архитектура.

Оптимизирани решения

Що се отнася до възможностите за персонализиране, ние сме против тях! Повечето съвременни платформи за телефонен AI принуждават потребителите да преминават през безкрайни избори — от точните използвани модели до свръхдетайлни параметри, като например колко бързо AI да прекъсва потребителя.

Според нас НАША работа е да оптимизираме тези избори зад кулисите, така че потребителите на ThunderPhone да могат да се съсредоточат върху това, в което са добри, и да не се тревожат за детайлната конфигурация на гласовия AI. Виждаме себе си като нещо подобно на Squarespace, което улеснява потребителите ни да настроят телефонни агенти с възможно най-високата производителност, която днешните модели позволяват, без да си мръднат пръста.

Леснота на използване

ThunderPhone също е изключително лесен за използване, независимо дали настройвате нов телефонен агент, или мигрирате от друга платформа или персонализиран технологичен стек. Всичко необходимо, за да настроите телефонен агент в ThunderPhone, е:

1. Решете дали искате да използвате Spark, Bolt или Storm.
2. Изберете глас.
3. Дайте ни своя промпт. Не са нужни агенти с множество промптове! Ако промптът ви е твърде сложен за Spark или Bolt, преминете към Storm, който може да обработва дори сложни случаи на употреба с един промпт.
4. Свържете софтуерни интеграции (всяка крайна точка или вградена интеграция с n8n) с изключително лесен за използване съветник.
5. Свържете своя VoIP с изключително лесен за използване съветник.

Всичко това обикновено отнема 10 минути или по-малко.

ThunderPhone е съвместим с HIPAA и GDPR и при поискване ще подписваме и предоставяме BAA и DPA.

Нашата история

Ние сме екип от възпитаници на Stanford AI Lab и Y Combinator, които работят с гласов ИИ от 2024 г. Първоначално се фокусирахме върху Flux Interpreting, който превежда телефонни разговори между езици. Но след като клиентите многократно ни молеха да автоматизираме телефонните разговори за техния бизнес, вместо само да ги превеждаме, насочихме усилията си към това, което днес е ThunderPhone.

Проблемът със съществуващите платформи

В началото започнахме да изграждаме телефонни агенти за клиенти върху платформите за телефонен ИИ на други компании. Тествахме почти всяка платформа за телефонен ИИ на пазара, но за съжаление установихме, че не отговарят на нуждите ни, особено по отношение на:

• Разбирането на аудио: Ограничението да има само един модел за транскрипция, който превръща аудиото на потребителя в текст, означаваше, че ИИ често „чува погрешно“ потребителя, особено при собствени имена, необичайни думи и изписвания.
• Следването на инструкции: Един бърз LLM, който извършваше действителната „умствена работа“ зад разговора, означаваше, че ИИ често се затрудняваха да следват правилно инструкциите и се отклоняваха от задачата.
• Трудни интеграции: Платформите, които изпробвахме, много затрудняваха свързването с външен софтуер, като обикновено ни принуждаваха да въвеждаме обширни JSON конфигурации за извиквания на инструменти и многократно да се борим с тях, с малко или никаква обратна връзка, докато внезапно не започнеха да работят.
• Цена: Съществуващите платформи обикновено струваха цяло състояние: най-често 10 цента на минута или повече за посредствена производителност.

Изграждане на наш собствен стек

Когато подписахме договор за внедряване на сценарий за търговски разговори за корпоративен клиент, бяхме принудени да изградим собствен персонализиран стек, за да отговорим на нуждите му. Този сценарий беше взискателен: за разлика от обслужването на клиенти, където обаждащите се до голяма степен зависят от бизнеса, потенциалните клиенти при продажби бързо затварят.

Качеството на разговорите трябва да е безупречно, за да се осъществи продажбата, вместо да се изгуби потенциалният клиент. Това означаваше да обработваме множество собствени имена и изписвания, включително имена и адреси, които стандартните модели за транскрипция трудно разпознават правилно. За да усъвършенстваме този сценарий, изградихме това, което днес е ThunderPhone.

По пътя продължавахме да срещаме хора от общността за гласов ИИ в Сан Франциско, които изграждаха компании за телефонни агенти в конкретни вертикали — за ветеринарни лекари, шофьори на камиони и други. Изненадващо, повечето от тях бяха на едно мнение: съществуващите платформи бяха достатъчно добри за демонстрации, но не и за продукционна среда.

Шокиращо, много, ако не и повечето от нашите приятели в компании за гласов ИИ за конкретни вертикали всъщност „изграждаха собствените си“ стекове... Това нямаше никакъв смисъл за нас — все едно уеб стартъпите през 90-те трябваше да хостват собствените си уеб сървъри на сървър в килера си.

С това прозрение осъзнахме, че е време да превърнем нашата система за телефонен ИИ в платформа, която всеки може да използва.

Компаниите за гласов ИИ в конкретни вертикали и консултантите трябва да могат да се фокусират върху нуждите на целевия си пазар със своята специфична за индустрията експертиза — а не върху сложното инженерно изграждане на основополагащите технологии за ИИ и телефония! Именно това пускаме днес с ThunderPhone.

Пътят дотук беше дълъг! Извиняваме се на всички, които са се регистрирали при нас от миналия април и все още чакат достъп: това, което смятахме, че ще бъде кратък спринт за довършване на работата, се оказа многомесечна одисея в търсене на начин да съчетаем наличните днес модели в система, която е възможно най-надеждна.

Но най-сетне сме активни — изпробвайте го и вижте какво мислите!

Макар да сме отстранили основните проблеми, със сигурност все още има бъгове в системата. Ако откриете проблем, моля, пишете на alex@thunderphone.com и ще се погрижа да бъде отстранен възможно най-бързо. Кажете ми и ако имате заявки за функционалности, а ние ще ги реализираме възможно най-скоро.

А ако имате по-специфични нужди, като персонализирано внедряване и поддръжка за интеграции, съответствие с изисквания извън стандартните HIPAA и GDPR, SLA или заявки за персонализирани функционалности, с удоволствие ще обсъдим корпоративен договор. Свържете се с нас на alex@thunderphone.com, за да поговорим за вашите нужди и дали можем да помогнем.

И в по-общ план: нашият ангажимент към вас е, че НАША работа е да гарантираме, че ThunderPhone работи веднага с минимални усилия от ваша страна и обработва обажданията на вашия бизнес възможно най-съвършено с днешния ИИ, в рамките на избрания от вас ценови план — Spark, Bolt или Storm. Изпробвайте ни и нямаме търпение да ви покажем какво може ThunderPhone.

Кажете ни какво мислите и благодарим за подкрепата!