Представяме ThunderPhone

Днес с гордост обявяваме публичния старт на ThunderPhone, който улеснява автоматизирането на телефонни разговори с AI. С напълно различна интегрирана архитектура от тази на другите платформи за AI телефонни разговори, ThunderPhone постига значително по-висока производителност, по-ниска цена и по-малко затруднения при интеграциите. ThunderPhone поддържа входящи и изходящи разговори на десетки езици и отговаря на изискванията на HIPAA и GDPR.

Предимството на интеграцията

Другите платформи за AI телефонни разговори ограничават производителността на системите си, като налагат 3-стъпкова структура:

1. Един модел за транскрипция, който превръща гласа на потребителя в текст.
2. Един LLM, който обработва текста на потребителя и извежда отговор.
3. Един TTS модел, който превръща текста на отговора обратно в аудио.

Повечето от тях прехвърлят и инженерната работа към потребителите си, като ги принуждават да избират кои модели да използват, както и опции за конфигуриране като параметри за премахване на шум и бързина на реакцията.

Ние избрахме различен подход: конфигурирахме това, което според нас е най-добрият възможен стек с днешните модели, и го направихме готово за използване без сложни усилия по конфигурирането. Нашата система използва много модели едновременно, като интелигентно насочва между тях според хода на разговора. Това включва:

• Комбиниране на множество модели за транскрипция — някои по-бързи, други по-точни — за баланс между скорост и точност и за компенсиране на грешките им.
• Комбиниране на LLM с аудио вход, които може да имат по-ниска обща интелигентност, но по-добро разбиране на аудио, с LLM само за текст, които могат да допускат грешки заради неточни транскрипции, но често са по-интелигентни.
• Комбиниране на бързи, но неособено интелигентни LLM, които могат да генерират бързи отговори, с много по-интелигентни, но по-бавни LLM, които могат да работят във фонов режим и да гарантират, че AI следва подканата си и отговаря правилно на казаното от потребителя.
• Комбиниране на търговски модели от водещи доставчици, включително OpenAI и Google, които предлагат най-високата налична днес интелигентност, с богат набор от модели с отворен код, които често предлагат по-добра скорост на по-ниска цена.
• Едновременно използване на множество модели за класифициране и премахване на фонов шум, странични разговори и други разсейващи шумове, които иначе могат да провалят разговора.

Тези компоненти и още много други се организират по различен начин в нашите три нива на услугата — Spark, Bolt и Storm — като Spark е оптимизиран за цена, Bolt за скорост, а Storm за интелигентност, при същевременно максимално ограничаване на недостатъците на всяко от тях. И трите системи споделят предимства като изключително точно разбиране на казаното от потребителите, дори при собствени имена и правопис.

Установихме, че тази тясно интегрирана архитектура осигурява на нашата система много по-висока производителност при по-ниска цена от твърдия 3-стъпков подход, предлаган от други доставчици. В съответствие с теорията за модулността на Клей Кристенсен, AI за гласови разговори все още е в ранен етап и все още е по-ценно да се максимизира производителността с интегрирана архитектура, отколкото възможностите за персонализиране с модулна архитектура.

Оптимизирани решения

Що се отнася до възможностите за персонализиране, ние сме против тях! Повечето съвременни платформи за телефонен AI принуждават потребителите да преминават през безкрайни избори — от точните използвани модели до свръхдетайлни параметри, като например колко бързо AI да прекъсва потребителя.

Според нас НАША работа е да оптимизираме тези избори зад кулисите, така че потребителите на ThunderPhone да могат да се съсредоточат върху това, в което са добри, и да не се тревожат за детайлната конфигурация на гласовия AI. Виждаме себе си като нещо подобно на Squarespace, което улеснява потребителите ни да настроят телефонни агенти с възможно най-високата производителност, която днешните модели позволяват, без да си мръднат пръста.

Леснота на използване

ThunderPhone също е изключително лесен за използване, независимо дали настройвате нов телефонен агент, или мигрирате от друга платформа или персонализиран технологичен стек. Всичко необходимо, за да настроите телефонен агент в ThunderPhone, е:

1. Решете дали искате да използвате Spark, Bolt или Storm.
2. Изберете глас.
3. Дайте ни своя промпт. Не са нужни агенти с множество промптове! Ако промптът ви е твърде сложен за Spark или Bolt, преминете към Storm, който може да обработва дори сложни случаи на употреба с един промпт.
4. Свържете софтуерни интеграции (всяка крайна точка или вградена интеграция с n8n) с изключително лесен за използване съветник.
5. Свържете своя VoIP с изключително лесен за използване съветник.

Всичко това обикновено отнема 10 минути или по-малко.

ThunderPhone е съвместим с HIPAA и GDPR и при поискване ще подписваме и предоставяме BAA и DPA.

Нашата история

Ние сме екип от възпитаници на Stanford AI Lab и Y Combinator, които работят с гласов ИИ от 2024 г. Първоначално се фокусирахме върху Flux Interpreting, който превежда телефонни разговори между езици. Но след като клиентите многократно ни молеха да автоматизираме телефонните разговори за техния бизнес, вместо само да ги превеждаме, насочихме усилията си към това, което днес е ThunderPhone.

Проблемът със съществуващите платформи

В началото започнахме да изграждаме телефонни агенти за клиенти върху платформите за телефонен ИИ на други компании. Тествахме почти всяка платформа за телефонен ИИ на пазара, но за съжаление установихме, че не отговарят на нуждите ни, особено по отношение на:

• Разбирането на аудио: Ограничението да има само един модел за транскрипция, който превръща аудиото на потребителя в текст, означаваше, че ИИ често „чува погрешно“ потребителя, особено при собствени имена, необичайни думи и изписвания.
• Следването на инструкции: Един бърз LLM, който извършваше действителната „умствена работа“ зад разговора, означаваше, че ИИ често се затрудняваха да следват правилно инструкциите и се отклоняваха от задачата.
• Трудни интеграции: Платформите, които изпробвахме, много затрудняваха свързването с външен софтуер, като обикновено ни принуждаваха да въвеждаме обширни JSON конфигурации за извиквания на инструменти и многократно да се борим с тях, с малко или никаква обратна връзка, докато внезапно не започнеха да работят.
• Цена: Съществуващите платформи обикновено струваха цяло състояние: най-често 10 цента на минута или повече за посредствена производителност.

Изграждане на наш собствен стек

Когато подписахме договор за внедряване на сценарий за търговски разговори за корпоративен клиент, бяхме принудени да изградим собствен персонализиран стек, за да отговорим на нуждите му. Този сценарий беше взискателен: за разлика от обслужването на клиенти, където обаждащите се до голяма степен зависят от бизнеса, потенциалните клиенти при продажби бързо затварят.

Качеството на разговорите трябва да е безупречно, за да се осъществи продажбата, вместо да се изгуби потенциалният клиент. Това означаваше да обработваме множество собствени имена и изписвания, включително имена и адреси, които стандартните модели за транскрипция трудно разпознават правилно. За да усъвършенстваме този сценарий, изградихме това, което днес е ThunderPhone.

По пътя продължавахме да срещаме хора от общността за гласов ИИ в Сан Франциско, които изграждаха компании за телефонни агенти в конкретни вертикали — за ветеринарни лекари, шофьори на камиони и други. Изненадващо, повечето от тях бяха на едно мнение: съществуващите платформи бяха достатъчно добри за демонстрации, но не и за продукционна среда.

Шокиращо, много, ако не и повечето от нашите приятели в компании за гласов ИИ за конкретни вертикали всъщност „изграждаха собствените си“ стекове... Това нямаше никакъв смисъл за нас — все едно уеб стартъпите през 90-те трябваше да хостват собствените си уеб сървъри на сървър в килера си.

С това прозрение осъзнахме, че е време да превърнем нашата система за телефонен ИИ в платформа, която всеки може да използва.

Компаниите за гласов ИИ в конкретни вертикали и консултантите трябва да могат да се фокусират върху нуждите на целевия си пазар със своята специфична за индустрията експертиза — а не върху сложното инженерно изграждане на основополагащите технологии за ИИ и телефония! Именно това пускаме днес с ThunderPhone.

Пътят дотук беше дълъг! Извиняваме се на всички, които са се регистрирали при нас от миналия април и все още чакат достъп: това, което смятахме, че ще бъде кратък спринт за довършване на работата, се оказа многомесечна одисея в търсене на начин да съчетаем наличните днес модели в система, която е възможно най-надеждна.

Но най-сетне сме активни — изпробвайте го и вижте какво мислите!

Макар да сме отстранили основните проблеми, със сигурност все още има бъгове в системата. Ако откриете проблем, моля, пишете на alex@thunderphone.com и ще се погрижа да бъде отстранен възможно най-бързо. Кажете ми и ако имате заявки за функционалности, а ние ще ги реализираме възможно най-скоро.

А ако имате по-специфични нужди, като персонализирано внедряване и поддръжка за интеграции, съответствие с изисквания извън стандартните HIPAA и GDPR, SLA или заявки за персонализирани функционалности, с удоволствие ще обсъдим корпоративен договор. Свържете се с нас на alex@thunderphone.com, за да поговорим за вашите нужди и дали можем да помогнем.

И в по-общ план: нашият ангажимент към вас е, че НАША работа е да гарантираме, че ThunderPhone работи веднага с минимални усилия от ваша страна и обработва обажданията на вашия бизнес възможно най-съвършено с днешния ИИ, в рамките на избрания от вас ценови план — Spark, Bolt или Storm. Изпробвайте ни и нямаме търпение да ви покажем какво може ThunderPhone.

Кажете ни какво мислите и благодарим за подкрепата!