Новости и экспертные материалы от команды ThunderPhone.

Сегодня мы запускаем TranslateMyCall: бесплатный телефонный номер, который работает как переводчик в реальном времени.

Позвоните по номеру (228) 888-8666 с любого телефона — стационарного или мобильного, без приложения и учётной записи — и к разговору подключится ИИ-переводчик. Затем используйте его одним из двух способов:

• Во время телефонного звонка. Добавьте человека, которому звоните, с помощью кнопки объединения вызовов на телефоне. Вы говорите по-английски, он слышит испанский (или китайский, арабский, украинский…), а его ответ переводится вам на английский. В обоих направлениях, вслух, в реальном времени.
• Лично. Включите громкую связь и положите телефон между собой и человеком, с которым вы не говорите на одном языке. Каждый просто говорит.

47 языков поддерживаются полностью, а ещё около двух десятков обычно работают с пониженным качеством. Попробуйте свой.

Почему мы это создали

Телефонный перевод — одна из тех огромных индустрий, о которых редко задумываются: больницы, суды, страховые компании и колл-центры тратят миллиарды в год, подключая переводчиков к телефонным звонкам, обычно с несколькими минутами настройки на каждый вызов. А все остальные — человек, звонящий арендодателю, в клинику или родственнику супруга, — просто остаются без такой помощи.

Мы создаём ThunderPhone, платформу голосового ИИ, чья главная задача — качественно обрабатывать реальные телефонные звонки: шумный звук, перебивания, акценты и 47 языков. Переводчик в реальном времени — это тот же движок на максимальной мощности, поэтому мы превратили его в самый простой продукт: один номер, на который может позвонить любой.

Простота по умолчанию

Не нужно создавать учётную запись, устанавливать приложение или что-либо настраивать — достаточно любого телефона, с которого можно позвонить. Мы можем записывать звонки, пока настраиваем сервис, но ваши разговоры не продаются и не используются для создания профилей.

Бесплатно в течение ограниченного времени

Сейчас TranslateMyCall бесплатен — не считая стандартной платы оператора, сам перевод ничего не стоит. Позвоните по номеру, проверьте сервис в деле и расскажите нам, что сработало, а что нет.

Для поставщиков языковых услуг

Тот же движок доступен как ThunderPhone Interpreting: полностью брендируемая платформа телефонного перевода для поставщиков языковых услуг, с выделенными номерами для каждой языковой пары, панелями управления и журналами звонков, а также вариантами соответствия требованиям и хранения данных в нужной стране — ваш бренд, наш движок. Если вы развиваете переводческий бизнес и хотите узнать, как ИИ-перевод влияет на экономику единицы услуги, напишите на sales@thunderphone.com или посетите нашу страницу для бизнеса.

А если вам нужен сам движок — ИИ-телефонные агенты для ваших сценариев обработки звонков, от 2 ¢ за минуту, — это ThunderPhone.

(228) 888-8666. Возьмите телефон. Пусть вас поймут.

Сегодня я рад объявить о публичном запуске нашей самостоятельной платформы ThunderPhone v2.

Теперь любой может использовать ThunderPhone сразу после подключения, чтобы автоматизировать самые разные телефонные звонки.

Как мы к этому пришли

С прошлого года мы работаем с небольшой группой корпоративных клиентов, автоматизируя их телефонные звонки. В некоторых случаях это были сценарии, чувствительные к производительности, например предпродажные звонки и ввод данных. Мы обнаружили, что существующие голосовые платформы ИИ допускают столько ошибок, что слишком многие звонящие разочаровываются и кладут трубку, разрушая экономику сценария.

Чтобы решить эти проблемы, мы с нуля создали собственный стек, который допускает меньше ошибок во время звонков и делает возможными сложные сценарии. Автоматизировав в этом году тысячи звонков в продакшене, мы теперь открываем наш стек для всех в виде самостоятельной платформы ThunderPhone v2.

Три тарифа — от 2 центов/мин

Стоимость нашей системы начинается всего от 2 центов/мин для тарифа Spark, включая модели, что делает её самой доступной полнофункциональной платформой голосового ИИ на рынке. Для большей скорости мы также предлагаем Bolt от 5 центов/мин. Для максимально возможного интеллекта мы предлагаем Storm от 9 центов/мин.

Storm надёжно справляется даже с самыми сложными сценариями звонков без необходимости вручную собирать сценарии — достаточно одного промпта.

При включённой опции дополнительного интеллекта (+3 цента/мин) Storm получает оценку 99.4% в Big Bench Audio, опережая все модели в рейтинге Artificial Analysis на сегодняшний день. Наш набор для оценки и расшифровки доступны публично на Hugging Face, и вскоре мы поделимся новыми результатами бенчмарков. Если вы хотите свести ошибки в звонках в продакшене к минимуму, Storm — ваш лучший выбор.

Интегрированная архитектура

ThunderPhone может быть одновременно умнее и дешевле других стеков благодаря нашей уникальной интегрированной архитектуре. Вместо «3-этапного конвейера», объединяющего одну модель распознавания речи, одну LLM и одну модель преобразования текста в речь, мы используем более сложную «сеть моделей», где несколько моделей распознавания речи, несколько LLM и другие компоненты взаимодействуют тщательно скоординированным образом, чтобы обеспечить наилучшую производительность при минимальной стоимости.

Помимо прочих преимуществ, это делает наших агентов особенно точными при распознавании речи звонящих даже в шумной обстановке или при сильном акценте. Благодаря этому звонки проходят более гладко, а ввод имён, адресов и других данных становится надёжнее. Агенты ThunderPhone обычно правильно распознают даже сложные варианты написания за один ход разговора, тогда как другим системам часто требуется несколько попыток. И каждое «извините, не могли бы вы продиктовать это по буквам ещё раз?» становится ещё одним неприятным моментом для звонящего, из-за которого он может положить трубку.

Наша система также включает множество компонентов, которые справляются со сложностями реальных звонков, включая фоновый шум, низкое качество аудио, перебивания и многое другое. Мы настроили функции ведения разговора на тысячах часов данных из реальных условий, и они заметно улучшают опыт реальных звонящих.

Полноценная платформа

ThunderPhone также включает комплексную платформу, которая позволяет исключительно легко создавать, тестировать, развертывать и отслеживать голосовых агентов. Не покидая ThunderPhone, вы можете:

• Настраивать голосовых агентов для входящих и исходящих звонков
• Управлять телефонными номерами и SIP-транками
• Тестировать голосовых агентов в реальных звонках с помощью ИИ или вручную
• Отслеживать звонки в реальном времени и при необходимости направлять их
• Видеть автоматически выявленные проблемы в звонках в продакшене, а также проверять и применять автоматически предложенные исправления
• Видеть, как работают ваши звонки и где их нужно улучшить, включая пошаговые метрики воронки.

Платформа ThunderPhone также позволяет без труда подключать телефонию и программные интеграции. Мастер настройки связывает ваш существующий аккаунт Twilio или Telnyx либо любой стандартный SIP-транк с помощью нескольких данных от вашего провайдера, а встроенные коннекторы поддерживают Google Sheets, Google Calendar, HubSpot, Salesforce и Cal.com. А для всех остальных интеграций мастер позволяет подключаться к любому API по принципу «просто вставьте и нажмите».

В веб-приложение встроен постоянно доступный помощник, который позволяет без усилий разобраться, как пользоваться платформой ThunderPhone. Он даже может перемещаться по приложению и выполнять действия за вас — а поскольку мы компания в сфере голосового ИИ, он, конечно, может разговаривать с вами вместо того, чтобы заставлять вас печатать.

API, решения для бизнеса и соответствие требованиям

Для сценариев, которым требуется больше возможностей настройки, чем предлагает веб-платформа, ThunderPhone также предоставляет полнофункциональный API для создания различных пользовательских интеграций. А для еще более глубокой настройки платформы, особых требований к стоимости и задержкам, требований соответствия и других задач мы предлагаем индивидуальные корпоративные внедрения и поддержку. (По вопросам обращайтесь напрямую ко мне — alex@thunderphone.com)

ThunderPhone по умолчанию соответствует требованиям HIPAA и GDPR для решений в сфере здравоохранения и приложений в ЕС и Великобритании, а также мы подписываем BAA и DPA без дополнительной платы.

Попробуйте сегодня

Чтобы узнать больше, ознакомьтесь с нашим сайтом, где подробнее рассказывается о наших технологиях, тарифах, возможностях платформы и многом другом.

А еще лучше — попробуйте ThunderPhone и посмотрите, как он подойдет для вашего сценария. Чтобы начать, вам понадобится всего несколько минут.

Если у вас возникнут сложности или появятся пожелания, напишите мне лично: alex@thunderphone.com

Алекс Колчински, генеральный директор

Сегодня мы с гордостью объявляем о публичном запуске ThunderPhone, который упрощает автоматизацию телефонных звонков с помощью AI. Благодаря полностью иной интегрированной архитектуре по сравнению с другими платформами телефонного AI, ThunderPhone обеспечивает гораздо более высокую производительность, более низкую стоимость и меньше сложностей с интеграциями. ThunderPhone поддерживает входящие и исходящие звонки на десятках языков и соответствует требованиям HIPAA и GDPR.

Преимущество интеграции

Другие платформы телефонного AI ограничивают производительность своих систем, навязывая им структуру из 3 этапов:

1. Одна модель расшифровки, которая преобразует голос пользователя в текст.
2. Одна LLM, которая обрабатывает текст пользователя и формирует ответ.
3. Одна модель TTS, которая преобразует текст ответа обратно в аудио.

Большинство из них также перекладывают инженерную работу на пользователей, заставляя их выбирать модели, которые они хотят использовать, а также параметры конфигурации, такие как шумоподавление и отзывчивость.

Мы выбрали другой подход: мы настроили, на наш взгляд, наилучший возможный стек из доступных сегодня моделей и подготовили его к использованию без сложной настройки. Наша система одновременно использует множество моделей, интеллектуально распределяя между ними работу в зависимости от хода разговора. Это включает:

• Объединение нескольких моделей расшифровки: одни работают быстрее, другие точнее, что позволяет сбалансировать скорость и точность и компенсировать ошибки друг друга.
• Объединение LLM с аудиовходом, которые могут уступать в общем интеллекте, но лучше понимают аудио, с LLM, работающими только с текстом, которые могут ошибаться из-за неточных расшифровок, но часто оказываются умнее.
• Объединение быстрых, но не слишком умных LLM, которые могут быстро генерировать ответы, с гораздо более умными, но медленными LLM, способными работать в фоновом режиме и следить за тем, чтобы AI выполнял свой промпт и правильно отвечал на слова пользователя.
• Объединение коммерческих моделей от ведущих поставщиков, включая OpenAI и Google, которые предлагают самый высокий доступный сегодня интеллект, с широким набором моделей с открытым исходным кодом, которые часто обеспечивают более высокую скорость при меньшей стоимости.
• Одновременное использование нескольких моделей для классификации и устранения фонового шума, посторонних разговоров и других отвлекающих звуков, которые иначе могут сорвать разговор.

Эти и другие компоненты по-разному оркестрируются в трёх уровнях сервиса — Spark, Bolt и Storm: Spark оптимизирован для стоимости, Bolt — для скорости, а Storm — для интеллекта, при этом недостатки каждого уровня сведены к минимуму. Все три системы обладают общими преимуществами, включая невероятно точное понимание слов пользователей даже при наличии имён собственных и особенностей написания.

Мы считаем, что эта тесно интегрированная архитектура обеспечивает нашей системе гораздо более высокую производительность при меньшей стоимости, чем жёсткий подход из 3 этапов, предлагаемый другими поставщиками. В соответствии с теорией модульности Клея Кристенсена, AI для голоса всё ещё находится на ранней стадии развития, и максимизация производительности с помощью интегрированной архитектуры по-прежнему ценнее, чем максимизация настраиваемости с помощью модульной архитектуры.

Оптимизированные решения

Что касается настраиваемости, мы против неё. Большинство современных платформ для голосового ИИ заставляют пользователей пробираться через бесконечное количество вариантов — от выбора конкретных моделей до сверхдетальных параметров, например скорости, с которой ИИ перебивает пользователя.

По нашему мнению, оптимизировать эти решения за кулисами — НАША задача, чтобы пользователи ThunderPhone могли сосредоточиться на том, что у них получается лучше всего, и не беспокоиться о детальной настройке голосового ИИ. Мы видим себя своего рода Squarespace, который помогает пользователям легко настраивать телефонных агентов с максимально возможной производительностью современных моделей — не пошевелив и пальцем.

Простота использования

ThunderPhone также невероятно прост в использовании — как при настройке нового телефонного агента, так и при миграции с другой платформы или собственной системы. Чтобы настроить телефонного агента в ThunderPhone, достаточно:

1. Решить, хотите ли вы использовать Spark, Bolt или Storm.
2. Выбрать голос.
3. Передать нам свой промпт. Мультипромптные агенты не нужны. Если ваш промпт слишком сложен для Spark или Bolt, перейдите на Storm — он справляется даже со сложными сценариями с помощью одного промпта.
4. Подключить интеграции с программным обеспечением (любую конечную точку или нативную интеграцию с n8n) с помощью невероятно простого мастера.
5. Подключить VoIP с помощью невероятно простого мастера.

Обычно всё это занимает 10 минут или меньше.

ThunderPhone соответствует требованиям HIPAA и GDPR, а по запросу мы подпишем и предоставим соглашения BAA и DPA.

Наша история

Мы — команда выпускников Лаборатории ИИ Стэнфорда и Y Combinator, работающая над голосовым ИИ с 2024 года. Изначально мы сосредоточились на Flux Interpreting, который переводит телефонные разговоры между языками. Но когда клиенты снова и снова просили нас автоматизировать телефонные звонки для их бизнеса, а не просто переводить их, мы переключили внимание на то, что теперь стало ThunderPhone.

Проблема существующих платформ

Сначала мы начали создавать голосовых агентов для клиентов на платформах телефонного ИИ других компаний. Мы протестировали практически все представленные на рынке платформы телефонного ИИ, но, к сожалению, обнаружили в них недостатки, особенно когда речь шла о следующем:

• Понимание аудио: Ограничение в виде единственной модели распознавания речи, преобразующей аудио пользователя в текст, означало, что ИИ часто «ослышивался», особенно в случае имён собственных, редких слов и написаний.
• Выполнение инструкций: Один быстрый LLM, выполняющий всю «умственную работу» во время звонка, часто приводил к тому, что ИИ с трудом точно выполнял инструкции и начинал действовать непредсказуемо.
• Сложные интеграции: Платформы, которые мы пробовали, крайне затрудняли подключение внешнего ПО: обычно приходилось вручную вводить объёмные JSON-конфигурации для вызовов инструментов и многократно бороться с ними, почти не получая обратной связи, пока они внезапно не начинали работать.
• Цена: Существующие платформы обычно стоили очень дорого: как правило, 10 центов за минуту или больше при посредственном качестве работы.

Создание собственного стека

Когда мы заключили контракт на внедрение сценария звонков для продаж для корпоративного клиента, нам пришлось создать собственный специализированный стек, чтобы удовлетворить его потребности. Этот сценарий был требовательным: в отличие от поддержки клиентов, где звонящие во многом зависят от компании, потенциальные клиенты быстро кладут трубку.

Чтобы закрыть сделку, а не потерять потенциального клиента, качество звонка должно быть безупречным. Это означало необходимость уверенно работать с большим количеством имён собственных и написаний, включая имена и адреса, которые стандартным моделям распознавания речи сложно определить правильно. Чтобы идеально реализовать этот сценарий, мы создали то, что теперь называется ThunderPhone.

По пути мы продолжали знакомиться с людьми из сообщества голосового ИИ Сан-Франциско, которые создавали компании с голосовыми агентами для конкретных отраслей — ветеринаров, дальнобойщиков и других. Удивительно, но большинство из них придерживалось одного мнения: существующие платформы достаточно хороши для демо, но не для продакшена.

Поразительно, но многие, если не большинство наших друзей из компаний в сфере отраслевого голосового ИИ, на самом деле «собирали собственные» стеки... Для нас это не имело смысла — это всё равно что веб-стартапам в 90-х приходилось бы размещать собственные веб-серверы на сервере в шкафу.

С этим пониманием мы осознали, что пришло время превратить нашу систему телефонного ИИ в платформу, которой сможет пользоваться любой.

Компании в сфере отраслевого голосового ИИ и консультанты должны иметь возможность сосредоточиться на потребностях своего целевого рынка, используя отраслевую экспертизу — а не на сложной разработке базовых технологий ИИ и телефонии! Именно это мы сегодня запускаем вместе с ThunderPhone.

Это был долгий путь! Приносим извинения всем, кто зарегистрировался у нас с прошлого апреля и всё ещё ждёт доступа: то, что мы считали коротким рывком к финишу, превратилось в многомесячную одиссею по объединению доступных сегодня моделей в максимально надёжную систему.

Но теперь мы наконец запустились — попробуйте и расскажите, что думаете!

Хотя мы устранили основные проблемы, в системе наверняка ещё остаются ошибки. Если вы обнаружите какие-либо неполадки, напишите по email alex@thunderphone.com, и я позабочусь, чтобы их исправили для вас как можно скорее. Также сообщайте о любых пожеланиях по функциям, и мы постараемся реализовать их для вас настолько быстро, насколько сможем.

А если у вас есть более индивидуальные потребности, например поддержка специализированного внедрения и интеграции, соответствие требованиям помимо стандартных HIPAA и GDPR, SLA или запросы на индивидуальные функции, мы будем рады обсудить корпоративное соглашение. Напишите на alex@thunderphone.com, и мы обсудим ваши потребности и то, сможем ли помочь.

И в более широком смысле: наше обязательство перед вами состоит в том, что НАША задача — сделать так, чтобы ThunderPhone работал «из коробки» и требовал от вас минимум усилий, а также обрабатывал звонки вашей компании настолько безупречно, насколько это возможно с современным ИИ, в рамках выбранного вами тарифа — Spark, Bolt или Storm. Попробуйте нас, и мы с радостью покажем, на что способен ThunderPhone.

Расскажите, что вы думаете, и спасибо за поддержку!