Новини й аналітика від команди ThunderPhone.

Сьогодні ми запускаємо TranslateMyCall: безкоштовний номер телефону, який працює як перекладач у реальному часі.

Зателефонуйте на (228) 888-8666 з будь-якого телефону — стаціонарного чи мобільного, без застосунку й без облікового запису — і до розмови приєднається ШІ-перекладач. Далі ви можете використовувати його одним із двох способів:

• Під час телефонної розмови. Додайте до дзвінка людину, якій телефонуєте, за допомогою кнопки об’єднання викликів на своєму телефоні. Ви говорите англійською, вона чує іспанську (або китайську, арабську чи українську…), а її відповідь повертається до вас англійською. В обох напрямках, уголос і в реальному часі.
• Віч-на-віч. Увімкніть гучний зв’язок і покладіть телефон між собою та людиною, з якою ви не маєте спільної мови. Кожен із вас просто говорить.

Повністю підтримуються 47 мов, а ще приблизно два десятки зазвичай працюють зі зниженою якістю. Спробуйте свою.

Чому ми це створили

Усний переклад телефоном — одна з тих непомітно величезних індустрій: лікарні, суди, страхові компанії та кол-центри щороку витрачають мільярди, щоб підключати перекладачів-людей до телефонних розмов, зазвичай витрачаючи кілька хвилин на налаштування кожного дзвінка. Тим часом усі інші — людина, яка телефонує орендодавцю, до клініки чи родичам партнера — просто залишаються без перекладу.

Ми створюємо ThunderPhone, платформу голосового ШІ, єдине завдання якої — якісно обробляти реальні телефонні дзвінки: шумний звук, перебивання, акценти та 47 мов. Перекладач у реальному часі — це той самий рушій на повній потужності, тож ми втілили його в найпростішому можливому продукті: одному номері, на який може зателефонувати будь-хто.

Простота за замовчуванням

Не потрібно створювати обліковий запис, встановлювати застосунок чи щось налаштовувати — достатньо будь-якого телефону, з якого можна зателефонувати. Дзвінки можуть записуватися, поки ми налаштовуємо сервіс, а ваші розмови не продаються й не використовуються для створення профілів.

Безкоштовно протягом обмеженого часу

TranslateMyCall зараз безкоштовний — не враховуючи стандартних тарифів оператора, сам переклад нічого не коштує. Зателефонуйте за номером, випробуйте сервіс у різних ситуаціях і розкажіть нам, що спрацювало, а що ні.

Для постачальників мовних послуг

Той самий рушій доступний як ThunderPhone Interpreting: повністю брендована платформа усного перекладу телефоном для постачальників мовних послуг, із виділеними номерами для кожної мовної пари, панелями керування та журналами дзвінків, а також можливостями відповідності вимогам і розміщення даних — ваш бренд, наш рушій. Якщо ви ведете бізнес з усного перекладу й хочете побачити, як ШІ-переклад впливає на вашу юніт-економіку, напишіть на sales@thunderphone.com або відвідайте нашу сторінку для підприємств.

А якщо вам потрібен сам рушій — ШІ-агенти для телефонних дзвінків у ваших власних процесах, від 2¢/хвилину — це ThunderPhone.

(228) 888-8666. Візьміть слухавку. Нехай вас зрозуміють.

Сьогодні я з радістю оголошую про публічний запуск нашої платформи самообслуговування ThunderPhone v2.

Тепер будь-хто може використовувати ThunderPhone без додаткового налаштування для автоматизації найрізноманітніших телефонних дзвінків.

Як ми до цього прийшли

З минулого року ми працюємо з невеликою групою корпоративних клієнтів, автоматизуючи їхні телефонні дзвінки. У деяких випадках це були сценарії, чутливі до продуктивності, як-от передпродажі та введення даних, де ми виявили, що наявні платформи голосового ШІ припускаються стількох помилок, що надто багато абонентів розчаровуються й кладуть слухавку, руйнуючи юніт-економіку таких сценаріїв.

Щоб розв’язати ці проблеми, ми зрештою створили з нуля власний стек, який припускається менше помилок під час дзвінків і робить можливими складні сценарії. Після автоматизації тисяч дзвінків у продакшні цього року ми тепер відкриваємо наш стек для всіх як платформу самообслуговування ThunderPhone v2.

Три рівні — від 2 центів/хв

Наша система коштує лише 2 центи/хв для рівня Spark, включно з моделями, що робить її найдоступнішою повноцінною платформою голосового ШІ на ринку. Для вищої швидкості ми також пропонуємо Bolt від 5 центів/хв. Для найвищого можливого рівня інтелекту ми пропонуємо Storm від 9 центів/хв.

Storm може з високою надійністю обробляти навіть найскладніші сценарії дзвінків без потреби у вручну створених налаштуваннях «конструктора сценаріїв» — достатньо одного промпту.

З увімкненою опцією додаткового інтелекту (+3 центи/хв) Storm набирає 99.4% у Big Bench Audio, випереджаючи всі моделі в рейтингу Artificial Analysis на сьогодні. Наш набір оцінювання та транскрипти доступні публічно на Hugging Face, і незабаром ми поділимося новими результатами бенчмарків. Якщо ви хочете мінімізувати помилки у своїх дзвінках у продакшні, Storm — найкращий вибір.

Інтегрована архітектура

ThunderPhone може бути одночасно розумнішим і дешевшим за інші стеки завдяки нашій унікальній інтегрованій архітектурі. Замість «3-етапного конвеєра», який поєднує одну модель транскрибування, одну LLM і одну модель перетворення тексту на мовлення, ми використовуємо складнішу «мережу моделей», у якій кілька моделей транскрибування, кілька LLM тощо взаємодіють ретельно скоординованими способами, щоб досягати найкращої можливої продуктивності за найнижчої можливої вартості.

Серед інших переваг це робить наших агентів винятково точними у розпізнаванні мовлення абонентів, навіть у шумному середовищі або за сильного акценту. Завдяки цьому дзвінки проходять плавніше, а введення імен, адрес та інших даних стає надійнішим. Агенти ThunderPhone зазвичай правильно розпізнають навіть складне написання за один хід діалогу, тоді як іншим системам часто потрібно кілька спроб. А кожне «перепрошую, чи не могли б ви продиктувати це ще раз?» — це ще один неприємний досвід для абонента, який може спонукати його покласти слухавку.

Наша система також містить численні компоненти, що опрацьовують складні аспекти реальних дзвінків, зокрема фоновий шум, низьку якість аудіо, перебивання тощо. Ми налаштували функціонал ведення розмов на тисячах годин даних із реального світу, і він суттєво покращує досвід реальних абонентів.

Повноцінна платформа

ThunderPhone також пропонує комплексну платформу, яка надзвичайно спрощує створення, тестування, розгортання та моніторинг голосових агентів. Не залишаючи ThunderPhone, ви можете:

• Налаштовувати голосових агентів для вхідних і вихідних дзвінків
• Керувати телефонними номерами та SIP-транками
• Тестувати голосових агентів на реальних дзвінках за допомогою ШІ або вручну
• Відстежувати дзвінки наживо в момент їх здійснення та за потреби коригувати їхній перебіг
• Переглядати автоматично виявлені проблеми у ваших дзвінках у продакшні, а також перевіряти й застосовувати автоматично запропоновані виправлення
• Бачити, як працюють ваші дзвінки та що потребує покращення, зокрема покрокові метрики воронки.

Платформа ThunderPhone також дає змогу без зусиль налаштувати телефонію та програмні інтеграції. Майстер налаштування підключає ваш наявний обліковий запис Twilio або Telnyx чи будь-який стандартний SIP-транк за кількома даними від вашого постачальника, а нативні конектори підтримують Google Sheets, Google Calendar, HubSpot, Salesforce і Cal.com. А для всіх інших інтеграцій майстер дає змогу підключитися до будь-якого API за принципом «просто вставте й натисніть».

У вебзастосунок інтегровано постійно доступного помічника, який неймовірно спрощує розуміння того, як користуватися платформою ThunderPhone. Він навіть може переміщатися застосунком і виконувати дії за вас — і, оскільки ми компанія у сфері голосового ШІ, він, звісно, може говорити з вами замість того, щоб змушувати вас друкувати.

API, корпоративні рішення та відповідність вимогам

Для випадків використання, що потребують більшої кастомізації, ніж пропонує вебплатформа, ThunderPhone також має повнофункціональний API, який відкриває можливості для різноманітних індивідуальних інтеграцій. А для ще глибшої кастомізації платформи, індивідуальних вимог до вартості й затримки, потреб відповідності вимогам тощо ми пропонуємо спеціальні корпоративні впровадження та підтримку. (Звертайтеся до мене безпосередньо із запитаннями — alex@thunderphone.com)

ThunderPhone одразу відповідає вимогам HIPAA та GDPR для застосувань у сфері охорони здоров’я та в ЄС/Великій Британії, а також ми підписуємо BAA і DPA без додаткової плати.

Спробуйте вже сьогодні

Щоб дізнатися більше, ознайомтеся з нашим сайтом, де докладніше описано нашу технологію, ціни, можливості платформи та інше.

А ще краще — спробуйте ThunderPhone і оцініть, як він працює для вашого випадку використання. Щоб почати, вам знадобиться лише кілька хвилин.

Якщо виникнуть будь-які проблеми або у вас будуть побажання, звертайтеся до мене особисто за адресою alex@thunderphone.com

Alex Kolchinski, генеральний директор

Сьогодні ми з гордістю оголошуємо про публічний запуск ThunderPhone, який спрощує автоматизацію телефонних дзвінків за допомогою ШІ. Завдяки повністю іншій інтегрованій архітектурі порівняно з іншими платформами телефонного ШІ ThunderPhone забезпечує значно вищу продуктивність, нижчу вартість і менше складнощів з інтеграціями. ThunderPhone підтримує вхідні та вихідні дзвінки десятками мов і відповідає вимогам HIPAA та GDPR.

Перевага інтеграції

Інші платформи телефонного ШІ обмежують продуктивність своїх систем, нав’язуючи їм триетапну структуру:

1. Одна модель транскрипції, яка перетворює голос користувача на текст.
2. Одна LLM, яка обробляє текст користувача та формує відповідь.
3. Одна модель TTS, яка перетворює текст відповіді назад на аудіо.

Більшість із них також перекладають інженерну роботу на користувачів, змушуючи їх обирати моделі, які вони хочуть використовувати, а також налаштовувати параметри на кшталт шумозаглушення та швидкості реагування.

Ми обрали інший підхід: на нашу думку, ми налаштували найкращий можливий стек на основі сучасних моделей і зробили його готовим до використання без складних налаштувань. Наша система одночасно використовує багато моделей та інтелектуально маршрутизує між ними залежно від перебігу розмови. Це включає:

• Поєднання кількох моделей транскрипції: деякі з них швидші, інші точніші, щоб збалансувати швидкість і точність та компенсувати помилки одна одної.
• Поєднання LLM з аудіовходом, які можуть мати нижчий загальний інтелект, але краще розуміти аудіо, з LLM, що працюють лише з текстом, які можуть помилятися через неточні транскрипти, але часто є розумнішими.
• Поєднання швидких, але простіших LLM, які можуть генерувати швидкі відповіді, зі значно розумнішими, але повільнішими LLM, які можуть працювати у фоновому режимі та стежити, щоб ШІ дотримувався свого промпту й правильно реагував на слова користувача.
• Поєднання комерційних моделей від провідних постачальників, зокрема OpenAI та Google, які пропонують найвищий доступний сьогодні інтелект, із широким набором моделей із відкритим кодом, які часто забезпечують вищу швидкість за нижчої вартості.
• Одночасне використання кількох моделей для класифікації та усунення фонового шуму, сторонніх розмов та інших відволікальних звуків, які інакше можуть зірвати розмову.

Ці та інші компоненти по-різному оркеструються в наших трьох рівнях сервісу — Spark, Bolt і Storm: Spark оптимізовано для вартості, Bolt — для швидкості, а Storm — для інтелекту, водночас ми максимально зменшуємо недоліки кожного з них. Усі три системи мають спільні переваги, зокрема неймовірно точне розуміння того, що кажуть користувачі, навіть коли йдеться про власні назви та написання слів.

На нашу думку, ця тісно інтегрована архітектура забезпечує нашій системі значно вищу продуктивність за нижчої вартості, ніж жорсткий триетапний підхід, який пропонують інші постачальники. Відповідно до теорії модульності Клея Крістенсена, голосовий ШІ все ще перебуває на ранньому етапі розвитку, і максимізація продуктивності за допомогою інтегрованої архітектури досі цінніша за максимізацію налаштовуваності за допомогою модульної архітектури.

Оптимізовані рішення

Що ж до налаштовуваності, ми проти неї! Більшість сучасних платформ телефонного ШІ змушують користувачів продиратися крізь нескінченний вибір: від точних моделей, що використовуються, до наддетальних параметрів, як-от швидкість, з якою ШІ перебиває користувача.

На нашу думку, оптимізувати ці рішення за лаштунками — це НАША робота, щоб користувачі ThunderPhone могли зосередитися на тому, що в них виходить найкраще, і не перейматися детальним налаштуванням голосового ШІ. Ми бачимо себе певним аналогом Squarespace, який дає користувачам змогу легко налаштовувати телефонних агентів із найвищою можливою продуктивністю сучасних моделей, не докладаючи жодних зусиль.

Простота використання

ThunderPhone також неймовірно простий у використанні — чи налаштовуєте ви нового телефонного агента, чи переходите з іншої платформи або власного стеку. Щоб налаштувати телефонного агента на ThunderPhone, потрібно лише:

1. Вирішити, чи хочете ви використовувати Spark, Bolt або Storm.
2. Вибрати голос.
3. Надати нам свій промпт. Не потрібні агенти з кількома промптами! Якщо ваш промпт надто складний для Spark або Bolt, перейдіть на Storm, який може впоратися навіть зі складними сценаріями використання за допомогою одного промпту.
4. Підключити програмні інтеграції (будь-яку кінцеву точку або нативну інтеграцію n8n) за допомогою надзвичайно простого майстра.
5. Підключити свій VoIP за допомогою надзвичайно простого майстра.

Усе це зазвичай займає 10 хвилин або менше.

ThunderPhone відповідає вимогам HIPAA та GDPR, і ми підпишемо та надамо BAA і DPA за запитом.

Наша історія

Ми — команда випускників Stanford AI Lab і Y Combinator, які працюють над голосовим ШІ з 2024 року. Спочатку ми зосереджувалися на Flux Interpreting, який перекладає телефонні дзвінки між мовами. Але після того, як клієнти неодноразово просили нас автоматизувати телефонні дзвінки для їхнього бізнесу, а не лише перекладати їх, ми змінили фокус на те, що тепер стало ThunderPhone.

Проблема з наявними платформами

Спочатку ми почали створювати телефонних агентів для клієнтів на платформах голосового ШІ інших компаній. Ми протестували майже всі платформи голосового ШІ на ринку, але, на жаль, виявили, що їм багато чого бракує, особливо коли йшлося про:

• Розуміння аудіо: Обмеження, пов’язані з використанням лише однієї моделі транскрибування для перетворення аудіо користувача на текст, означали, що ШІ часто «неправильно чув» користувача, особливо у власних назвах, рідковживаних словах і написаннях.
• Дотримання інструкцій: Використання однієї швидкої LLM для фактичної «розумової роботи» під час дзвінка означало, що ШІ часто важко було правильно дотримуватися інструкцій, і він збивався з курсу.
• Складні інтеграції: Платформи, які ми спробували, дуже ускладнювали підключення до зовнішнього програмного забезпечення: зазвичай нам доводилося вводити об’ємні JSON-конфігурації для викликів інструментів і знову й знову боротися з ними майже без зворотного зв’язку, доки вони раптом не починали працювати.
• Ціна: Наявні платформи зазвичай коштували надто дорого: як правило, 10 центів за хвилину або більше за посередню якість роботи.

Створення власного стеку

Коли ми уклали угоду на впровадження сценарію дзвінків для продажів для корпоративного клієнта, нам довелося створити власний спеціалізований стек, щоб задовольнити його потреби. Цей сценарій був вимогливим: на відміну від служби підтримки, де ті, хто телефонує, значною мірою залежать від бізнесу, потенційні клієнти під час продажів швидко кладуть слухавку.

Якість дзвінка має бути бездоганною, щоб здійснити продаж, а не втратити потенційного клієнта. Це означало коректно обробляти велику кількість власних назв і написань, зокрема імена та адреси, які стандартним моделям транскрибування важко розпізнати правильно. Щоб досконало реалізувати цей сценарій, ми створили те, що тепер є ThunderPhone.

У процесі ми постійно знайомилися з людьми зі спільноти голосового ШІ в Сан-Франциско, які створювали вертикальні компанії телефонних агентів — для ветеринарів, водіїв вантажівок тощо. Дивно, але більшість із них мали однакову думку: наявні платформи були достатньо хорошими для демо, але не для продакшну.

Дивовижно, але багато, якщо не більшість, наших друзів у вертикальних компаніях голосового ШІ фактично «створювали власні» стеки... Для нас це не мало сенсу — це буквально те саме, якби вебстартапам у 90-х доводилося розміщувати власні вебсервери на сервері у своїй комірчині.

Завдяки цьому розумінню ми усвідомили, що настав час перетворити нашу систему телефонного ШІ на платформу, якою може користуватися будь-хто.

Вертикальні компанії голосового ШІ та консультанти мають зосереджуватися на потребах свого цільового ринку, використовуючи галузеву експертизу, — а не на складному проєктуванні базових технологій ШІ та телефонії! Саме це ми сьогодні запускаємо разом із ThunderPhone.

Шлях до цього був довгим! Просимо вибачення у всіх, хто зареєструвався в нас із минулого квітня та досі чекає на доступ: те, що, як ми думали, буде швидким ривком до завершення роботи, перетворилося на багатомісячну одіссею пошуку способу поєднати доступні сьогодні моделі в якомога надійнішу систему.

Але тепер ми нарешті запустилися — спробуйте й подивіться, що ви думаєте!

Хоча ми усунули основні проблеми, у системі напевно ще залишилися помилки. Якщо ви знайдете будь-які проблеми, напишіть на alex@thunderphone.com, і я подбаю про те, щоб їх якнайшвидше виправили для вас. Також повідомляйте, якщо у вас є запити на нові функції, і ми постараємося реалізувати їх для вас якомога швидше.

А якщо у вас є більш індивідуальні потреби, наприклад підтримка спеціального впровадження та інтеграції, вимоги до відповідності стандартам понад звичайні HIPAA та GDPR, SLA або запити на спеціальні функції, ми радо обговоримо корпоративну угоду. Напишіть на alex@thunderphone.com, і ми поговоримо про ваші потреби та про те, чи можемо ми допомогти.

І загалом: ми зобов’язуємося зробити так, щоб ThunderPhone працював одразу, з мінімальними зусиллями з вашого боку, і обробляв дзвінки вашого бізнесу настільки бездоганно, наскільки це можливо з сучасним ШІ, у межах обраного вами тарифу — Spark, Bolt або Storm. Спробуйте нас, і ми раді показати вам, на що здатен ThunderPhone.

Розкажіть нам, що ви думаєте, і дякуємо за вашу підтримку!