Aktualności i wiedza od zespołu ThunderPhone.

Dziś z radością ogłaszam publiczne uruchomienie naszej samoobsługowej platformy ThunderPhone v2.

Każdy może teraz korzystać z ThunderPhone od ręki, aby automatyzować szeroki zakres połączeń telefonicznych.

Jak do tego doszliśmy

Od zeszłego roku współpracujemy z niewielką grupą klientów korporacyjnych, aby automatyzować ich połączenia telefoniczne. W niektórych przypadkach były to zastosowania wrażliwe na wydajność, takie jak przedsprzedaż i wprowadzanie danych, w których odkryliśmy, że istniejące platformy głosowej AI popełniały tak wiele błędów, że zbyt wielu rozmówców frustrowało się i rozłączało, niszcząc ekonomikę jednostkową danego zastosowania.

Aby rozwiązać te problemy, stworzyliśmy od podstaw własny stos technologiczny, który popełnia mniej błędów podczas połączeń i umożliwia realizację trudnych zastosowań. Po zautomatyzowaniu w tym roku tysięcy połączeń produkcyjnych udostępniamy teraz nasz stos technologiczny publicznie jako samoobsługową platformę ThunderPhone v2.

Trzy poziomy, od 2 centów/min

Nasz system zaczyna się już od 2 centów/min w poziomie Spark, z modelami w cenie, co czyni go najtańszą kompleksową platformą głosowej AI na rynku. Dla większej szybkości oferujemy także Bolt od 5 centów/min. Dla najwyższego możliwego poziomu inteligencji oferujemy Storm od 9 centów/min.

Storm może niezawodnie obsługiwać nawet najbardziej złożone scenariusze połączeń, bez potrzeby ręcznie budowanych konfiguracji „konstruktora przepływów” - wystarczy jeden prompt!

Przy włączonej opcji dodatkowej inteligencji (+3 centy/min) Storm osiąga 99,4% w Big Bench Audio, wyprzedzając każdy model w dotychczasowym rankingu Artificial Analysis. Nasz zestaw ewaluacyjny i transkrypcje są publicznie dostępne na Hugging Face, a wkrótce udostępnimy więcej wyników testów porównawczych. Jeśli chcesz zminimalizować błędy w swoich połączeniach produkcyjnych, Storm to najlepszy wybór.

Zintegrowana architektura

ThunderPhone może być jednocześnie inteligentniejszy i tańszy niż inne stosy technologiczne dzięki naszej unikalnej zintegrowanej architekturze. Zamiast „3-etapowego potoku” łączącego jeden model transkrypcji, jeden LLM i jeden model zamiany tekstu na mowę, uruchamiamy bardziej złożoną sieć, w której wiele modeli transkrypcji, wiele LLM-ów itd. współdziała w starannie zorkiestrowany sposób, aby osiągnąć najlepszą możliwą wydajność przy najniższym możliwym koszcie.

Między innymi sprawia to, że nasi agenci wyjątkowo dobrze rozumieją rozmówców, nawet w hałaśliwym otoczeniu lub mimo silnego akcentu. Dzięki temu rozmowy przebiegają płynniej, a dane, takie jak imiona, adresy i inne informacje, są wprowadzane bardziej niezawodnie. Agenci ThunderPhone zazwyczaj poprawnie rozpoznają nawet trudną pisownię w jednej turze rozmowy, podczas gdy inne systemy potrzebują kilku prób. A każde „przepraszam, czy możesz przeliterować to jeszcze raz?” to kolejna okazja, by rozmówca się rozłączył!

Nasz system obejmuje także liczne komponenty radzące sobie z trudnościami prawdziwych połączeń, w tym hałasem w tle, niską jakością sygnału, przerwami w rozmowie i nie tylko. Dostosowaliśmy mechanizmy obsługi rozmów na tysiącach godzin danych z rzeczywistego świata, co znacząco poprawia doświadczenie prawdziwych rozmówców.

Kompletna platforma

ThunderPhone oferuje również kompleksową platformę, która wyjątkowo ułatwia tworzenie, testowanie, wdrażanie i monitorowanie agentów głosowych. Bez opuszczania ThunderPhone możesz:

• Konfigurować połączenia przychodzące i wychodzące oraz zarządzać numerami telefonów
• Prowadzić testy ludzkie i AI agentów telefonicznych
• Monitorować połączenia na żywo, w trakcie ich trwania
• Pozwolić systemowi wykrywać powtarzające się problemy w połączeniach produkcyjnych, proponować rozwiązania oraz je przeglądać i wdrażać
• Sprawdzać w raportach lejka, jak działają Twoje połączenia i gdzie wymagają poprawy

Platforma ThunderPhone sprawia również, że konfiguracja integracji telefonicznych i programowych jest niezwykle prosta. Kreator konfiguracji łączy istniejące konto Twilio lub Telnyx albo dowolny standardowy trunk SIP na podstawie kilku danych od dostawcy, a natywne konektory obsługują Google Sheets, Google Calendar, HubSpot, Salesforce i Cal.com. W przypadku wszystkich pozostałych integracji kreator umożliwia połączenie z dowolnym API metodą „wklej i kliknij”.

W aplikacji internetowej zintegrowano zawsze dostępnego copilota, który sprawia, że poznanie sposobu korzystania z platformy ThunderPhone jest banalnie proste. Może nawet poruszać się po aplikacji i wykonywać działania za Ciebie — a ponieważ jesteśmy firmą zajmującą się głosową AI, może oczywiście z Tobą rozmawiać zamiast zmuszać Cię do pisania!

API, rozwiązania dla przedsiębiorstw i zgodność

W przypadkach użycia wymagających większej personalizacji, niż oferuje platforma internetowa, ThunderPhone udostępnia również w pełni funkcjonalne API, które umożliwia różnorodne niestandardowe integracje. A jeśli potrzebujesz jeszcze głębszej personalizacji platformy, niestandardowych wymagań dotyczących kosztów i opóźnień, zgodności z przepisami itd., oferujemy dedykowane wdrożenia i wsparcie dla przedsiębiorstw. (Skontaktuj się ze mną bezpośrednio w sprawie zapytań — alex@thunderphone.com)

ThunderPhone jest domyślnie zgodny z HIPAA i RODO dla zastosowań w ochronie zdrowia oraz w UE/Wielkiej Brytanii, a umowy BAA i DPA podpisujemy bez dodatkowych opłat.

Wypróbuj już dziś

Aby dowiedzieć się więcej, zapoznaj się z naszą stroną internetową, na której szerzej omawiamy naszą technologię, cennik, funkcje platformy i nie tylko.

A jeszcze lepiej — wypróbuj ThunderPhone i zobacz, jak sprawdzi się w Twoim przypadku użycia! Rozpoczęcie powinno zająć Ci tylko kilka minut, a nasza aplikacja internetowa i copilot zostały zaprojektowane tak, aby maksymalnie ułatwić konfigurację wszystkiego, czego potrzebujesz.

Jeśli napotkasz jakiekolwiek problemy lub masz prośby, skontaktuj się ze mną osobiście pod adresem alex@thunderphone.com

Alex Kolchinski, CEO

Dziś z dumą ogłaszamy publiczną premierę ThunderPhone, która ułatwia automatyzację rozmów telefonicznych za pomocą AI. Dzięki całkowicie odmiennej, zintegrowanej architekturze niż w innych platformach AI do obsługi telefonicznej ThunderPhone osiąga znacznie wyższą wydajność, niższe koszty i mniej problemów z integracjami. ThunderPhone obsługuje połączenia przychodzące i wychodzące w dziesiątkach języków oraz jest zgodny z HIPAA i RODO.

Przewaga integracji

Inne platformy AI do obsługi telefonicznej ograniczają wydajność swoich systemów, narzucając im trzystopniową strukturę:

1. Jeden model transkrypcji, który zamienia głos użytkownika na tekst.
2. Jeden LLM, który przetwarza tekst użytkownika i generuje odpowiedź.
3. Jeden model TTS, który zamienia tekst odpowiedzi z powrotem na dźwięk.

Większość z nich przerzuca również pracę inżynieryjną na swoich użytkowników, zmuszając ich do wyboru modeli, których chcą używać, a także opcji konfiguracji, takich jak parametry odszumiania i responsywności.

Przyjęliśmy inne podejście: skonfigurowaliśmy, naszym zdaniem, najlepszy możliwy stos z dzisiejszych modeli i przygotowaliśmy go do użycia bez złożonego wysiłku konfiguracyjnego. Nasz system korzysta jednocześnie z wielu modeli, inteligentnie przełączając między nimi w zależności od przebiegu rozmowy. Obejmuje to:

• Łączenie wielu modeli transkrypcji — jednych szybszych, innych dokładniejszych — aby równoważyć szybkość z dokładnością i kompensować wzajemne błędy.
• Łączenie LLM-ów z wejściem audio, które mogą mieć niższą ogólną inteligencję, ale lepiej rozumieć dźwięk, z LLM-ami obsługującymi wyłącznie tekst, które mogą popełniać błędy z powodu niedokładnych transkrypcji, lecz często są inteligentniejsze.
• Łączenie szybkich, lecz mniej inteligentnych LLM-ów, które mogą generować błyskawiczne odpowiedzi, ze znacznie inteligentniejszymi, ale wolniejszymi LLM-ami, które mogą działać w tle i pilnować, aby AI stosowała się do swojego promptu oraz poprawnie reagowała na to, co mówi użytkownik.
• Łączenie komercyjnych modeli od czołowych dostawców, w tym OpenAI i Google, które oferują najwyższą dostępną dziś inteligencję, z szerokim wyborem modeli open source, które często zapewniają lepszą szybkość przy niższym koszcie.
• Jednoczesne wykorzystywanie wielu modeli do klasyfikowania i eliminowania szumów tła, rozmów prowadzonych obok oraz innych rozpraszających dźwięków, które w przeciwnym razie mogłyby wykoleić rozmowę.

Te komponenty i kolejne są orkiestracyjnie łączone na różne sposoby w naszych trzech poziomach usługi: Spark, Bolt i Storm — optymalizując Spark pod kątem kosztu, Bolt pod kątem szybkości, a Storm pod kątem inteligencji, przy jednoczesnym maksymalnym ograniczaniu wad każdego z nich. Wszystkie trzy systemy mają wspólne zalety, takie jak niezwykle dokładne rozumienie tego, co mówią użytkownicy, nawet w przypadku nazw własnych i literowania.

Uważamy, że ta ściśle zintegrowana architektura zapewnia naszemu systemowi znacznie wyższą wydajność przy niższym koszcie niż sztywne, trzystopniowe podejście oferowane przez innych dostawców. Zgodnie z teorią modułowości Claya Christensena AI głosowa jest wciąż na wczesnym etapie rozwoju i nadal bardziej wartościowe jest maksymalizowanie wydajności dzięki zintegrowanej architekturze niż maksymalizowanie możliwości dostosowania dzięki architekturze modułowej.

Zoptymalizowane decyzje

A jeśli chodzi o możliwość dostosowania, jesteśmy jej przeciwni! Większość dzisiejszych platform AI do obsługi telefonicznej zmusza użytkowników do poruszania się po niekończących się wyborach — od dokładnie używanych modeli po ultradokładne parametry, takie jak szybkość, z jaką AI przerywa użytkownikowi.

Naszym zdaniem to NASZA praca, aby optymalizować te wybory za kulisami, tak aby użytkownicy ThunderPhone mogli skupić się na tym, w czym są dobrzy, i nie martwili się szczegółową konfiguracją głosowej AI. Postrzegamy siebie jako swego rodzaju Squarespace, ułatwiając naszym użytkownikom konfigurację agentów telefonicznych z absolutnie najwyższą wydajnością możliwą przy dzisiejszych modelach, bez kiwnięcia palcem.

Łatwość użycia

ThunderPhone jest również niezwykle łatwy w użyciu, niezależnie od tego, czy konfigurujesz nowego agenta telefonicznego, czy migrujesz z innej platformy lub własnego stosu technologicznego. Aby skonfigurować agenta telefonicznego w ThunderPhone, wystarczy:

1. Zdecydować, czy chcesz użyć Spark, Bolt czy Storm.
2. Wybrać głos.
3. Przekazać nam swój prompt. Nie potrzebujesz agentów z wieloma promptami! Jeśli Twój prompt jest zbyt skomplikowany dla Spark lub Bolt, przejdź na Storm, który obsługuje nawet złożone przypadki użycia za pomocą jednego promptu.
4. Połączyć integracje oprogramowania (dowolny endpoint lub natywną integrację n8n) za pomocą niezwykle łatwego w użyciu przewodnika.
5. Połączyć swoje VoIP za pomocą niezwykle łatwego w użyciu przewodnika.

Zwykle zajmuje to 10 minut lub mniej.

ThunderPhone jest zgodny z HIPAA i RODO, a na żądanie podpiszemy i dostarczymy umowy BAA oraz DPA.

Nasza historia

Jesteśmy zespołem absolwentów Stanford AI Lab i Y Combinator, który pracuje nad głosową AI od 2024 roku. Początkowo skupialiśmy się na Flux Interpreting, które tłumaczy rozmowy telefoniczne między językami. Jednak gdy klienci wielokrotnie prosili nas o automatyzację połączeń telefonicznych dla swoich firm, a nie tylko ich tłumaczenie, zmieniliśmy kierunek i skupiliśmy się na tym, co dziś jest ThunderPhone.

Problem z istniejącymi platformami

Na początku tworzyliśmy agentów telefonicznych dla klientów na platformach AI do obsługi połączeń innych firm. Przetestowaliśmy praktycznie każdą platformę AI do obsługi połączeń dostępną na rynku, ale niestety uznaliśmy je za niewystarczające, zwłaszcza pod względem:

• Rozumienia dźwięku: Ograniczenie do jednego modelu transkrypcji, który zamienia dźwięk użytkownika na tekst, sprawiało, że AI często „źle słyszała” użytkownika, szczególnie w przypadku nazw własnych, rzadkich słów i pisowni.
• Stosowania się do instrukcji: Jeden szybki LLM wykonujący faktyczną „pracę umysłową” podczas rozmowy sprawiał, że AI często miały trudności z poprawnym wykonywaniem instrukcji i schodziły na manowce.
• Trudnych integracji: Platformy, które testowaliśmy, bardzo utrudniały łączenie z zewnętrznym oprogramowaniem. Zazwyczaj zmuszały nas do wpisywania rozbudowanych konfiguracji JSON dla wywołań narzędzi i wielokrotnego zmagania się z nimi, niemal bez żadnej informacji zwrotnej, aż nagle zaczynały działać.
• Ceny: Istniejące platformy zazwyczaj kosztowały fortunę: zwykle 10 centów za minutę lub więcej za przeciętną jakość.

Budowanie własnego stosu technologicznego

Gdy podpisaliśmy umowę na wdrożenie przypadku użycia rozmów sprzedażowych dla klienta korporacyjnego, musieliśmy stworzyć własny, dostosowany stos technologiczny, aby spełnić jego potrzeby. Ten przypadek użycia był wymagający: w przeciwieństwie do obsługi klienta, gdzie rozmówcy są w dużej mierze zdani na firmę, rozmówcy sprzedażowi szybko się rozłączają.

Jakość rozmowy musi być doskonała, aby sfinalizować sprzedaż zamiast stracić potencjalnego klienta. Oznaczało to obsługę dużej liczby nazw własnych i zapisów, w tym imion, nazwisk oraz adresów, z którymi standardowe modele transkrypcji mają trudności. Aby perfekcyjnie obsłużyć ten przypadek użycia, stworzyliśmy to, co dziś jest ThunderPhone.

Po drodze stale poznawaliśmy osoby ze społeczności głosowej AI w San Francisco, które budowały branżowe firmy oferujące agentów telefonicznych — dla weterynarzy, kierowców ciężarówek i nie tylko. Co zaskakujące, większość z nich miała tę samą opinię: istniejące platformy były wystarczająco dobre do demonstracji, ale nie do środowiska produkcyjnego.

Zaskakująco wiele, jeśli nie większość, naszych znajomych z branżowych firm zajmujących się głosową AI faktycznie „budowało własne” stosy technologiczne... Nie miało to dla nas sensu — to właściwie odpowiednik sytuacji, w której startupy internetowe w latach 90. musiały hostować własne serwery WWW na serwerze w szafie.

Dzięki temu spostrzeżeniu zrozumieliśmy, że nadszedł czas, aby przekształcić nasz system AI do obsługi połączeń w platformę, z której może korzystać każdy.

Branżowe firmy tworzące agentów głosowych AI oraz konsultanci powinni móc skupiać się na potrzebach swojej grupy docelowej, wykorzystując specjalistyczną wiedzę branżową — a nie na złożonym projektowaniu technologii AI i telefonicznej, która za tym stoi! Właśnie to uruchamiamy dziś wraz z ThunderPhone.

To była długa droga! Przepraszamy wszystkich, którzy zarejestrowali się u nas od ubiegłego kwietnia i wciąż czekają na dostęp: to, co miało być szybkim sprintem kończącym pracę, okazało się wielomiesięczną odyseją polegającą na ustalaniu, jak połączyć dostępne dziś modele w system tak niezawodny, jak to możliwe.

Ale wreszcie działamy — wypróbujcie ThunderPhone i zobaczcie, co o nim sądzicie!

Choć rozwiązaliśmy już najważniejsze problemy, w systemie z pewnością nadal mogą występować błędy. Jeśli znajdziesz jakiekolwiek problemy, napisz na alex@thunderphone.com, a dopilnuję, aby zostały jak najszybciej naprawione. Daj nam również znać, jeśli masz propozycje funkcji, a postaramy się wdrożyć je tak szybko, jak tylko możemy.

Jeśli masz bardziej niestandardowe potrzeby, takie jak wsparcie przy niestandardowym wdrożeniu i integracji, zgodność wykraczającą poza standardowe HIPAA i RODO, umowy SLA lub niestandardowe propozycje funkcji, chętnie porozmawiamy o umowie dla przedsiębiorstwa. Skontaktuj się z nami pod adresem alex@thunderphone.com, a omówimy Twoje potrzeby i to, czy możemy pomóc.

A bardziej ogólnie: zobowiązujemy się, że to NASZĄ rolą jest dopilnowanie, aby ThunderPhone działał od razu, przy minimalnym wysiłku z Twojej strony, i obsługiwał połączenia Twojej firmy tak doskonale, jak jest to możliwe przy dzisiejszej AI, w granicach wybranego przez Ciebie poziomu cenowego: Spark, Bolt lub Storm. Wypróbuj nas, a z radością pokażemy Ci, co potrafi ThunderPhone.

Daj nam znać, co sądzisz, i dziękujemy za wsparcie!