Apresentando o ThunderPhone

Hoje, temos orgulho de anunciar o lançamento público do ThunderPhone, que facilita a automação de chamadas telefônicas com IA. Com uma arquitetura integrada completamente diferente da de outras plataformas de IA para telefone, o ThunderPhone consegue oferecer desempenho muito superior, menor custo e menos problemas de integração. O ThunderPhone oferece suporte a chamadas recebidas e realizadas em dezenas de idiomas e está em conformidade com HIPAA e GDPR.

A vantagem da integração

Outras plataformas de IA para telefone limitam o desempenho de seus sistemas ao impor uma estrutura de três etapas:

1. Um modelo de transcrição, que transforma a voz de quem liga em texto.
2. Um LLM, que processa o texto de quem liga e gera uma resposta.
3. Um modelo de TTS, que transforma o texto da resposta novamente em áudio.

A maioria delas também transfere trabalho de engenharia para seus usuários ao obrigá-los a escolher quais modelos desejam usar, além de opções de configuração como redução de ruído e parâmetros de capacidade de resposta.

Adotamos uma abordagem diferente: configuramos o que, em nossa opinião, é a melhor stack possível com os modelos disponíveis atualmente e a deixamos pronta para uso sem esforço complexo de configuração. Nosso sistema usa muitos modelos ao mesmo tempo, alternando entre eles de forma inteligente conforme o andamento da conversa. Isso inclui:

• Combinar vários modelos de transcrição, alguns mais rápidos que outros e alguns mais precisos que outros, para equilibrar velocidade e precisão e compensar os erros uns dos outros.
• Combinar LLMs com entrada de áudio, que podem ter menor inteligência geral, mas melhor compreensão de áudio, com LLMs somente de texto, que podem cometer erros devido a transcrições imprecisas, mas frequentemente são mais inteligentes.
• Combinar LLMs rápidos, mas pouco inteligentes, que podem gerar respostas rápidas, com LLMs muito mais inteligentes, porém mais lentos, que podem operar em segundo plano e garantir que a IA esteja seguindo seu prompt e respondendo corretamente ao que a pessoa diz.
• Combinar modelos comerciais dos principais provedores, incluindo OpenAI e Google, que oferecem a maior inteligência disponível hoje, com uma ampla variedade de modelos de código aberto, que frequentemente oferecem melhor velocidade a um custo menor.
• Usar vários modelos simultaneamente para classificar e eliminar ruído de fundo, conversas paralelas e outros ruídos que distraem e que, de outra forma, podem desviar uma conversa.

Esses componentes e outros são orquestrados de formas diferentes em nossos três níveis de serviço, Spark, Bolt e Storm — otimizando o Spark para custo, o Bolt para velocidade e o Storm para inteligência, enquanto minimizamos ao máximo as desvantagens de cada um. Os três sistemas compartilham benefícios como uma compreensão incrivelmente precisa do que as pessoas dizem, mesmo com nomes próprios e soletrações.

Descobrimos que essa arquitetura estreitamente integrada oferece ao nosso sistema um desempenho muito superior a um custo menor do que a abordagem rígida de três etapas oferecida por outros fornecedores. Em linha com a teoria da modularidade de Clay Christensen, a IA de voz ainda está em seus primeiros dias, e ainda é mais valioso maximizar o desempenho com uma arquitetura integrada do que maximizar a personalização com uma arquitetura modular.

Decisões otimizadas

E, no que diz respeito à personalização, somos contra ela! A maioria das plataformas de IA para telefonia atuais obriga os usuários a navegar por escolhas intermináveis, desde os modelos exatos usados até parâmetros ultradetalhados, como a rapidez com que a IA interrompe o usuário.

Na nossa opinião, é NOSSO trabalho otimizar essas escolhas nos bastidores para que os usuários do ThunderPhone possam se concentrar no que fazem bem e não precisem se preocupar com configurações detalhadas de IA de voz. Vemos a nós mesmos como uma espécie de Squarespace, facilitando para nossos usuários configurar agentes telefônicos com o maior desempenho possível com os modelos atuais, sem precisar fazer esforço algum.

Facilidade de uso

O ThunderPhone também é incrivelmente fácil de usar, seja para configurar um novo agente telefônico, migrar de uma plataforma diferente ou de uma stack personalizada. Tudo o que é necessário para configurar um agente telefônico no ThunderPhone é:

1. Decidir se você quer usar Spark, Bolt ou Storm.
2. Escolher uma voz.
3. Enviar seu prompt. Não é necessário usar agentes com múltiplos prompts! Se o seu prompt for complexo demais para Spark ou Bolt, faça upgrade para Storm, que consegue lidar até mesmo com casos de uso complexos usando um único prompt.
4. Conectar integrações de software (qualquer endpoint ou integração nativa com n8n) com um assistente incrivelmente fácil de usar.
5. Conectar seu VoIP com um assistente incrivelmente fácil de usar.

Tudo isso normalmente leva 10 minutos ou menos.

O ThunderPhone está em conformidade com HIPAA e GDPR, e assinaremos e forneceremos BAAs e DPAs mediante solicitação.

Nossa história

Somos uma equipe de ex-alunos do Stanford AI Lab e da Y Combinator que trabalha com IA de voz desde 2024. Inicialmente, nosso foco era o Flux Interpreting, que traduz chamadas telefônicas entre idiomas. Mas, depois de sermos repetidamente procurados por clientes que queriam automatizar chamadas telefônicas para seus negócios em vez de apenas traduzi-las, mudamos o foco para o que hoje é o ThunderPhone.

O problema com as plataformas existentes

No início, começamos a criar agentes de voz para clientes em plataformas de IA para telefonia de outras empresas. Testamos praticamente todas as plataformas de IA para telefonia do mercado, mas, infelizmente, descobrimos que deixavam a desejar, especialmente em relação a:

• Compreensão de áudio: As limitações de ter apenas um modelo de transcrição para transformar o áudio de quem liga em texto faziam com que a IA frequentemente “ouvisse errado” o usuário, especialmente com nomes próprios, palavras incomuns e grafias.
• Seguimento de instruções: Ter um único LLM rápido fazendo o verdadeiro “trabalho intelectual” por trás da chamada fazia com que as IAs frequentemente tivessem dificuldade para seguir instruções corretamente e saíssem dos trilhos.
• Integrações difíceis: As plataformas que testamos tornavam muito difícil conectar softwares externos, geralmente nos obrigando a inserir extensas configurações em JSON para chamadas de ferramentas e a brigar com elas repetidamente, com pouco ou nenhum retorno, até que de repente começassem a funcionar.
• Preço: As plataformas existentes geralmente cobravam os olhos da cara: normalmente 10 centavos por minuto ou mais por um desempenho mediano.

Criando nossa própria stack

Quando fechamos um contrato para implementar um caso de uso de chamadas de vendas para um cliente corporativo, fomos obrigados a criar nossa própria stack personalizada para atender às necessidades dele. Esse caso de uso era exigente: ao contrário do suporte ao cliente, em que quem liga está em grande parte à mercê da empresa, quem recebe chamadas de vendas desliga rapidamente.

A qualidade da chamada precisa ser impecável para concretizar a venda em vez de perder o lead. Isso significava lidar com muitos nomes próprios e grafias, incluindo nomes e endereços, que modelos de transcrição convencionais têm dificuldade para acertar. Para acertar esse caso de uso, criamos o que hoje é o ThunderPhone.

Ao longo do caminho, continuamos conhecendo pessoas da comunidade de IA de voz de São Francisco que estavam criando empresas verticais de agentes de voz — para veterinários, caminhoneiros e muito mais. Surpreendentemente, a maioria tinha a mesma opinião: as plataformas existentes eram boas o suficiente para demonstrações, mas não para produção.

Surpreendentemente, muitos, talvez a maioria, dos nossos amigos em empresas verticais de IA de voz estavam na verdade “criando suas próprias” stacks... Isso não fazia sentido para nós — é realmente o equivalente a startups de internet nos anos 90 terem de hospedar seus próprios servidores web em um servidor no armário de casa.

Com essa percepção, entendemos que era hora de transformar nosso sistema de IA para telefonia em uma plataforma que qualquer pessoa pudesse usar.

Empresas verticais de IA de voz e consultores deveriam poder se concentrar em atender às necessidades de seu mercado-alvo com sua expertise específica do setor — não em projetar minuciosamente a tecnologia subjacente de IA e telefonia! É isso que estamos lançando hoje com o ThunderPhone.

Foi uma longa jornada até aqui! Pedimos desculpas a todos que se cadastraram conosco desde abril passado e ainda estão esperando acesso: o que pensávamos que seria uma rápida corrida final para concluir o trabalho acabou se tornando uma odisseia de vários meses para descobrir como combinar os modelos disponíveis hoje em um sistema o mais robusto possível.

Mas agora finalmente estamos no ar — experimente e veja o que acha!

Embora tenhamos resolvido os principais problemas, certamente ainda haverá bugs no sistema. Se encontrar algum problema, envie um e-mail para alex@thunderphone.com e vou garantir que seja corrigido para você o mais rápido possível. Conte também se tiver algum pedido de funcionalidade, e faremos isso acontecer para você assim que pudermos.

E, se você tiver necessidades mais personalizadas, como suporte para implementação e integração sob medida, conformidade além de HIPAA e GDPR regulares, SLAs e pedidos de funcionalidades personalizadas, teremos prazer em conversar sobre um contrato empresarial. Entre em contato pelo alex@thunderphone.com e conversaremos sobre suas necessidades e sobre como podemos ajudar.

E, de forma mais geral: nosso compromisso com você é que é NOSSO trabalho garantir que o ThunderPhone funcione pronto para uso com o mínimo esforço da sua parte e lide com as chamadas da sua empresa da maneira mais perfeita possível com a IA de hoje, dentro dos limites do nível de preço que você escolher: Spark, Bolt ou Storm. Experimente, e estamos animados para mostrar o que o ThunderPhone pode fazer.

Conte o que você acha e agradecemos seu apoio!