Ανακοινώνουμε το ThunderPhone

Σήμερα, ανακοινώνουμε με υπερηφάνεια τη δημόσια κυκλοφορία του ThunderPhone, που διευκολύνει την αυτοματοποίηση τηλεφωνικών κλήσεων με AI. Με μια πλήρως διαφορετική, ενσωματωμένη αρχιτεκτονική από άλλες πλατφόρμες AI για τηλεφωνικές κλήσεις, το ThunderPhone μπορεί να επιτυγχάνει πολύ υψηλότερες επιδόσεις, χαμηλότερο κόστος και λιγότερα προβλήματα ενσωμάτωσης. Το ThunderPhone υποστηρίζει εισερχόμενες και εξερχόμενες κλήσεις σε δεκάδες γλώσσες και συμμορφώνεται με τα πρότυπα HIPAA και GDPR.

Το πλεονέκτημα της ενσωμάτωσης

Άλλες πλατφόρμες AI για τηλεφωνικές κλήσεις περιορίζουν τις επιδόσεις των συστημάτων τους επιβάλλοντας μια δομή τριών βημάτων:

1. Ένα μοντέλο μεταγραφής, που μετατρέπει τη φωνή του χρήστη σε κείμενο.
2. Ένα LLM, που επεξεργάζεται το κείμενο του χρήστη και παράγει μια απάντηση.
3. Ένα μοντέλο TTS, που μετατρέπει ξανά το κείμενο της απάντησης σε ήχο.

Οι περισσότερες μεταφέρουν επίσης το τεχνικό έργο στους χρήστες τους, αναγκάζοντάς τους να επιλέξουν ποια μοντέλα θέλουν να χρησιμοποιήσουν, καθώς και επιλογές ρύθμισης όπως παραμέτρους αποθορυβοποίησης και απόκρισης.

Εμείς ακολουθήσαμε διαφορετική προσέγγιση: διαμορφώσαμε, κατά τη γνώμη μας, την καλύτερη δυνατή στοίβα με τα σημερινά μοντέλα και την καταστήσαμε έτοιμη για χρήση χωρίς πολύπλοκες ρυθμίσεις. Το σύστημά μας χρησιμοποιεί πολλά μοντέλα ταυτόχρονα και δρομολογεί έξυπνα μεταξύ τους ανάλογα με τη ροή της συνομιλίας. Αυτό περιλαμβάνει:

• Τον συνδυασμό πολλών μοντέλων μεταγραφής, με ορισμένα ταχύτερα και άλλα ακριβέστερα, ώστε να εξισορροπούνται η ταχύτητα και η ακρίβεια και να καλύπτονται τα λάθη το ένα του άλλου.
• Τον συνδυασμό LLM με είσοδο ήχου, που μπορεί να έχουν χαμηλότερη γενική νοημοσύνη αλλά καλύτερη κατανόηση ήχου, με LLM μόνο κειμένου, που μπορεί να κάνουν λάθη λόγω ανακριβών μεταγραφών αλλά συχνά είναι εξυπνότερα.
• Τον συνδυασμό γρήγορων αλλά λιγότερο έξυπνων LLM, που μπορούν να παράγουν άμεσες απαντήσεις, με πολύ εξυπνότερα αλλά πιο αργά LLM, που μπορούν να εκτελούνται στο παρασκήνιο και να διασφαλίζουν ότι το AI ακολουθεί τις οδηγίες του και απαντά σωστά σε όσα λέει ο χρήστης.
• Τον συνδυασμό εμπορικών μοντέλων από κορυφαίους παρόχους, συμπεριλαμβανομένων των OpenAI και Google, που προσφέρουν την υψηλότερη διαθέσιμη νοημοσύνη σήμερα, με μια ευρεία ποικιλία μοντέλων ανοιχτού κώδικα, που συχνά προσφέρουν καλύτερη ταχύτητα με χαμηλότερο κόστος.
• Τη χρήση πολλών μοντέλων ταυτόχρονα για την ταξινόμηση και εξάλειψη θορύβων υποβάθρου, παράπλευρων συνομιλιών και άλλων περισπαστικών ήχων που διαφορετικά μπορούν να εκτροχιάσουν μια συνομιλία.

Αυτά τα στοιχεία και πολλά άλλα ενορχηστρώνονται με διαφορετικούς τρόπους στις τρεις βαθμίδες υπηρεσιών μας, Spark, Bolt και Storm — βελτιστοποιώντας το Spark για κόστος, το Bolt για ταχύτητα και το Storm για νοημοσύνη, ενώ ελαχιστοποιούμε όσο γίνεται τα μειονεκτήματα του καθενός. Και τα τρία συστήματα μοιράζονται πλεονεκτήματα, όπως εξαιρετικά ακριβή κατανόηση όσων λένε οι χρήστες, ακόμη και με κύρια ονόματα και υπαγόρευση ορθογραφίας.

Διαπιστώνουμε ότι αυτή η στενά ενσωματωμένη αρχιτεκτονική προσφέρει στο σύστημά μας πολύ υψηλότερες επιδόσεις με χαμηλότερο κόστος από την άκαμπτη προσέγγιση των τριών βημάτων που προσφέρουν άλλοι πάροχοι. Σύμφωνα με τη θεωρία αρθρωτότητας του Κλέι Κρίστενσεν, βρισκόμαστε ακόμη στα πρώτα στάδια του φωνητικού AI και εξακολουθεί να έχει μεγαλύτερη αξία η μεγιστοποίηση των επιδόσεων με μια ενσωματωμένη αρχιτεκτονική από τη μεγιστοποίηση της προσαρμοστικότητας με μια αρθρωτή αρχιτεκτονική.

Βελτιστοποιημένες αποφάσεις

Όσον αφορά την παραμετροποίηση, είμαστε αντίθετοι σε αυτήν! Οι περισσότερες σημερινές πλατφόρμες τηλεφωνικής AI αναγκάζουν τους χρήστες να περιηγούνται σε ατελείωτες επιλογές, από τα ακριβή μοντέλα που χρησιμοποιούνται έως υπερβολικά λεπτομερείς παραμέτρους, όπως το πόσο γρήγορα η AI διακόπτει τον χρήστη.

Κατά τη γνώμη μας, είναι ΔΙΚΗ ΜΑΣ δουλειά να βελτιστοποιούμε αυτές τις επιλογές στο παρασκήνιο, ώστε οι χρήστες του ThunderPhone να μπορούν να εστιάζουν σε αυτό που κάνουν καλά και να μη χρειάζεται να ανησυχούν για λεπτομερή ρύθμιση της φωνητικής AI. Βλέπουμε τον εαυτό μας ως ένα είδος Squarespace, που διευκολύνει τους χρήστες μας να ρυθμίζουν τηλεφωνικούς πράκτορες με την απολύτως υψηλότερη δυνατή απόδοση που προσφέρουν τα σημερινά μοντέλα, χωρίς να χρειάζεται να κάνουν τίποτα.

Ευκολία χρήσης

Το ThunderPhone είναι επίσης εξαιρετικά εύκολο στη χρήση, είτε ρυθμίζετε έναν νέο τηλεφωνικό πράκτορα είτε μεταφέρεστε από διαφορετική πλατφόρμα ή από προσαρμοσμένη τεχνολογική υποδομή. Το μόνο που χρειάζεται να κάνετε για να ρυθμίσετε έναν τηλεφωνικό πράκτορα στο ThunderPhone είναι:

1. Αποφασίστε αν θέλετε να χρησιμοποιήσετε Spark, Bolt ή Storm.
2. Επιλέξτε μια φωνή.
3. Δώστε μας το prompt σας. Δεν χρειάζονται πράκτορες με πολλαπλά prompts! Αν το prompt σας είναι υπερβολικά σύνθετο για το Spark ή το Bolt, αναβαθμίστε σε Storm, το οποίο μπορεί να διαχειριστεί ακόμη και σύνθετες περιπτώσεις χρήσης με ένα μόνο prompt.
4. Συνδέστε ενσωματώσεις λογισμικού (οποιοδήποτε endpoint ή εγγενή ενσωμάτωση n8n) με έναν εξαιρετικά εύχρηστο οδηγό.
5. Συνδέστε το VoIP σας με έναν εξαιρετικά εύχρηστο οδηγό.

Όλα αυτά συνήθως διαρκούν 10 λεπτά ή λιγότερο.

Το ThunderPhone συμμορφώνεται με τα HIPAA και GDPR, και θα υπογράψουμε και θα παρέχουμε BAA και DPA κατόπιν αιτήματος.

Η ιστορία μας

Είμαστε μια ομάδα αποφοίτων του Stanford AI Lab και του Y Combinator που εργαζόμαστε στη φωνητική ΤΝ από το 2024. Αρχικά, εστιάζαμε στο Flux Interpreting, το οποίο μεταφράζει τηλεφωνικές κλήσεις μεταξύ γλωσσών. Όμως, αφού πελάτες μάς ζητούσαν επανειλημμένα να αυτοματοποιούμε τηλεφωνικές κλήσεις για τις επιχειρήσεις τους αντί απλώς να τις μεταφράζουμε, στρέψαμε την προσοχή μας σε αυτό που σήμερα είναι το ThunderPhone.

Το πρόβλημα με τις υπάρχουσες πλατφόρμες

Στην αρχή, ξεκινήσαμε δημιουργώντας τηλεφωνικούς πράκτορες για πελάτες σε πλατφόρμες τηλεφωνικής ΤΝ άλλων εταιρειών. Δοκιμάσαμε σχεδόν κάθε πλατφόρμα τηλεφωνικής ΤΝ στην αγορά, αλλά δυστυχώς διαπιστώσαμε ότι υστερούσαν, ιδιαίτερα σε ό,τι αφορά:

• Κατανόηση ήχου: Οι περιορισμοί του να υπάρχει μόνο ένα μοντέλο μεταγραφής για τη μετατροπή του ήχου του χρήστη σε κείμενο σήμαιναν ότι η ΤΝ συχνά «άκουγε λάθος» τον χρήστη, ειδικά σε κύρια ονόματα, ασυνήθιστες λέξεις και συλλαβισμούς.
• Τήρηση οδηγιών: Το γεγονός ότι ένα μόνο γρήγορο LLM έκανε την πραγματική «νοητική εργασία» πίσω από την κλήση σήμαινε ότι οι ΤΝ συχνά δυσκολεύονταν να ακολουθήσουν σωστά τις οδηγίες και ξέφευγαν από την πορεία τους.
• Δύσκολες ενσωματώσεις: Οι πλατφόρμες που δοκιμάσαμε έκαναν πολύ δύσκολη τη σύνδεση με εξωτερικό λογισμικό, συνήθως αναγκάζοντάς μας να γράφουμε εκτενείς διαμορφώσεις JSON για κλήσεις εργαλείων και να παλεύουμε επανειλημμένα με αυτές, με ελάχιστη ή καθόλου ανατροφοδότηση μέχρι να αρχίσουν ξαφνικά να λειτουργούν.
• Τιμή: Οι υπάρχουσες πλατφόρμες συνήθως χρέωναν υπερβολικά: κατά κανόνα 10 σεντ ανά λεπτό ή περισσότερο για μέτρια απόδοση.

Δημιουργώντας τη δική μας υποδομή

Όταν υπογράψαμε συμφωνία για την υλοποίηση μιας περίπτωσης χρήσης κλήσεων πωλήσεων για έναν εταιρικό πελάτη, αναγκαστήκαμε να δημιουργήσουμε τη δική μας προσαρμοσμένη υποδομή για να καλύψουμε τις ανάγκες του. Αυτή η περίπτωση χρήσης ήταν απαιτητική: σε αντίθεση με την υποστήριξη πελατών, όπου οι καλούντες εξαρτώνται σε μεγάλο βαθμό από την επιχείρηση, οι υποψήφιοι πελάτες σε κλήσεις πωλήσεων κλείνουν γρήγορα το τηλέφωνο.

Η ποιότητα της κλήσης πρέπει να είναι κορυφαία, ώστε να ολοκληρώνεται η πώληση αντί να χάνεται ο υποψήφιος πελάτης. Αυτό σήμαινε διαχείριση πολλών κύριων ονομάτων και συλλαβισμών, συμπεριλαμβανομένων ονομάτων και διευθύνσεων, που είναι δύσκολο να αποδοθούν σωστά από τα τυπικά μοντέλα μεταγραφής. Για να πετύχουμε αυτή την περίπτωση χρήσης, δημιουργήσαμε αυτό που σήμερα είναι το ThunderPhone.

Στην πορεία, γνωρίζαμε συνεχώς ανθρώπους στην κοινότητα φωνητικής ΤΝ του Σαν Φρανσίσκο που δημιουργούσαν εταιρείες τηλεφωνικών πρακτόρων για συγκεκριμένους κλάδους — για κτηνιάτρους, οδηγούς φορτηγών και άλλους. Παραδόξως, οι περισσότεροι είχαν την ίδια άποψη: οι υπάρχουσες πλατφόρμες ήταν αρκετά καλές για επιδείξεις, αλλά όχι για παραγωγική χρήση.

Σοκαριστικά, πολλοί, αν όχι οι περισσότεροι, από τους φίλους μας σε εταιρείες φωνητικής ΤΝ για συγκεκριμένους κλάδους δημιουργούσαν στην πραγματικότητα τις δικές τους υποδομές... Αυτό δεν έβγαζε κανένα νόημα για εμάς — είναι ουσιαστικά το αντίστοιχο του να έπρεπε οι νεοφυείς εταιρείες web τη δεκαετία του 1990 να φιλοξενούν τους δικούς τους διακομιστές web σε έναν διακομιστή στην ντουλάπα τους.

Με αυτή τη διαπίστωση, καταλάβαμε ότι είχε έρθει η ώρα να μετατρέψουμε το σύστημα τηλεφωνικής ΤΝ μας σε μια πλατφόρμα που θα μπορούσε να χρησιμοποιήσει ο καθένας.

Οι εταιρείες φωνητικής ΤΝ για συγκεκριμένους κλάδους και οι σύμβουλοι θα πρέπει να μπορούν να εστιάζουν στην κάλυψη των αναγκών της αγοράς-στόχου τους με την εξειδίκευσή τους στον κλάδο — όχι στη σύνθετη μηχανική της υποκείμενης τεχνολογίας ΤΝ και τηλεφωνίας! Αυτό λανσάρουμε σήμερα με το ThunderPhone.

Ήταν μακρύς ο δρόμος μέχρι εδώ! Ζητούμε συγγνώμη από όλους όσοι έχουν εγγραφεί μαζί μας από τον περασμένο Απρίλιο και ακόμη περιμένουν πρόσβαση: αυτό που θεωρούσαμε ότι θα ήταν ένα γρήγορο τελικό σπριντ αποδείχθηκε μια πολυμηνιαία οδύσσεια, καθώς προσπαθούσαμε να συνδυάσουμε τα διαθέσιμα σήμερα μοντέλα σε ένα σύστημα όσο το δυνατόν πιο αξιόπιστο.

Όμως τώρα είμαστε επιτέλους διαθέσιμοι — δοκιμάστε το και πείτε μας τη γνώμη σας!

Παρότι έχουμε λύσει τα σημαντικότερα προβλήματα, σίγουρα εξακολουθούν να υπάρχουν σφάλματα στο σύστημα. Αν εντοπίσετε κάποιο πρόβλημα, στείλτε email στο alex@thunderphone.com και θα φροντίσω να διορθωθεί για εσάς το συντομότερο δυνατό. Πείτε μου επίσης αν έχετε αιτήματα για λειτουργίες και θα τα υλοποιήσουμε για εσάς το συντομότερο δυνατό.

Και αν έχετε πιο προσαρμοσμένες ανάγκες, όπως υποστήριξη για προσαρμοσμένη υλοποίηση και ενσωμάτωση, συμμόρφωση πέρα από τα συνήθη HIPAA και GDPR, SLA και αιτήματα για προσαρμοσμένες λειτουργίες, θα χαρούμε να συζητήσουμε μια εταιρική συμφωνία. Επικοινωνήστε στο alex@thunderphone.com και θα συζητήσουμε τις ανάγκες σας και το αν μπορούμε να βοηθήσουμε.

Και γενικότερα: η δέσμευσή μας προς εσάς είναι ότι είναι ΔΙΚΗ ΜΑΣ δουλειά να διασφαλίζουμε πως το ThunderPhone λειτουργεί άμεσα, με την ελάχιστη δυνατή προσπάθεια από εσάς, και διαχειρίζεται τις κλήσεις της επιχείρησής σας όσο καλύτερα επιτρέπει η σημερινή ΤΝ, εντός των ορίων όποιου επιπέδου τιμολόγησης επιλέξετε: Spark, Bolt ή Storm. Δοκιμάστε μας και ανυπομονούμε να σας δείξουμε τι μπορεί να κάνει το ThunderPhone.

Πείτε μας τη γνώμη σας και ευχαριστούμε για την υποστήριξή σας!