הכרזה על ThunderPhone

היום, אנו גאים להכריז על ההשקה הציבורית של ThunderPhone, שמקל על אוטומציה של שיחות טלפון באמצעות AI. עם ארכיטקטורה משולבת ושונה לחלוטין מפלטפורמות AI טלפוניות אחרות, ThunderPhone מסוגל להשיג ביצועים גבוהים בהרבה, עלות נמוכה יותר ופחות כאבי ראש סביב אינטגרציות. ThunderPhone תומך בשיחות נכנסות ויוצאות בעשרות שפות ועומד בדרישות HIPAA ו-GDPR.

היתרון המשולב

פלטפורמות AI טלפוניות אחרות מגבילות את ביצועי המערכות שלהן באמצעות אכיפת מבנה בן 3 שלבים:

1. מודל תמלול אחד, שהופך את קול המשתמש לטקסט.
2. מודל LLM אחד, שמעבד את טקסט המשתמש ומפיק תשובה.
3. מודל TTS אחד, שהופך את טקסט התשובה בחזרה לשמע.

רובן גם מעבירות את עבודת ההנדסה למשתמשים שלהן, בכך שהן מחייבות אותם לבחור באילו מודלים להשתמש, וכן באפשרויות תצורה כמו סינון רעשים ופרמטרים של תגובתיות.

אנו נקטנו גישה אחרת: הגדרנו את מה שלדעתנו הוא המערך הטוב ביותר האפשרי עם המודלים הקיימים כיום, והפכנו אותו למוכן לשימוש ללא מאמץ תצורה מורכב. המערכת שלנו משתמשת במודלים רבים בו-זמנית, ומנתבת ביניהם באופן חכם בהתאם למהלך השיחה. זה כולל:

• שילוב של כמה מודלי תמלול, שחלקם מהירים יותר ואחרים מדויקים יותר, כדי לאזן בין מהירות לדיוק ולחפות על טעויות אלה של אלה.
• שילוב של מודלי LLM עם קלט שמע, שעשויים להיות בעלי אינטליגנציה כללית נמוכה יותר אך הבנת שמע טובה יותר, עם מודלי LLM המבוססים על טקסט בלבד, שעלולים לטעות עקב תמלולים לא מדויקים אך לרוב חכמים יותר.
• שילוב של מודלי LLM מהירים אך טיפשים, שיכולים להפיק תשובות מהירות, עם מודלי LLM חכמים בהרבה אך איטיים יותר, שיכולים לפעול ברקע ולוודא שה-AI פועל לפי ההנחיה שלו ומגיב נכון למה שהמשתמש אומר.
• שילוב של מודלים מסחריים מספקים מובילים, בהם OpenAI ו-Google, שמציעים את האינטליגנציה הגבוהה ביותר הזמינה כיום, עם מגוון רחב של מודלים בקוד פתוח, שלעיתים קרובות מציעים מהירות טובה יותר בעלות נמוכה יותר.
• שימוש בכמה מודלים בו-זמנית כדי לסווג ולסלק רעשי רקע, שיחות צד ורעשים מסיחים אחרים, שעלולים אחרת להסיט שיחה ממסלולה.

רכיבים אלה ורבים נוספים מתוזמרים בדרכים שונות בשלוש רמות השירות שלנו, Spark, Bolt ו-Storm — כך ש-Spark ממוטב לעלות, Bolt למהירות ו-Storm לאינטליגנציה, תוך צמצום החסרונות של כל אחד מהם ככל האפשר. כל שלוש המערכות חולקות יתרונות כמו הבנה מדויקת להפליא של דברי המשתמשים, גם כשמדובר בשמות פרטיים ובאיות.

מצאנו שארכיטקטורה משולבת זו מעניקה למערכת שלנו ביצועים גבוהים בהרבה בעלות נמוכה יותר מהגישה הנוקשה בת 3 השלבים שמציעים ספקים אחרים. בהתאם לתיאוריית המודולריות של Clay Christensen, תחום ה-AI הקולי עדיין בראשית דרכו, ועדיין חשוב יותר למקסם ביצועים באמצעות ארכיטקטורה משולבת מאשר למקסם יכולת התאמה אישית באמצעות ארכיטקטורה מודולרית.

החלטות ממוטבות

ובכל הנוגע להתאמה אישית, אנחנו מתנגדים לה. רוב פלטפורמות הבינה המלאכותית לטלפון כיום מאלצות משתמשים לנווט בין אינסוף אפשרויות, החל מהמודלים המדויקים שבהם נעשה שימוש ועד לפרמטרים מפורטים במיוחד, כמו המהירות שבה הבינה המלאכותית קוטעת את המשתמש.

לדעתנו, התפקיד שלנו הוא למטב את הבחירות האלה מאחורי הקלעים, כדי שמשתמשי ThunderPhone יוכלו להתמקד במה שהם טובים בו ולא לדאוג לתצורה מפורטת של בינה מלאכותית קולית. אנחנו רואים את עצמנו כסוג של Squarespace, שמקל על המשתמשים שלנו להגדיר סוכני טלפון בביצועים הגבוהים ביותר האפשריים עם המודלים של היום, בלי להרים אצבע.

קלות שימוש

ThunderPhone גם קלה להפליא לשימוש, בין שאתם מגדירים סוכן טלפון חדש ובין שאתם עוברים מפלטפורמה אחרת או ממערך מותאם אישית. כל מה שנדרש כדי להגדיר סוכן טלפון ב-ThunderPhone הוא:

1. החליטו אם אתם רוצים להשתמש ב-Spark, Bolt או Storm.
2. בחרו קול.
3. תנו לנו את הפרומפט שלכם. אין צורך בסוכנים עם כמה פרומפטים! אם הפרומפט שלכם מורכב מדי עבור Spark או Bolt, שדרגו ל-Storm, שיכול להתמודד גם עם תרחישי שימוש מורכבים באמצעות פרומפט יחיד.
4. חברו אינטגרציות תוכנה (כל נקודת קצה, או אינטגרציה מובנית עם n8n) באמצעות אשף קל במיוחד לשימוש.
5. חברו את ה-VoIP שלכם באמצעות אשף קל במיוחד לשימוש.

כל זה נמשך בדרך כלל 10 דקות או פחות.

ThunderPhone תואמת ל-HIPAA ול-GDPR, ואנו נחתום ונספק BAAs ו-DPAs לפי בקשה.

הסיפור שלנו

אנחנו צוות של בוגרי Stanford AI Lab ו-Y Combinator שעובדים על בינה מלאכותית קולית מאז 2024. במקור התמקדנו ב-Flux Interpreting, שמתרגם שיחות טלפון בין שפות. אבל לאחר שלקוחות ביקשו מאיתנו שוב ושוב להפוך שיחות טלפון לעסקים שלהם לאוטומטיות, במקום רק לתרגם אותן, העברנו את המיקוד למה שהוא כיום ThunderPhone.

הבעיה בפלטפורמות הקיימות

בתחילה התחלנו לבנות סוכני טלפון ללקוחות על פלטפורמות בינה מלאכותית טלפונית של חברות אחרות. בדקנו כמעט כל פלטפורמת בינה מלאכותית טלפונית בשוק, אך למרבה הצער גילינו שהן לוקות בחסר, במיוחד בכל הנוגע ל:

• הבנת אודיו: המגבלות של שימוש במודל תמלול אחד בלבד כדי להפוך את האודיו של המשתמש לטקסט גרמו לכך שהבינה המלאכותית לעיתים קרובות "שמעה לא נכון" את המשתמש, במיוחד בשמות פרטיים, במילים לא נפוצות ובאיותים.
• ביצוע הוראות: שימוש במודל שפה גדול ומהיר אחד לביצוע ה"עבודה המחשבתית" שמאחורי השיחה גרם לכך שהבינות המלאכותיות התקשו לעיתים קרובות לפעול לפי הוראות בצורה נכונה וסטו מהמסלול.
• אינטגרציות מורכבות: הפלטפורמות שניסינו הקשו מאוד על חיבור לתוכנות חיצוניות, ובדרך כלל אילצו אותנו להקליד תצורות JSON נרחבות לקריאות כלים ולהתמודד איתן שוב ושוב באמצעות Bash, כמעט ללא משוב, עד שלפתע הן התחילו לעבוד.
• מחיר: הפלטפורמות הקיימות בדרך כלל גבו מחיר מופקע: לרוב 10 סנט לדקה או יותר, עבור ביצועים בינוניים.

בניית המערך שלנו

כשחתמנו על עסקה ליישום תרחיש של שיחות מכירה עבור לקוח ארגוני, נאלצנו לבנות מערך מותאם אישית משלנו כדי לענות על הצרכים שלו. תרחיש השימוש הזה היה תובעני: בניגוד לתמיכת לקוחות, שבה המתקשרים תלויים במידה רבה בעסק, מתקשרים בשיחות מכירה ממהרים לנתק.

איכות השיחה חייבת להיות מעולה כדי להשלים את המכירה במקום לאבד את הליד. משמעות הדבר הייתה טיפול במספר רב של שמות פרטיים ואיותים, כולל שמות וכתובות, שקשה למודלי תמלול רגילים לזהות נכון. כדי להצליח בתרחיש השימוש הזה, בנינו את מה שהוא כיום ThunderPhone.

במהלך הדרך, המשכנו לפגוש אנשים בקהילת הבינה המלאכותית הקולית של סן פרנסיסקו שבנו חברות סוכני טלפון ממוקדות ענף — לווטרינרים, לנהגי משאיות ועוד. באופן מפתיע, לרובם הייתה אותה דעה: הפלטפורמות הקיימות היו מספיק טובות להדגמות, אך לא לייצור.

באופן מפתיע, רבים, אם לא רוב, מחברינו בחברות בינה מלאכותית קולית ממוקדות ענף למעשה "בנו מערכים משלהם"... זה לא היה הגיוני בעינינו — זה ממש שווה ערך לכך שחברות הזנק בתחום האינטרנט בשנות ה-90 נאלצו לארח בעצמן את שרתי האינטרנט שלהן על שרת בארון הבגדים שלהן.

בעזרת התובנה הזו, הבנו שהגיע הזמן להפוך את מערכת הבינה המלאכותית הטלפונית שלנו לפלטפורמה שכל אחד יכול להשתמש בה.

חברות בינה מלאכותית קולית ממוקדות ענף ויועצים צריכים להיות מסוגלים להתמקד במענה על צורכי שוק היעד שלהם באמצעות המומחיות הייחודית שלהם לענף — ולא בהנדסה מורכבת של טכנולוגיות הבינה המלאכותית והטלפוניה שבבסיס המערכת! זה מה שאנחנו משיקים היום עם ThunderPhone.

הדרך לכאן הייתה ארוכה! אנחנו מתנצלים בפני כל מי שנרשם אצלנו מאז אפריל האחרון ועדיין ממתין לגישה: מה שחשבנו שיהיה מאמץ קצר להשלמת המשימה התברר כמסע בן כמה חודשים, שבמהלכו הבנו כיצד לשלב את המודלים הזמינים כיום במערכת חזקה ככל האפשר.

אבל עכשיו עלינו סוף סוף לאוויר — נסו אותנו וראו מה דעתכם!

למרות שפתרנו את רוב הבעיות המרכזיות, בוודאי עדיין יש באגים במערכת. אם תמצאו בעיות כלשהן, אנא שלחו אימייל ל-alex@thunderphone.com, ואני אדאג שהן יתוקנו עבורכם בהקדם האפשרי. ספרו לי גם אם יש לכם בקשות לתכונות חדשות, ואנחנו נדאג לממש גם אותן עבורכם מהר ככל שנוכל.

ואם יש לכם צרכים מותאמים יותר, כגון תמיכה ביישום ובאינטגרציה מותאמים אישית, תאימות מעבר ל-HIPAA ול-GDPR הרגילים, הסכמי רמת שירות ובקשות מותאמות לתכונות חדשות, נשמח לדבר על עסקה ארגונית. פנו אלינו ב-alex@thunderphone.com, ונדבר על הצרכים שלכם ועל האפשרות שלנו לעזור.

ובאופן כללי יותר: המחויבות שלנו אליכם היא שזה התפקיד שלנו לוודא ש-ThunderPhone עובד כבר מההתחלה, במינימום מאמץ מצדכם, ומטפל בשיחות של העסק שלכם בצורה המושלמת ביותר שאפשרית עם הבינה המלאכותית של היום, במסגרת מגבלות המחיר של המסלול שתבחרו — Spark, Bolt או Storm. נסו אותנו, ואנחנו נרגשים להראות לכם מה ThunderPhone יכול לעשות.

ספרו לנו מה דעתכם, ותודה על התמיכה שלכם!