חדשות ותובנות מצוות ThunderPhone.

היום, אני נרגש להכריז על ההשקה הציבורית של פלטפורמת השירות העצמי ThunderPhone v2.

כל אחד יכול כעת להשתמש ב-ThunderPhone כפתרון מוכן כדי להפוך מגוון רחב של שיחות טלפון לאוטומטיות.

איך הגענו לכאן

מאז השנה שעברה, אנחנו עובדים עם קבוצה קטנה של לקוחות ארגוניים כדי להפוך את שיחות הטלפון שלהם לאוטומטיות. במקרים מסוימים, אלה היו תרחישי שימוש רגישים לביצועים, כמו מכירות מוקדמות והזנת נתונים, שבהם גילינו שפלטפורמות קול מבוססות AI קיימות עושות כל כך הרבה טעויות, עד שיותר מדי מתקשרים מתוסכלים ומנתקים, מה שפוגע בכלכלת היחידה של תרחיש השימוש.

כדי לפתור את הבעיות האלה, בנינו בסופו של דבר מערך מותאם אישית מאפס, שמבצע פחות טעויות בשיחות ומאפשר תרחישי שימוש מורכבים. אחרי שהפכנו אלפי שיחות ייצור לאוטומטיות השנה, אנחנו הופכים כעת את המערך שלנו לזמין לציבור כפלטפורמת השירות העצמי ThunderPhone v2.

שלוש שכבות, החל מ-2 סנט/דקה

המערכת שלנו מתחילה במחיר של 2 סנט/דקה בלבד עבור שכבת Spark, כולל מודלים, מה שהופך אותה לפלטפורמת ה-AI הקולית המלאה במחיר הנמוך ביותר בשוק. למהירות גבוהה יותר, אנחנו מציעים גם את Bolt החל מ-5 סנט/דקה. לרמת האינטליגנציה הגבוהה ביותר האפשרית, אנחנו מציעים את Storm החל מ-9 סנט/דקה.

Storm יכולה לטפל אפילו בזרימות השיחה המורכבות ביותר באמינות גבוהה, ללא צורך בתצורות ידניות של "בונה זרימות" — הנחיה אחת מספיקה!

כאשר אפשרות האינטליגנציה הנוספת שלה מופעלת (בתוספת 3 סנט/דקה), Storm משיגה 99.4% ב-Big Bench Audio, לפני כל מודל אחר בלוח המובילים של Artificial Analysis עד כה. מערך ההערכה והתמלילים שלנו זמינים לציבור ב-Hugging Face, ונשתף בקרוב תוצאות נוספות של מבחני ביצועים. אם אתם רוצים לצמצם למינימום טעויות בשיחות הייצור שלכם, Storm היא הבחירה הטובה ביותר שלכם.

הארכיטקטורה המשולבת

ThunderPhone יכולה להיות גם חכמה יותר וגם זולה יותר ממערכים אחרים בזכות הארכיטקטורה המשולבת הייחודית שלנו. במקום "צינור עיבוד בן 3 שלבים" שמשלב מודל תמלול אחד, LLM אחד ומודל טקסט לדיבור אחד, אנחנו מפעילים רשת מורכבת יותר שבה מודלי תמלול מרובים, מודלי LLM מרובים ועוד, כולם מקיימים אינטראקציה בדרכים מתוזמרות בקפידה כדי להשיג את הביצועים הטובים ביותר האפשריים, בעלות הנמוכה ביותר האפשרית.

בין יתר היתרונות, הדבר הופך את הסוכנים שלנו למצטיינים בהבנה נכונה של מתקשרים, אפילו בסביבות רועשות או עם מבטאים בולטים. כך השיחות מתנהלות בצורה חלקה יותר, עם הזנת נתונים אמינה יותר עבור שמות, כתובות ועוד. סוכני ThunderPhone בדרך כלל קולטים אפילו איותים מורכבים בחילוף אחד בשיחה, בעוד שמערכות אחרות זקוקות לכמה ניסיונות. וכל "סליחה, תוכלו לאיית את זה שוב?" הוא עוד הזדמנות עבור המתקשר לנתק!

המערכת שלנו כוללת גם רכיבים רבים להתמודדות עם הקשיים של שיחות בחיים האמיתיים, כולל רעשי רקע, איכות קליטה ירודה, הפרעות ועוד. כיווננו את מנגנוני ניהול השיחה על אלפי שעות של נתונים מהעולם האמיתי, והם מעניקים שיפור משמעותי לחוויה של מתקשרים אמיתיים.

פלטפורמה מלאה

ThunderPhone כוללת גם פלטפורמה מקיפה שמקלה במיוחד על בנייה, בדיקה, פריסה וניטור של סוכנים קוליים. מבלי לצאת מ-ThunderPhone, תוכלו:

• להגדיר שיחות נכנסות ויוצאות ולנהל מספרי טלפון
• לבצע בדיקות אנושיות ובדיקות AI של סוכני טלפון
• לנטר שיחות בזמן אמת, תוך כדי התרחשותן
• לאפשר למערכת לזהות בעיות חוזרות בשיחות הייצור שלכם, להציע תיקונים, ולבחון ולהחיל אותם
• לראות כיצד השיחות שלכם מתפקדות והיכן נדרשת עבודה נוספת, באמצעות דוחות משפך

פלטפורמת ThunderPhone גם הופכת את החיבור בין טלפוניה לאינטגרציות תוכנה לפשוט במיוחד. אשף הגדרה מחבר את חשבון ה-Twilio או Telnyx הקיים שלכם, או כל קו SIP סטנדרטי, באמצעות כמה פרטים מהספק שלכם, ומחברים מובנים תומכים ב-Google Sheets, Google Calendar, HubSpot, Salesforce ו-Cal.com. ולכל שאר האינטגרציות, אשף מאפשר חיבורים של „פשוט הדביקו ולחצו” לכל API.

סייען קבוע משולב באפליקציית האינטרנט כדי להקל מאוד על ההבנה כיצד להשתמש בפלטפורמת ThunderPhone. הוא אפילו יכול לנווט באפליקציה ולבצע פעולות עבורכם — ומכיוון שאנחנו חברת AI קולי, הוא כמובן יכול לדבר איתכם במקום לגרום לכם להקליד!

ממשקי API, ארגונים ותאימות

למקרי שימוש שדורשים יותר התאמה אישית ממה שפלטפורמת האינטרנט מציעה, ל-ThunderPhone יש גם API מלא שמאפשר מגוון אינטגרציות מותאמות אישית. ולהתאמה עמוקה אף יותר של הפלטפורמה, דרישות מותאמות של עלות והשהיה, צורכי תאימות ועוד, אנחנו מציעים הטמעות ותמיכה ארגוניות מותאמות אישית. (לשאלות, פנו אליי ישירות — alex@thunderphone.com)

ThunderPhone תואמת ל-HIPAA ול-GDPR עבור יישומי בריאות ויישומים באיחוד האירופי ובבריטניה ללא צורך בהגדרות מיוחדות, ואנחנו חותמים על הסכמי BAA ו-DPA ללא תשלום נוסף.

נסו אותה היום

למידע נוסף, עיינו באתר שלנו, שמרחיב על הטכנולוגיה, התמחור, יכולות הפלטפורמה ועוד.

ואף טוב יותר, נסו את ThunderPhone וראו כיצד היא מתאימה למקרה השימוש שלכם! ההתחלה אמורה לקחת רק כמה דקות, ואפליקציית האינטרנט והסייען שלנו נועדו להקל ככל האפשר על הגדרת כל מה שאתם צריכים.

אם תיתקלו בבעיות כלשהן או יהיו לכם בקשות, פנו אליי אישית ב-alex@thunderphone.com

אלכס קולצ'ינסקי, מנכ״ל

היום, אנו גאים להכריז על ההשקה הציבורית של ThunderPhone, שמקל על אוטומציה של שיחות טלפון באמצעות AI. עם ארכיטקטורה משולבת ושונה לחלוטין מפלטפורמות AI טלפוניות אחרות, ThunderPhone מסוגל להשיג ביצועים גבוהים בהרבה, עלות נמוכה יותר ופחות כאבי ראש סביב אינטגרציות. ThunderPhone תומך בשיחות נכנסות ויוצאות בעשרות שפות ועומד בדרישות HIPAA ו-GDPR.

היתרון המשולב

פלטפורמות AI טלפוניות אחרות מגבילות את ביצועי המערכות שלהן באמצעות אכיפת מבנה בן 3 שלבים:

1. מודל תמלול אחד, שהופך את קול המשתמש לטקסט.
2. מודל LLM אחד, שמעבד את טקסט המשתמש ומפיק תשובה.
3. מודל TTS אחד, שהופך את טקסט התשובה בחזרה לשמע.

רובן גם מעבירות את עבודת ההנדסה למשתמשים שלהן, בכך שהן מחייבות אותם לבחור באילו מודלים להשתמש, וכן באפשרויות תצורה כמו סינון רעשים ופרמטרים של תגובתיות.

אנו נקטנו גישה אחרת: הגדרנו את מה שלדעתנו הוא המערך הטוב ביותר האפשרי עם המודלים הקיימים כיום, והפכנו אותו למוכן לשימוש ללא מאמץ תצורה מורכב. המערכת שלנו משתמשת במודלים רבים בו-זמנית, ומנתבת ביניהם באופן חכם בהתאם למהלך השיחה. זה כולל:

• שילוב של כמה מודלי תמלול, שחלקם מהירים יותר ואחרים מדויקים יותר, כדי לאזן בין מהירות לדיוק ולחפות על טעויות אלה של אלה.
• שילוב של מודלי LLM עם קלט שמע, שעשויים להיות בעלי אינטליגנציה כללית נמוכה יותר אך הבנת שמע טובה יותר, עם מודלי LLM המבוססים על טקסט בלבד, שעלולים לטעות עקב תמלולים לא מדויקים אך לרוב חכמים יותר.
• שילוב של מודלי LLM מהירים אך טיפשים, שיכולים להפיק תשובות מהירות, עם מודלי LLM חכמים בהרבה אך איטיים יותר, שיכולים לפעול ברקע ולוודא שה-AI פועל לפי ההנחיה שלו ומגיב נכון למה שהמשתמש אומר.
• שילוב של מודלים מסחריים מספקים מובילים, בהם OpenAI ו-Google, שמציעים את האינטליגנציה הגבוהה ביותר הזמינה כיום, עם מגוון רחב של מודלים בקוד פתוח, שלעיתים קרובות מציעים מהירות טובה יותר בעלות נמוכה יותר.
• שימוש בכמה מודלים בו-זמנית כדי לסווג ולסלק רעשי רקע, שיחות צד ורעשים מסיחים אחרים, שעלולים אחרת להסיט שיחה ממסלולה.

רכיבים אלה ורבים נוספים מתוזמרים בדרכים שונות בשלוש רמות השירות שלנו, Spark, Bolt ו-Storm — כך ש-Spark ממוטב לעלות, Bolt למהירות ו-Storm לאינטליגנציה, תוך צמצום החסרונות של כל אחד מהם ככל האפשר. כל שלוש המערכות חולקות יתרונות כמו הבנה מדויקת להפליא של דברי המשתמשים, גם כשמדובר בשמות פרטיים ובאיות.

מצאנו שארכיטקטורה משולבת זו מעניקה למערכת שלנו ביצועים גבוהים בהרבה בעלות נמוכה יותר מהגישה הנוקשה בת 3 השלבים שמציעים ספקים אחרים. בהתאם לתיאוריית המודולריות של Clay Christensen, תחום ה-AI הקולי עדיין בראשית דרכו, ועדיין חשוב יותר למקסם ביצועים באמצעות ארכיטקטורה משולבת מאשר למקסם יכולת התאמה אישית באמצעות ארכיטקטורה מודולרית.

החלטות ממוטבות

ובכל הנוגע להתאמה אישית, אנחנו מתנגדים לה. רוב פלטפורמות הבינה המלאכותית לטלפון כיום מאלצות משתמשים לנווט בין אינסוף אפשרויות, החל מהמודלים המדויקים שבהם נעשה שימוש ועד לפרמטרים מפורטים במיוחד, כמו המהירות שבה הבינה המלאכותית קוטעת את המשתמש.

לדעתנו, התפקיד שלנו הוא למטב את הבחירות האלה מאחורי הקלעים, כדי שמשתמשי ThunderPhone יוכלו להתמקד במה שהם טובים בו ולא לדאוג לתצורה מפורטת של בינה מלאכותית קולית. אנחנו רואים את עצמנו כסוג של Squarespace, שמקל על המשתמשים שלנו להגדיר סוכני טלפון בביצועים הגבוהים ביותר האפשריים עם המודלים של היום, בלי להרים אצבע.

קלות שימוש

ThunderPhone גם קלה להפליא לשימוש, בין שאתם מגדירים סוכן טלפון חדש ובין שאתם עוברים מפלטפורמה אחרת או ממערך מותאם אישית. כל מה שנדרש כדי להגדיר סוכן טלפון ב-ThunderPhone הוא:

1. החליטו אם אתם רוצים להשתמש ב-Spark, Bolt או Storm.
2. בחרו קול.
3. תנו לנו את הפרומפט שלכם. אין צורך בסוכנים עם כמה פרומפטים! אם הפרומפט שלכם מורכב מדי עבור Spark או Bolt, שדרגו ל-Storm, שיכול להתמודד גם עם תרחישי שימוש מורכבים באמצעות פרומפט יחיד.
4. חברו אינטגרציות תוכנה (כל נקודת קצה, או אינטגרציה מובנית עם n8n) באמצעות אשף קל במיוחד לשימוש.
5. חברו את ה-VoIP שלכם באמצעות אשף קל במיוחד לשימוש.

כל זה נמשך בדרך כלל 10 דקות או פחות.

ThunderPhone תואמת ל-HIPAA ול-GDPR, ואנו נחתום ונספק BAAs ו-DPAs לפי בקשה.

הסיפור שלנו

אנחנו צוות של בוגרי Stanford AI Lab ו-Y Combinator שעובדים על בינה מלאכותית קולית מאז 2024. במקור התמקדנו ב-Flux Interpreting, שמתרגם שיחות טלפון בין שפות. אבל לאחר שלקוחות ביקשו מאיתנו שוב ושוב להפוך שיחות טלפון לעסקים שלהם לאוטומטיות, במקום רק לתרגם אותן, העברנו את המיקוד למה שהוא כיום ThunderPhone.

הבעיה בפלטפורמות הקיימות

בתחילה התחלנו לבנות סוכני טלפון ללקוחות על פלטפורמות בינה מלאכותית טלפונית של חברות אחרות. בדקנו כמעט כל פלטפורמת בינה מלאכותית טלפונית בשוק, אך למרבה הצער גילינו שהן לוקות בחסר, במיוחד בכל הנוגע ל:

• הבנת אודיו: המגבלות של שימוש במודל תמלול אחד בלבד כדי להפוך את האודיו של המשתמש לטקסט גרמו לכך שהבינה המלאכותית לעיתים קרובות "שמעה לא נכון" את המשתמש, במיוחד בשמות פרטיים, במילים לא נפוצות ובאיותים.
• ביצוע הוראות: שימוש במודל שפה גדול ומהיר אחד לביצוע ה"עבודה המחשבתית" שמאחורי השיחה גרם לכך שהבינות המלאכותיות התקשו לעיתים קרובות לפעול לפי הוראות בצורה נכונה וסטו מהמסלול.
• אינטגרציות מורכבות: הפלטפורמות שניסינו הקשו מאוד על חיבור לתוכנות חיצוניות, ובדרך כלל אילצו אותנו להקליד תצורות JSON נרחבות לקריאות כלים ולהתמודד איתן שוב ושוב באמצעות Bash, כמעט ללא משוב, עד שלפתע הן התחילו לעבוד.
• מחיר: הפלטפורמות הקיימות בדרך כלל גבו מחיר מופקע: לרוב 10 סנט לדקה או יותר, עבור ביצועים בינוניים.

בניית המערך שלנו

כשחתמנו על עסקה ליישום תרחיש של שיחות מכירה עבור לקוח ארגוני, נאלצנו לבנות מערך מותאם אישית משלנו כדי לענות על הצרכים שלו. תרחיש השימוש הזה היה תובעני: בניגוד לתמיכת לקוחות, שבה המתקשרים תלויים במידה רבה בעסק, מתקשרים בשיחות מכירה ממהרים לנתק.

איכות השיחה חייבת להיות מעולה כדי להשלים את המכירה במקום לאבד את הליד. משמעות הדבר הייתה טיפול במספר רב של שמות פרטיים ואיותים, כולל שמות וכתובות, שקשה למודלי תמלול רגילים לזהות נכון. כדי להצליח בתרחיש השימוש הזה, בנינו את מה שהוא כיום ThunderPhone.

במהלך הדרך, המשכנו לפגוש אנשים בקהילת הבינה המלאכותית הקולית של סן פרנסיסקו שבנו חברות סוכני טלפון ממוקדות ענף — לווטרינרים, לנהגי משאיות ועוד. באופן מפתיע, לרובם הייתה אותה דעה: הפלטפורמות הקיימות היו מספיק טובות להדגמות, אך לא לייצור.

באופן מפתיע, רבים, אם לא רוב, מחברינו בחברות בינה מלאכותית קולית ממוקדות ענף למעשה "בנו מערכים משלהם"... זה לא היה הגיוני בעינינו — זה ממש שווה ערך לכך שחברות הזנק בתחום האינטרנט בשנות ה-90 נאלצו לארח בעצמן את שרתי האינטרנט שלהן על שרת בארון הבגדים שלהן.

בעזרת התובנה הזו, הבנו שהגיע הזמן להפוך את מערכת הבינה המלאכותית הטלפונית שלנו לפלטפורמה שכל אחד יכול להשתמש בה.

חברות בינה מלאכותית קולית ממוקדות ענף ויועצים צריכים להיות מסוגלים להתמקד במענה על צורכי שוק היעד שלהם באמצעות המומחיות הייחודית שלהם לענף — ולא בהנדסה מורכבת של טכנולוגיות הבינה המלאכותית והטלפוניה שבבסיס המערכת! זה מה שאנחנו משיקים היום עם ThunderPhone.

הדרך לכאן הייתה ארוכה! אנחנו מתנצלים בפני כל מי שנרשם אצלנו מאז אפריל האחרון ועדיין ממתין לגישה: מה שחשבנו שיהיה מאמץ קצר להשלמת המשימה התברר כמסע בן כמה חודשים, שבמהלכו הבנו כיצד לשלב את המודלים הזמינים כיום במערכת חזקה ככל האפשר.

אבל עכשיו עלינו סוף סוף לאוויר — נסו אותנו וראו מה דעתכם!

למרות שפתרנו את רוב הבעיות המרכזיות, בוודאי עדיין יש באגים במערכת. אם תמצאו בעיות כלשהן, אנא שלחו אימייל ל-alex@thunderphone.com, ואני אדאג שהן יתוקנו עבורכם בהקדם האפשרי. ספרו לי גם אם יש לכם בקשות לתכונות חדשות, ואנחנו נדאג לממש גם אותן עבורכם מהר ככל שנוכל.

ואם יש לכם צרכים מותאמים יותר, כגון תמיכה ביישום ובאינטגרציה מותאמים אישית, תאימות מעבר ל-HIPAA ול-GDPR הרגילים, הסכמי רמת שירות ובקשות מותאמות לתכונות חדשות, נשמח לדבר על עסקה ארגונית. פנו אלינו ב-alex@thunderphone.com, ונדבר על הצרכים שלכם ועל האפשרות שלנו לעזור.

ובאופן כללי יותר: המחויבות שלנו אליכם היא שזה התפקיד שלנו לוודא ש-ThunderPhone עובד כבר מההתחלה, במינימום מאמץ מצדכם, ומטפל בשיחות של העסק שלכם בצורה המושלמת ביותר שאפשרית עם הבינה המלאכותית של היום, במסגרת מגבלות המחיר של המסלול שתבחרו — Spark, Bolt או Storm. נסו אותנו, ואנחנו נרגשים להראות לכם מה ThunderPhone יכול לעשות.

ספרו לנו מה דעתכם, ותודה על התמיכה שלכם!