ThunderPhone 2.0 正式上線。全程自助,每分鐘 2 美分起查看公告

Using the dashboard

驗證集:在部署前重播真實通話回合

將真實的 ThunderPhone 通話片段轉為可重複使用的驗證範例,檢視預期行為、針對智慧體草稿重播,並在部署前找出迴歸問題。

一個驗證範例會凍結真實通話中的一個智慧體回合:此前的對話、相關的來電者音訊、智慧體實際執行的行為,以及它應執行行為的基準答案。使用目前草稿重播一組範例,即可在不另行撥打電話的情況下找出迴歸問題。

使用全組織的驗證集頁面 (/dashboard/validation) 建立及審核資料集。使用個別智慧體的驗證分頁執行驗證集並檢視執行紀錄。

從通話紀錄新增範例

  1. 選擇「新增範例」

    選擇此範例要驗證其行為的智慧體。工作區會顯示該智慧體最近最多 25 通非模擬通話。

  2. 選取通話和智慧體回合

    閱讀逐字稿,將游標停留在你要保留的智慧體回合上,然後選取核取清單操作。該回合之前的對話及其來電者音訊片段會複製到驗證資料集。

  3. 審核預期結果

    ThunderPhone 會草擬正確行為的說明。請編輯說明,使其具體且可測試;你也可以選擇編輯已接受的範例回應和預期工具呼叫。

  4. 儲存或啟用

    儲存草稿會讓範例維持在待審核狀態。 儲存並啟用會將其納入未來的驗證執行。

重複升級同一個回合時,系統會重複使用現有範例,而不會建立兩份副本。

範例類型與狀態

類型說明範例存在的原因:

類型用途
失敗暴露出你想避免行為的真實回應。
黃金範例值得保留且已知正確的回應。
手動不屬於上述兩類、經手動整理的案例。

狀態控制生命週期:

狀態意義
待審核基準答案仍在審核中;不會納入執行。
啟用中納入驗證執行。
過時自範例凍結後提示詞已變更;請審核其預期結果。
不相容此範例無法使用目前設定重播。
已封存為保留歷程而保存,但不會納入執行。

瀏覽及精修資料集

智慧體狀態類型篩選組織資料集。選取範例後會顯示:

  • 凍結的對話情境和可播放的來電者音訊片段。
  • 來源通話和原始回應。
  • 基準答案預期、已接受的口語回應和工具呼叫。
  • 最新重播結果,以及原始和預期行為。
  • 最新判定及評審說明(如有)。

選擇編輯基準答案以修訂預期結果或已接受的回應。 選擇根據草稿重播,即可只測試該範例而不啟動完整執行。 重播會使用智慧體目前的草稿,不一定是其已部署的設定。

執行驗證集

在智慧體的驗證分頁中,對每個啟用中的範例啟動執行。每個範例會獲得下列其中一種判定:

  • 通過 —— 回應符合預期結果和來電者音訊。
  • 警告 —— 回應可用,但有一項檢查發現不確定性。
  • 失敗 —— 回應與音訊矛盾,或未達成必要行為。
  • 略過 —— 無法載入必要的來電者音訊;不會計入通過率分母。
  • 錯誤 —— 無法完成重播或評分。

執行摘要會報告通過、警告、失敗和略過的數量、通過率、預估成本,以及自前一次完成的執行以來任何從通過變為失敗的迴歸問題。每個智慧體同一時間只能有一個驗證執行處於啟用狀態。

使用驗證證據部署

當智慧體具備驗證範例時,部署對話方塊會顯示最新完成的執行結果是否與目前草稿相符。你可以:

  • 依顯示的通過率與迴歸數量部署。
  • 若沒有相符的執行結果,先執行驗證。
  • 在審查結果後,仍可選擇直接部署。

驗證提供證據與部署檢查,並非自動進行正式環境流量分配。如需即時比較,請使用 實驗(A/B 測試)

API 自動化

Validation Sets API涵蓋回合升級、範例管理、串流傳輸已釘選音訊、個別重播、批次執行、執行結果、部署時狀態,以及組織總覽。