驗證集:在部署前重播真實通話回合
將真實的 ThunderPhone 通話片段轉為可重複使用的驗證範例,檢視預期行為、針對智慧體草稿重播,並在部署前找出迴歸問題。
一個驗證範例會凍結真實通話中的一個智慧體回合:此前的對話、相關的來電者音訊、智慧體實際執行的行為,以及它應執行行為的基準答案。使用目前草稿重播一組範例,即可在不另行撥打電話的情況下找出迴歸問題。
使用全組織的驗證集頁面
(/dashboard/validation) 建立及審核資料集。使用個別智慧體的驗證分頁執行驗證集並檢視執行紀錄。
從通話紀錄新增範例
- 選擇「新增範例」
選擇此範例要驗證其行為的智慧體。工作區會顯示該智慧體最近最多 25 通非模擬通話。
- 選取通話和智慧體回合
閱讀逐字稿,將游標停留在你要保留的智慧體回合上,然後選取核取清單操作。該回合之前的對話及其來電者音訊片段會複製到驗證資料集。
- 審核預期結果
ThunderPhone 會草擬正確行為的說明。請編輯說明,使其具體且可測試;你也可以選擇編輯已接受的範例回應和預期工具呼叫。
- 儲存或啟用
儲存草稿會讓範例維持在待審核狀態。 儲存並啟用會將其納入未來的驗證執行。
重複升級同一個回合時,系統會重複使用現有範例,而不會建立兩份副本。
範例類型與狀態
類型說明範例存在的原因:
| 類型 | 用途 |
|---|---|
| 失敗 | 暴露出你想避免行為的真實回應。 |
| 黃金範例 | 值得保留且已知正確的回應。 |
| 手動 | 不屬於上述兩類、經手動整理的案例。 |
狀態控制生命週期:
| 狀態 | 意義 |
|---|---|
| 待審核 | 基準答案仍在審核中;不會納入執行。 |
| 啟用中 | 納入驗證執行。 |
| 過時 | 自範例凍結後提示詞已變更;請審核其預期結果。 |
| 不相容 | 此範例無法使用目前設定重播。 |
| 已封存 | 為保留歷程而保存,但不會納入執行。 |
瀏覽及精修資料集
依智慧體、狀態或類型篩選組織資料集。選取範例後會顯示:
- 凍結的對話情境和可播放的來電者音訊片段。
- 來源通話和原始回應。
- 基準答案預期、已接受的口語回應和工具呼叫。
- 最新重播結果,以及原始和預期行為。
- 最新判定及評審說明(如有)。
選擇編輯基準答案以修訂預期結果或已接受的回應。 選擇根據草稿重播,即可只測試該範例而不啟動完整執行。 重播會使用智慧體目前的草稿,不一定是其已部署的設定。
執行驗證集
在智慧體的驗證分頁中,對每個啟用中的範例啟動執行。每個範例會獲得下列其中一種判定:
- 通過 —— 回應符合預期結果和來電者音訊。
- 警告 —— 回應可用,但有一項檢查發現不確定性。
- 失敗 —— 回應與音訊矛盾,或未達成必要行為。
- 略過 —— 無法載入必要的來電者音訊;不會計入通過率分母。
- 錯誤 —— 無法完成重播或評分。
執行摘要會報告通過、警告、失敗和略過的數量、通過率、預估成本,以及自前一次完成的執行以來任何從通過變為失敗的迴歸問題。每個智慧體同一時間只能有一個驗證執行處於啟用狀態。
使用驗證證據部署
當智慧體具備驗證範例時,部署對話方塊會顯示最新完成的執行結果是否與目前草稿相符。你可以:
- 依顯示的通過率與迴歸數量部署。
- 若沒有相符的執行結果,先執行驗證。
- 在審查結果後,仍可選擇直接部署。
驗證提供證據與部署檢查,並非自動進行正式環境流量分配。如需即時比較,請使用 實驗(A/B 測試)。
API 自動化
Validation Sets API涵蓋回合升級、範例管理、串流傳輸已釘選音訊、個別重播、批次執行、執行結果、部署時狀態,以及組織總覽。