使用 LLM 裁判進行身份解析
Hightouch 採用基於 LLM 的評估來解析客戶身份並在不同的資料集之間比對記錄,而無需大量的人工標記。為了在不犧牲品質的情況下降低推論成本,該平台實施了模型級聯工作流:首先由較小且更經濟的模型對記錄對進行初始評估,並將模糊或低信心度的比對提交至 Claude 3…
Hightouch 採用基於 LLM 的評估來解析客戶身份並在不同的資料集之間比對記錄,而無需大量的人工標記。為了在不犧牲品質的情況下降低推論成本,該平台實施了模型級聯工作流:首先由較小且更經濟的模型對記錄對進行初始評估,並將模糊或低信心度的比對提交至 Claude 3 Opus。這種動態路由架構實現了與全部採用 Opus 評估相媲美的準確度,同時將營運成本降低了四倍。