Uso de jueces LLM para la resolución de identidades
Hightouch emplea la evaluación basada en LLM para resolver identidades de clientes y coincidir registros en diferentes conjuntos de datos…
Hightouch emplea la evaluación basada en LLM para resolver identidades de clientes y coincidir registros en diferentes conjuntos de datos sin requerir un etiquetado manual exhaustivo. Para minimizar los costos de inferencia sin sacrificar la calidad, la plataforma implementa un flujo de trabajo de cascada de modelos: un modelo más pequeño y económico evalúa inicialmente los pares de registros y escala las coincidencias ambiguas o de baja confianza a Claude 3 Opus. Esta arquitectura de enrutamiento dinámico logra una precisión comparable a la de ejecutar Opus en todas las evaluaciones, al tiempo que reduce los costos operativos en cuatro veces.