¿Qué es el caché semántico?
El caché clásico vive de coincidencias exactas: dos peticiones tienen que ser idénticas para devolver el resultado anterior. El caché semántico es más listo: entiende el significado. Aunque el usuario cambie las palabras, si la intención es la misma, reconoce «esto ya lo respondí» y reutiliza la vieja respuesta, saltándose un cálculo nuevo.¿En qué se diferencia del caché normal?
Caché normal: mira las letras«Cómo cambio mi contraseña» y «cómo actualizo mi contraseña» cuentan como dos peticiones distintas, así que calcula dos veces para nada.
Caché semántico: mira el significado
Convierte la pregunta en un vector semántico y compara similitud, no caracteres. Significado cercano, acierto de caché.
¿Cómo funciona?
Convierte la pregunta en un vectorUn modelo de embeddings codifica la consulta en un vector de muchas dimensiones; los significados parecidos caen cerca.
Compara similitud
Cuando llega una pregunta nueva, mide la distancia a los vectores guardados. Pasado un umbral, es «el mismo tipo de pregunta».
Acertar es devolver al instante
Con buena tasa de aciertos, muchas peticiones ni tocan el modelo grande: bajan coste y latencia a la vez.
¿Dónde brilla?
En soporte, preguntas frecuentes y productos SaaS con mucha repetición: los usuarios preguntan las mismas cosas con otras palabras. Solo vigila el umbral: demasiado laxo y tratarás como iguales preguntas «parecidas pero distintas», que es como acabas sirviendo respuestas equivocadas.En resumen: el caché semántico ayuda a la IA a reconocer «la misma pregunta con otras palabras» y reutilizar respuestas — más barato y más rápido.
Comentarios