Caso de estudio · Ingeniería de IA · Arquitectura
Plataforma RAG y LLM Empresarial
Sistema RAG de grado de producción con base de datos vectorial, integración LLM y evaluación automatizada usando Ragas
El problema
Los equipos pierden tiempo buscando documentos dispersos, y un chatbot simple inventa respuestas que no puede respaldar con una fuente.
Restricciones
- Las respuestas deben salir de documentos reales
- Se deben poder cambiar proveedores de LLM y embeddings sin reescribir
- Debe ser observable en producción: métricas, logs y puntajes de calidad
Arquitectura y decisiones
Haz clic en una caja para ver por qué se eligió.
Por qué · Recursive split
Los documentos se dividen en límites naturales (secciones, párrafos) para que cada fragmento conserve su sentido.
Resultados
- pruebas automáticas
- 51
- pruebas automáticas
- métodos de búsqueda combinados
- 2
- métodos de búsqueda combinados
- proveedores de embeddings
- 3
- proveedores de embeddings
- métricas de calidad Ragas
- 3
- métricas de calidad Ragas
Qué haría después
- 01Correr las evaluaciones Ragas en CI y bloquear versiones con peor puntaje
- 02Agregar un reranker después de la búsqueda híbrida
- 03Mostrar los fragmentos fuente junto a cada respuesta en el API