LLM AGENTE ARQUITECTURA para un chat de documentación de productos

Una variación interesante de la arquitectura de aplicaciones típica de LLM

LLM se usa dos veces:

· Primero para resumir la conversación hasta ahora en una pregunta independiente

· Luego, nuevamente con esta pregunta independiente y documentos relevantes para encontrar la respuesta

Aunque la arquitectura general sigue el flujo de trabajo típico:

· Datos/documentos de minas, crear integración y guardar en un Vector DB

· Construir indicaciones para consultas del usuario junto con documentos coincidentes recuperados de Vector DB

· Ejecutar la solicitud como una inferencia en LLM previamente capacitada