Proveedores de LLM
Optimice previamente el contexto utilizado con bordes compatibles con OpenAI y otros proveedores de modelos.
Aether se sitúa entre el punto donde su aplicación genera el aviso y la llamada al LLM. Funciona sin necesidad de cambiar su proveedor, framework o preferencia de orquestación.
Gracias al soporte estándar de HTTP, puede invocar Aether desde su propio backend, capa de agente o pipeline de recuperación.
Optimice previamente el contexto utilizado con bordes compatibles con OpenAI y otros proveedores de modelos.
Reducir las partes del documento devueltas como resultado de la recuperación según la consulta antes de la llamada del modelo.
Evite que los resultados de las herramientas y el historial de tareas crezcan sin control en procesos de varios pasos.
Conéctese con Node.js, Python, Go, Java o cualquier servicio que pueda realizar llamadas HTTP.
Capture el contexto final que ocurre justo antes de la llamada del modelo.
Envía el contexto, la consulta y la política de optimización a la API.
Pase la entrada optimizada al modelo que está utilizando actualmente.
Póngase en contacto con nuestro equipo para agregar Aether Compress a su flujo LLM actual.