Fournisseurs de LLM
Pré-optimisez le contexte utilisé avec les Edges compatibles OpenAI et d'autres fournisseurs de modèles.
Aether se situe entre le point où votre application génère le prompt et l'appel LLM. Il fonctionne sans modifier votre fournisseur, framework ou préférence d'orchestration.
Grâce au support HTTP standard, vous pouvez appeler Aether depuis votre propre backend, couche agent ou pipeline de récupération.
Pré-optimisez le contexte utilisé avec les Edges compatibles OpenAI et d'autres fournisseurs de modèles.
Réduisez les parties du document renvoyées à la suite de la récupération en fonction de la requête avant l'appel du modèle.
Empêchez les résultats des outils et l’historique des tâches de croître de manière incontrôlée dans les processus en plusieurs étapes.
Connectez-vous avec Node.js, Python, Go, Java ou tout autre service pouvant effectuer des appels HTTP.
Capturez le contexte final qui se produit juste avant l'appel du modèle.
Envoyez le contexte, la requête et la politique d'optimisation à l'API.
Transmettez l’entrée optimisée au modèle que vous utilisez actuellement.
Contactez notre équipe pour ajouter Aether Compress à votre flux LLM actuel.