LLM sağlayıcıları
OpenAI uyumlu uçlar ve diğer model sağlayıcılarıyla kullanılan context'i önceden optimize edin.
Aether, uygulamanızın prompt oluşturduğu nokta ile LLM çağrısı arasına yerleşir. Sağlayıcı, framework veya orchestration tercihinizi değiştirmeden çalışır.
Standart HTTP desteği sayesinde Aether'i kendi backend'inizden, agent katmanınızdan veya retrieval pipeline'ınızdan çağırabilirsiniz.
OpenAI uyumlu uçlar ve diğer model sağlayıcılarıyla kullanılan context'i önceden optimize edin.
Retrieval sonucunda dönen doküman parçalarını model çağrısından önce sorguya göre küçültün.
Araç çıktıları ve görev geçmişinin çok adımlı süreçlerde kontrolsüz büyümesini önleyin.
Node.js, Python, Go, Java veya HTTP çağrısı yapabilen herhangi bir servisle bağlanın.
Model çağrısından hemen önce oluşan nihai context'i yakalayın.
Context, sorgu ve optimizasyon politikasını API'ye gönderin.
Optimize edilmiş girdiyi halihazırda kullandığınız modele iletin.
Aether Compress'i mevcut LLM akışınıza eklemek için ekibimizle iletişime geçin.