01
Analisi strutturale
I ruoli dei messaggi, le istruzioni del sistema, i frammenti di documenti e la cronologia delle conversazioni sono considerati come contesti separati.
AETHER · Come funziona?
Conserva il significato del contesto.Non trasportare un carico di token inutile.
Aether Compress analizza l'input da inviare al modello prima della richiesta; genera un contesto più piccolo riducendo ripetizioni, parti di scarso valore e dettagli non necessari.
01
L'input raggiunge il layer API sicuro.
02
Il contesto viene ottimizzato in base alla query.
03
Il risultato viene inviato all'LLM che avete scelto.
Architettura di ottimizzazione
Uno strato interposto senza riscrivere la tua applicazione.
Aether funziona in modo indipendente dal fornitore. L'input che raggiunge l'LLM diventa più efficiente mantenendo intatti la generazione del prompt e la tua scelta del modello.
02
Selezione orientata alla query
Le informazioni relative alla richiesta attuale dell'utente vengono conservate, mentre il contenuto a basso contributo viene ridotto.
03
Conservazione del significato
L'ottimizzazione non consiste solo nell'abbreviare i caratteri; viene conservata la gerarchia delle informazioni e delle istruzioni necessarie al compito.
04
Output misurabile
Il numero di token di input e output e il tasso di risparmio possono essere osservati per ogni richiesta.
Flusso dell'applicazione
01
Invia il contesto
Trasmetti i tuoi messaggi o il testo lungo all'API Compress.
02
Seleziona politica
Determina il livello di ottimizzazione adatto al tuo obiettivo di qualità, equilibrio o massimo risparmio.
03
Fai la chiamata al modello
Invia il context ottimizzato restituito al provider del modello che stai utilizzando.
Contesto più piccolo. Costo AI più controllato.
Contatta il nostro team per aggiungere Aether Compress al tuo flusso LLM attuale.