Moins de jetons.Résultats mesurés.
Nous mesurons Aether Compress non seulement par la réduction qu'il apporte, mais aussi par la quantité d'information qu'il préserve lors de cette réduction. Nos résultats sont évalués par des tests locaux à grande échelle et une validation de modèle indépendante.
Deux niveaux de tests différents.
Tests de vérification locale pour la perte d'informations à grande échelle. La validation du modèle externe est le modèle généré à partir du contexte optimisé. Il mesure si la réponse contient les mêmes informations que le contexte d'origine.
Ortalama40,65% de moins.
La valeur mesurée indique que l'entrée optimisée est égale à l'entrée d'origine. Il montre la diminution moyenne du nombre de jetons.
Lors de l'évaluation de Aether Compress, ce n'est pas seulement la réduction de tokens qui est mesurée. La conservation de l'information nécessaire dans le contexte optimisé est la condition de réussite principale.
Dans la couche de validation externe, la même question est valable à la fois pour l'original et pour l'original. évalué sur le contexte optimisé et Il est mesuré si les réponses conservent les informations nécessaires.
Un seul type de contenuNous ne mesurons pas en fonction.
L'ensemble de test a des propriétés de densité, de structure et de contexte différentes. Il se compose de scénarios avec
Même mesure, processus reproductible.
Entrée originale du processus de référence, entrée optimisée et mesurer le résultat de la vérification séparément les uns des autres.
L'entrée de test est prise comme référence inchangée.
La même entrée est traitée avec Aether Compress.
La réduction des jetons et la préservation des informations sont mesurées séparément.
Les tests sélectionnés sont également vérifiés via le modèle externe.
Limites de mesure
Le taux de réduction varie en fonction de la structure de l'entrée et de la quantité d'informations inutiles qu'elle contient.
Cette valeur est le temps de traitement moyen mesuré dans l'environnement de validation. Cela peut varier en fonction du matériel et de la charge de travail.
Cette valeur représente la limitation la plus élevée observée dans l’ensemble de validation et ne constitue pas le taux attendu pour chaque requête.
La valeur de 100 % en validation externe est le résultat de 500 scénarios testés et n'implique pas une garantie illimitée de toutes les entrées possibles.
Plus important que le benchmark,votre contribution.
Essayez Aether Compress gratuitement et voyez combien de tokens vous pouvez réduire dans votre propre contexte réel.