Aether
AETHER · 集成

维护您的模型提供商。优化上下文层。

Aether 位于应用生成提示(prompt)和 LLM 调用之间。它在不改变您提供者、框架或编排选择的情况下工作。

兼容的流程

位于现代 AI 架构的共同点。

由于标准 HTTP 支持,您可以从自己的后端、代理层或检索流水线调用 Aether。

01

LLM 提供者

在与 OpenAI 兼容的端点和其他模型提供者使用时,提前优化上下文。

02

RAG 流水线

在模型调用之前,根据查询缩小检索结果返回的文档片段。

03

代理系统

防止工具输出和任务历史在多步骤过程中失控增长。

04

自定义后端

连接 Node.js、Python、Go、Java 或任何可以进行 HTTP 调用的服务。

应用流程
01

确定集成点

捕获模型调用之前生成的最终上下文。

02

重定向到 Aether

将上下文、查询和优化策略发送到 API。

03

继续现有流程

将优化后的输入传递给您当前使用的模型。

更小的上下文。更可控的AI成本。

联系团队,将Aether Compress添加到您现有的LLM流程中。

联系