
Agents-Flex 支持市场上常见的大语言模型,支持 Ollama 部署模型,并内置了丰富的网络协议(如 HTTP、SSE、WS 等),方便开发者对接各种大模型。
Agents-Flex 提供了多种大语言模型开发模板,支持 Prompt Framework,如 FEW-SHOT、CRISPE、BROKE、ICIO 等,开发者还可以自定义独特的 Prompt 模板。
Agents-Flex 的功能调用组件非常灵活,支持本地方法定义、解析、通过 LLMs 回调,并执行本地方法以获取结果。
Agents-Flex 提供了 Loader、Parser 和 Splitter 组件,用于处理文档。每个组件都有多种实现,方便从网页、本地文件、数据库等加载各种类型的数据。
Agents-Flex 的内存模块分为 MessageMemory 和 ContextMemory,用于记录聊天消息和 Chain 执行上下文。开发者可以通过继承扩展内存模块,实现更丰富的功能。
Agents-Flex 包含广泛的嵌入功能和扩展,开发者可以实现 Embedding 接口,扩展私有的嵌入算法和支持。
Agents-Flex 支持多种向量数据库,开发者还可以实现 VectorStore 接口,扩展私有的 VectorStore 服务。
Agents-Flex 的 Chain 包括顺序 Chain、异步 Chain 和循环 Chain,帮助开发者处理各种场景。