基于 Java 的 LLM 应用开发框架，Agents-Flex beta.5 发布插图

Agents-Flex： 一个基于 Java 的 LLM（大语言模型）应用开发框架。

基本能力

  • LLM 的访问能力
  • Prompt、Prompt Template 定义加载的能力
  • Function Calling 定义、调用和执行等能力
  • 记忆的能力（Memory）
  • Embedding
  • Vector Store
  • 文档处理
    • 加载器（Loader）
      • Http
      • FileSystem
    • 分割器（Splitter）
    • 解析器（Parser）
      • PoiParser
      • PdfBoxParser
  • Agent
    • LLM Agent
    • IOAgent
  • Chain 执行链
    • SequentialChain 顺序执行链
    • ParallelChain 并发（并行）执行链
    • LoopChain 循环执行连
    • ChainNode
      • AgentNode Agent 执行节点
      • EndNode 终点节点
      • RouterNode 路由节点
        • GroovyRouterNode Groovy 规则路由
        • QLExpressRouterNode QLExpress 规则路由
        • LLMRouterNode LLM 路由（由 AI 自行判断路由规则）

简单对话

使用 OpenAi 大语言模型:

使用 “通义千问” 大语言模型:

使用 “讯飞星火” 大语言模型:

历史对话示例

Function Calling

  • 第一步：通过注解定义本地方法
  • 第二步：通过 Prompt、Functions 传入给大模型，然后得到结果

模块构成

基于 Java 的 LLM 应用开发框架，Agents-Flex beta.5 发布插图1

 

开源地址​：

免责声明：本文系转载，版权归原作者所有；旨在传递信息，不代表一休教程网的观点和立场。