来源

原文链接

正文

Halo 官方 AI 能力平台，统一接入主流大模型，为插件生态提供文本生成、嵌入向量、工具调用等智能化能力。

/halo-dev/plugin-ai-foundation/blob/main/images/preview-providers.png

功能特性

• 多提供商支持：内置 OpenAI、DeepSeek、Kimi（Moonshot）、SiliconFlow、豆包、文心一言、智谱 AI、Ollama、OpenAI-like、AIHubMix、Gitee 模力方舟、MiniMax、Xiaomi MiMo 等主流 AI 提供商

• 统一模型管理：通过 Halo 控制台统一管理 AI 提供商和模型配置

• 模型自动发现：支持从提供商自动拉取可用模型列表

• 流式对话：支持 SSE 流式输出，适用于实时聊天场景

• 工具调用：支持模型调用外部工具，适用于复杂任务编排

• 文本嵌入：支持文本向量化，适用于语义搜索、RAG 等场景

• 默认模型设置：支持配置系统默认的语言模型和嵌入模型

• 模型测试 Playground：内置测试页面，支持验证文本生成、流式输出、工具调用、结构化输出等

• Java SDK：通过

  api

  模块为其他 Halo 插件提供标准化的 AI 调用接口

已接入插件

WIP

界面预览

/halo-dev/plugin-ai-foundation/blob/main/images/preview-providers.png

/halo-dev/plugin-ai-foundation/blob/main/images/preview-models.png

/halo-dev/plugin-ai-foundation/blob/main/images/preview-default.png

/halo-dev/plugin-ai-foundation/blob/main/images/preview-test.png

项目结构

本项目为多模块 Gradle 项目：

| 对外发布的 Java SDK（

run.halo.aifoundation:api

）。其他 Halo 插件依赖此模块即可调用 AI 能力 |
|

app/

| 插件实现模块。包含 Extension 定义、提供商类型、Endpoint、Service 实现和 RBAC 配置 |
|

ui/

| 基于 Vue 3 + Rsbuild 的控制台界面，用于提供商和模型的可视化管理 |

开发环境

• Java 21+

• Node.js 18+

• pnpm

• Docker（

  haloServer

  开发服务器需要）

开发

1. 启动 Halo 开发服务器（会自动构建并加载插件）

./gradlew haloServer

2. 启动前端开发服务器（需另开终端，默认 http://localhost:3000）

cd ui && pnpm install && pnpm dev

开发服务器启动后，访问

http://127.0.0.1:8090/console/

（默认账号 admin / admin）即可在控制台中看到「AI 模型配置」菜单。

修改后端代码后，需要重启开发容器：

docker rm halo-for-plugin-development -f && ./gradlew haloServer

修改后端 API 或字段后，重新生成前端 API 客户端：

./gradlew generateApiClient

构建

完整构建（后端 + 前端 + 测试）

./gradlew build

仅编译检查

./gradlew compileJava

运行测试

./gradlew test

构建完成后，插件 JAR 文件位于

app/build/libs/

目录。

其他插件集成

其他 Halo 插件可以通过依赖

api

模块来调用本插件提供的 AI 能力，包括文本生成、流式输出、工具调用、文本嵌入和结构化输出等。

本插件还提供了前端

AiModelSelector

组件，供其他插件在设置页中直接选择已配置的 AI 模型。

详细集成说明请参考 dev/dev.md。

许可证

GPL-3.0 © Halo

内容效果不满意？点此反馈