本地模型入口与 AI 应用观测

围绕 AI 应用配置模型访问入口，并记录调用与评估信息辅助维护。

怎么选

聊天入口、模型网关与观测平台分工不同；先确认接口兼容、模型运行位置和日志中可能包含的数据。

相关软件

• AQBot：AQBot 是面向开发者与高级用户的开源 AI 桌面客户端，支持多模型连接、Agent、MCP、本地知识库与本地 API 网关。

• Langfuse：Langfuse 是开源 AI 工程平台，提供 LLM 应用追踪、提示词版本管理、数据集实验与质量评估；支持 Cloud 与自托管部署。

• Open WebUI：Open WebUI 是可自托管的 AI Web 平台，可连接 Ollama 和 OpenAI 兼容 API；v0.12.2 增加 MinerU 4.x 支持、修订比较和模型 ID 自定义请求头等功能。

使用前确认

打开软件详情页，核对支持的平台、安装渠道、许可证和费用。已有配置、文档或项目需要迁移时，先保留副本，再用少量文件确认工具是否适合当前任务。