zhenxun_bot/zhenxun/services
Rumio 46a0768a45
feat(llm): 新增LLM模型管理插件并增强API密钥管理 (#1972)
🔧 新增功能:
- LLM模型管理插件 (builtin_plugins/llm_manager/)
  • llm list - 查看可用模型列表 (图片格式)
  • llm info - 查看模型详细信息 (Markdown图片)
  • llm default - 管理全局默认模型
  • llm test - 测试模型连通性
  • llm keys - 查看API Key状态 (表格图片,含健康度/成功率/延迟)
  • llm reset-key - 重置API Key失败状态

🏗️ 架构重构:
- 会话管理: AI/AIConfig 类迁移至独立的 session.py
- 类型定义: TaskType 枚举移至 types/enums.py
- API增强:
  • chat() 函数返回完整 LLMResponse,支持工具调用
  • 新增 generate() 函数用于一次性响应生成
  • 统一API调用核心方法 _perform_api_call,返回使用的API密钥

🚀 密钥管理增强:
- 详细状态跟踪: 健康度、成功率、平均延迟、错误信息、建议操作
- 状态持久化: 启动时加载,关闭时自动保存密钥状态
- 智能冷却策略: 根据错误类型设置不同冷却时间
- 延迟监控: with_smart_retry 记录API调用延迟并更新统计

Co-authored-by: webjoin111 <455457521@qq.com>
Co-authored-by: HibiKier <45528451+HibiKier@users.noreply.github.com>
2025-07-14 22:39:17 +08:00
..
cache 引入缓存机制 (#1889) 2025-07-14 22:35:29 +08:00
llm feat(llm): 新增LLM模型管理插件并增强API密钥管理 (#1972) 2025-07-14 22:39:17 +08:00
scheduler ♻️ refactor(scheduler): 重构定时任务服务架构并增强用户体验 (#1967) 2025-07-10 22:20:08 +08:00
__init__.py feat(llm): 新增LLM模型管理插件并增强API密钥管理 (#1972) 2025-07-14 22:39:17 +08:00
data_access.py 引入缓存机制 (#1889) 2025-07-14 22:35:29 +08:00
db_context.py 引入缓存机制 (#1889) 2025-07-14 22:35:29 +08:00
log.py 优化日志记录器,简化日志文件命名和模板解析逻辑 2025-06-17 09:16:22 +08:00
plugin_init.py 首次启动时提供使用web ui方式完全配置 (#1870) 2025-06-16 09:11:41 +08:00