Diuse/zhenxun_bot
1
0
Fork 0
mirror of https://github.com/zhenxun-org/zhenxun_bot.git synced 2025-12-15 14:22:55 +08:00
Code Issues Actions 7 Packages Projects Releases Wiki Activity
b50dacec00
zhenxun_bot/zhenxun/services/llm/config/__init__.py

36 lines
705 B
Python
Raw Normal View History

✨ feat(llm): 实现LLM服务模块，支持多提供商统一接口和高级功能 (#1923) * ✨ feat(llm): 实现LLM服务模块，支持多提供商统一接口和高级功能 * 🎨 Ruff * :sparkles: Config配置类支持BaseModel存储 * :art: 代码格式化 * :art: 代码格式化 * :art: 格式化代码 * ✨ feat(llm): 添加 AI 对话历史管理 * ✨ feat(llmConfig): 引入 LLM 配置模型及管理功能 * 🎨 Ruff --------- Co-authored-by: fccckaug <xxxmio123123@gmail.com> Co-authored-by: HibiKier <45528451+HibiKier@users.noreply.github.com> Co-authored-by: HibiKier <775757368@qq.com> Co-authored-by: fccckaug <xxxmcsmiomio3@gmail.com> Co-authored-by: webjoin111 <455457521@qq.com>
2025-06-21 16:33:21 +08:00
"""
LLM 配置模块
提供生成配置、预设配置和配置验证功能。
"""
from .generation import (
♻️ refactor(llm): 重构 LLM 服务架构，引入中间件与组件化适配器 - 【重构】LLM 服务核心架构： - 引入中间件管道，统一处理请求生命周期（重试、密钥选择、日志、网络请求）。 - 适配器重构为组件化设计，分离配置映射、消息转换、响应解析和工具序列化逻辑。 - 移除 `with_smart_retry` 装饰器，其功能由中间件接管。 - 移除 `LLMToolExecutor`，工具执行逻辑集成到 `ToolInvoker`。 - 【功能】增强配置系统： - `LLMGenerationConfig` 采用组件化结构（Core, Reasoning, Visual, Output, Safety, ToolConfig）。 - 新增 `GenConfigBuilder` 提供语义化配置构建方式。 - 新增 `LLMEmbeddingConfig` 用于嵌入专用配置。 - `CommonOverrides` 迁移并更新至新配置结构。 - 【功能】强化工具系统： - 引入 `ToolInvoker` 实现更灵活的工具执行，支持回调与结构化错误。 - `function_tool` 装饰器支持动态 Pydantic 模型创建和依赖注入 (`ToolParam`, `RunContext`)。 - 平台原生工具支持 (`GeminiCodeExecution`, `GeminiGoogleSearch`, `GeminiUrlContext`)。 - 【功能】高级生成与嵌入： - `generate_structured` 方法支持 In-Context Validation and Repair (IVR) 循环和 AutoCoT (思维链) 包装。 - 新增 `embed_query` 和 `embed_documents` 便捷嵌入 API。 - `OpenAIImageAdapter` 支持 OpenAI 兼容的图像生成。 - `SmartAdapter` 实现模型名称智能路由。 - 【重构】消息与类型系统： - `LLMContentPart` 扩展支持更多模态和代码执行相关内容。 - `LLMMessage` 和 `LLMResponse` 结构更新，支持 `content_parts` 和思维链签名。 - 统一 `LLMErrorCode` 和用户友好错误消息，提供更详细的网络/代理错误提示。 - `pyproject.toml` 移除 `bilireq`，新增 `json_repair`。 - 【优化】日志与调试： - 引入 `DebugLogOptions`，提供细粒度日志脱敏控制。 - 增强日志净化器，处理更多敏感数据和长字符串。 - 【清理】删除废弃模块： - `zhenxun/services/llm/memory.py` - `zhenxun/services/llm/executor.py` - `zhenxun/services/llm/config/presets.py` - `zhenxun/services/llm/types/content.py` - `zhenxun/services/llm/types/enums.py` - `zhenxun/services/llm/tools/__init__.py` - `zhenxun/services/llm/tools/manager.py`
2025-12-07 18:57:55 +08:00
CommonOverrides,
GenConfigBuilder,
LLMEmbeddingConfig,
✨ feat(llm): 实现LLM服务模块，支持多提供商统一接口和高级功能 (#1923) * ✨ feat(llm): 实现LLM服务模块，支持多提供商统一接口和高级功能 * 🎨 Ruff * :sparkles: Config配置类支持BaseModel存储 * :art: 代码格式化 * :art: 代码格式化 * :art: 格式化代码 * ✨ feat(llm): 添加 AI 对话历史管理 * ✨ feat(llmConfig): 引入 LLM 配置模型及管理功能 * 🎨 Ruff --------- Co-authored-by: fccckaug <xxxmio123123@gmail.com> Co-authored-by: HibiKier <45528451+HibiKier@users.noreply.github.com> Co-authored-by: HibiKier <775757368@qq.com> Co-authored-by: fccckaug <xxxmcsmiomio3@gmail.com> Co-authored-by: webjoin111 <455457521@qq.com>
2025-06-21 16:33:21 +08:00
LLMGenerationConfig,
validate_override_params,
)
from .providers import (
LLMConfig,
✨ feat(llm): 全面重构LLM服务模块，增强多模态与工具支持 (#1953) * ✨ feat(llm): 全面重构LLM服务模块，增强多模态与工具支持 🚀 核心功能增强 - 多模型链式调用：新增 `pipeline_chat` 支持复杂任务流处理 - 扩展提供商支持：新增 ARK(火山方舟)、SiliconFlow(硅基流动) 适配器 - 多模态处理增强：支持URL媒体文件下载转换，提升输入灵活性 - 历史对话支持：AI.analyze 方法支持历史消息上下文和可选 UniMessage 参数 - 文本嵌入功能：新增 `embed`、`analyze_multimodal`、`search_multimodal` 等API - 模型能力系统：新增 `ModelCapabilities` 统一管理模型特性（多模态、工具调用等） 🔧 架构重构与优化 - MCP工具系统重构：配置独立化至 `data/llm/mcp_tools.json`，预置常用工具 - API调用逻辑统一：提取通用 `_perform_api_call` 方法，消除代码重复 - 跨平台兼容：Windows平台MCP工具npx命令自动包装处理 - HTTP客户端增强：兼容不同版本httpx代理配置（0.28+版本适配） 🛠️ API与配置完善 - 统一返回类型：`AI.analyze` 统一返回 `LLMResponse` 类型 - 消息转换工具：新增 `message_to_unimessage` 转换函数 - Gemini适配器增强：URL图片下载编码、动态安全阈值配置 - 缓存管理：新增模型实例缓存和管理功能 - 配置预设：扩展 CommonOverrides 预设配置选项 - 历史管理优化：支持多模态内容占位符替换，提升效率 📚 文档与开发体验 - README全面重写：新增完整使用指南、API参考和架构概览 - 文档内容扩充：补充嵌入模型、缓存管理、工具注册等功能说明 - 日志记录增强：支持详细调试信息输出 - API简化：移除冗余函数，优化接口设计 * 🎨 feat(llm): 统一LLM服务函数文档格式 * ✨ feat(llm): 添加新模型并简化提供者配置加载 * :rotating_light: auto fix by pre-commit hooks --------- Co-authored-by: webjoin111 <455457521@qq.com> Co-authored-by: pre-commit-ci[bot] <66853113+pre-commit-ci[bot]@users.noreply.github.com>
2025-07-08 11:15:15 +08:00
get_gemini_safety_threshold,
✨ feat(llm): 实现LLM服务模块，支持多提供商统一接口和高级功能 (#1923) * ✨ feat(llm): 实现LLM服务模块，支持多提供商统一接口和高级功能 * 🎨 Ruff * :sparkles: Config配置类支持BaseModel存储 * :art: 代码格式化 * :art: 代码格式化 * :art: 格式化代码 * ✨ feat(llm): 添加 AI 对话历史管理 * ✨ feat(llmConfig): 引入 LLM 配置模型及管理功能 * 🎨 Ruff --------- Co-authored-by: fccckaug <xxxmio123123@gmail.com> Co-authored-by: HibiKier <45528451+HibiKier@users.noreply.github.com> Co-authored-by: HibiKier <775757368@qq.com> Co-authored-by: fccckaug <xxxmcsmiomio3@gmail.com> Co-authored-by: webjoin111 <455457521@qq.com>
2025-06-21 16:33:21 +08:00
get_llm_config,
register_llm_configs,
set_default_model,
validate_llm_config,
)
__all__ = [
"CommonOverrides",
♻️ refactor(llm): 重构 LLM 服务架构，引入中间件与组件化适配器 - 【重构】LLM 服务核心架构： - 引入中间件管道，统一处理请求生命周期（重试、密钥选择、日志、网络请求）。 - 适配器重构为组件化设计，分离配置映射、消息转换、响应解析和工具序列化逻辑。 - 移除 `with_smart_retry` 装饰器，其功能由中间件接管。 - 移除 `LLMToolExecutor`，工具执行逻辑集成到 `ToolInvoker`。 - 【功能】增强配置系统： - `LLMGenerationConfig` 采用组件化结构（Core, Reasoning, Visual, Output, Safety, ToolConfig）。 - 新增 `GenConfigBuilder` 提供语义化配置构建方式。 - 新增 `LLMEmbeddingConfig` 用于嵌入专用配置。 - `CommonOverrides` 迁移并更新至新配置结构。 - 【功能】强化工具系统： - 引入 `ToolInvoker` 实现更灵活的工具执行，支持回调与结构化错误。 - `function_tool` 装饰器支持动态 Pydantic 模型创建和依赖注入 (`ToolParam`, `RunContext`)。 - 平台原生工具支持 (`GeminiCodeExecution`, `GeminiGoogleSearch`, `GeminiUrlContext`)。 - 【功能】高级生成与嵌入： - `generate_structured` 方法支持 In-Context Validation and Repair (IVR) 循环和 AutoCoT (思维链) 包装。 - 新增 `embed_query` 和 `embed_documents` 便捷嵌入 API。 - `OpenAIImageAdapter` 支持 OpenAI 兼容的图像生成。 - `SmartAdapter` 实现模型名称智能路由。 - 【重构】消息与类型系统： - `LLMContentPart` 扩展支持更多模态和代码执行相关内容。 - `LLMMessage` 和 `LLMResponse` 结构更新，支持 `content_parts` 和思维链签名。 - 统一 `LLMErrorCode` 和用户友好错误消息，提供更详细的网络/代理错误提示。 - `pyproject.toml` 移除 `bilireq`，新增 `json_repair`。 - 【优化】日志与调试： - 引入 `DebugLogOptions`，提供细粒度日志脱敏控制。 - 增强日志净化器，处理更多敏感数据和长字符串。 - 【清理】删除废弃模块： - `zhenxun/services/llm/memory.py` - `zhenxun/services/llm/executor.py` - `zhenxun/services/llm/config/presets.py` - `zhenxun/services/llm/types/content.py` - `zhenxun/services/llm/types/enums.py` - `zhenxun/services/llm/tools/__init__.py` - `zhenxun/services/llm/tools/manager.py`
2025-12-07 18:57:55 +08:00
"GenConfigBuilder",
✨ feat(llm): 实现LLM服务模块，支持多提供商统一接口和高级功能 (#1923) * ✨ feat(llm): 实现LLM服务模块，支持多提供商统一接口和高级功能 * 🎨 Ruff * :sparkles: Config配置类支持BaseModel存储 * :art: 代码格式化 * :art: 代码格式化 * :art: 格式化代码 * ✨ feat(llm): 添加 AI 对话历史管理 * ✨ feat(llmConfig): 引入 LLM 配置模型及管理功能 * 🎨 Ruff --------- Co-authored-by: fccckaug <xxxmio123123@gmail.com> Co-authored-by: HibiKier <45528451+HibiKier@users.noreply.github.com> Co-authored-by: HibiKier <775757368@qq.com> Co-authored-by: fccckaug <xxxmcsmiomio3@gmail.com> Co-authored-by: webjoin111 <455457521@qq.com>
2025-06-21 16:33:21 +08:00
"LLMConfig",
♻️ refactor(llm): 重构 LLM 服务架构，引入中间件与组件化适配器 - 【重构】LLM 服务核心架构： - 引入中间件管道，统一处理请求生命周期（重试、密钥选择、日志、网络请求）。 - 适配器重构为组件化设计，分离配置映射、消息转换、响应解析和工具序列化逻辑。 - 移除 `with_smart_retry` 装饰器，其功能由中间件接管。 - 移除 `LLMToolExecutor`，工具执行逻辑集成到 `ToolInvoker`。 - 【功能】增强配置系统： - `LLMGenerationConfig` 采用组件化结构（Core, Reasoning, Visual, Output, Safety, ToolConfig）。 - 新增 `GenConfigBuilder` 提供语义化配置构建方式。 - 新增 `LLMEmbeddingConfig` 用于嵌入专用配置。 - `CommonOverrides` 迁移并更新至新配置结构。 - 【功能】强化工具系统： - 引入 `ToolInvoker` 实现更灵活的工具执行，支持回调与结构化错误。 - `function_tool` 装饰器支持动态 Pydantic 模型创建和依赖注入 (`ToolParam`, `RunContext`)。 - 平台原生工具支持 (`GeminiCodeExecution`, `GeminiGoogleSearch`, `GeminiUrlContext`)。 - 【功能】高级生成与嵌入： - `generate_structured` 方法支持 In-Context Validation and Repair (IVR) 循环和 AutoCoT (思维链) 包装。 - 新增 `embed_query` 和 `embed_documents` 便捷嵌入 API。 - `OpenAIImageAdapter` 支持 OpenAI 兼容的图像生成。 - `SmartAdapter` 实现模型名称智能路由。 - 【重构】消息与类型系统： - `LLMContentPart` 扩展支持更多模态和代码执行相关内容。 - `LLMMessage` 和 `LLMResponse` 结构更新，支持 `content_parts` 和思维链签名。 - 统一 `LLMErrorCode` 和用户友好错误消息，提供更详细的网络/代理错误提示。 - `pyproject.toml` 移除 `bilireq`，新增 `json_repair`。 - 【优化】日志与调试： - 引入 `DebugLogOptions`，提供细粒度日志脱敏控制。 - 增强日志净化器，处理更多敏感数据和长字符串。 - 【清理】删除废弃模块： - `zhenxun/services/llm/memory.py` - `zhenxun/services/llm/executor.py` - `zhenxun/services/llm/config/presets.py` - `zhenxun/services/llm/types/content.py` - `zhenxun/services/llm/types/enums.py` - `zhenxun/services/llm/tools/__init__.py` - `zhenxun/services/llm/tools/manager.py`
2025-12-07 18:57:55 +08:00
"LLMEmbeddingConfig",
✨ feat(llm): 实现LLM服务模块，支持多提供商统一接口和高级功能 (#1923) * ✨ feat(llm): 实现LLM服务模块，支持多提供商统一接口和高级功能 * 🎨 Ruff * :sparkles: Config配置类支持BaseModel存储 * :art: 代码格式化 * :art: 代码格式化 * :art: 格式化代码 * ✨ feat(llm): 添加 AI 对话历史管理 * ✨ feat(llmConfig): 引入 LLM 配置模型及管理功能 * 🎨 Ruff --------- Co-authored-by: fccckaug <xxxmio123123@gmail.com> Co-authored-by: HibiKier <45528451+HibiKier@users.noreply.github.com> Co-authored-by: HibiKier <775757368@qq.com> Co-authored-by: fccckaug <xxxmcsmiomio3@gmail.com> Co-authored-by: webjoin111 <455457521@qq.com>
2025-06-21 16:33:21 +08:00
"LLMGenerationConfig",
✨ feat(llm): 全面重构LLM服务模块，增强多模态与工具支持 (#1953) * ✨ feat(llm): 全面重构LLM服务模块，增强多模态与工具支持 🚀 核心功能增强 - 多模型链式调用：新增 `pipeline_chat` 支持复杂任务流处理 - 扩展提供商支持：新增 ARK(火山方舟)、SiliconFlow(硅基流动) 适配器 - 多模态处理增强：支持URL媒体文件下载转换，提升输入灵活性 - 历史对话支持：AI.analyze 方法支持历史消息上下文和可选 UniMessage 参数 - 文本嵌入功能：新增 `embed`、`analyze_multimodal`、`search_multimodal` 等API - 模型能力系统：新增 `ModelCapabilities` 统一管理模型特性（多模态、工具调用等） 🔧 架构重构与优化 - MCP工具系统重构：配置独立化至 `data/llm/mcp_tools.json`，预置常用工具 - API调用逻辑统一：提取通用 `_perform_api_call` 方法，消除代码重复 - 跨平台兼容：Windows平台MCP工具npx命令自动包装处理 - HTTP客户端增强：兼容不同版本httpx代理配置（0.28+版本适配） 🛠️ API与配置完善 - 统一返回类型：`AI.analyze` 统一返回 `LLMResponse` 类型 - 消息转换工具：新增 `message_to_unimessage` 转换函数 - Gemini适配器增强：URL图片下载编码、动态安全阈值配置 - 缓存管理：新增模型实例缓存和管理功能 - 配置预设：扩展 CommonOverrides 预设配置选项 - 历史管理优化：支持多模态内容占位符替换，提升效率 📚 文档与开发体验 - README全面重写：新增完整使用指南、API参考和架构概览 - 文档内容扩充：补充嵌入模型、缓存管理、工具注册等功能说明 - 日志记录增强：支持详细调试信息输出 - API简化：移除冗余函数，优化接口设计 * 🎨 feat(llm): 统一LLM服务函数文档格式 * ✨ feat(llm): 添加新模型并简化提供者配置加载 * :rotating_light: auto fix by pre-commit hooks --------- Co-authored-by: webjoin111 <455457521@qq.com> Co-authored-by: pre-commit-ci[bot] <66853113+pre-commit-ci[bot]@users.noreply.github.com>
2025-07-08 11:15:15 +08:00
"get_gemini_safety_threshold",
✨ feat(llm): 实现LLM服务模块，支持多提供商统一接口和高级功能 (#1923) * ✨ feat(llm): 实现LLM服务模块，支持多提供商统一接口和高级功能 * 🎨 Ruff * :sparkles: Config配置类支持BaseModel存储 * :art: 代码格式化 * :art: 代码格式化 * :art: 格式化代码 * ✨ feat(llm): 添加 AI 对话历史管理 * ✨ feat(llmConfig): 引入 LLM 配置模型及管理功能 * 🎨 Ruff --------- Co-authored-by: fccckaug <xxxmio123123@gmail.com> Co-authored-by: HibiKier <45528451+HibiKier@users.noreply.github.com> Co-authored-by: HibiKier <775757368@qq.com> Co-authored-by: fccckaug <xxxmcsmiomio3@gmail.com> Co-authored-by: webjoin111 <455457521@qq.com>
2025-06-21 16:33:21 +08:00
"get_llm_config",
"register_llm_configs",
"set_default_model",
"validate_llm_config",
"validate_override_params",
]
Reference in New Issue Copy Permalink