mirror of
https://github.com/zhenxun-org/zhenxun_bot.git
synced 2026-10-18 10:40:03 +08:00
✨ feat!(llm): 重构并升级大语言模型服务为全新 AI 智能体框架 (#2146)
* ✨ feat!(llm): 重构并升级大语言模型服务为全新 AI 智能体框架 - 【重构】将原 services/llm 重构并迁移至全新的 services/ai 架构,提供向下兼容垫片 - 【新增】引入 Agent、Team、Workflow 三大智能体与工作流编排范式 - 【新增】引入基于 RAG 的长期向量记忆与中期槽位记忆系统 - 【新增】引入基于 Docker 的安全代码执行沙箱环境 - 【新增】支持 MCP 协议,允许动态管理和调用 MCP 服务 - 【新增】引入输入输出安全合规护栏与自愈反思机制 - 【优化】重构并优化多厂商 API 适配器 (Gemini, OpenAI, DeepSeek, GLM 等) - 【优化】优化日志脱敏与 Token 预估机制 - 【移除】移除旧版 llm default 和 llm reset-key 命令,新增 llm mcp 管理命令 * 🔧 chore(deps): 更新项目依赖与配置 - 添加 mcp、jieba 和 aiodocker 依赖到配置文件及 requirements.txt - 在 pyright 配置中设置 reportMissingImports 为 none - 调整 .gitignore 中 resources 目录的忽略规则 * ♻️ refactor(tools): 重构工具终止机制并清理知识库日志输出 - 统一使用 `context.state["__end_run__"]` 替代 `EndRunResult` 控制任务结束 - 移除文件系统和向量知识库检索工具中 `ToolResult` 的 `.with_log` 调用 - 调整指令处理器(Directive)的返回值为 `tool_res.output` - 修复部分类型检查警告并优化联合类型判断语法 * ♻️ refactor(tools): 重构工具副作用指令与控制流熔断机制 - 引入 `DirectivePayload` 及 `ToolResult` 的子类以结构化表达工具副作用 - 移除通过 `context.state` 传递魔术变量的隐式控制流设计 - 重构 `DirectiveManager` 处理器接口,直接在处理器中修改 `AgentState` 并构建 `AgentRunResult` - 在 `StandardAgentExecutor` 中统一通过 `directive_manager` 调度工具返回的副作用指令 - 补全 `MessageBuilder` 中部分核心方法的文档注释 * 🐛 fix(sandbox): 修复 Docker 沙箱容器状态检测与会话清理逻辑 -【修复】修正 `is_alive` 中直接读取私有属性的问题,改用 `show()` 返回值 -【修复】解决 `execute_code` 中缓存的执行器与当前会话不一致的问题 -【优化】在清理工作区前增加容器存活检测,避免向已死容器发送请求 -【优化】创建容器时增加运行状态校验,若已停止则自动从缓存中移除并重建 -【优化】优化容器销毁和清理逻辑,静默处理容器不存在 (404) 的异常 * 📝 docs(core): 补充核心模块初始化方法的文档注释 * 🚨 auto fix by pre-commit hooks --------- Co-authored-by: webjoin111 <455457521@qq.com> Co-authored-by: pre-commit-ci[bot] <66853113+pre-commit-ci[bot]@users.noreply.github.com>
This commit is contained in:
co-authored by
webjoin111
pre-commit-ci[bot]
parent
bdc1374848
commit
80fc5b86a7
@@ -0,0 +1,103 @@
|
||||
from collections.abc import Callable
|
||||
from typing import TYPE_CHECKING, Any, Generic, cast
|
||||
from typing_extensions import TypeVar
|
||||
|
||||
from jinja2 import Environment
|
||||
|
||||
from zhenxun.services.log import logger
|
||||
from zhenxun.utils.pydantic_compat import model_dump
|
||||
|
||||
if TYPE_CHECKING:
|
||||
from zhenxun.services.ai.run.context import RunContext
|
||||
|
||||
AgentDepsT = TypeVar("AgentDepsT", default=Any)
|
||||
|
||||
|
||||
class PromptTemplate(Generic[AgentDepsT]):
|
||||
"""
|
||||
核心 Prompt 渲染引擎。
|
||||
基于 Jinja2 提供强大的模板变量替换功能。
|
||||
支持沙盒隔离的自定义过滤器(filters)、全局函数(globals),
|
||||
"""
|
||||
|
||||
def __init__(
|
||||
self,
|
||||
template_string: str,
|
||||
custom_filters: dict[str, Callable] | None = None,
|
||||
custom_globals: dict[str, Any] | None = None,
|
||||
):
|
||||
"""
|
||||
初始化 Prompt 渲染引擎。
|
||||
|
||||
参数:
|
||||
template_string: Jinja2 模板格式的提示词原文本。
|
||||
custom_filters: 挂载到 Jinja2 渲染环境的自定义过滤器字典,默认 None。
|
||||
custom_globals: 挂载到 Jinja2 渲染环境的全局变量或辅助函数字典,默认 None。
|
||||
"""
|
||||
self.template_string = template_string
|
||||
|
||||
self._env = Environment(autoescape=False)
|
||||
if custom_filters:
|
||||
self._env.filters.update(custom_filters)
|
||||
if custom_globals:
|
||||
self._env.globals.update(custom_globals)
|
||||
|
||||
try:
|
||||
self._template = (
|
||||
self._env.from_string(template_string) if template_string else None
|
||||
)
|
||||
except Exception as e:
|
||||
logger.error(f"PromptTemplate 模板语法编译失败: {e}")
|
||||
self._template = None
|
||||
|
||||
def format_with_context(self, context: "RunContext[AgentDepsT]") -> str:
|
||||
"""从运行上下文中自动提取依赖和状态字典,用于模板渲染"""
|
||||
|
||||
vars_dict: dict[str, Any] = {
|
||||
"ctx": context,
|
||||
"ctx_deps": context.deps,
|
||||
"ctx_state": context.state,
|
||||
"ctx_shared": context.shared_state,
|
||||
}
|
||||
|
||||
flat_deps = {}
|
||||
if context.deps is not None:
|
||||
if hasattr(context.deps, "model_dump"):
|
||||
flat_deps.update(model_dump(cast(Any, context.deps), exclude_none=True))
|
||||
elif hasattr(context.deps, "__dict__"):
|
||||
flat_deps.update(context.deps.__dict__)
|
||||
elif isinstance(context.deps, dict):
|
||||
flat_deps.update(context.deps)
|
||||
|
||||
vars_dict.update(flat_deps)
|
||||
|
||||
if context.state:
|
||||
collisions = set(flat_deps.keys()) & set(context.state.keys())
|
||||
if collisions:
|
||||
logger.warning(
|
||||
f"Prompt 模板变量发生名称冲突: {collisions}。"
|
||||
"`state` 已覆盖 `deps` 中的同名变量。"
|
||||
"建议在模板中使用安全隔离对象获取(如 {{ ctx_state.xxx }})。"
|
||||
)
|
||||
vars_dict.update(context.state)
|
||||
|
||||
return self.render(**vars_dict)
|
||||
|
||||
def render(self, **variables: Any) -> str:
|
||||
if not self._template:
|
||||
return self.template_string or ""
|
||||
|
||||
try:
|
||||
return self._template.render(**variables)
|
||||
except Exception as e:
|
||||
logger.error(
|
||||
f"Jinja2 Prompt 模板渲染失败!\n"
|
||||
f"错误信息: {e}\n"
|
||||
f"请检查传入的变量或 Prompt 模板语法是否有误。\n"
|
||||
f"模板原内容截断: {self.template_string[:150]}...",
|
||||
e=e,
|
||||
)
|
||||
raise ValueError(f"Prompt 模板渲染异常: {e}") from e
|
||||
|
||||
def __str__(self) -> str:
|
||||
return self.template_string
|
||||
Reference in New Issue
Block a user