mirror of
https://github.com/zhenxun-org/zhenxun_bot.git
synced 2026-10-04 11:20:01 +08:00
* ✨ feat!(llm): 重构并升级大语言模型服务为全新 AI 智能体框架 - 【重构】将原 services/llm 重构并迁移至全新的 services/ai 架构,提供向下兼容垫片 - 【新增】引入 Agent、Team、Workflow 三大智能体与工作流编排范式 - 【新增】引入基于 RAG 的长期向量记忆与中期槽位记忆系统 - 【新增】引入基于 Docker 的安全代码执行沙箱环境 - 【新增】支持 MCP 协议,允许动态管理和调用 MCP 服务 - 【新增】引入输入输出安全合规护栏与自愈反思机制 - 【优化】重构并优化多厂商 API 适配器 (Gemini, OpenAI, DeepSeek, GLM 等) - 【优化】优化日志脱敏与 Token 预估机制 - 【移除】移除旧版 llm default 和 llm reset-key 命令,新增 llm mcp 管理命令 * 🔧 chore(deps): 更新项目依赖与配置 - 添加 mcp、jieba 和 aiodocker 依赖到配置文件及 requirements.txt - 在 pyright 配置中设置 reportMissingImports 为 none - 调整 .gitignore 中 resources 目录的忽略规则 * ♻️ refactor(tools): 重构工具终止机制并清理知识库日志输出 - 统一使用 `context.state["__end_run__"]` 替代 `EndRunResult` 控制任务结束 - 移除文件系统和向量知识库检索工具中 `ToolResult` 的 `.with_log` 调用 - 调整指令处理器(Directive)的返回值为 `tool_res.output` - 修复部分类型检查警告并优化联合类型判断语法 * ♻️ refactor(tools): 重构工具副作用指令与控制流熔断机制 - 引入 `DirectivePayload` 及 `ToolResult` 的子类以结构化表达工具副作用 - 移除通过 `context.state` 传递魔术变量的隐式控制流设计 - 重构 `DirectiveManager` 处理器接口,直接在处理器中修改 `AgentState` 并构建 `AgentRunResult` - 在 `StandardAgentExecutor` 中统一通过 `directive_manager` 调度工具返回的副作用指令 - 补全 `MessageBuilder` 中部分核心方法的文档注释 * 🐛 fix(sandbox): 修复 Docker 沙箱容器状态检测与会话清理逻辑 -【修复】修正 `is_alive` 中直接读取私有属性的问题,改用 `show()` 返回值 -【修复】解决 `execute_code` 中缓存的执行器与当前会话不一致的问题 -【优化】在清理工作区前增加容器存活检测,避免向已死容器发送请求 -【优化】创建容器时增加运行状态校验,若已停止则自动从缓存中移除并重建 -【优化】优化容器销毁和清理逻辑,静默处理容器不存在 (404) 的异常 * 📝 docs(core): 补充核心模块初始化方法的文档注释 * 🚨 auto fix by pre-commit hooks --------- Co-authored-by: webjoin111 <455457521@qq.com> Co-authored-by: pre-commit-ci[bot] <66853113+pre-commit-ci[bot]@users.noreply.github.com>
154 lines
5.4 KiB
Python
154 lines
5.4 KiB
Python
from __future__ import annotations
|
|
|
|
from collections.abc import Awaitable, Callable, Sequence
|
|
from dataclasses import dataclass
|
|
from typing import TYPE_CHECKING, Any, ClassVar, Literal, Union
|
|
|
|
from zhenxun.services.ai.core.messages import ChatRequest, ChatResponse
|
|
from zhenxun.services.ai.core.options import GenerationConfig
|
|
|
|
if TYPE_CHECKING:
|
|
from zhenxun.services.ai.core.models import LLMContext
|
|
from zhenxun.services.ai.run import AgentRunResult, RunContext
|
|
|
|
WrapRunHandler = Callable[[], Awaitable["AgentRunResult[Any]"]]
|
|
"""整个 Agent 运行过程包裹的处理函数类型"""
|
|
|
|
WrapModelRequestHandler = Callable[
|
|
["LLMContext[ChatRequest, ChatResponse]"], Awaitable[ChatResponse]
|
|
]
|
|
"""单次大模型 API 请求包裹的处理函数类型"""
|
|
|
|
WrapToolValidateHandler = Callable[[str | dict[str, Any]], Awaitable[dict[str, Any]]]
|
|
"""工具参数校验过程包裹的处理函数类型"""
|
|
|
|
WrapToolExecuteHandler = Callable[[dict[str, Any]], Awaitable[Any]]
|
|
"""单一工具执行过程包裹的处理函数类型"""
|
|
|
|
|
|
CapabilityPosition = Literal["outermost", "innermost"]
|
|
"""Capability 在洋葱模型中的固定执行位置(最外层或最内层)"""
|
|
|
|
CapabilityRef = Union[type["AbstractCapability"], "AbstractCapability"]
|
|
"""对 Capability 的引用,可以是 Capability 实例或类类型"""
|
|
|
|
|
|
@dataclass
|
|
class CapabilityOrdering:
|
|
"""定义拦截器 (Capability) 的拓扑排序约束。
|
|
采用洋葱模型语义:排在列表前面的拦截器在最外层执行。
|
|
"""
|
|
|
|
position: CapabilityPosition | None = None
|
|
"""固定位置:outermost (最外层) 或 innermost (最内层)"""
|
|
wraps: Sequence[CapabilityRef] = ()
|
|
"""当前拦截器必须包裹(即在...之前执行)目标拦截器"""
|
|
wrapped_by: Sequence[CapabilityRef] = ()
|
|
"""当前拦截器必须被包裹(即在...之后执行)目标拦截器"""
|
|
requires: Sequence[type["AbstractCapability"]] = ()
|
|
"""当前拦截器依赖的其他拦截器类型,若缺失则报错"""
|
|
|
|
|
|
class AbstractCapability:
|
|
"""
|
|
Agent 能力组件基类协议。
|
|
所有业务逻辑拦截(限流、权限、动态 Prompt)请在此实现。
|
|
底层网络重试、并发控制等请勿在此处理。
|
|
"""
|
|
|
|
@classmethod
|
|
def get_serialization_name(cls) -> str | None:
|
|
"""用于 YAML/JSON 反序列化的注册标识符"""
|
|
return cls.__name__
|
|
|
|
@classmethod
|
|
def from_spec(cls, **kwargs) -> "AbstractCapability":
|
|
"""从 Spec 的 kwargs 中实例化对象"""
|
|
return cls(**kwargs)
|
|
|
|
def __init_subclass__(cls, **kwargs):
|
|
"""自动将继承此类的所有拦截器注册到中心表"""
|
|
super().__init_subclass__(**kwargs)
|
|
CapabilityRegistry.register(cls)
|
|
|
|
def get_ordering(self) -> CapabilityOrdering | None:
|
|
"""获取该拦截器的拓扑排序约束。子类可重写此方法以锁定执行顺序。"""
|
|
return None
|
|
|
|
async def for_run(self, context: RunContext) -> "AbstractCapability":
|
|
"""获取专用于单次运行的实例。
|
|
默认返回自身(无状态)。
|
|
若需要记录单次运行的上下文状态,请返回深/浅拷贝(如 return copy.copy(self))。
|
|
"""
|
|
return self
|
|
|
|
async def get_generation_config(
|
|
self, context: RunContext
|
|
) -> GenerationConfig | None:
|
|
"""运行开始前触发。允许动态下发大模型配置(覆盖或合并 Agent 的默认配置)。"""
|
|
return None
|
|
|
|
async def get_system_prompts(self, context: RunContext) -> list[str]:
|
|
return []
|
|
|
|
async def get_tools(self, context: RunContext) -> list[Any]:
|
|
return []
|
|
|
|
async def prepare_tools(
|
|
self, context: RunContext, tool_defs: list[Any]
|
|
) -> list[Any]:
|
|
"""运行开始前/装配工具时触发。允许动态增删改当前将发往大模型的工具列表。
|
|
默认实现:无操作,直接返回传入的工具列表。"""
|
|
return tool_defs
|
|
|
|
async def wrap_run(
|
|
self, context: RunContext, handler: WrapRunHandler
|
|
) -> "AgentRunResult[Any]":
|
|
"""包裹整个 Agent 运行过程 (洋葱模型)。"""
|
|
return await handler()
|
|
|
|
async def wrap_model_request(
|
|
self,
|
|
context: RunContext,
|
|
llm_context: LLMContext[ChatRequest, ChatResponse],
|
|
handler: WrapModelRequestHandler,
|
|
) -> ChatResponse:
|
|
"""包裹单次大模型 API 请求 (洋葱模型)。"""
|
|
return await handler(llm_context)
|
|
|
|
async def wrap_tool_validate(
|
|
self,
|
|
context: RunContext,
|
|
tool_name: str,
|
|
args: str | dict[str, Any],
|
|
handler: WrapToolValidateHandler,
|
|
) -> dict[str, Any]:
|
|
"""包裹工具的参数校验过程 (洋葱模型)。"""
|
|
return await handler(args)
|
|
|
|
async def wrap_tool_execute(
|
|
self,
|
|
context: RunContext,
|
|
tool_name: str,
|
|
arguments: dict[str, Any],
|
|
handler: WrapToolExecuteHandler,
|
|
) -> Any:
|
|
"""包裹单一工具的执行 (洋葱模型)。"""
|
|
return await handler(arguments)
|
|
|
|
|
|
class CapabilityRegistry:
|
|
"""Capability 序列化注册表"""
|
|
|
|
_registry: ClassVar[dict[str, type[AbstractCapability]]] = {}
|
|
|
|
@classmethod
|
|
def register(cls, cap_cls: type[AbstractCapability]):
|
|
name = cap_cls.get_serialization_name()
|
|
if name:
|
|
cls._registry[name] = cap_cls
|
|
|
|
@classmethod
|
|
def get(cls, name: str) -> type[AbstractCapability] | None:
|
|
return cls._registry.get(name)
|