mirror of
https://github.com/zhenxun-org/zhenxun_bot.git
synced 2026-10-06 20:29:59 +08:00
* ✨ feat!(llm): 重构并升级大语言模型服务为全新 AI 智能体框架 - 【重构】将原 services/llm 重构并迁移至全新的 services/ai 架构,提供向下兼容垫片 - 【新增】引入 Agent、Team、Workflow 三大智能体与工作流编排范式 - 【新增】引入基于 RAG 的长期向量记忆与中期槽位记忆系统 - 【新增】引入基于 Docker 的安全代码执行沙箱环境 - 【新增】支持 MCP 协议,允许动态管理和调用 MCP 服务 - 【新增】引入输入输出安全合规护栏与自愈反思机制 - 【优化】重构并优化多厂商 API 适配器 (Gemini, OpenAI, DeepSeek, GLM 等) - 【优化】优化日志脱敏与 Token 预估机制 - 【移除】移除旧版 llm default 和 llm reset-key 命令,新增 llm mcp 管理命令 * 🔧 chore(deps): 更新项目依赖与配置 - 添加 mcp、jieba 和 aiodocker 依赖到配置文件及 requirements.txt - 在 pyright 配置中设置 reportMissingImports 为 none - 调整 .gitignore 中 resources 目录的忽略规则 * ♻️ refactor(tools): 重构工具终止机制并清理知识库日志输出 - 统一使用 `context.state["__end_run__"]` 替代 `EndRunResult` 控制任务结束 - 移除文件系统和向量知识库检索工具中 `ToolResult` 的 `.with_log` 调用 - 调整指令处理器(Directive)的返回值为 `tool_res.output` - 修复部分类型检查警告并优化联合类型判断语法 * ♻️ refactor(tools): 重构工具副作用指令与控制流熔断机制 - 引入 `DirectivePayload` 及 `ToolResult` 的子类以结构化表达工具副作用 - 移除通过 `context.state` 传递魔术变量的隐式控制流设计 - 重构 `DirectiveManager` 处理器接口,直接在处理器中修改 `AgentState` 并构建 `AgentRunResult` - 在 `StandardAgentExecutor` 中统一通过 `directive_manager` 调度工具返回的副作用指令 - 补全 `MessageBuilder` 中部分核心方法的文档注释 * 🐛 fix(sandbox): 修复 Docker 沙箱容器状态检测与会话清理逻辑 -【修复】修正 `is_alive` 中直接读取私有属性的问题,改用 `show()` 返回值 -【修复】解决 `execute_code` 中缓存的执行器与当前会话不一致的问题 -【优化】在清理工作区前增加容器存活检测,避免向已死容器发送请求 -【优化】创建容器时增加运行状态校验,若已停止则自动从缓存中移除并重建 -【优化】优化容器销毁和清理逻辑,静默处理容器不存在 (404) 的异常 * 📝 docs(core): 补充核心模块初始化方法的文档注释 * 🚨 auto fix by pre-commit hooks --------- Co-authored-by: webjoin111 <455457521@qq.com> Co-authored-by: pre-commit-ci[bot] <66853113+pre-commit-ci[bot]@users.noreply.github.com>
157 lines
6.2 KiB
Python
157 lines
6.2 KiB
Python
import asyncio
|
|
from typing import Any, cast
|
|
|
|
from zhenxun.services.ai.capabilities import AbstractCapability
|
|
from zhenxun.services.ai.capabilities.base import CapabilityOrdering
|
|
from zhenxun.services.ai.core.engine.structured_parser import (
|
|
BaseOutputProcessor,
|
|
SubmitFinalResultExecutable,
|
|
)
|
|
from zhenxun.services.ai.core.exceptions import UpstreamServerException
|
|
from zhenxun.services.ai.core.messages import TaskLifecycleEvent
|
|
from zhenxun.services.ai.core.options import BaseOutputDefinition, ToolOutput
|
|
from zhenxun.services.ai.run import AgentRunResult, RunContext, Task
|
|
from zhenxun.services.log import logger
|
|
|
|
|
|
class OutputValidationCapability(AbstractCapability):
|
|
"""输出拦截与校验能力组件 (支持纯文本及结构化护栏)"""
|
|
|
|
def get_ordering(self) -> Any:
|
|
from zhenxun.services.ai.capabilities.builtin import (
|
|
ReflexionCapability,
|
|
)
|
|
|
|
return CapabilityOrdering(wraps=[ReflexionCapability])
|
|
|
|
def __init__(
|
|
self,
|
|
output_type: Any | None = None,
|
|
guardrails: list[Any] | None = None,
|
|
raw_schema: dict[str, Any] | None = None,
|
|
):
|
|
self.output_type = output_type
|
|
self.raw_schema = raw_schema
|
|
|
|
from zhenxun.services.ai.guardrails import parse_guardrails
|
|
|
|
self.guardrails = parse_guardrails(guardrails)
|
|
self.processor = None
|
|
self.submit_tool = None
|
|
|
|
if self.output_type is not None:
|
|
if isinstance(self.output_type, BaseOutputDefinition):
|
|
out_type = self.output_type.type_
|
|
tool_name_override = (
|
|
self.output_type.name
|
|
if isinstance(self.output_type, ToolOutput)
|
|
else None
|
|
)
|
|
else:
|
|
out_type = cast(type[Any], self.output_type)
|
|
tool_name_override = None
|
|
|
|
self.processor = BaseOutputProcessor(
|
|
response_model=out_type,
|
|
)
|
|
self.submit_tool = SubmitFinalResultExecutable(
|
|
self.processor, self.guardrails
|
|
)
|
|
if tool_name_override:
|
|
self.submit_tool.name = tool_name_override
|
|
elif self.raw_schema is not None:
|
|
self.processor = BaseOutputProcessor(
|
|
response_model=None,
|
|
raw_schema=self.raw_schema,
|
|
)
|
|
self.submit_tool = SubmitFinalResultExecutable(
|
|
self.processor, self.guardrails
|
|
)
|
|
|
|
async def get_system_prompts(self, context: RunContext) -> list[str]:
|
|
"""动态注入结构化要求提示词"""
|
|
if self.submit_tool:
|
|
return [
|
|
"### ⚠️ [核心任务:结构化输出要求]\n"
|
|
"当前任务处于严格的 **结构化输出模式**。\n"
|
|
"当你完成所有调查和思考后,必须且只能调用 "
|
|
f"`{self.submit_tool.name}` 工具来提交最终结果,"
|
|
"禁止用纯文本直接作答。\n"
|
|
"(📌 提示:最终需要返回的数据结构要求,"
|
|
"请严格查阅并遵循 "
|
|
f"`{self.submit_tool.name}` 工具的参数 Schema 定义,"
|
|
"将其视为唯一的数据约束)"
|
|
]
|
|
return []
|
|
|
|
async def get_tools(self, context: RunContext) -> list[Any]:
|
|
"""动态挂载提交最终结果的工具"""
|
|
if self.submit_tool:
|
|
return [self.submit_tool]
|
|
return []
|
|
|
|
async def wrap_model_request(self, context, llm_context, handler):
|
|
"""将 Processor 和 Guardrails 传给底层的 IvrCapability"""
|
|
llm_context.request.extra["output_processor"] = self.processor
|
|
llm_context.request.extra["guardrails"] = self.guardrails
|
|
return await handler(llm_context)
|
|
|
|
async def wrap_run(self, context: RunContext, handler: Any) -> AgentRunResult[Any]:
|
|
"""运行结束后,校验是否成功提取了结构化数据"""
|
|
result = await handler()
|
|
if self.output_type is not None or self.raw_schema is not None:
|
|
if result.structured_data is not None:
|
|
result.output = result.structured_data
|
|
else:
|
|
tool_name = self.submit_tool.name if self.submit_tool else "unknown"
|
|
logger.error(f"Agent 未能调用 {tool_name} 提交结构化数据。")
|
|
raise UpstreamServerException(
|
|
"模型未能输出符合要求的结构化数据。",
|
|
)
|
|
return result
|
|
|
|
|
|
class TaskTrackingCapability(AbstractCapability):
|
|
"""数据契约任务状态追踪与事件遥测组件"""
|
|
|
|
def __init__(self, task: Task, agent_name: str):
|
|
self.task = task
|
|
self.agent_name = agent_name
|
|
|
|
async def wrap_run(self, context: RunContext, handler: Any) -> AgentRunResult[Any]:
|
|
"""任务生命周期追踪"""
|
|
|
|
task_name = self.task.name or self.task.id[:8]
|
|
logger.debug(f"📋 **开始任务**: `{task_name}` (由 {self.agent_name} 执行)")
|
|
context.run.add_event(TaskLifecycleEvent(task_name=task_name, action="start"))
|
|
try:
|
|
result = await handler()
|
|
logger.debug(f"✅ **任务完成**: `{task_name}`")
|
|
context.run.add_event(
|
|
TaskLifecycleEvent(task_name=task_name, action="complete")
|
|
)
|
|
return result
|
|
except asyncio.CancelledError as e:
|
|
logger.warning(f"⚠️ **任务被强制取消**: `{task_name}`")
|
|
context.run.add_event(
|
|
TaskLifecycleEvent(
|
|
task_name=task_name,
|
|
action="fail",
|
|
error_msg="任务执行被中止或取消",
|
|
)
|
|
)
|
|
raise e
|
|
except BaseException as error:
|
|
event_error = (
|
|
error if isinstance(error, Exception) else Exception(str(error))
|
|
)
|
|
logger.error(f"❌ **任务失败**: `{task_name}` - {event_error}")
|
|
context.run.add_event(
|
|
TaskLifecycleEvent(
|
|
task_name=task_name,
|
|
action="fail",
|
|
error_msg=str(event_error),
|
|
)
|
|
)
|
|
raise error
|