mirror of
https://github.com/zhenxun-org/zhenxun_bot.git
synced 2026-10-13 16:10:05 +08:00
* ♻️ refactor(ai): 重构 AI 服务模块并完善文档注释 - 【重构】统一清理并优化所有 AI 服务模块文件的导入语句,将其移至文件顶部 - 【重构】重构 `hooks.py` 中的 `Hooks` 派发逻辑,使用通用管道函数消除重复代码,并引入 `HookPoint` 描述符 - 【重构】重构工具装饰器实现,新增 `toolkit` 类装饰器,优化 `BaseToolkit` 配置合并与前缀处理 - 【功能】Docker 沙箱容器创建时支持自动注入系统代理环境变量并配置 `ExtraHosts` - 【功能】Jupyter 服务启动前自动清理旧进程并初始化临时目录权限 - 【修复】优化 Pydantic 结构化输出校验失败时的错误信息提取,提供更详细的字段级错误反馈 - 【修复】在 `api.py` 中避免将 `ModelRetry` 和 `ControlFlowExit` 异常错误地包装为 `LLMException` - 【文档】为 AI 服务、沙箱、工具链、工作流等核心模块补充完整的 Docstring 和类型注释 * 📝 docs(ai): 补全核心模块文档注释并清理冗余代码 - 补全 `run/context`、`run/hooks` 和 `tools/engine/registry` 中类与方法的中文文档注释 - 清理 `tools/providers/builtin/sandbox` 中未使用的 `PythonPluginProtocol` 协议及相关导入 - 规范化部分代码的格式与尾随逗号 * ♻️ refactor!(flow): 重构 Task 为 AgentTask 并优化工作流元数据定义 - 【Breaking Change】将 `Task` 重命名为 `AgentTask` 以避免命名冲突 - 更新 Agent、Team、Workflow 等模块中的类型声明与相关逻辑 - 引入 `AutoNodeMeta` 强类型元数据,替换工作流装饰器中的裸字典定义 - 将 `StepMeta`、`ConditionMeta` 和 `RouterMeta` 统一移动至 `types.py` - 优化 `RunnableNode` 对上游 `AgentTask` 的处理与拼接逻辑 - 调整团队协作策略中 `FinishAction` 的返回值为完整结果对象 * ♻️ refactor(workflow): 移除人工确认机制并重构错误策略 - 移除工作流节点的人工确认(HITL)与挂起继续机制 - 删除 `auto` 自动化工作流及相关装饰器文件 - 将错误处理策略类从 `types.py` 拆分并移动到新文件 `policies.py` - 优化节点执行失败时的异常信息格式化输出 - 移除 `WorkflowRunResult` 和 `StepOutput` 中与挂起相关的状态字段 * 🚨 auto fix by pre-commit hooks --------- Co-authored-by: webjoin111 <455457521@qq.com> Co-authored-by: pre-commit-ci[bot] <66853113+pre-commit-ci[bot]@users.noreply.github.com>
123 lines
5.0 KiB
Python
123 lines
5.0 KiB
Python
import asyncio
|
|
from contextlib import asynccontextmanager
|
|
from typing import Any
|
|
|
|
from zhenxun.services.ai.core.exceptions import (
|
|
ConcurrencyRejectException,
|
|
InterventionHandledException,
|
|
)
|
|
from zhenxun.services.ai.core.models import CancellationToken
|
|
from zhenxun.services.ai.run.models import AgentTask
|
|
from zhenxun.services.ai.run.session import LockContext, session_manager
|
|
from zhenxun.services.log import logger
|
|
|
|
from .base import ConcurrencyPolicy, InterventionPolicy
|
|
|
|
|
|
@asynccontextmanager
|
|
async def apply_concurrency_policy(
|
|
session_id: str,
|
|
lock_id: str,
|
|
policy: ConcurrencyPolicy,
|
|
cancel_token: CancellationToken,
|
|
intervention_policy: Any = None,
|
|
message: Any = None,
|
|
):
|
|
"""
|
|
异步上下文管理器:对大模型执行流应用特定的并发及消息干预调度策略。
|
|
负责请求互斥锁竞争、任务中断/拒绝处理,以及运行时用户实时指令的插队控制。
|
|
|
|
参数:
|
|
session_id: 当前会话的唯一标识,用于在会话管理器中隔离上下文。
|
|
lock_id: 当前锁域标识,决定了哪些 Agent 或任务使用同一套互斥锁竞争机制。
|
|
policy: 当发生并发锁占用时执行的策略(允许、拒绝、中断、排队)。
|
|
cancel_token: 运行时用于监听取消请求的取消令牌实例。
|
|
intervention_policy: 用户消息干预策略(转向、追加)。
|
|
message: 并发竞争发生时新入站的用户请求消息或 AgentTask 载荷。
|
|
|
|
返回:
|
|
AsyncGenerator: 返回异步生成器,供 async with 消费,包裹大模型的整个执行环节。
|
|
"""
|
|
|
|
current_task = asyncio.current_task()
|
|
task_tuple = (cancel_token, current_task)
|
|
if session_id not in session_manager.live_tasks:
|
|
session_manager.live_tasks[session_id] = []
|
|
session_manager.live_tasks[session_id].append(task_tuple)
|
|
|
|
try:
|
|
exec_lock = session_manager.get_exec_lock(lock_id)
|
|
lock_ctx = session_manager.lock_contexts.setdefault(lock_id, LockContext())
|
|
|
|
if exec_lock.locked():
|
|
if intervention_policy in (
|
|
InterventionPolicy.STEER,
|
|
InterventionPolicy.FOLLOW_UP,
|
|
):
|
|
session = await session_manager.get_or_create(session_id)
|
|
|
|
actual_msg = message
|
|
|
|
if isinstance(message, AgentTask):
|
|
actual_msg = message.description
|
|
elif hasattr(message, "extract_plain_text"):
|
|
actual_msg = message.extract_plain_text()
|
|
|
|
if intervention_policy == InterventionPolicy.STEER:
|
|
session.steer_queue.enqueue(str(actual_msg))
|
|
raise InterventionHandledException(
|
|
"Steer successful",
|
|
display_content="💬 已将您的补充信息传递给正在思考的 AI...",
|
|
)
|
|
elif intervention_policy == InterventionPolicy.FOLLOW_UP:
|
|
session.follow_up_queue.enqueue(str(actual_msg))
|
|
raise InterventionHandledException(
|
|
"Follow-up successful",
|
|
display_content="📝 已记录,AI 处理完当前任务后即刻执行...",
|
|
)
|
|
|
|
if policy == ConcurrencyPolicy.ALLOW:
|
|
yield
|
|
return
|
|
|
|
if policy == ConcurrencyPolicy.REJECT:
|
|
if exec_lock.locked():
|
|
raise ConcurrencyRejectException(
|
|
f"并发域 {lock_id} 正忙,新请求被拒绝。"
|
|
)
|
|
|
|
elif policy == ConcurrencyPolicy.INTERRUPT:
|
|
if exec_lock.locked():
|
|
if lock_ctx.cancel_token:
|
|
lock_ctx.cancel_token.cancel()
|
|
if lock_ctx.active_task and not lock_ctx.active_task.done():
|
|
lock_ctx.active_task.cancel()
|
|
|
|
elif policy == ConcurrencyPolicy.QUEUE:
|
|
if exec_lock.locked():
|
|
logger.info(
|
|
f"⏳ [并发控制] 锁域 {lock_id} 被占用,"
|
|
"新请求已进入后台等待队列 (QUEUE)..."
|
|
)
|
|
|
|
async with exec_lock:
|
|
session = await session_manager.get_or_create(session_id)
|
|
session.active_task = asyncio.current_task()
|
|
session.cancel_token = cancel_token
|
|
|
|
lock_ctx.active_task = asyncio.current_task()
|
|
lock_ctx.cancel_token = cancel_token
|
|
try:
|
|
yield
|
|
finally:
|
|
session.active_task = None
|
|
session.cancel_token = None
|
|
lock_ctx.active_task = None
|
|
lock_ctx.cancel_token = None
|
|
finally:
|
|
if session_id in session_manager.live_tasks:
|
|
if task_tuple in session_manager.live_tasks[session_id]:
|
|
session_manager.live_tasks[session_id].remove(task_tuple)
|
|
if not session_manager.live_tasks[session_id]:
|
|
del session_manager.live_tasks[session_id]
|