Files
zhenxun_bot/zhenxun/services/ai/flow/concurrency.py
T
0b32d69c9c ♻️ refactor(tools): 重构工具装饰器系统并优化沙箱与文档注释 (#2147)
* ♻️ refactor(ai): 重构 AI 服务模块并完善文档注释

- 【重构】统一清理并优化所有 AI 服务模块文件的导入语句,将其移至文件顶部
- 【重构】重构 `hooks.py` 中的 `Hooks` 派发逻辑,使用通用管道函数消除重复代码,并引入 `HookPoint` 描述符
- 【重构】重构工具装饰器实现,新增 `toolkit` 类装饰器,优化 `BaseToolkit` 配置合并与前缀处理
- 【功能】Docker 沙箱容器创建时支持自动注入系统代理环境变量并配置 `ExtraHosts`
- 【功能】Jupyter 服务启动前自动清理旧进程并初始化临时目录权限
- 【修复】优化 Pydantic 结构化输出校验失败时的错误信息提取,提供更详细的字段级错误反馈
- 【修复】在 `api.py` 中避免将 `ModelRetry` 和 `ControlFlowExit` 异常错误地包装为 `LLMException`
- 【文档】为 AI 服务、沙箱、工具链、工作流等核心模块补充完整的 Docstring 和类型注释

* 📝 docs(ai): 补全核心模块文档注释并清理冗余代码

- 补全 `run/context`、`run/hooks` 和 `tools/engine/registry` 中类与方法的中文文档注释
- 清理 `tools/providers/builtin/sandbox` 中未使用的 `PythonPluginProtocol` 协议及相关导入
- 规范化部分代码的格式与尾随逗号

* ♻️ refactor!(flow): 重构 Task 为 AgentTask 并优化工作流元数据定义

- 【Breaking Change】将 `Task` 重命名为 `AgentTask` 以避免命名冲突
- 更新 Agent、Team、Workflow 等模块中的类型声明与相关逻辑
- 引入 `AutoNodeMeta` 强类型元数据,替换工作流装饰器中的裸字典定义
- 将 `StepMeta`、`ConditionMeta` 和 `RouterMeta` 统一移动至 `types.py`
- 优化 `RunnableNode` 对上游 `AgentTask` 的处理与拼接逻辑
- 调整团队协作策略中 `FinishAction` 的返回值为完整结果对象

* ♻️ refactor(workflow): 移除人工确认机制并重构错误策略

- 移除工作流节点的人工确认(HITL)与挂起继续机制
- 删除 `auto` 自动化工作流及相关装饰器文件
- 将错误处理策略类从 `types.py` 拆分并移动到新文件 `policies.py`
- 优化节点执行失败时的异常信息格式化输出
- 移除 `WorkflowRunResult` 和 `StepOutput` 中与挂起相关的状态字段

* 🚨 auto fix by pre-commit hooks

---------

Co-authored-by: webjoin111 <455457521@qq.com>
Co-authored-by: pre-commit-ci[bot] <66853113+pre-commit-ci[bot]@users.noreply.github.com>
2026-07-05 11:47:21 +08:00

123 lines
5.0 KiB
Python

import asyncio
from contextlib import asynccontextmanager
from typing import Any
from zhenxun.services.ai.core.exceptions import (
ConcurrencyRejectException,
InterventionHandledException,
)
from zhenxun.services.ai.core.models import CancellationToken
from zhenxun.services.ai.run.models import AgentTask
from zhenxun.services.ai.run.session import LockContext, session_manager
from zhenxun.services.log import logger
from .base import ConcurrencyPolicy, InterventionPolicy
@asynccontextmanager
async def apply_concurrency_policy(
session_id: str,
lock_id: str,
policy: ConcurrencyPolicy,
cancel_token: CancellationToken,
intervention_policy: Any = None,
message: Any = None,
):
"""
异步上下文管理器:对大模型执行流应用特定的并发及消息干预调度策略。
负责请求互斥锁竞争、任务中断/拒绝处理,以及运行时用户实时指令的插队控制。
参数:
session_id: 当前会话的唯一标识,用于在会话管理器中隔离上下文。
lock_id: 当前锁域标识,决定了哪些 Agent 或任务使用同一套互斥锁竞争机制。
policy: 当发生并发锁占用时执行的策略(允许、拒绝、中断、排队)。
cancel_token: 运行时用于监听取消请求的取消令牌实例。
intervention_policy: 用户消息干预策略(转向、追加)。
message: 并发竞争发生时新入站的用户请求消息或 AgentTask 载荷。
返回:
AsyncGenerator: 返回异步生成器,供 async with 消费,包裹大模型的整个执行环节。
"""
current_task = asyncio.current_task()
task_tuple = (cancel_token, current_task)
if session_id not in session_manager.live_tasks:
session_manager.live_tasks[session_id] = []
session_manager.live_tasks[session_id].append(task_tuple)
try:
exec_lock = session_manager.get_exec_lock(lock_id)
lock_ctx = session_manager.lock_contexts.setdefault(lock_id, LockContext())
if exec_lock.locked():
if intervention_policy in (
InterventionPolicy.STEER,
InterventionPolicy.FOLLOW_UP,
):
session = await session_manager.get_or_create(session_id)
actual_msg = message
if isinstance(message, AgentTask):
actual_msg = message.description
elif hasattr(message, "extract_plain_text"):
actual_msg = message.extract_plain_text()
if intervention_policy == InterventionPolicy.STEER:
session.steer_queue.enqueue(str(actual_msg))
raise InterventionHandledException(
"Steer successful",
display_content="💬 已将您的补充信息传递给正在思考的 AI...",
)
elif intervention_policy == InterventionPolicy.FOLLOW_UP:
session.follow_up_queue.enqueue(str(actual_msg))
raise InterventionHandledException(
"Follow-up successful",
display_content="📝 已记录,AI 处理完当前任务后即刻执行...",
)
if policy == ConcurrencyPolicy.ALLOW:
yield
return
if policy == ConcurrencyPolicy.REJECT:
if exec_lock.locked():
raise ConcurrencyRejectException(
f"并发域 {lock_id} 正忙,新请求被拒绝。"
)
elif policy == ConcurrencyPolicy.INTERRUPT:
if exec_lock.locked():
if lock_ctx.cancel_token:
lock_ctx.cancel_token.cancel()
if lock_ctx.active_task and not lock_ctx.active_task.done():
lock_ctx.active_task.cancel()
elif policy == ConcurrencyPolicy.QUEUE:
if exec_lock.locked():
logger.info(
f"⏳ [并发控制] 锁域 {lock_id} 被占用,"
"新请求已进入后台等待队列 (QUEUE)..."
)
async with exec_lock:
session = await session_manager.get_or_create(session_id)
session.active_task = asyncio.current_task()
session.cancel_token = cancel_token
lock_ctx.active_task = asyncio.current_task()
lock_ctx.cancel_token = cancel_token
try:
yield
finally:
session.active_task = None
session.cancel_token = None
lock_ctx.active_task = None
lock_ctx.cancel_token = None
finally:
if session_id in session_manager.live_tasks:
if task_tuple in session_manager.live_tasks[session_id]:
session_manager.live_tasks[session_id].remove(task_tuple)
if not session_manager.live_tasks[session_id]:
del session_manager.live_tasks[session_id]