Files
zhenxun_bot/zhenxun/services/ai/flow/concurrency.py
T
922d092650 ♻️ refactor(core): 重构 AI 能力与定时任务调度系统 (#2148)
* ♻️ refactor(core): 重构 AI 能力与定时任务调度系统

- 【AI 能力与工具】重构 Capability 注册与管理机制,引入 CapabilityManager 统一管理
- 移除全局能力注册表,改用声明式装饰器 `@capability` 进行解耦注册
- 重构工具解析器链,使用统一的 BaseToolResolver 代替原有的多个特定解析器
- 增强工具查询过滤,支持通配符匹配、工具箱过滤和排除标签
- 【定时任务调度】重构定时任务管理器,引入 SchedulerRegistry 统一管理任务元数据
- 引入 JobConfig 聚合定时任务配置,支持用户维度的定时任务调度
- 重构执行分发器,支持并发限制、串行间隔和随机延迟打散
- 【运行上下文】引入 ScheduledDeps 以支持后台和定时任务环境下的依赖注入
- 优化 RunContext,支持从定时任务上下文快速构造,并提供 emit 辅助方法
- 【日志与监控】引入 AILoggerProxy,实现 AI 各模块的专属日志输出
- 将各模块的全局 logger 替换为对应的模块专属日志代理
- 【其他优化】修复 Pydantic V1 兼容层中 model_validator 的装饰器兼容性问题
- 在非交互式环境(如定时任务)中自动隐藏 HITL 交互工具以节省 Token

* ♻️ refactor(core): 优化内部导入路径并提升 Pydantic 兼容性

- 【重构】将 `services/ai` 模块内的绝对导入重构为相对导入,优化包结构
- 【重构】移除不必要的 `if TYPE_CHECKING` 保护,通过 `from __future__ import annotations` 直接导入类型
- 【清理】清理 `core/messages/types.py` 中未使用的 `AssistantContentUnion` 等联合类型定义
- 【优化】在 `utils/pydantic_compat.py` 中新增 `model_rebuild` 兼容函数,统一 Pydantic V1/V2 的模型重建逻辑
- 【优化】将部分函数内部的延迟导入提升至模块顶部,规范代码结构

* ♻️ refactor(imports): 优化导入路径为相对导入并清理冗余导入

- 【重构】将 AI 服务相关模块中的绝对导入路径修改为相对导入,提升模块内聚性与可移植性
- 【清理】移除多处函数内部或类方法中未使用的冗余导入,避免循环引用和资源浪费
- 【格式化】微调部分工具装饰器和返回语句的格式与尾随逗号

* 🚨 auto fix by pre-commit hooks

---------

Co-authored-by: webjoin111 <455457521@qq.com>
Co-authored-by: pre-commit-ci[bot] <66853113+pre-commit-ci[bot]@users.noreply.github.com>
2026-07-10 09:14:06 +08:00

123 lines
5.0 KiB
Python

import asyncio
from contextlib import asynccontextmanager
from typing import Any
from zhenxun.services.ai.core.exceptions import (
ConcurrencyRejectException,
InterventionHandledException,
)
from zhenxun.services.ai.core.models import CancellationToken
from zhenxun.services.ai.run.models import AgentTask
from zhenxun.services.ai.run.session import LockContext, session_manager
from zhenxun.services.ai.utils.logger import log_flow as logger
from .base import ConcurrencyPolicy, InterventionPolicy
@asynccontextmanager
async def apply_concurrency_policy(
session_id: str,
lock_id: str,
policy: ConcurrencyPolicy,
cancel_token: CancellationToken,
intervention_policy: Any = None,
message: Any = None,
):
"""
异步上下文管理器:对大模型执行流应用特定的并发及消息干预调度策略。
负责请求互斥锁竞争、任务中断/拒绝处理,以及运行时用户实时指令的插队控制。
参数:
session_id: 当前会话的唯一标识,用于在会话管理器中隔离上下文。
lock_id: 当前锁域标识,决定了哪些 Agent 或任务使用同一套互斥锁竞争机制。
policy: 当发生并发锁占用时执行的策略(允许、拒绝、中断、排队)。
cancel_token: 运行时用于监听取消请求的取消令牌实例。
intervention_policy: 用户消息干预策略(转向、追加)。
message: 并发竞争发生时新入站的用户请求消息或 AgentTask 载荷。
返回:
AsyncGenerator: 返回异步生成器,供 async with 消费,包裹大模型的整个执行环节。
"""
current_task = asyncio.current_task()
task_tuple = (cancel_token, current_task)
if session_id not in session_manager.live_tasks:
session_manager.live_tasks[session_id] = []
session_manager.live_tasks[session_id].append(task_tuple)
try:
exec_lock = session_manager.get_exec_lock(lock_id)
lock_ctx = session_manager.lock_contexts.setdefault(lock_id, LockContext())
if exec_lock.locked():
if intervention_policy in (
InterventionPolicy.STEER,
InterventionPolicy.FOLLOW_UP,
):
session = await session_manager.get_or_create(session_id)
actual_msg = message
if isinstance(message, AgentTask):
actual_msg = message.description
elif hasattr(message, "extract_plain_text"):
actual_msg = message.extract_plain_text()
if intervention_policy == InterventionPolicy.STEER:
session.steer_queue.enqueue(str(actual_msg))
raise InterventionHandledException(
"Steer successful",
display_content="💬 已将您的补充信息传递给正在思考的 AI...",
)
elif intervention_policy == InterventionPolicy.FOLLOW_UP:
session.follow_up_queue.enqueue(str(actual_msg))
raise InterventionHandledException(
"Follow-up successful",
display_content="📝 已记录,AI 处理完当前任务后即刻执行...",
)
if policy == ConcurrencyPolicy.ALLOW:
yield
return
if policy == ConcurrencyPolicy.REJECT:
if exec_lock.locked():
raise ConcurrencyRejectException(
f"并发域 {lock_id} 正忙,新请求被拒绝。"
)
elif policy == ConcurrencyPolicy.INTERRUPT:
if exec_lock.locked():
if lock_ctx.cancel_token:
lock_ctx.cancel_token.cancel()
if lock_ctx.active_task and not lock_ctx.active_task.done():
lock_ctx.active_task.cancel()
elif policy == ConcurrencyPolicy.QUEUE:
if exec_lock.locked():
logger.info(
f"⏳ [并发控制] 锁域 {lock_id} 被占用,"
"新请求已进入后台等待队列 (QUEUE)..."
)
async with exec_lock:
session = await session_manager.get_or_create(session_id)
session.active_task = asyncio.current_task()
session.cancel_token = cancel_token
lock_ctx.active_task = asyncio.current_task()
lock_ctx.cancel_token = cancel_token
try:
yield
finally:
session.active_task = None
session.cancel_token = None
lock_ctx.active_task = None
lock_ctx.cancel_token = None
finally:
if session_id in session_manager.live_tasks:
if task_tuple in session_manager.live_tasks[session_id]:
session_manager.live_tasks[session_id].remove(task_tuple)
if not session_manager.live_tasks[session_id]:
del session_manager.live_tasks[session_id]