mirror of
https://github.com/zhenxun-org/zhenxun_bot.git
synced 2026-10-02 02:00:01 +08:00
* ♻️ refactor(core): 重构 AI 能力与定时任务调度系统 - 【AI 能力与工具】重构 Capability 注册与管理机制,引入 CapabilityManager 统一管理 - 移除全局能力注册表,改用声明式装饰器 `@capability` 进行解耦注册 - 重构工具解析器链,使用统一的 BaseToolResolver 代替原有的多个特定解析器 - 增强工具查询过滤,支持通配符匹配、工具箱过滤和排除标签 - 【定时任务调度】重构定时任务管理器,引入 SchedulerRegistry 统一管理任务元数据 - 引入 JobConfig 聚合定时任务配置,支持用户维度的定时任务调度 - 重构执行分发器,支持并发限制、串行间隔和随机延迟打散 - 【运行上下文】引入 ScheduledDeps 以支持后台和定时任务环境下的依赖注入 - 优化 RunContext,支持从定时任务上下文快速构造,并提供 emit 辅助方法 - 【日志与监控】引入 AILoggerProxy,实现 AI 各模块的专属日志输出 - 将各模块的全局 logger 替换为对应的模块专属日志代理 - 【其他优化】修复 Pydantic V1 兼容层中 model_validator 的装饰器兼容性问题 - 在非交互式环境(如定时任务)中自动隐藏 HITL 交互工具以节省 Token * ♻️ refactor(core): 优化内部导入路径并提升 Pydantic 兼容性 - 【重构】将 `services/ai` 模块内的绝对导入重构为相对导入,优化包结构 - 【重构】移除不必要的 `if TYPE_CHECKING` 保护,通过 `from __future__ import annotations` 直接导入类型 - 【清理】清理 `core/messages/types.py` 中未使用的 `AssistantContentUnion` 等联合类型定义 - 【优化】在 `utils/pydantic_compat.py` 中新增 `model_rebuild` 兼容函数,统一 Pydantic V1/V2 的模型重建逻辑 - 【优化】将部分函数内部的延迟导入提升至模块顶部,规范代码结构 * ♻️ refactor(imports): 优化导入路径为相对导入并清理冗余导入 - 【重构】将 AI 服务相关模块中的绝对导入路径修改为相对导入,提升模块内聚性与可移植性 - 【清理】移除多处函数内部或类方法中未使用的冗余导入,避免循环引用和资源浪费 - 【格式化】微调部分工具装饰器和返回语句的格式与尾随逗号 * 🚨 auto fix by pre-commit hooks --------- Co-authored-by: webjoin111 <455457521@qq.com> Co-authored-by: pre-commit-ci[bot] <66853113+pre-commit-ci[bot]@users.noreply.github.com>
178 lines
6.7 KiB
Python
178 lines
6.7 KiB
Python
import asyncio
|
|
from contextlib import asynccontextmanager
|
|
from contextvars import ContextVar
|
|
import time
|
|
from typing import Any
|
|
|
|
from pydantic import BaseModel, ConfigDict, Field
|
|
|
|
from zhenxun.services.ai.core.models import CancellationToken
|
|
from zhenxun.services.ai.utils.scope import BaseScopeBuilder, ScopeSelector
|
|
|
|
|
|
class PendingMessageQueue:
|
|
"""简单的运行时挂起消息队列"""
|
|
|
|
def __init__(self):
|
|
self._queue: list[Any] = []
|
|
|
|
def enqueue(self, msg: Any):
|
|
self._queue.append(msg)
|
|
|
|
def drain(self) -> list[Any]:
|
|
msgs = list(self._queue)
|
|
self._queue.clear()
|
|
return msgs
|
|
|
|
def has_items(self) -> bool:
|
|
return len(self._queue) > 0
|
|
|
|
|
|
class TaskStopper(BaseScopeBuilder["TaskStopper"]):
|
|
"""
|
|
声明式任务中止器 (Fluent Task Stopper)。
|
|
为第三方开发者提供友好的链式 API,精准中止正在运行或排队的大模型任务。
|
|
"""
|
|
|
|
def __init__(self, manager: "AgentSessionManager"):
|
|
super().__init__()
|
|
self.manager = manager
|
|
|
|
async def cancel(self) -> int:
|
|
"""执行中止动作,返回被成功中止的任务数量。"""
|
|
return await self.manager.cancel_by_query(self._selector)
|
|
|
|
|
|
class SessionInfo(BaseModel):
|
|
"""会话信息的元数据视图。"""
|
|
|
|
model_config = ConfigDict(arbitrary_types_allowed=True)
|
|
|
|
session_id: str
|
|
"""会话的唯一标识符"""
|
|
state: dict[str, Any] = Field(default_factory=dict)
|
|
"""业务流转的强类型载荷"""
|
|
created_at: float = Field(default_factory=time.time)
|
|
"""会话创建的时间戳"""
|
|
updated_at: float = Field(default_factory=time.time)
|
|
"""会话最后更新的时间戳"""
|
|
active_task: Any | None = Field(default=None)
|
|
"""当前正在执行的 asyncio.Task"""
|
|
cancel_token: CancellationToken | None = Field(default=None)
|
|
"""当前任务的取消令牌"""
|
|
steer_queue: PendingMessageQueue = Field(default_factory=PendingMessageQueue)
|
|
"""动态转向指令干预队列"""
|
|
follow_up_queue: PendingMessageQueue = Field(default_factory=PendingMessageQueue)
|
|
"""后续追加指令干预队列"""
|
|
|
|
|
|
class LockContext(BaseModel):
|
|
"""并发锁的执行追踪器(解决 INTERRUPT 需要跨 Session 取消任务的问题)"""
|
|
|
|
model_config = ConfigDict(arbitrary_types_allowed=True)
|
|
active_task: Any | None = None
|
|
"""当前持锁运行的异步任务"""
|
|
cancel_token: CancellationToken | None = None
|
|
"""当前任务关联的取消令牌,以便由抢占者随时下发取消指令"""
|
|
|
|
|
|
class AgentSessionManager:
|
|
"""
|
|
Agent 会话状态管理器。
|
|
彻底拥抱无状态:只维护业务强类型载荷 (state payload) 以及并发锁,不干涉 LLM 历史。
|
|
"""
|
|
|
|
def __init__(self):
|
|
self._sessions: dict[str, SessionInfo] = {}
|
|
self._locks: dict[str, asyncio.Lock] = {}
|
|
self._exec_locks: dict[str, asyncio.Lock] = {}
|
|
self.lock_contexts: dict[str, LockContext] = {}
|
|
self.live_tasks: dict[str, list[tuple[CancellationToken, Any]]] = {}
|
|
|
|
def stopper(self) -> TaskStopper:
|
|
"""获取声明式任务中止器,供第三方开发者极速中止运行中/排队中的任务"""
|
|
return TaskStopper(self)
|
|
|
|
async def cancel_by_query(self, query: ScopeSelector) -> int:
|
|
"""根据查询条件取消符合条件的会话任务。返回取消的数量"""
|
|
count = 0
|
|
scope_prefix = query.scope_prefix
|
|
|
|
for sid, tasks in list(self.live_tasks.items()):
|
|
if sid.startswith(scope_prefix) or (
|
|
query.session_id and sid == query.session_id
|
|
):
|
|
for token, task in tasks:
|
|
if not token.is_cancelled():
|
|
token.cancel()
|
|
count += 1
|
|
if task and not task.done():
|
|
task.cancel()
|
|
from zhenxun.services.ai.utils.logger import log_agent as logger
|
|
|
|
if count > 0:
|
|
logger.info(
|
|
f"🛑 [TaskStopper] 已强制终止排队或执行中的会话任务: {sid}"
|
|
)
|
|
return count
|
|
|
|
def _get_lock(self, session_id: str) -> asyncio.Lock:
|
|
"""获取或创建指定会话的内部同步锁"""
|
|
if session_id not in self._locks:
|
|
self._locks[session_id] = asyncio.Lock()
|
|
return self._locks[session_id]
|
|
|
|
def get_exec_lock(self, session_id: str) -> asyncio.Lock:
|
|
"""获取或创建指定会话的任务排队执行锁"""
|
|
if session_id not in self._exec_locks:
|
|
self._exec_locks[session_id] = asyncio.Lock()
|
|
return self._exec_locks[session_id]
|
|
|
|
async def get_or_create(self, session_id: str) -> SessionInfo:
|
|
"""获取或创建指定会话的信息,不存在则自动初始化"""
|
|
async with self._get_lock(session_id):
|
|
if session_id not in self._sessions:
|
|
self._sessions[session_id] = SessionInfo(session_id=session_id)
|
|
return self._sessions[session_id]
|
|
|
|
async def get(self, session_id: str) -> SessionInfo | None:
|
|
"""获取指定会话的信息,不存在则返回 None"""
|
|
async with self._get_lock(session_id):
|
|
return self._sessions.get(session_id)
|
|
|
|
async def update_state(self, session_id: str, new_state: dict[str, Any]):
|
|
"""用新字典更新指定会话的状态载荷"""
|
|
async with self._get_lock(session_id):
|
|
if session_id in self._sessions:
|
|
self._sessions[session_id].state.update(new_state)
|
|
self._sessions[session_id].updated_at = time.time()
|
|
|
|
async def delete(self, session_id: str):
|
|
"""删除指定会话及其对应的长期内存上下文"""
|
|
async with self._get_lock(session_id):
|
|
self._sessions.pop(session_id, None)
|
|
from zhenxun.services.ai.context.memory.manager import memory_manager
|
|
from zhenxun.services.ai.context.memory.models import MemoryConfig
|
|
from zhenxun.services.ai.context.memory.types import SessionMetadata
|
|
|
|
default_ctx = memory_manager.get_chat_context(MemoryConfig())
|
|
if default_ctx:
|
|
await default_ctx.clear(SessionMetadata(session_id=session_id))
|
|
|
|
|
|
session_manager = AgentSessionManager()
|
|
active_session_id: ContextVar[str | None] = ContextVar(
|
|
"active_session_id", default=None
|
|
)
|
|
|
|
|
|
@asynccontextmanager
|
|
async def agent_session_scope(session_id: str):
|
|
"""声明式上下文包装器。进入此作用域后的 Agent 都会自动吸附到指定的 SessionID 上。"""
|
|
await session_manager.get_or_create(session_id)
|
|
token = active_session_id.set(session_id)
|
|
try:
|
|
yield session_id
|
|
finally:
|
|
active_session_id.reset(token)
|