mirror of
https://github.com/zhenxun-org/zhenxun_bot.git
synced 2026-10-10 22:30:02 +08:00
* ♻️ refactor(core): 重构 AI 能力与定时任务调度系统 - 【AI 能力与工具】重构 Capability 注册与管理机制,引入 CapabilityManager 统一管理 - 移除全局能力注册表,改用声明式装饰器 `@capability` 进行解耦注册 - 重构工具解析器链,使用统一的 BaseToolResolver 代替原有的多个特定解析器 - 增强工具查询过滤,支持通配符匹配、工具箱过滤和排除标签 - 【定时任务调度】重构定时任务管理器,引入 SchedulerRegistry 统一管理任务元数据 - 引入 JobConfig 聚合定时任务配置,支持用户维度的定时任务调度 - 重构执行分发器,支持并发限制、串行间隔和随机延迟打散 - 【运行上下文】引入 ScheduledDeps 以支持后台和定时任务环境下的依赖注入 - 优化 RunContext,支持从定时任务上下文快速构造,并提供 emit 辅助方法 - 【日志与监控】引入 AILoggerProxy,实现 AI 各模块的专属日志输出 - 将各模块的全局 logger 替换为对应的模块专属日志代理 - 【其他优化】修复 Pydantic V1 兼容层中 model_validator 的装饰器兼容性问题 - 在非交互式环境(如定时任务)中自动隐藏 HITL 交互工具以节省 Token * ♻️ refactor(core): 优化内部导入路径并提升 Pydantic 兼容性 - 【重构】将 `services/ai` 模块内的绝对导入重构为相对导入,优化包结构 - 【重构】移除不必要的 `if TYPE_CHECKING` 保护,通过 `from __future__ import annotations` 直接导入类型 - 【清理】清理 `core/messages/types.py` 中未使用的 `AssistantContentUnion` 等联合类型定义 - 【优化】在 `utils/pydantic_compat.py` 中新增 `model_rebuild` 兼容函数,统一 Pydantic V1/V2 的模型重建逻辑 - 【优化】将部分函数内部的延迟导入提升至模块顶部,规范代码结构 * ♻️ refactor(imports): 优化导入路径为相对导入并清理冗余导入 - 【重构】将 AI 服务相关模块中的绝对导入路径修改为相对导入,提升模块内聚性与可移植性 - 【清理】移除多处函数内部或类方法中未使用的冗余导入,避免循环引用和资源浪费 - 【格式化】微调部分工具装饰器和返回语句的格式与尾随逗号 * 🚨 auto fix by pre-commit hooks --------- Co-authored-by: webjoin111 <455457521@qq.com> Co-authored-by: pre-commit-ci[bot] <66853113+pre-commit-ci[bot]@users.noreply.github.com>
131 lines
4.7 KiB
Python
131 lines
4.7 KiB
Python
from zhenxun.services.ai.core.messages import EmbeddingRequest
|
|
from zhenxun.services.ai.core.models import ModelIdentity
|
|
from zhenxun.services.ai.core.options import LLMEmbeddingConfig
|
|
from zhenxun.services.ai.utils.logger import log_llm as logger
|
|
|
|
from .base import BaseAdapter, RequestData
|
|
from .handlers.openai_handlers import (
|
|
OpenAIEmbeddingHandler,
|
|
OpenAIRerankHandler,
|
|
)
|
|
from .openai import OpenAICompatAdapter
|
|
|
|
|
|
class JinaEmbeddingHandler(OpenAIEmbeddingHandler):
|
|
"""Jina 专属文本/多模态嵌入处理器"""
|
|
|
|
async def prepare_embedding_request(
|
|
self,
|
|
adapter: BaseAdapter,
|
|
identity: ModelIdentity,
|
|
api_key: str,
|
|
request: EmbeddingRequest,
|
|
) -> RequestData:
|
|
batch = request.batch
|
|
config = request.config or LLMEmbeddingConfig()
|
|
endpoint = getattr(adapter, "get_embedding_endpoint")(identity)
|
|
url = adapter.get_api_url(identity, endpoint)
|
|
headers = adapter.get_base_headers(api_key)
|
|
|
|
is_omni = "omni" in identity.model_name.lower()
|
|
inputs_payload = []
|
|
|
|
if is_omni:
|
|
from zhenxun.services.ai.core.messages import (
|
|
AudioPart,
|
|
FilePart,
|
|
ImagePart,
|
|
TextPart,
|
|
VideoPart,
|
|
)
|
|
|
|
for payload in batch.payloads:
|
|
jina_content = []
|
|
for part in payload.parts:
|
|
if isinstance(part, TextPart):
|
|
jina_content.append({"text": part.text})
|
|
elif isinstance(part, ImagePart):
|
|
if part.url:
|
|
jina_content.append({"image": part.url})
|
|
else:
|
|
jina_content.append(
|
|
{"image": await part.get_data_uri("image/png")}
|
|
)
|
|
elif isinstance(part, AudioPart):
|
|
if part.url:
|
|
jina_content.append({"audio": part.url})
|
|
else:
|
|
jina_content.append(
|
|
{"audio": await part.get_data_uri("audio/mp3")}
|
|
)
|
|
elif isinstance(part, VideoPart):
|
|
if part.url:
|
|
jina_content.append({"video": part.url})
|
|
else:
|
|
jina_content.append(
|
|
{"video": await part.get_data_uri("video/mp4")}
|
|
)
|
|
elif isinstance(part, FilePart):
|
|
logger.warning(
|
|
f"Jina 暂不明确支持 Base64 内联 "
|
|
f"{type(part).__name__},已忽略。"
|
|
)
|
|
|
|
if not jina_content:
|
|
jina_content.append({"text": " "})
|
|
|
|
inputs_payload.append({"content": jina_content})
|
|
else:
|
|
inputs_payload = batch.to_text_only(
|
|
f"{identity.model_name} (API: {adapter.api_type})"
|
|
)
|
|
|
|
body = {
|
|
"model": identity.model_name,
|
|
"input": inputs_payload,
|
|
}
|
|
|
|
if config.output_dimensionality:
|
|
body["dimensions"] = config.output_dimensionality
|
|
|
|
if config.task_type:
|
|
task_mapping = {
|
|
"RETRIEVAL_QUERY": "retrieval.query",
|
|
"RETRIEVAL_DOCUMENT": "retrieval.passage",
|
|
"SEMANTIC_SIMILARITY": "text-matching",
|
|
"CLASSIFICATION": "classification",
|
|
"CLUSTERING": "clustering",
|
|
}
|
|
body["task"] = task_mapping.get(config.task_type, config.task_type)
|
|
|
|
if config.encoding_format and config.encoding_format != "float":
|
|
body["embedding_type"] = config.encoding_format
|
|
|
|
return RequestData(url=url, headers=headers, body=body)
|
|
|
|
|
|
class JinaAdapter(OpenAICompatAdapter):
|
|
"""Jina API 专有适配器 (仅支持 Embedding 和 Rerank)"""
|
|
|
|
def __init__(self):
|
|
super().__init__()
|
|
self.text_handler = None
|
|
self.embedding_handler = JinaEmbeddingHandler()
|
|
self.rerank_handler = OpenAIRerankHandler()
|
|
|
|
@property
|
|
def api_type(self) -> str:
|
|
"""适配器主类型标识。"""
|
|
return "jina"
|
|
|
|
@property
|
|
def supported_api_types(self) -> list[str]:
|
|
"""当前适配器支持的 API 类型列表。"""
|
|
return ["jina"]
|
|
|
|
def get_chat_endpoint(self, identity: ModelIdentity) -> str:
|
|
raise NotImplementedError("Jina API 专精于检索,暂不支持常规对话生成。")
|
|
|
|
def get_embedding_endpoint(self, identity: ModelIdentity) -> str:
|
|
return "/v1/embeddings"
|