集思谱需要我帮你解读这件专利吗？
公开（公告）号CN122933788A | 申请号CN202611417492.3 | 专利类型发明专利 |
状态在审 | 国家或地区CN | 申请人深圳市天思智慧科技有限公司 |
分类号H04L69/08(2022.01), H04L69/06(2022.01), H04L69/22(2022.01), H04L45/748(2022.01), G06N5/046(2023.01) | 申请日2026-09-14 | 公开日2026-10-16 |
发布日期2026-10-16 | 文档 ID84597696414900002 | 源数据页码19 |
专利语言zh | ||
本发明属于人工智能推理服务技术领域，公开了一种协议无关的AI推理网关双向转换方法及系统；包括：接收推理请求，生成语义依赖图；根据语义依赖图，确定各上下文前缀标识与各候选后端推理节点之间的匹配关系以及对应的缓存命中率；选出目标后端推理节点并确定对应的协议适配策略；基于协议适配策略发送请求；接收子响应并进行解析，识别语义边界事件，从而动态调整流式语义转换策略；对动态调整后的各子响应进行增量重组，得到符合第二协议格式的推理响应。本发明通过获取目标后端推理节点的协议能力画像，根据后端节点的的多维能力约束，为各语义片段确定差异化的协议适配策略，显著提升了网关对异构后端集群的协议适配能力和服务稳定性。
附图 1