集思谱需要我帮你解读这件专利吗？
公开（公告）号CN120012907B | 申请号CN202411812467.6 | 专利类型发明授权 |
状态有效 | 国家或地区CN | 申请人清华大学 |
分类号G06N5/04(2023.01), G06N5/025(2023.01), G06F16/36(2019.01), G06F16/31(2019.01) | 申请日2024-12-10 | 公开日2026-10-23 |
发布日期2026-10-23 | 文档 ID84601491288200002 | 源数据页码2147 |
专利语言zh | ||
本发明提供一种基于大型语言模型的协同推理方法及系统，该方法包括：根据预设原子行为库将任务的推理过程行为分解为若干个原子行为；原子行为包括选取模型的类型、推理行为和/或辅助行为；根据若干个原子行为和基于状态的全局原子行为选择策略进行多叉树结构编排，得到原子行为多叉树；基于大型语言模型集合和原子行为多叉树对任务进行协同推理，得到协同推理结果；大型语言模型集合包括与若干个原子行为对应的若干个选取模型。本发明能够自主协同多个大型语言模型完成不同任务的推理，降低了协同推理成本，提升协同效果，实现更高效率和更高性能的推理。
附图 1