集思谱需要我帮你解读这件专利吗？
公开（公告）号CN122949507A | 申请号CN202610921349.1 | 专利类型发明专利 |
状态在审 | 国家或地区CN | 申请人清华大学;中国铁塔股份有限公司 |
分类号G06V20/70(2022.01), G06V10/762(2022.01), G06V10/74(2022.01), G06N5/04(2023.01), G06N3/045(2023.01) | 申请日2026-06-24 | 公开日2026-10-20 |
发布日期2026-10-20 | 文档 ID84597893374800016 | 源数据页码929 |
专利语言zh | ||
本公开涉及一种视觉词元自适应压缩方法及装置、电子设备，该方法包括：基于注意力机制，获取待处理视觉词元各自对目标任务的响应强度；基于所述响应强度，将所述待处理视觉词元划分成主导词元和剩余词元；压缩所述剩余词元，得到多个上下文词元；控制大语言模型处理所述主导词元以及所述上下文词元，得到推理结果。这样，在对视觉词元压缩的过程中，可以适配图像数据中各视觉词元的语义分布、以及目标任务，以自适应地选择被压缩的剩余词元。降低出现针对目标任务误删重要信息或保留冗余信息的概率，在不降低推理结果准确性的前提下，提高大语言模型的推理效率。
附图 1