一种词元访存方法、装置、存储介质及电子设备

著录项目

摘要

本申请公开了一种词元访存方法、装置、存储介质及电子设备，涉及芯片技术领域，包括：获取目标芯片对多个待访存词元的访存需求；依据访存需求，生成多个待访存词元的总访存配置指令；对总访存配置指令进行解析，得到多个待访存词元分别对应的读取地址，并将多个读取地址写入目标芯片中的访存队列；按照访存队列中读取地址的写入顺序，依次对多个待访存词元进行访存。本申请通过依据访存需求生成多个待访存词元的总访存配置指令，降低访存资源的开销；通过对总访存配置指令解析得到各待访存词元读取地址并写入访存队列，按写入顺序依次执行词元访存，能够减少流水线空闲周期，保障词元访存连续性，进而提升模型的整体推理速度和推理效率。

附图

附图 1