一种神经网络模型训练方法、装置及计算设备集群 · CN122965601A

著录项目

公开（公告）号CN122965601A	申请号CN202510430999.1	专利类型发明专利
状态在审	国家或地区CN	申请人成都华为技术有限公司
分类号G06N3/084(2023.01), G06N5/04(2023.01), G06F17/16(2006.01), G06N3/0455(2023.01)	申请日2025-04-08	公开日2026-10-23
发布日期2026-10-23	文档 ID84601496685800003	源数据页码202
专利语言zh

摘要

一种神经网络模型训练方法，该方法包括：在当前训练步的训练过程中，获取样本特征向量和第一状态数据，其中，样本特征向量是基于与当前训练步相关的训练样本得到的，第一状态数据是来自远端内存池中且由上一个训练步所得到的状态数据，当前训练步是神经网络模型的训练过程中相继于上一个训练步的训练步；基于样本特征向量和状态数据进行当前训练步的训练；将第二状态数据卸载至远端内存池中，其中，第二状态数据是基于当前训练步得到的状态数据，第二状态数据中的至少部分用于下一训练步的训练，下一训练步是神经网络模型的训练过程中相继于当前训练步的训练步。由此，可以在故障时，仅对当前任务涉及的算子进行计算，增加了训练集群的可用度。

附图

附图 1