大语言模型的安全测试方法、装置、设备及介质 · CN122987020A

著录项目

公开（公告）号CN122987020A	申请号CN202611169099.7	专利类型发明专利
状态在审	国家或地区CN	申请人中国电信股份有限公司技术创新中心;中国电信股份有限公司
分类号G06F21/57(2013.01), G06N3/092(2023.01), G06N3/006(2023.01), G06N5/04(2023.01), G06F40/30(2020.01)	申请日2026-08-03	公开日2026-10-27
发布日期2026-10-27	文档 ID84635791612300008	源数据页码1512
专利语言zh

摘要

本申请提供了大语言模型的安全测试方法、装置、设备及介质，涉及计算机技术领域。该安全测试方法与大语言模型之间的多轮对抗攻击交互过程建模为了一个序列决策问题：在每一轮对抗攻击交互中，均会构建表征当前会话内完整对话历史的当前上下文特征，由强化学习智能体依据该当前上下文特征决策要在当前交互轮次中应用的攻击策略。本申请提供的安全测试方法具有良好的适应性并能够提升对于大语言模型的安全测试效率。

附图

附图 1