集思谱一种AI智能体越权操作检测与拦截方法
著录项目
公开（公告）号CN122986995A | 申请号CN202611148319.8 | 专利类型发明专利 |
状态在审 | 国家或地区CN | 申请人王腾彪 |
分类号G06F21/55(2013.01), G06F40/30(2020.01), G06N3/006(2023.01), G06N5/045(2023.01) | 申请日2026-07-30 | 公开日2026-10-27 |
发布日期2026-10-27 | 文档 ID84635777203300000 | 源数据页码84 |
专利语言zh | ||
摘要
本发明提供一种AI智能体越权操作检测与拦截方法，涉及人工智能安全领域。该方法在智能体决策模块与工具执行模块之间设置动作可信评估层：将用户原始指令解析为含操作类型集合、操作对象范围和操作约束条件的结构化意图基线；在待执行动作执行前将其拦截并抽取结构化动作表征；再并行计算三项得分，即意图一致性得分、累积能力合规得分、污点溯源可信得分；最后融合三项得分为动态信任评分，并依据该评分与动作敏感度采取放行、二次确认、降权执行或拦截的响应。本发明能够检测智能体权限内意图偏离型、多步累积型及间接注入触发型的越权操作，检测精度高，误拦率低，且拦截响应可解释。
附图
附图 1
需要我帮你解读这件专利吗？