使用生成式人工智能的针对有害内容的平台内容的自动审查器

著录项目

摘要

一种设备或方法接收定义特定平台上的什么内容将作为有害内容而被阻止的用户输入；生成定制提示词模板以提交给生成式人工智能（GAI）注释服务，所述定制提示词模板指示所述GAI注释服务根据定义特定平台上的什么内容将作为有害内容而被阻止的所述用户输入来标注注释请求内的有害内容；接收注释请求，所述注释请求包括要基于所述用户输入来检查任何有害内容的平台内容；通过将所述平台内容与所述定制提示词模板相结合，生成用于所述GAI注释服务的提示词；以及具体地基于定义什么内容是有害内容的所述用户输入，从所述GAI注释服务接收所述平台内容中要被阻止的有害内容的标识。

附图

附图 1