文本审核增强版

文本审核增强版服务通过升级内容安全核心引擎,采用动态策略和模型强化变异对抗性,提供多种业务场景的审核服务,识别出多种违规风险
限个人实名用户使用
100000次
1000000次

文本审核增强版服务通过升级内容安全核心引擎,采用动态策略和模型强化变异对抗性,提供多种业务场景的审核服务,识别出多种违规风险。审核的文本内容不能超过600个字符

用户昵称检测 nickname_detection 用户昵称、公众号名称、直播间标题等 侧重识别底线违规类、仿冒官方、禁限引流风险,可辅助治理虚假账号。
私聊互动内容检测 chat_detection 用户间聊天互动 在平衡用户体验基础上,主要识别底线违规类、辱骂网暴等风险。
公聊评论内容检测 comment_detection 评论、弹幕、公聊、转发等 通常风险率高、风险类型多、变形变异强,识别底线违规类、广告导流、禁限内容等风险。
PGC教学物料检测 pgc_detection 教学材料、课件内容、课程题目等 通常风险率低,精确检测底线类风险。
AIGC类文字检测 ai_art_detection AIGC的文字指令、聊天机器人等 兼容中英文本,侧重识别底线违规类和负面内容。
广告法合规检测 ad_compliance_detection 商品素材、广告文案 识别疑似违反广告法规,包括极限词、行业禁限、红线违规等风险。

增强变异对抗

采用动态策略和模型引擎,强化内容对抗性,能够识别更多内容变形变异情况下的违规风险。检测能力包含但不限于简繁体、大小写、特殊字符、表情符号、拼音混合、同音字、形近字、中文变序、文字间隔和中文拆字。

文本审核增强版 支持检测广告、涉政、色情、暴恐、宗教、网暴等内容

调用地址: https://api.topthink.com/green/text

请求方式:POST

返回类型:JSON

API 调用: 调用说明

名称 必填 类型 说明
service string 审核服务类型,包括: nickname_detection:用户昵称检测 chat_detection:私聊互动内容检测 comment_detection:公聊评论内容检测 ai_art_detection:AIGC文字检测 ad_compliance_detection:广告法合规检测 pgc_detection:PGC教学物料检测
content string 审核的文本内容,限定在600字符以内。

$client = new Client("访问令牌")

$result = $client->greenText()
    ->withService("service")
    ->withContent("content")
    ->request();

名称 类型 说明
labels string 标签,多个用英文逗号分隔。包括:
ad:广告引流
political_content:涉政内容
profanity:辱骂内容
contraband:违禁内容
sexual_content:色情内容
violence:暴恐内容
nonsense:无意义内容
negative_content:不良内容
religion:宗教内容
cyberbullying:网络暴力
ad_compliance:广告法合规
reason string 原因定位的JSON字符串,包含以下字段:
riskTips:细分标签
riskWords:命中风险片段
adNums:命中广告号
customizedWords:命中用户词
customizedLibs:命中用户词库名

{
  "code": 0,
  "message": "OK",
  "data": {
    "labels": "sexual_content",
    "reason": "{\"riskTips\":\"色情_低俗词\",\"riskWords\":\"色情服务\"}"
  }
}