
文本审核增强版
文本审核增强版服务通过升级内容安全核心引擎,采用动态策略和模型强化变异对抗性,提供多种业务场景的审核服务,识别出多种违规风险。审核的文本内容不能超过600个字符。
用户昵称检测 | nickname_detection | 用户昵称、公众号名称、直播间标题等 | 侧重识别底线违规类、仿冒官方、禁限引流风险,可辅助治理虚假账号。 |
---|---|---|---|
私聊互动内容检测 | chat_detection | 用户间聊天互动 | 在平衡用户体验基础上,主要识别底线违规类、辱骂网暴等风险。 |
公聊评论内容检测 | comment_detection | 评论、弹幕、公聊、转发等 | 通常风险率高、风险类型多、变形变异强,识别底线违规类、广告导流、禁限内容等风险。 |
PGC教学物料检测 | pgc_detection | 教学材料、课件内容、课程题目等 | 通常风险率低,精确检测底线类风险。 |
AIGC类文字检测 | ai_art_detection | AIGC的文字指令、聊天机器人等 | 兼容中英文本,侧重识别底线违规类和负面内容。 |
广告法合规检测 | ad_compliance_detection | 商品素材、广告文案 | 识别疑似违反广告法规,包括极限词、行业禁限、红线违规等风险。 |
增强变异对抗
采用动态策略和模型引擎,强化内容对抗性,能够识别更多内容变形变异情况下的违规风险。检测能力包含但不限于简繁体、大小写、特殊字符、表情符号、拼音混合、同音字、形近字、中文变序、文字间隔和中文拆字。
文本审核增强版 支持检测广告、涉政、色情、暴恐、宗教、网暴等内容
调用地址: https://api.topthink.com/green/text
请求方式:POST
返回类型:JSON
API 调用: 调用说明
名称 | 必填 | 类型 | 说明 |
---|---|---|---|
service | 是 | string | 审核服务类型,包括: nickname_detection:用户昵称检测 chat_detection:私聊互动内容检测 comment_detection:公聊评论内容检测 ai_art_detection:AIGC文字检测 ad_compliance_detection:广告法合规检测 pgc_detection:PGC教学物料检测 |
content | 是 | string | 审核的文本内容,限定在600字符以内。 |
$client = new Client("访问令牌")
$result = $client->greenText()
->withService("service")
->withContent("content")
->request();
名称 | 类型 | 说明 |
---|---|---|
labels | string | 标签,多个用英文逗号分隔。包括: ad:广告引流 political_content:涉政内容 profanity:辱骂内容 contraband:违禁内容 sexual_content:色情内容 violence:暴恐内容 nonsense:无意义内容 negative_content:不良内容 religion:宗教内容 cyberbullying:网络暴力 ad_compliance:广告法合规 |
reason | string | 原因定位的JSON字符串,包含以下字段: riskTips:细分标签 riskWords:命中风险片段 adNums:命中广告号 customizedWords:命中用户词 customizedLibs:命中用户词库名 |
{
"code": 0,
"message": "OK",
"data": {
"labels": "sexual_content",
"reason": "{\"riskTips\":\"色情_低俗词\",\"riskWords\":\"色情服务\"}"
}
}