内容安全默认依据阿里巴巴全局风险图库为您提供检测服务,可以满足大部分的常规检测需求。为了使检测结果更贴合您的实际业务,内容安全也支持自定义图库。您可以使用自定义图库来管理需要针对性地拦截、放行、人工审核的图片,应对突发的管控需求。
背景信息
根据用途不同,自定义图库分为黑名单、白名单、疑似名单。在检测中应用自定义图库后,若被检测图片命中图库中的样本,则会被打上图库对应的识别结果标签。黑名单图库对应的识别结果是违规(拦截),白名单对应正常(放行),疑似名单则对应疑似(人工审核)。自定义图库包括系统回流图库和用户创建图库。
系统回流图库由您的自助审核记录自动生成,默认应用于所有同类场景的图片检测。您可以管理系统回流图库中的图片,不可以操作系统回流图库,例如停用或删除图库。
用户创建图库由您自行添加,可用于某次检测或某类检测场景。您可以管理用户创建图库中的图片,也可以操作用户创建图库。
您可以创建10个自定义图库(不含系统回流图库),且在每个图库中添加最多10000张样本图片。
下文介绍了在内容安全控制台管理内容检测API自定义图库的操作方法。除了控制台操作,您还可以通过API接口或SDK完成相关操作。更多内容,请参见:
操作步骤
登录内容安全控制台。
在左侧导航栏,选择 。
在风险库管理页面,单击自定义图库页签后,单击创建图库。
在创建图库对话框,请参考下表完成图库配置,并单击确定。
表 1. 创建图库参数说明表
配置项
说明
名称
为图库命名。名称不超过20个字符。
使用场景
选择图库的使用场景,取值:
鉴黄:图片、视频鉴黄(scenes包含porn)。
暴恐:图片、视频暴恐涉政识别(scenes包含terrorism)。
图文违规:图片、视频图文违规识别(scenes包含ad)。
不良场景:图片、视频不良场景识别(scenes包含live)。
识别结果
选择图库的用途,取值:
风险名单:若命中图库中样本,则机审结果返回违规。
疑似名单:若命中图库中样本,则机审结果返回疑似。
可信名单:若命中图库中样本,则机审结果返回正常。
BizType
BizType允许您根据不同的业务需求配置并应用不同的图库,例如使用BizType指定在某次检测中应用图库。BizType生效逻辑如下:
图库设置BizType为“A”,检测时API中传递了BizType为“A”,则检测时只会使用BizType为“A”的图库(前提是图库已启用)。
其他情况下,检测均会使用所有已启用的图库。
成功创建图库,已创建图库默认启用。
在自定义图库页签,单击指定图库右侧操作列下的管理。
自定义图库页签下显示所有自定义图库,其中系统回流图库的名称前有系统标识,且按照使用场景_FEEDBACK_WHITE/BLACK命名。例如,LIVE_FEEDBACK_BLACK是由系统回流生成的用于不良场景的黑名单图库。
在图库管理页面,您可以根据需要执行如下操作。
说明在图库中新增、删除图片样本,大约需要15分钟生效。
根据风险图片ID、时间范围、样本ID查询图片。
单击图片,展开图片的详细信息面板,查看近期命中数量、添加时间、风险图片ID等信息。
单击选择文件,上传图片到图库。
说明支持上传PNG、JPG、JEPG和BMP格式的图片,单个文件需小于5 MB,一次最多上传20张图片。
单击图片下的删除,删除图片;选中多张图片后,单击批量删除,批量删除图片。
相关操作
对于自定义图库(非系统回流图库),您可通过自定义图库页签中操作列下的删除、编辑和停用对目标图库进行操作。