# 智能审核 智能审核基于海量标注数据和深度学习算法实现，从语音、文字、视觉等多维度精准识别视频、封面、标题等违禁内容，包括色情、暴恐、政治敏感等多个审核类型，广泛应用于短视频平台、传媒审核等场景，可有效提高视频的审核效率。本文为您介绍如何自定义智能审核模板并进行智能审核。 ## 应用场景 * **UGC内容审核** 海量UGC（用户生成内容）上传的视频，通过视频智能审核技术，快速检测违规内容，识别媒体质量问题，有效减少人工审核的工作量。 * **点播内容审核** 高效识别点播视频中的涉暴、涉政类镜头，紧跟时政动态，严控违规内容。 ## 审核类型 | **审核类型** | **类型描述** | **审核结果分类** | |---|---|---| | 涉黄 | 检测媒体文件中是否包含色情、性感内容。 | 正常、色情、性感 | |---|---|---| | 暴恐涉政 | 检测媒体文件中是否包含暴恐或涉政类内容。 | 正常、血腥、爆炸烟光、特殊装束、特殊标识、武器、涉政、打斗、聚众、游行、车祸现场、旗帜、地标 | |---|---|---| | 广告识别 | 检测视频、图片中是否包含广告和文字违规信息。 | 正常、文字含涉政内容、文字含涉黄内容、文字含辱骂内容、文字含暴恐内容、文字含违禁内容、文字含其他垃圾内容、牛皮癣广告、含二维码、含小程序码、其他广告 | |---|---|---| | 不良画面检测 | 检测视频、图片中是否包含黑屏、黑边、昏暗画面、画中画、吸烟、车内直播等不良场景。 | 正常、图片中无内容（例如黑屏、白屏）、画中画、吸烟、车内直播 | |---|---|---| | logo识别 | 检测视频、图片中是否包含logo信息，例如台标，商标等。 | 正常、含受管控的logo、含商标 | |---|---|---| | 语音反垃圾 | 检测视频、音频中是否包含语音垃圾信息，如广告、涉政、暴恐等。 | 正常、含垃圾信息、广告、涉政、暴恐、辱骂、色情、灌水、违禁、无意义、自定义（例如命中自定义关键词） | ## 费用说明 视频点播的智能审核为收费服务，按审核视频总时长计费，计费详情请参见[智能审核计费](../计费/增值服务计费.md)。 视频点播的智能审核为收费服务，按审核视频总时长计费，计费详情请提交工单了解。关于如何提交工单，请参见联系我们。 ## 注意事项 > **说明** > 审核标准将遵循 **中国** 的法律法规，包括且不限于《中华人民共和国刑法》、《网络安全法》、《互联网信息服务管理办法》、《计算机信息网络国际联网安全保护管理办法》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等。 > > * 目前仅 **华东2（上海）** 、 **华北2（北京）** 和 **新加坡** 地域支持使用智能审核服务。 > > * **新加坡** 地域目前仅支持对 **涉黄** 、 **暴恐涉政** 和 **不良画面检测** 这三个类型的审核。 > > * 音视频的最终审核结果由人工审核和智能审核结果共同决定，但人工审核的结果始终 **高于** 智能审核结果，即当人工审核和智能审核结果不一致时，按人工审核结果生效。 > > * 经过媒体审核的音视频，仅状态为 **正常** （Normal）时才能正常播放，状态为 **屏蔽** （Blocked）或 **审核中** （Checking）的音视频只能在视频点播控制台播放或通过[审核安全IP](./审核安全IP.md)进行播放，您将无法通过API/SDK获取到音视频的播放地址用于播放， **但对于已经外泄的有效播放地址仍可以正常播放** 。 > > ## 前提条件 > > * 已经开通了视频点播服务。开通步骤请参见[开通视频点播](../产品介绍/开通视频点播.md)。 > > * 审核的音视频需要上传到点播媒资库，具体操作，请参见[媒体上传](../媒体上传/媒体上传概述.md)。 > > ## 如何使用 ### **步骤一：（可选）配置智能审核模板** 视频点播提供了系统预制的智能审核模板，并作为智能审核的默认审核模板。如果系统预制的模板不能满足您的需求，您可以按需自行创建智能审核模板。 > **说明** > * 预制模板无法更改配置和删除，其配置如下： > > * 审核类型：暴恐涉政、鉴黄 > > * 审核范围：视频、封面、名称 > > * 审核内容：画面 > > * 最多支持添加20个自定义的智能审核模板。 > > #### **控制台方式** > > 1. 登录[视频点播控制台]。 > > 2. 在左侧导航栏选择 **审核管理** \> **审核设置** ，进入到审核设置页面。 > > 3. 新建智能审核模板。 > > 1. 在审核设置页面，单击 **审核模板** 页签，进入到审核模板页面。 > > 2. 单击 **添加** ，进入到添加智能审核模板页面。 > > |---|---| > | **参数名称** | **参数说明** | > |---|---| > | 模板名称 | 设置模板名称，方便模板之间的区分。 | > | 审核类型 | 设置审核类型，可多选。取值： * 鉴黄 * 暴恐涉政 * 广告识别 * logo识别 * 不良画面检测 * 语音反垃圾 **说明** * 如需对音频进行审核，则审核类型需要勾选 **语音反垃圾** 。 * 新加坡地域的智能审核服务仅支持鉴黄、暴恐涉政和不良画面检测。 | > | 审核范围 | 设置视频的审核范围，可多选。取值： * 封面：对视频的封面进行审核。 * 名称：对视频的名称进行审核。 * 视频：对视频内容进行审核。 **说明** * 审核的封面不可超过5张。 * 审核的名称及弹幕不可超过128个字节。 * 审核的视频时长不可超过6小时。 | > | 审核内容 | 当前仅支持视频画面。 | > | 违规时自动屏蔽 | 该功能开启后，将对机审结果为确认违规（由智能审核模板配置决定）的视频进行自动屏蔽播放。 **重要** 该功能为高危功能，请您慎重开启。 | > > 3. 单击 **保存** 。 > > 4. 设置智能审核的默认审核模板。 > > * 方式一：在 **审核模板** 页签，单击需要作为默认审核模板所在行的 **设为默认** 。 > > * 方式二：在 **审核配置** 页签，单击智能审核区域下的 **修改配置** ，在机审模板的下拉选项中选择作为默认的智能审核模板后，单击 **确定** 。 > > #### **OpenAPI方式** > > 1. 调用[添加AI模板](../媒体处理/AddAITemplate - 添加AI模板.md)接口，新建智能审核模板。 > > 2. 调用[设置默认AI模板](../媒体处理/SetDefaultAITemplate - 设置默认AI模板.md)接口，设置智能审核的默认审核模板。 > > 关于智能审核模板的修改、查询、删除等接口，请参见AI模板相关接口。 ### **步骤二：（可选）配置事件通知** 建议您发起智能审核任务之前，配置视频点播的事件通知，以便在智能审核任务完成后，能从接收到的回调消息中获取到智能审核任务的状态及审核结果等信息。事件通知的配置方法，请参见[回调设置](../事件通知/事件通知_3.md)。 智能审核需要开启的事件通知类型如下： * 需要开启 **音视频分析完成** ，接收[音视频分析完成](../API参考/音视频分析完成.md)事件通知回调后，才能调用[提交音视频智能审核作业](./SubmitAIMediaAuditJob%20-%20提交音视频智能审核作业.md)接口发起审核任务。 * 需要开启 **视频AI处理完成** ，所有AI处理都共用此开关，接收[智能审核完成](../事件通知/智能审核完成.md)事件通知回调。 ### **步骤三：发起智能审核作业** 配合视频点播工作流能力的应用，可以实现在视频点播中上传音视频时自动触发智能审核，或在上传音视频后手动触发智能审核。 #### **控制台方式** #### **场景一：** 上传音视频时自动触发智能审核 1. 创建包含 **智能媒资审核** 节点的工作流。 在工作流中添加 **智能媒资审核** 节点，并设置审核模板为系统预制审核模板或[步骤一：（可选）配置智能审核模板](#f5ac6cc071tvk)中自行创建的智能审核模板。工作流的创建方法，请参见[工作流管理](../媒体处理/工作流.md)。 2. 上传音视频并选择用工作流进行处理。 1. 在视频点播控制台，从左侧导航栏选择 **媒资库** **\> 音/视频** 。 2. 单击 **上传音/视频** ，单击 **添加音/视频** 。 3. 按需设置上传方式、存储地址并添加上传的视频后，选择 **用工作流处理** ，并选择上一步创建的包含智能媒资审核节点的工作流。 4. 单击 **开始上传** 。 #### **场景二：上传音视频后手动触发智能审核** * **方式一** ：在点播控制台的媒资库发起智能审核 1. 创建包含 **智能媒资审核** 节点的工作流。 在工作流中添加 **智能媒资审核** 节点，并设置审核模板为系统预制审核模板或[步骤一：（可选）配置智能审核模板](#f5ac6cc071tvk)中自行创建的智能审核模板。工作流的创建方法，请参见[工作流管理](../媒体处理/工作流.md)。 2. 在媒资库选择用工作流发起媒体处理。 1. 在视频点播控制台，从左侧导航栏选择 **媒资库** **\> 音/视频** 。 2. 在音/视频列表页面，单击目标音视频所在行的 **媒体处理** 。 3. **处理类型** 选择 **用工作流处理** ， **工作流** 选择上一步创建的包含智能媒资审核节点的工作流。 4. 单击 **确定** 。 * **方式二** ：在点播控制台的视频审核页面发起智能审核 1. 登录[视频点播控制台] 2. 在左侧导航栏选择 **审核管理** \> **视频审核** ，进入到视频审核页面。 3. 选择您需要审核的音/视频。 支持按上传时间（ **全部时间** 或 **自定义时间** ）、 **媒体名称** 、 **媒体ID：** 对音/视频进行筛选和检索。 4. 开始智能审核。 * 初次智能审核的音/视频（ **机审状态** 为 **未开启** ）：单击操作列的 **智能审核** ，系统将按照[步骤一](#f5ac6cc071tvk)中设置的默认审核模板进行审核。 * 重新智能审核的音/视频（ **机审状态** 为 **审核失败** 或 **审核成功** ）：单击操作列的 **重新审核** ，系统将按照[步骤一](#f5ac6cc071tvk)中设置的默认审核模板进行审核。 #### **OpenAPI方式** #### 场景一：上传音视频时自动触发智能审核 1. 创建包含 **智能媒资审核** 节点的工作流。 在工作流中添加 **智能媒资审核** 节点，并设置审核模板为系统预制审核模板或[步骤一：（可选）配置智能审核模板](#f5ac6cc071tvk)中自行创建的智能审核模板。工作流的创建方法，请参见[工作流管理](../媒体处理/工作流.md)。 2. 调用下述媒资上传相关接口时，将`WorkflowId`参数设置为上一步创建的包含智能审核节点的工作流ID，并按需自定义其他参数，完成媒资上传。 * [获取音视频上传地址和凭证](../媒体上传/CreateUploadVideo - 获取音视频上传地址和凭证.md) * [URL批量拉取上传](../媒体上传/UploadMediaByURL - URL批量拉取上传.md) #### 场景二：上传音视频后手动触发智能审核 通过接口发起智能审核作业时，传入`TemplateId`参数，则可以指定智能审核模板进行审核，若不传，则将按照[步骤一](#f5ac6cc071tvk)中设置的默认审核模板进行审核。 * 音视频：调用[提交音视频智能审核作业](./SubmitAIMediaAuditJob%20-%20提交音视频智能审核作业.md)接口，对上传到视频点播中的音视频资源发起智能审核作业。 * 图片：调用[提交图片智能审核作业](./SubmitAIImageAuditJob%20-%20提交图片智能审核作业.md)接口，对上传到视频点播中的图片资源发起智能审核作业。 > **说明** > 调用接口进行图片审核时，使用限制如下： > * 单个图片大小不超过20 MB，高度或宽度不超过30000px，且图片总像素不超过2.5亿px。 > > * （建议）图片像素不低于256×256px，像素过低可能会影响审核效果。 ### **步骤四：查看审核结果** > **说明** > * 智能审核结果中的图片资源仅在点播提供的免费存储上保留 **2周** 时间，超过2周将自动删除。 > > * 如果您已配置事件通知，可以通过接收[智能审核完成](../事件通知/智能审核完成.md)回调消息获取审核结果详情。 > > #### **控制台方式** > > 1. 登录[视频点播控制台]。 > > 2. 在左侧导航栏选择 **审核管理** \> **视频审核** ，进入到视频审核页面。 > > 3. 在视频审核列表页查看视频的审核信息。 > > 其中， **机审状态** 、 **审核模板** 、 **机审结果** 、 **违规项** 为智能审核相关信息，各参数说明如下： > > | **参数名称** | **参数说明** | > |---|---| > | 视频 | 展示音视频的名称、音视频ID及存储地址。 | > | 机审状态 | 机器审核的状态，取值如下： * 未开启：表示该音视频还未进行过机审。 * 审核成功：表示该音视频机审完成并机审成功，其审核模板列将展示所使用的机审模板，机审结果列会显示 **违规** 、 **疑似** 或 **正常** 的结果。 * 审核失败：表示该音视频机审完成但机审失败，其审核模板列将展示所使用的机审模板，机审结果列会显示为 **--** 。 * 审核中：表示该音视频正处于首次机审中。 * 重新审核中：表示该音视频正处于重新机审中。 | > | 审核模板 | 智能审核所使用的模板，可在[步骤一：（可选）配置智能审核模板](#f5ac6cc071tvk)中设置。 | > | 机审结果 | 智能审核的结果。取值如下： * 违规：表示该音视频存在机审模板中配置的违规内容，其 **违规项** 列将显示具体的违规项。 * 疑似：表示该音视频可能存在机审模板中配置的违规内容，其 **违规项** 列将显示可能存在的违规项，建议对该资源进行人工审核再次确认。 * 正常：表示该音视频不存在机审模板中配置的违规内容，其 **违规项** 列将显示为 **normal** 。 * --：表示该音视频未进行过机审或机审失败。 | > | 违规项 | 智能审核所检测出的违规项。取值包括：鉴黄、暴恐涉政、广告、logo、不良画面、语音、normal、--。其中， **--** 表示该音视频还未进行过机审。 | > | 人审状态 | 人工审核的状态。取值如下： * 未审核：表示该音视频还未进行过人工审核，其 **终审结果** 列会显示为 **--** 。 * 审核完成：表示该音视频已完成人工审核，其 **终审结果** 列会显示为 **通过** 或 **屏蔽** 。 | > | 终审结果 | 视频审核的最终结果。取值如下： * 通过：通过状态的音视频可以正常播放。 * 屏蔽：屏蔽状态的音视频只能在视频点播控制台播放或通过[审核安全IP](./审核安全IP.md)进行播放，您将无法通过API/SDK获取到音视频的播放地址用于播放，但对于已经外泄的有效播放地址仍可以正常播放。 * --：表示该音视频还未进行机器审核和人工审核，其是否能正常播放，取决于在 **点播控制台** \> **媒资库** \> **音/视频** 页面所展示的状态是否为 **正常** 。 | > | 操作 | 对音视频可执行的操作，包括查看审核详情、发起智能审核或人工审核。 | > > 4. 看单个音视频的审核详情信息。 > > 单击操作列的 **详情** 进入视频审核详情页面，页面将展示音视频的播放预览画面、音视频的名称、ID、人审结果和机审结果等信息，并可在本页面对音视频进行播放查看及人工审核结果判定。 > > #### **OpenAPI方式** > > * 调用[查询智能审核作业](./GetAIMediaAuditJob%20-%20查询智能审核作业.md)接口，可查询指定智能审核任务的详细信息。 > > * 调用[获取智能审核结果详情](./GetMediaAuditResultDetail%20-%20获取智能审核结果详情.md)接口，可查询指定音视频或图片的智能审核结果。 > > 更多有关智能审核任务和结果的接口，请参见智能审核相关接口。 > > ## SDK示例 > > * 智能审核模板相关SDK示例，请参见[AI模板管理](https://api.aliyun.com/api-tools/demo/vod/470106e9-8dcf-4553-8c0c-2077972c50a5)。 > > * 智能审核任务相关SDK示例，请参见[媒体审核管理](https://api.aliyun.com/api-tools/demo/vod/3355ea37-dd56-4715-a41f-06c0a9b818b0)。