利索能及
我要发布
收藏
专利号: 2023102582364
申请人: 湖北巨字传媒有限公司
专利类型:发明专利
专利状态:已下证
更新日期:2026-05-14
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种基于人工智能的广告敏感内容审核方法,其特征在于,包括:

通过广告发布请求或内容审核请求,获取到需要审核的广告内容资源,并对资源文件进行视频和图像分类;

利用实例分割模型算法Mask‑RCNN的模型结构对审核内容进行定位和识别,并将图形识别提取的特征数据输入到预先训练好的卷积神经网络分类模型中,获取到特征图集结果数据;

将结果数据导出至敏感内容审核系统的分类数据库,进行第一次敏感内容智能审核,将高于三级风险的广告内容直接给出未通过审核的结果反馈;

对低于三级风险的广告内容,向人工审核通道提交详细的审核反馈数据,并发起第二次敏感内容人工审核,以便确定最终审核结果;

待人工审核的最终结果确定后,通过广告敏感内容审核系统的接口给予用户最终结果反馈,完成审核;

敏感内容审核系统的分类数据库,根据不同等级风险内容识别标签进行分类,从L1到L5,每一级的风险指数与审核用户的行业和内容标签进行数据绑定,并通过互联网大数据对广告行业敏感风险标签进行不断持续的深度学习,实时地针对敏感内容审核实施动态审核管理,以达到精准的广告敏感内容审核目的;

第一次敏感内容智能审核结果中,对低于三级风险的广告内容,向人工审核通道提交详细的审核反馈数据,并发起第二次敏感内容人工审核的执行过程中,敏感内容审核系统将依据审核内容的详细信息,与风险分类数据库采用基于深度学习的自然语言处理技术,形象的生成一份审核结果建议内容清单,为第二次人工审核建立起审核行为基础建议信息数据,以便使审核人员更快的完成广告内容的审核,也便于广告审核后续维护工作中对人工审核员的行为进行监督管理;

广告敏感内容审核系统在获取到广告内容资源为视频文件时,会优先对视频资源的音频信息通过ASR自动语音识别算法将其转换为文字内容,并与图像识别内容进行匹配,包含如下步骤:S101、系统获取到视频资源后,采用ASR自动语音识别算法,对视频的音频部分进行识别转化成为文字内容,保存为视频信息的临时文件;

S102、系统通过实例分割模型算法Mask‑RCNN的模型结构对视频内容进行定位和识别后,将识别内容通过预先训练好的卷积神经网络分类模型通过信息输出方式,以文字信息保存为临时文件;

S103、系统将视频资源的语音内容信息与视频内容信息,通过广告敏感内容审核系统进行文字内容匹配,并初步判断广告资源的视频与语音内容的关联度是否匹配;

S104、如果匹配,则进入下一步第一次广告敏感内容系统智能审核,如果不匹配,系统将自动对广告内容直接给出未通过审核的结果反馈,并终止审核;

利用实例分割模型算法Mask‑RCNN的模型结构对审核内容进行定位和识别,在识别过程中,由一个视频文件的输入传达到内容被识别输出,分为以下步骤:S201、将视频输入的多媒体文件采用视频帧率方式解析为多张图片;

S202、利用卷积神经网络CNN对图片中的模型内容进行定位,预测包含识别内容的图像区域;

S203、针对图像区域预测的目标进行分割,并将这些分割好的目标内容分类;

S204、对分类的目标内容,分割图像上的像素特征进行归属;

S205、从图像中检测出目标内容的某些关键点位置,并经过全连接判断内容对象;

S206、最终将识别率最高的模型结果内容输出文本,完成卷积神经网络图像识别。

2.根据权利要求1所述一种基于人工智能的广告敏感内容审核方法,其特征在于,预先训练好的卷积神经网络分类模型在使用过程中,如需扩展在实际识别中的更多内容目标识别,可通过迁移学习的方式,对足够大的数据集中训练的同时,获取来自于其它神经网络架构,如目前较为主流的ResNeXt/Inception v4,如此来得到更加庞大、精准的识别网络架构。

3.一种基于人工智能的广告敏感内容审核系统,用于执行权利要求1‑2任一项所述的基于人工智能的广告敏感内容审核方法,其特征在于,系统结构包含:广告内容资源获取接口:通过第三方接口定义,定向的获取到需要通过审核的广告内容资源,包含免费资源或收费资源,依据实际需求而定;

敏感内容审核系统框架:通过可变分布式计算单元,进行广告敏感内容自动审核;

审核结果人工干预平台:根据敏感内容分类分级模型数据进行第一次智能审核以后,通过不同的分级风险内容、风险危害及调整建议,推送到人工审核模块,将最终的审核权交由管理员来进行处理;

审核结果输出反馈平台:将敏感内容审核系统的审核结果,通过反馈平台或开放接口,将最终结果实时的反馈给用户。

4.根据权利要求3所述一种基于人工智能的广告敏感内容审核系统,其特征在于,敏感内容审核系统框架可选用基于CPU/GPU的硬件平台作为计算框架组件进行部署,并且在硬件部署的环境上优先采用分布式架构进行统一部署管理,以满足审核系统的运算和扩展要求。

5.根据权利要求3所述一种基于人工智能的广告敏感内容审核系统,其特征在于,在应用实例分割模型算法Mask‑RCNN的模型结构的卷积神经网络识别运算环节,以及通过互联网数据收集来强化敏感风险标签进行不断持续的深度学习环节上,本系统可根据计算要求采用专用集成电路高度定制专用芯片的应用提升运算性能。