1.基于数字媒体的内容管理系统,包括数字内容生成模块、内容层级审核管理模块、人工复核管理模块,其特征在于:所述数字内容生成模块,用于内容型平台通过对接数字资源合作商生产专业内容;
所述内容层级审核管理模块,用于通过技术审核、人工审核和用户投诉机制的组合机制对产生的专业内容进行层级的审核管理;
所述人工复核管理模块,用于通过人工审核对不确定的标签类别进行内容复核管理;
所述数字内容生成模块包括:
内容类目维度划分模块,用于内容型平台根据生产内容的类目进行维度的划分;
内容生产要素定义模块,用于利用生产内容的类目主体定义内容生产要素;
内容资源库构建模块,用于根据生产出的内容资源构建属于平台的内容资源库;
所述内容层级审核管理模块包括:
内容审核搭建模块,用于内容型平台通过接入第三方的技术审核接口以及搭建自己的内容审核终端;
内容图片审核模块,用于通过模型对内容图片的状态进行审核管理;
机器学习分类审核模块,用于根据机器学习对内容图片的审核进行分类审核;
跨域内容图片审核模块,用于执行因图片内容审核任务的源域和目标域数据不属于同一个领域的内容图片;
内容文字审核模块,用于通过对内容文字进行敏感词的匹配比对以及利用自然语言对文本语义分析审核;
所述人工复核管理模块包括:
人工审核触发模块,用于对触发人工审核的内容图片和内容文字进行复审;
用户投诉机制反馈模块,用于用户通过投诉机制进行内容文字和内容图片的投诉反馈;
审核任务再次生成模块,用于当达到被投诉反馈的阈值时重新送审生成再次审核任务,审核人员对该类内容进行再次审核;
基于数字媒体的内容管理系统执行基于数字媒体的内容管理方法,所述该方法包括以下步骤:步骤一:内容型平台通过对接数字资源合作商生产专业内容,形成基于数字媒体的平台内容运营管理圈层,专业内容生产者、数字资源合作商通过分析内容型平台所拥有的内容主体层次和结构属性,针对内容型平台的应用场景定义内容合作的形式;
步骤二:通过技术审核、人工审核和用户投诉机制的组合机制对产生的专业内容进行层级的审核管理;
步骤三:在第一层审核过程中,定义生产的内容中的待审核要素为内容图片和内容文字两部分,通过模型对内容图片的状态进行审核管理;
步骤四:针对内容文字部分的内容审核,通过对内容文字进行敏感词的匹配比对以及利用自然语言对文本语义分析审核;
步骤五:通过人工审核在内容图片和内容文字中输出为内容图片不确定和内容文字不确定的标签类别进行内容复核管理;
所述内容型平台通过对接数字资源合作商生产专业内容的步骤,包括:
内容型平台根据生产内容的类目进行维度的划分,利用生产内容的类目主体定义内容生产要素,生产内容的类目主体指生产者在生产的专业内容所呈现出的内容风格和内容特点,将信息质量设置为内容管理的第一级指标,将信息内容的易理解性和反馈服务的及时性作为内容管理的第二级指标,根据内容生产者的内容进行具体类目构建,同步内容型平台将数字资源合作商中的内容生产者同个人专属认证和符号标识的身份支持资源进行关联绑定,以及将内容生产者和荣誉奖励资源进行关联绑定,并根据其生产出的内容资源构建属于平台的内容资源库;
所述通过组合机制对产生的专业内容进行层级的审核管理运行方法为:
内容型平台通过接入第三方的技术审核接口以及搭建自己的内容审核终端,利用技术审核中的屏蔽字库通过服务器验证进行内容的第一层次审核管理;其中屏蔽字库包含了履行平台责任应禁止发布、传输的内容,个性化进行增加调整,技术审核通过后的专业内容进行正常发布传播,审核触发屏蔽字库的内容则发布仅专业内容生产者、数字资源合作商自己可见,其他用户并不可见,当技术审核触发了敏感字库、以及疑似敏感字后,会进入后台提示人工进行复核处理,进入人工审核,由人工综合设定的内容信息标准判断产生的专业内容是否违规,以及进行何种处理;
所述通过模型对内容图片的状态进行审核管理的步骤包括:
将内容型平台中的内容图片的类别标签进行定义,通过平台中定义的图片审核标准,将其定义为正常、非正常、不确定三种不同的类别标签,利用基于CNN的图片内容审核模型作为主要的分类模型,结合基于检测或图片分割来进行内容审核的小部分模型,根据机器学习对内容图片的审核进行分类审核,利用主要的分类模型将图片i作为输入数据,输出数据为该图片的每个类别x的概率 ,其中,为设定参数为 的分类模型,利用该模型进行多领域的内容审核;
对有多个源域的图片输入数据和目标域图片输入数据,将每个领域数据输入到各自的特征提取器中得到特征,利用每个特征提取器之间共享参数,对通过特征提取器提取到的特征进行分支的划分,分为两个分支,第一个分支通过一个梯度反转层和领域类别分类器得到领域的分类结果,实现与特征提取器之间的对抗训练,以及获得集成权重,第二个分支首先通过一个矩匹配模块将各个领域之间的特征进行对齐,将对齐后的源域特征输入到每个源域各自对应的特征提取器和分类器中,得到每个源域数据的分类结果,对于目标域通过输人到源域对应的所有分类器中得到多个分支的分类结果,将每个分类器对目标域数据的分类结果使用领域分类器得到的集成权重进行集成,得到最终的输出结果;并将输出的不确定标签类别的图片传输至人工终端进行复核处理,进入人工审核由人工审核人员进行判断,人工审核人员综合设定的内容信息标准判断产生的专业内容是否违规。
2.根据权利要求1所述的基于数字媒体的内容管理系统,其特征在于:所述通过对内容文字进行敏感词的匹配比对以及利用自然语言对文本语义分析审核的方法为:利用人工智能进行第一阶段海量内容文字的审核,区分内容文字正常、内容文字非正常、以及内容文字不确定三个内容文字类,利用自然语言处理技术进行内容文字的处理,通过文本表征和指定的审核模型,使用风险词表通过匹配规则将内容文字中的敏感词汇与风险词表进行匹配,判断敏感文字与数据库中的风险词的比对结果,识别出问题文字并进行标注和分类,并根据分类统计模型生成对应的特征;
利用内容文字审核的辅助策略管理对技术审核的策略进行干预辅助,根据实时词汇、术语、网络热词的更新进行审核数据库地填充。
3.根据权利要求2所述的基于数字媒体的内容管理系统,其特征在于:所述通过人工审核对不确定的标签类别进行内容复核管理的方法包括:对内容图片以及内容文字在进行第一次审核并用标签标注不确定和内容文字不确定的类别,触发到人工审核对技术审核的结果进行复审,以及对一些技术审核无法得出高置信度的不确定情况进行复核,当内容图片或内容文字进入审核流中,并短时间内有浏览量时候,已经通过审核的内容,会推送给用户,并接受用户的反馈,用户通过投诉机制进行内容文字和内容图片的投诉反馈,当达到被投诉反馈的阈值时重新送审生成再次审核任务,审核人员对该类内容进行再次审核。