1.一种生成式多模态互利增强视频语义通信方法,其特征在于,所述方法包括如下步骤:
步骤1:预训练文本‑图像生成对抗网络和文本‑音频生成对抗网络,统称为条件生成对抗网络(CGAN网络);
步骤2:对发送端视频片段进行关键帧的判定,对每一关键帧进行语义信息提取并输出三模态特征信息;
步骤2‑1:对视频的关键帧进行判别;
步骤2‑2:对每一关键帧图像和音频的模态信息进行特征识别,提取文本语义信息,输出图像文本音频三模态特征向量;
步骤3:建立多模态互利增强网络模型,网络以三模态特征向量作为输入,经过特征提取和语义信息差分处理,得到文本特征向量E′i、音频模态附加向量Ti'和图像模态附加向量Vi';
步骤3‑1:输入单关键帧的图像文本音频三模态特征向量并分别编码;
步骤3‑2:将文本向量输入到预训练的条件生成对抗网络(CGAN网络)并生成图像音频;
步骤3‑3:进行信息差分处理,将步骤2‑1中经编码得到的图像音频向量分别与步骤2‑2中生成得到的图像音频向量作差分计算,输出文本特征向量E′i、音频模态附加向量Ti'和图像模态附加向量Vi';
步骤4:将三模态信息(E′i、Ti'、Vi')输入注意力池化层,得到Ht、He、Hv;
步骤5:对Ht、He、Hv进行语义编码;设定语义网络集合 引入语义相似度
ξ是一个在0和1之间的连续值,其中B(·)代表了基于转换器的句子‑双
向编码器(BERT)的预训练模型,s代表原始文本向量,代表编码后的文本向量,T代表向量的转置,||·||代表词嵌入向量的范数;
步骤6:进行信道编码,将语义编码结果进行比特编码并模拟实际信道传输;
步骤7:进行信道解码,将接收到的信息进行比特解码得到语义信息;
步骤8:进行语义解码,将语义信息通过语义网络解码得到原始的三模态信息Ht、He、Hv;
步骤9:在接收端进行视频恢复,条件生成对抗网络输入步骤6、7中解码得到的三模态信息Ht、He、Hv,得到图像、音频和文本三模态的帧信息,同时接收端的图像、音频处理器对图像‑文本、音频‑文本作相应的差分和增强处理,从而恢复原始的视频帧,经过时序处理,得到完整视频片段;
步骤9‑1:条件生成对抗网络输入解码得到的三模态信息Ht、He、Hv,图像、音频处理器对图像‑文本、音频‑文本作相应的差分和增强处理,实现图像音频帧信息还原;
步骤9‑2:多帧信息匹配性纠错,确保视频多帧的一致性和逻辑性,最终恢复出完整的视频片段。
2.根据权利要求1所述的一种生成式多模态互利增强视频语义通信方法,其特征在于,所述步骤2‑1包括:在发送端,首先通过提取关键帧来处理视频片段,为了促进多模态信息的互补增强,确保在一定时间域内模态信息的时序一致性是至关重要的,在该模型中,通过评估交叉相关系数来确定选择的视频关键帧范围,交叉相关系数衡量了两个图像fi和fj之间的相似性,能够计算为:其中(m,n)表示像素坐标,μi和μj分别是图像fi和fj的均值,方程的分子计算了每张图像素值与其均值之间的差异的逐像素乘积之和,分母通过将像素值与其均值之间的差异的平方和开方进行归一化;
为了基于互相关系数来判别视频的关键帧,引入相似性阈值来选择出多个关键帧,过程能够表示为:
其中F表示视频中的所有帧的集合,fi和fj是F中的两个帧,函数C(fi,fj)如上式所述衡量了帧fi和fj之间的相似性,如果fi与F中的所有其他帧的相似度都低于指定的阈值,则将fi视为选定的关键帧,并将其添加到集合key_frames中。
3.根据权利要求1所述的一种生成式多模态互利增强视频语义通信方法,其特征在于,所述步骤2‑2包括:在发送端从每个选定的关键帧中提取和处理图像和音频数据的语义信息,具体而言,分别使用Visual Geometry Group(VGG)和Transformer架构来实现图像和音频处理,并使用训练实现目标识别,由于图像和音频模态中目标检测算法依赖于不同的数据库,两种模态之间的检测结果不可避免地不完全相同,并且相同目标的置信水平也可能有所不同,因此,为了全面提取视频关键帧的语义信息,设置了超参数,在目标对象的文本语义中进行权衡,并最终输出检测结果,在这种情况下,将从每个帧模态提取的文本语义目标表示为oi,利用BERT语料库,将文本谓词结合起来构建完整的描述性文本表示,表示为ei=[o1,o2,...,on],然后,将关键帧文本组合成一个文本序列,表示为E=[e1,e2,...,en]。
4.根据权利要求1所述的一种生成式多模态互利增强视频语义通信方法,其特征在于,所述步骤5‑步骤8包括:建立通信编解码模块,发送端由语义编码器和信道编码器组成,接收端由语义解码器和信道解码器组成,其中物理信道模拟了真实的传输情况,在接收端,接收到的信号通过信道解码和语义解码进行恢复,以获得目标文本,在发送端,传输文本能够表示为s=[s1,s2,...,si,...,sl],其中l是句子长度,si表示句子中的第i个词,句子s依次经过语义编码器、信道编码器、模拟信道、信道解码器、语义编码器进行传输,由DeepSC网络组成的语义通信网络集合能够表示为 每个DeepSC网络具有不同数量的语义符号输出。
5.根据权利要求1所述的一种生成式多模态互利增强视频语义通信方法,其特征在于,所述步骤9包括:接收端视频恢复,采用了多帧语义检测机制,涉及对象检测和跟踪算法,以识别视频中的语义对象并提取它们的位置和运动信息,具体而言,使用CGAN网络生成与关键帧语义文本对应的图像和音频,共计T帧,表示为It,其中t表示帧索引,通过对象检测和跟踪算法,获得每帧的目标位置和边界框信息,表示为Bt;
引入平滑处理来减少帧之间的不一致性,并提高视频的时间连续性,在获得平滑的语义对象位置和运动信息后,能够利用这些信息进行图像恢复,在多帧图像语义检测中采用基于记忆的方法,以确保在一定范围内语义表示的一致性,使最终生成的视频与真实视频相似度达到阈值范围内,此外,利用光流估计来估计帧之间的运动矢量,并使用插值技术生成中间帧,假设要恢复第t帧的图像It,能够使用从光流估计得到的运动矢量Vt计算插值帧表示为:其中,Interpolate(·)表示插值函数,根据运动矢量和相邻帧的图像进行插值生成中间帧,在音频处理方面,采用与图像帧类似的方法,使用滤波器来改善音频质量,并利用插值技术确保时间上的连续性,通过应用滤波器,能够增强音频信号的质量,通过去除噪音或调整频率响应来改善音频的质量,此外,还使用插值技术来维持音频帧的时间连续性,通过应用这些方法,成功恢复了包括视觉和音频组成部分在内的完整视频片段。