1.一种面向智能家居的注意力扩散知识图谱推理方法,其特征在于,包括以下步骤:S1.从公开的WN18RR知识图谱数据集,提取其中的实体、关系及三元组数据;知识图谱中的节点包括智能设备、环境参数以及设备行为;边包括检测、触发、伴随以及依赖;
S2.设定推理过程的传播层数 ,并初始化头实体集合,接下来的推理过程将在这 层中,重复步骤S3至S6,逐步构造目标实体的特征表示;
S3.依据第层头实体,查找与头实体相连的所有关系及相邻目标实体的信息,得到第层的相关三元组集合;
S4.对于第层的相关三元组集合中的每一个具体三元组,通过多头注意力机制捕获知识图谱中的实体特征,生成基于头实体和查询关系的消息传递;具体步骤包括:S41.将查询关系特征表示为 、当前层三元组关系的特征表示为 ,分别与当前扩散的层数进行拼接,获取基于扩散层数的相关性信息,并分别经过线性映射层生成多头注意力中的查询Q、键K;当前传播到第层的头实体 的特征表示 经过线性映射层得到多头注意力中的值V,公式表示如下:,
,
,
其中, ,分别表示查询关系、当前层三元组关系、当前层头实体的特征表示,根据实体和关系的索引调用嵌入层随机编码生成,并随着模型学习逐渐修正;
代表扩散层数的信息, 分别表示查询Q、键K以及值V进行线性映射的变换矩阵,n表示多头的数量, 分别表示查询Q、键K以及值V进行线性映射的偏移量;表示对向量沿第二维度进行拼接操作;
S42.注意力计算:对查询Q以及键K的转置进行计算,得到注意力权重矩阵 ,公式表示如下:,
其中, 分别表示查询Q、键K的转置;表示 激活函数; 表示基于丢弃法的正则化技术;表示键K的维度;
S43.使用注意力权重矩阵 对值V进行加权求和:将所有节点i的注意力权重与值向量 进行逐元素相乘并求和,得到节点j的加权值向量 ,最终将n个节点的加权值向量进行拼接,得到多头注意力机制的输出结果 ,公式表示如下:,
,
其中, 表示从 中取出的第i行第j列的值, , 代表行数, 代表列数,用来遍历 ;
S44.所述多头注意力机制的输出结果经过线性映射层进行处理,得到初始的消息内容,公式表示如下:,
其中, 表示第一线性映射的变换矩阵; 表示可训练的第一偏移量;
表示当前三元组产生的消息内容;
S45.将多头注意力机制的输出结果和注意力权重矩阵 拼接,优化消息传递中相关性 的准确性,拼接结果经过线性映射层,得到当前层局部消息相关性 ,公式表示如下:,
其中, 表示权重矩阵展开操作; 表示第二线性映射的变换矩阵; 表示可训练的第二偏移量; 表示局部的消息相关性S46.设计存储上一层相关性的变量 进行连接,基于历史相关性再次优化消息传递中相关性 的准确性,通过归一化为一个小数来表示当前消息的相关性,经过线性映射层和激活函数进行处理,得到最终的相关性权重 ,公式表示如下:,
其中, 表示上一层的局部消息相关性, 表示当前层的消息相关性,初始化为0向量; 表示第二线性映射的变换矩阵; 表示可训练的第二偏移量;表示 激活函数; 表示归一化操作; 的小数,表示最终的相关性权重;
S47.将最终的相关性权重 与初始的消息内容 逐元素相乘,得到基于当前三元组的消息传递 ,公式表示如下:其中, 表示逐元素相乘操作, 表示基于当前三元组的消息传递;
S5.基于多头注意力模型捕获的消息传递,实现目标实体的消息传递与聚合,并最终生成目标实体的特征表示;
S6.基于语义相关性度量对节点间的邻居关系进行筛选,选择top‑k个目标节点,扩散传播到下一层;跳转执行步骤S3;
S7.经过 层消息扩散后,将最终目标实体的特征表示经过线性映射,得到推理结果。
2.根据权利要求1所述的面向智能家居的注意力扩散知识图谱推理方法,其特征在于,步骤S1具体包括:S11.从WN18RR知识图谱数据集读取实体集合 ,关系集合 ;从WN18RR数据集读取三元组的集合 ,其中 ;其中, 表示该数据集的正样本,代表头实体,代表尾实体, 都属于实体集合 ,r表示从头实体 指向尾实体 的连接;
S12.生成负样本:对每组正样本三元组生成反向三元组,反向三元组的表达式为:,其中, 表示知识图谱关系的总数量, 将超出关系的总数量,破坏了原来正确的三元组,以增强模型的区分能力;
S13.构建知识图谱 ,表达式为: ,其中,指实体集合, 指关系集合,指所有的正样本和负样本。
3.根据权利要求2所述的面向智能家居的注意力扩散知识图谱推理方法,其特征在于,步骤S2具体包括:S21.设定推理过程的传播层数为 ,设第层开始,=1,重复步骤S3至S6,直到 结束;
S22.根据查询信息 推理目标实体,其中, 表示查询三元组的头实体,表示查询三元组的关系,将查询三元组的头实体初始化为第1层的头实体集合 ,表示为: 。
4.根据权利要求3所述的面向智能家居的注意力扩散知识图谱推理方法,其特征在于,步骤S3具体包括:根据第层的头实体,从已知的知识图谱 中查询目标实体并对目标实体去重,得到第层的三元组信息,公式表示如下:,
,
其中, 指从第1层到 层已经被选择过的头实体, 指从知识图谱 中查询的目标实体; 表示经过去重后第层的三元组信息, 表示已知的当前层头实体, 表示经过查询去重后的目标实体,表示连接头实体与目标实体间的关系边。
5.根据权利要求4所述的面向智能家居的注意力扩散知识图谱推理方法,其特征在于,步骤S5具体包括:S51.对于第层的所有三元组,重复步骤S4,得到所有三元组的消息传递,将所有消息传递进行拼接,得到所有目标实体消息传递 ,公式表示为:,
表示第 层三元组数量;
S52.对于指向同一目标实体的消息传递进行聚合,经过一个线性映射,得到目标实体的特征表示 ,公式表示如下:,
其中, 为消息聚合操作,表示对同一目标实体的消息传递进行求和操作;
表示第三线性映射的变换矩阵, 表示可训练的第三偏移量; 表示tanh激活函数; 表示目标实体的特征表示。
6.根据权利要求5所述的面向智能家居的注意力扩散知识图谱推理方法,其特征在于,步骤S6基于语义信息的扩散过程具体包括:通过线性映射层捕获相关性信息,然后经过一个 激活函数得到每一个目标实体对应的相关性占比,公式表示如下:,
其中,表示线性映射层, 表示当前第层的目标实体集合, ;根据语义信息的相关性占比从大到小选择前top‑k个目标实体保留;如果 ,将被选择的目标实体,选择的目标实体的特征表示 传到下一层,并跳转执行步骤S2;否则执行最后的步骤S6。
7.根据权利要求6所述的面向智能家居的注意力扩散知识图谱推理方法,其特征在于,步骤S7具体包括:将经过 层消息扩散过程的目标实体的特征表示,通过线性映射获得得分数值,根据得分高低预测目标实体,得分最高的目标实体为推理结果,公式表示如下:,
其中, 表示经过 层消息扩散过程的目标实体的特征表示;
表示第四线性映射的变换矩阵; 表示可训练的第四偏移量;
表示得分数值。