利索能及
我要发布
收藏
专利号: 202110096324X
申请人: 浙江工业大学
专利类型:发明专利
专利状态:已下证
更新日期:2026-07-29
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种基于TWE‑NMF模型的Web服务描述文档语义挖掘方法,其特征在于,所述方法包括以下步骤:

第一步:根据上下文信息和服务标签信息计算单词的语义权重信息从而得到文档‑单词语义权重信息矩阵D,步骤如下:

1.1使用Python中的自然语言工具包NLTK,对Mashup服务描述文档进行中的单词进行词性标注;

1.2:统计单词词频信息,计算TF‑IDF信息;

1.3:提取Mashup服务标签信息,并基于名词集Nset和TF‑IDF值,重新计算Mashup服务描述文档中的每一个单词的语义权重;

第二步:统计单词共现信息,从而计算出SPPMI矩阵信息,步骤如下:

2.1统计词共现信息,由于Mashup服务描述文档较短,为了能更准确地获取上下文共现信息,将整个服务描述文档作为滑动窗口的长度,计算每个单词和其他单词在上下文中共同出现的次数;

2.2点互信息PMI计算,PMI被广泛用于计算单词间相似度的关系,当两个单词在文本中共现概率越大时,单词间的相关性就越强,PMI计算公式如下所示:x和y表示两个单词,P(x,y)表示单词x和y共现的概率,P(x)表示单词x在上下文中出现概率,根据单词wj和其上下文单词wc在语料库中的实际共现次数,可以计算出两者之间的PMI值:

#(wj,wc)表示单词wj和上下文单词wc在语料库中的实际共现次数,E为上下文单词对共现的总次数,#(wj)为单词wj和其他单词共现的次数,Voc表示语料库,即不重复单词的集合;

2.3计算偏移正点互信息值SPPMI矩阵,SPPMI矩阵通过PMI值计算,SPPMI矩阵的计算方式为:

SPPMI(wj,wc)=max(PMI(wj,wc)‑logκ,0)其中κ为负采样系数,通过上述公式得到单词的上下文SPPMI矩阵M;

第三步:基于第一步,第二步得到Mashup服务文档单词的文档‑单词语义权重信息矩阵D,单词的上下文SPPMI矩阵M,通过分解M可以得到词嵌入信息矩阵,进一步将上述两种信息进行结合,计算服务的主题信息,步骤如下:

3.1通过由第一步给定全局文档‑单词语义权重信息矩阵D,通过NMF将其分解为文档‑主题矩阵θ和主题‑单词矩阵Z乘积,分解矩阵D的函数表示为:NxK VxK

subject to:θ≥0 and Z≥0,θ∈R ,Z∈R其中 代表L2范数,N表示Mashup文档数量,K表示文档的主题数量,V表示语料库单词的数量,R表示实数集,上标T表示矩阵转置;NMF是在矩阵中所有元素均为非负数约束条件之下,将一个非负矩阵表示为另外两个非负矩阵乘积方式的矩阵分解方法;

3.2通过第二步计算得到单词的上下文SPPMI矩阵M,分解矩阵M引入词嵌入信息,分解M的公式如下所示:

S是一个额外的对称因子,用于M的近似求解,W为单词的词嵌入矩阵;

3.3利用Mashup服务文档和单词间的关系,可以发现主题信息,通过文档内单词上下文的共现信息,可以学习到词嵌入信息,但是这两个部分并不相互孤立,语义相关的单词属于相似的主题,在嵌入空间中也很接近,单词嵌入与它们的主题相关,关系公式如下所示:

3.4结合步骤3.1,3.2和3.3,得到主题模型的目标函数:subject to:θ≥0 and Z≥0求解该目标函数,使用矩阵迹运算将上述公式展开:T T T T T T T

J(θ,Z,W,S,A)=λdTr((D‑θZ)(D‑θZ))+λwTr((M‑WSW)(M‑WSW))+λtrr((Z‑WA)(Z‑T T

WA))

其中J(θ,Z,W,S,A)为J4在θ,Z,W,S,A参数下的展开形式,进一步运算得到以下公式:T T T T T T T T T TJ(θ,Z,W,S,A)=λdTr(DD‑2DZθ+θZ Zθ)+λwTr(MM‑2MWSW+WSWWSW)+λtTr(ZZ‑2ZAW+T T

WAAW)

Tr表示矩阵求迹,λd,λw和λt为不同部分的权重系数,用于调整各部分计算的误差对结果的影响,根据正则化约束得到以下目标函数:其中α,β,γ, ω为正则化参数,避免过拟合;为使目标函数最小化,对上述目标函数求偏导得到以下公式:

令α⊙θ=0,β⊙Z=0,γ⊙W=0, ω⊙A=0,⊙表示阿达马乘积,即矩阵对应位置的乘积,利用阿达马乘积,令上述公式偏导为0,进一步得到以下等式方程:T

‑(DZ)⊙θ+(θZZ)⊙θ+α⊙θ=0T T T

‑(λdDθ+λtWA)⊙Z+(λdZθZ+λtZ)⊙Z+β⊙Z=0T T

‑2(λwMWS+λtZA)⊙W+(λtWAAW+2λwWSWWS)⊙W+γ⊙W=0T r

‑(ZW)⊙A+(AWW)⊙A+ω⊙A=0进一步更新参数:

通过上述参数更新方式,求解出Mashup服务文档‑主题矩阵θ和主题‑单词矩阵Z,词嵌入矩阵W,主题嵌入矩阵A。

2.如权利要求1所述的基于TWE‑NMF模型的Web服务描述文档语义挖掘方法,其特征在于,所述1.1的过程如下:

1.1.1遍历当前Mashup服务描述文档中的每一个单词,利用NLTK对单词进行词性还原;

1.1.2利用NLTK提取单词词根,并判断单词是否是名词性单词,若是名词性单词加入名词集合Nset;

1.1.3重复步骤1.1.1‑1.1.2直至处理完所有Mashup服务。

3.如权利要求1或2所述的基于TWE‑NMF模型的Web服务描述文档语义挖掘方法,其特征在于,所述1.2的过程如下:

1.2.1遍历Mashup服务描述文档中的每个单词,统计当前文档中每个单词的出现的次数,计算每个单词TF值,计算公式如下:其中TFi,j表示第i个Mashup服务描述文档中第j个单词的词频信息,NUM(j)表示第j个单词出现的次数,LEN(i)表示第i个Mashup文本的长度;

1.2.2统计每个单词出现过的Mashup服务文档数量,计算IDF值,计算公式如下:IDF(x)表示单词x的IDF值,N表示Mashup文档的数量,doc(x)表示包含单词x的Mashup文档数量;

1.2.3遍历所有Mashup文档中的单词,计算单词的TF‑IDF值计算公式如下:TF‑IDF(x)=TF(x)*IDF(x)TF‑IDF(x)表示单词x的TF‑IDF值,TF(x)表示单词x的TF值。

4.如权利要求1或2所述的基于TWE‑NMF模型的Web服务描述文档语义挖掘方法,其特征在于,所述1.3的过程如下:

1.3.1遍历当前Mashup服务文档中每一个单词wx计算其上下文语义权重信息WeightContext(wx),计算公式如下:其中sim(wx,wy)表示单词wx和wy的相似度,通过WordNet工具计算,wy为wx的上下文单词,d表示当前Mashup服务描述文档,Nd表示当前Mashup服务描述文档的长度;WordNet是一种英语词典,通过网状结构来组织词汇,将含义相近的词汇划分到一个组中,通过返回词汇在网络之间的最短路径得到相似度;

1.3.2计算单词的服务标签语义权重信息WeightTag(wx),计算公式如下:其中Tagd表示当前Mashup服务文档的服务标签集合,t表示服务标签中的单词;

1.3.3基于TF‑IDF值,并结合1.3.1和1.3.2中的计算结果,重新计算单词的语义权重。

5.如权利要求4所述的基于TWE‑NMF模型的Web服务描述文档语义挖掘方法,其特征在于,所述1.3.3的操作步骤如下:

1.3.3.1遍历当前Mashup服务描述文档中的每一个单词wx,判断该是否在名词集NSet中,若wx在名词集中,通过以下公式重新计算单词语义权重,若wx不在名词集NSet中跳转到步骤3.3.2中;

1.3.3.2赋值单词的语义权重为其TF‑IDF值,计算公式如下:SemWeight(wx)=TF‑IDF(wx)

1.3.3.3重复1.3.3.1‑1.3.3.2直至处理完所有Mashup服务,得到文档‑单词语义权重矩阵D。

6.如权利要求1或2所述的基于TWE‑NMF模型的Web服务描述文档语义挖掘方法,其特征在于,所述2.1的过程如下:

2.1.1对于当前Mashup服务,计算该Mashup服务描述文档长度Len,设定滑动窗口长度为Len;

2.1.2统计Mashup服务描述文档中单词和其他单词的共现情况,若当前单词的上下文单词,即该单词前后的单词,在滑动窗口Len的距离内,则该单词和其在滑动窗口内的上下文单词共现次数加1;

2.1.3重复2.1.2直至处理完Mashup中的所有单词;

2.1.4重复2.1.1‑2.1.3直至处理完所有Mashup服务。