1.一种基于词频的文章相似度识别方法,其特征在于,包括:将网页X和Y特征向量进行降维和映射,得到以散列值表示的相似度sim(X,Y);
基于每个词条w在网页中的词频计算词条w的区别度WD(w);
根据所述区别度WD(w)得到网页X和Y的网页权值;
通过候选推荐相似度sim(X,Y)与网页X和Y两者的网页权值乘积进行相似网页的推荐。
2.根据权利要求1所述的方法,其特征在于,所述将网页X和Y特征向量进行降维和映射,得到以散列值表示的相似度sim(X,Y),进一步包括:以网页中的整句为单位来获取和计算整句特征值,然后采用编辑距离计算相似度;针对一个多维特征向量映射到一个降维向量空间,并根据该降维后的向量产生一个x维特征值,其中x>1,每一维的值是1或-1,将每个特征项在x维向量空间进行加权处理,最后将这个x维向量中每一维的权值按照预定规则映射为0或1,再将这些二进制数字连接起来,得到网页向量的x位散列值。
3.根据权利要求2所述的方法,其特征在于,所述基于每个词条w在网页中的词频计算词条w的区别度WD(w),表示为:
其中P为采集过程中爬取的所有网页集合,T为所有词条的集合,FP(p,w)表示词条w在网页p中出现的词频;
所述根据所述区别度得到网页X和Y的网页权值,具体为:
4.根据权利要求3所述的方法,其特征在于,通过候选推荐相似度sim(X,Y)与网页X和Y两者的网页权值乘积进行相似网页的推荐,表示为:根据网页相似度sim(X,Y),计算带有网页权值的候选推荐相似度sim(X,Y)×IM(X)×IM(Y),保存最终相似度大于预设阈值Φ且浏览次数大于阈值α的网页结果进行推荐。