利索能及
我要发布
收藏
专利号: 2018113756212
申请人: 浙江工业大学
专利类型:发明专利
专利状态:已下证
更新日期:2026-07-29
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.基于用户交互的主题模型提升方法,包括如下步骤:

步骤1:文档数据预处理;对语料库中每一篇文档进行数据预处理,包括分词、去停词、去标点;构建文档-词矩阵D;对得到的文档-词矩阵进行统计计算,获得语料库中每个词的重要性列表L;使用气泡云图对词的重要性列表L进行可视化,用户在该可视化界面交互进行去停词操作;

1.1对原始数据集进行数据预处理,对语料库中每篇文档进行分词,在根据停词表和符号表进行去停词和去标点,得到文档-词矩阵D;

1.2计算文档中每个词在语料库中的TF-IDF值;词频TF、逆文档频率IDF以及词频-逆文档频率TF-IDF的计算公式如公式(1)(2)(3)所示;

TFIDFi,j=TFi,j×IDFi      (3)

其中TFi,j表示词语ti在文档dj中的词频,ni,j表示词语ti在文档dj中出现的次数,∑knk,j表示文档dj中所有词语的出现次数之和;IDFi表示词ti的逆文档频,|D|表示语料库中文档的总数,|{j:ti∈dj}|表示包含词语ti的文档数目;TFIDFi,j表示文档dj中词语ti的词频逆文档频;将TFIDFi=TFi×IDFi作为一个词在语料库中的重要性指标,其中 根据TF-IDF值获得文档集中每个词的重要性,组成词的重要性列表L;

1.3利用气泡云图作为可视化方式,将计算得到的每个词的重要性列表L可视化出来;

每个气泡代表一个单词,其大小表征单词的重要性,即越大越重要;用户通过点击气泡来获得详细信息以及设置对应词为停词,当某个词被设置为停词时,该视图中对应的气泡也将被删除并更新停词表StopList;用户通过调节滑块调节最大气泡的半径以及界面中展示词的范围;

步骤2:主题模型建模和分析结果的可视化;利用预处理好的语料库作为输入,通过LDA主题模型训练得到主题-文档分布和主题-词分布;通过统计的方法提取主题模型的信息,并设计数据可视化视图来展示信息;

2.1LDA主题模型是一个文档-主题-单词的三层贝叶斯网络,给定一个语料库,该模型分析该语料库中每篇文档的主题概率分布,以及每个词的主题概率分布。LDA主题模型的联合概率如公式(4)所示;

θ表示一篇文档的主题分布,z表示一个主题,w表示一篇文档,c表示每篇文档下主题的多项分布的Dirichlet先验参数,β表示每个主题下词的多项分布的Dirichlet先验参数,N表示语料库中的文档数,zn表示一篇文档中第n个词的主题,wn表示一篇文档的第n个单词;

通过LDA模型训练,得到每一篇文档的主题分布θ以及每个词的主题分布β;

2.2利用词云和饼图对主题模型结果进行可视化;根据模型输出的结果查询出各个主题下概率最高的前P篇文档,并使用PageRank算法计算出排名前Q的关键词,作为关键词词云的输入;同时对各个主题下概率最高的前P篇文档的标签进行统计计算,获得各个主题的标签分布,并使用饼图可视化出来;提取出各个主题下概率最高的前Q篇文档的标题,作为标题词云的输入;

步骤3:基于用户交互的模型提升阶段;首先用户对主题模型分析结果可视化视图进行分析和探索,通过文档标签和主题关键词了解当前主题模型的语义分析结果,并进一步分析当前主题模型的不足;然后根据用户在可视化视图中的交互来获取更新先验知识,并将先验知识带入模型中再次训练;对前后两次模型输出的结果进行统计计算,获得当前主题模型的概述和前后主题模型的变化信息,并使用可视化方式展示给用户;最后重复该步骤进行迭代优化;

3.1基于气泡云图的用户主题词交互:利用气泡云图的可视化技术将主题模型输出的主题-词分布可视化出来,使用tab组件来切换不同主题下词的分布,一个气泡表示一个单词,其大小与词在当前主题下的概率线性相关,所有气泡的最大半径是可以调节的;

基于气泡云图的用户主题词交互包括:通过tab组件来选取进行操作的主题;通过单击气泡,选择“删除”按钮删除用户认为不属于该主题的单词;选择“设为停词”按钮将对应单词设置为停词;

3.2基于用户交互的语料库和主题词更新:首先根据用户设置为停词的词,更新语料库信息,即删除设置为停词的单词,得到新的语料库。然后根据各个主题中删除的单词,更新各个主题的主题词信息;最后将新的语料库作为LDA模型的输入,各个主题的主题词信息作为模型的先验知识,再次训练模型;

3.3更新前后的主题分析结果对比:对再次训练得到的模型结果进行步骤2.2的计算,提取当前主题模型的概述。对前后两次的主题模型的概述进行对比;

比较前后两次模型中各个主题下概率最高的前R篇文档的标题,根据文档的主题概率,能够得到一个变化率 其中doc_topic表示文档的主题概率,t表示模式的迭代时期;注意,如果文档是新出现的,即不是原来的前R篇文档,则Δdoc=

1;

比较前后两次模型中各个主题下概率最高的前P篇文档的前Q个关键词,根据PageRank算法得到的PR值,计算出变化率 其中keywora_weight是通过PageRank计算得到的PR值,t表示模式的迭代时期;注意,如果关键词是新出现的,即不是原来的前Q个关键词,则Δkeyword=1;

比较各个主题的标签信息, 其中label_sum是标签

的数量,t表示模式的迭代时期;注意,如果标签是新出现的,则Δlabel=1;

使用正负轴条形图可视化出前后两次主题模型的变化信息,使用三种颜色分别表示标题、关键词以及标签。正负轴条形图中,x轴表示一个标题、关键词或标签,y轴表示变化率;

3.4基于用户交互的迭代优化:根据上述获得的信息,使用词云和饼图可视化出当前主题模型的概述信息,使用气泡云图可视化出当前主题模型的主题-词分布,以及正负轴条形图构建出用户可视化交互界面;

根据用户可视化交互界面,重复进行步骤3中交互、提取知识、模型重新训练和可视化的流程,进行迭代优化。