利索能及
我要发布
收藏
专利号: 2021112025071
申请人: 浙江工业大学
专利类型:发明专利
专利状态:已下证
更新日期:2026-07-29
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种基于深度强化学习的预测式外呼任务分配方法,其特征在于,包括如下:通过对外呼进行建模,构建用于强化学习的虚拟外呼环境;

基于ε‑Greedy方法在所构建的虚拟外呼环境中进行半随机呼出,获得环境返回的奖励和状态;

采用深度强化学习方法对不同外呼环境状态下的不同外呼量的价值进行学习,训练得到可以对不同呼出量进行价值预测的深度神经网络Q;

利用得到的深度神经网络Q对实际呼出状态下不同外呼量进行价值预测,选取价值最高的外呼量进行输出。

2.根据权利要求1所述的基于深度强化学习的预测式外呼任务分配方法,其特征在于,依据外呼系统的工作流程以及外呼任务需求,对外呼建模构建用于强化学习的虚拟外呼环境,具体包括如下:

1.1)基于外呼系统的工作流程生成一个固定容量的呼叫池、振铃队列、等待队列以及通话队列,确定用于描述外呼环境的状态集合,由状态集合中各状态描述分量构成的向量表示外呼环境的状态St;

1.2)规定外呼环境动作集合,呼叫池容量为c,则动作集合为A={0,1,2,3,...,c‑1,c};

1.3)依据呼损大小以及坐席空闲状态设置动作奖励;

1.4)使外呼环境接受随机动作呼出量开始呼出,进入呼出流程,计算实际呼出数,对每通电话生成其拨号时间c_t,筛查振铃队列中振铃结束的电话,判断其是接通还是挂断;根据接通数更新等待队列,对于每个进入等待队列的电话生成其等待时间w_t;计算空闲坐席数,将等待队列中等待电话分配给剩余空闲坐席并生成其通话时间s_t,更新通话队列;呼出流程中计算呼损奖励以及坐席空闲奖励,当所述外呼环境可返回环境状态信息以及奖励,完成环境的一个动作的更新并从当前状态st更迭到下一个状态st+1,则虚拟外呼环境构建成功。

3.根据权利要求1所述的基于深度强化学习的预测式外呼任务分配方法,其特征在于,使用ε‑Greedy方法进行半随机呼出,具体为:通过产生一个[0,1)的随机数,如果产生的随机数小于ε则在当前可选动作集合A中随机选择一个a作为当前的动作,即呼出量为a;如果产生的随机数不小于ε,则使用深度神经网络Q近似值函数,对当前状态下的不同的呼出量的价值进行预测,选取价值最大的呼出量作为当前动作。

4.根据权利要求1所述的基于深度强化学习的预测式外呼任务分配方法,其特征在于,将ε‑Greedy方法产生的呼出量a输入到步骤1)中所构建的虚拟外呼环境中,使外呼环境呼出a,给出即时奖励rt,外呼环境从st状态转移到st+1状态,将状态转移元组(st,at,rt,st+1)存储到记忆M中。

5.根据权利要求4所述的基于深度强化学习的预测式外呼任务分配方法,其特征在于,使用深度强化学习方法对不同状态下呼出量的价值进行学习:

3.1)外呼环境每经过n次外呼环境状态转移,则从当前记忆M中对状态转移元组进行抽样得到训练数据集D;

3.2)计算每个状态转移元组中st状态采取动作at时对应的真实价值yt:其中rt为状态st时采取动作at时所获得的即时奖励,γ为未来奖励系数,maxa′∈AQ(st+1,a′)是在状态st+1时深度神经网络Q对于不同的动作a′所能得到的最大价值;

3.3)将步骤3.2)中计算得到的真实价值yt插入到步骤3.1)采样得到的数据集D对应的状态转移元组中;

3.4)以步骤3.3)中得到的数据集D作为训练数据,使用mini‑batch梯度下降方法对深度神经网络Q进行训练;在训练时使用均方误差损失函数来计算损失值:其中Q(st,at)是在状态st深度神经网络Q预测采取动作at时的价值。

6.根据权利要求1所述的基于深度强化学习的预测式外呼任务分配方法,其特征在于,利用得到的深度神经网络Q对实际呼出状态下不同外呼量进行价值预测,从而确定呼出量,具体包括

4.1)获得外呼系统实际的呼出状态后获得当前呼出状态st,包括当前空闲坐席数、等待接入坐席人数以及正在呼叫中的人数;

4.2)将当前状态st输入训练得到的深度神经网络Q中,对动作集合中每个动作a的价值Q(st,a)进行预测,并使用完全贪婪方式at=argmaxa∈A′Q(st,a)选择在状态st时能取得最大价值的呼出量at;

4.3)输出呼出量at为目标呼出量。

7.一种基于深度强化学习的预测式外呼任务分配系统,其特征在于,包括:环境生成模块,用于模拟外呼系统的工作流程,构建虚拟外呼环境;

外呼量确定模块,用于在环境生成模块所生成的虚拟外呼环境上,利用ε‑Greedy方法产生半随机呼出量,获得状态转移元组并对价值进行修正,形成训练集对深度神经网络进行训练,基于训练得到深度神经网络对实际呼出状态下不同呼出量进行价值预测,以价值最大的呼出量确定为最优外呼量。

8.一种外呼系统,其特征在于,所述外呼系统中采用如权利要求1‑6任一项所述的方法来确定系统的外呼量。