利索能及
我要发布
收藏
专利号: 2022103870769
申请人: 浙江工业大学
专利类型:发明专利
专利状态:已下证
更新日期:2026-07-29
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种多用户边缘智能场景下的神经网络分割及卸载方法,其特征在于,包括如下步骤:步骤1:将边缘服务器放置于基站BS中,并通过有线与BS连接;边缘服务器上放置各类已训练好的DNN模型,其计算资源为TH;在基站的通信范围内放置N个用户设备,每个设备i也放置一个已训练好的DNN模型,其能量限制为Si;

步骤2:每个设备i差生一个计算任务ri={Gi,Ci,Oi,Si},这里Gi=表示处理计算任务的神经网络,其中 表示图中的各节点,每个节点代表一个网络层,Ei={(vi,j,vi,l)|(vi,j,vi,l)∈Vi}表示各节点之间的边; 表示计算网络层vi,j所需要的浮点数计算量; 表示各网络层输出数

据量的大小,其中oi,j(bit)表示的是网络层vi,j输出的数据大小,Si表示设备的能量限制;

步骤3:以每个用户设备的能量Si和边缘服务器的计算资源TH为约束条件,以神经网络分割方案和卸载方案为优化变量,以最大化每个用户计算任务的完成率为优化目标建立优化问题P;

步骤4:把优化问题P分解为两个子问题P1和P2;采用一种遍历搜索结合最大流最小割的方法对子问题P1进行求解;根据子问题P1的求解结果,采用动态规划算法求解问题P2;最终求得优化问题P,从而得到DNN网络最佳分割及卸载方案。

2.如权利要求1所述的一种多用户边缘智能场景下的神经网络分割及卸载方法,其特征在于,步骤3所述的优化问题P的表达式为:loc mec

其中V 和V 是所有用户的DNN网络分割决策,分别表示各用户在本地计算和边缘计算的网络层集合;th={th1,…,thN}表示服务器分配给各设备的计算资源;I={I1,I2,…,IN},Ii∈{0,1},表示设备i上的计算请求是否被执行,Ii=1表示请求被执行,否则表示不执行。

3.如权利要求1所述的一种多用户边缘智能场景下的神经网络分割及卸载方法,其特征在于,优化问题P的限制条件表达式为:

0≤thi≤TH            (1)

Ii∈{0,1}              (3)

其中式(1)表示边缘服务器给设备分配的资源在1到TH之间,不能超过服务器的资源限制;式(2)表示所有设备所被分配计算资源的总和不能超过服务器的总计算资源TH;式(3)表示任务执行决策变量的限制范围为{0,1};式(4)表示DNN推理所需能耗不能超过设备的能量限制。

4.如权利要求1所述的一种多用户边缘智能场景下的神经网络分割及卸载方法,其特征在于,所述步骤4中,问题P1的表达式为:其中 这里ki表示本

地计算的能量效率系数; 表示计算网络层vi,j所需要的时延;fi表示本地计算速率;Pi表示设备工作时的功率;γi表示设备与服务器之间的传输速率; 表示传输网络层输出参数所需要的时延; 表示设备待机时的功率;fe表示服务器上每一个线程的计算速率; 表示计算网络层vi,j所需要的时延;上述优化问题P中式(1)、式(4)为问题P1的限制条件表达式;

问题P2的表达式为:

其中pri表示卸载设备i的网络层所能获得的收益,

上述式(2)、式(3)为问题P2的限制条件表达式。

5.如权利要求1所述的一种多用户边缘智能场景下的神经网络分割及卸载方法,其特征在于,步骤4中,采用遍历搜索结合最大流最小割的算法对步骤4中问题P1以及采用动态规划算法对问题P2进行求解的步骤为:步骤4.1:首先遍历每一个用户i,计算其神经网络全部网络层都在本地计算所需要的能耗 如果此能耗不超过设备本身的能量限制,则让神经网络全部在本地进行计算;

对于本地计算能耗超过设备能量限制的请求,将其放入另外一个队列Queue;

步骤4.2:针对队列Queue中的每一个请求,将服务器的资源从1到TH进行遍历,每次遍历都构造一个辅助图 辅助图 由原始的神经网络图Gi加上一些虚拟节点和边构成,虚拟节点是为了和网络节点连接成边,本身无实际意义;而图中的每一条边都有其实际意义,边的权重 表示的是当请求ri的网络层j分得的计算资源为thi的时候本地计算所需的能耗; 是ri从本地向MEC传输数据所需要的能耗; 是ri在MEC计算时本地设备空闲所需要的能耗;

步骤4.3:在辅助图 的基础上通过找到图中的最小割来计算出分配给设备的资源为thi的时候卸载DNN所需要的最小能耗,直到这个最小能耗不超过设备能耗的限制时,求解出thi,同时相应地得到最佳分割 和 如果当服务器将所有资源TH全部分配给设备i也不能满足其能量限制,则thi=∞;

步骤4.4:根据步骤4.3求得的thi值计算完成执行所获得的收益pri;当0≤thi≤TH时pri设置为1,表示任务可以执行完成,否则pri为0表示任务不能完成;

步骤4.5:用背包问题求解问题P2;其背包问题的递推关系式:

这里,dp[i][j]表示服务器资源为j,卸载第i个DNN所能获得的最大收益;根据其递推式求解出问题P2中的I值。