利索能及
我要发布
收藏
专利号: 2019102008354
申请人: 杭州环形智能科技有限公司
专利类型:发明专利
专利状态:已下证
更新日期:2025-06-19
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种智子模型的协同运算系统,其特征在于:包括基于tensorflow框架平协同台运行的智子Iseed,所述的智子Iseed包括要素结构图、输入、输出属性、资源、序号或/和依赖;

pipe管道,提供本地或者网络的智子激活和应用;

星座,管道中的智子Bundle个数大于1的管道系统;

Bundle,一个正在运行的智子实例;

将具有功能分割的智子Iseed集合,定义为Iseed{is},依照功能排布,获取Iseed的依存关系,形成一个树状图GTree,配置全部智子Iseed的depend集合,使其满足GTree的分布,配置全部Iseed的IO集合;

依照Bundle的启动运行方法,运行初始Iseed,激活运行全部Iseed,构建一个星座网络,所述的星座网络既构成一个集合的智子模型的协同系统,所述的协同统中的任何智子Iseed生成的Bundle都可以被其他星座系统复用、信息复用。

2.如权利要求1所述的智子模型的协同运算系统,其特征在于:所述的一个实例由TensorIO当前运行实例的IO流、Checkpoint智子训练中生成的中间记录集合、Log运行的日志记录、HistoricalTensor历史记录的tensor上下文集合、CurrentTensor当前运行的tensor上下文集合构成。

3.如权利要求1或2所述的智子模型的协同运算系统,其特征在于:所述的Bundle运行规则,当一个智子Iseed开始运行时,对应生成Bundle集合;

I({in},{isn})映射为TensorIO,其中TensorIO针对{in}集合中的全部元素建立输入信息队列Queue_In,针对TensorIO中的元素O(type,shape,tag)建立输出信息池Pool(Pn),所述的元素Pn表示对当前输出的一个记录和存放,必须记忆该智子的标签和全部输入的标签集合;

时态、时态转移及Bundle依赖。

4.如权利要求3所述的智子模型的协同运算系统,其特征在于:所述的时态包括初始化Init、等待Pending、运行Running、关闭Shut。

5.如权利要求4所述的智子模型的协同运算系统,其特征在于:所述的时态转移包括所述的智子Iseed开始被运行直至终止,对应的Bundle将会在以上五个状态之间转移,转移规则如下,首先获取Iseed内容,做预备处理,进入init状态;

在Pending状态下,如果当前的TensorIO中获取到输入信息注入,在当前计算资源允许的情况下,进入Running状态进行计算;此时,如果退出,则进入Shut状态;

在Running状态下,Bundle开始真正运行和计算,当TensorIO中的输入信息为空时,进入Pending状态;在收到停止要求时,进入Stopping状态;如果退出,则进入Shut状态;

在停止状态下,如果需要退出,则进入Shut状态;

Pending、Running、Stopping状态不会释放Bundle的资源,也不会删除Iseed的记录。

6.如权利要求5所述的智子模型的协同运算系统,其特征在于:所述的Bundle依赖为如果即将被运行的智子Iseed的depend集合不为空,则需要依靠depend集合中对应的全部元素建立Bundle;对于处于Pending、Running、Stopping状态的Bundle则直接跳过,其他状态的Bundle则必须进入Pending状态;如果某个depend元素中依旧存在多重依赖,则使用递归方法,依次树状展开Bundle,直至达到初始智子Iseed的depend依赖条件。

7.如权利要求6所述的智子模型的协同运算系统,其特征在于:所述的智子Iseed还包括智子Iseed运行调度计算的智子模块。

8.如权利要求7所述的智子模型的协同运算系统,其特征在于:所述的智子Iseed为定义pb文件的总输入标签集合为I,将pb文件模型的总输出标签集合设置为O,选择所有元素中作为最终输出的元素O,所述的元素O参与到损失参数计算和全局变量优化:生成一个输入集合I和输出元素O;

所述的集合I对其所有输入名称标记标签,记为{i1,i2,i3,…,in},标记全部的输入类型和shape,记为{is1,is2,is3,…,isn};将元素O的shape、名称、输入类型记录为O(type,shape,tag),最终得到一个集合I({in},{isn}),一个元素为O(type,shape,tag)。

9.如权利要求8所述的智子模型的协同运算系统,其特征在于:所述的智子Iseed依赖,标记全部所依赖的模型集合为depends{M1,M2,M3,…,Mn},每个M表示其他需要的模型的属性,所述的每个元素M中包含标签tag、输入输出域属性iO,标记为M{tag,iO}。

10.如权利要求9所述的智子模型的协同运算系统,其特征在于:所述的智