利索能及
我要发布
收藏
专利号: 2020105143346
申请人: 华南师范大学
专利类型:发明专利
专利状态:已下证
更新日期:2026-10-21
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种人工智能方法,其特征在于,所述方法包括:

输入获取步骤:获取事件场景,作为第一事件场景;获取人工智能伦理规则,作为第一人工智能伦理规则;获取至少一个人工智能装置的信息,将所述人工智能装置,作为第一人工智能装置;

第二事件场景获取步骤:获取所述第一人工智能装置在所述第一事件场景中执行符合所述第一人工智能伦理规则的行为的事件场景,作为第二事件场景;

风险类型获取步骤:获取人工智能伦理风险的类型;人工智能伦理风险的类型包括无人工智能伦理风险的类型和至少一种有人工智能伦理风险的类型;

风险检测步骤:检测所述第二事件场景中的人工智能伦理风险的类型,作为检测得到的人工智能伦理风险的类型;

已知风险防范步骤:若所述风险检测步骤检测得到的人工智能伦理风险的类型不是无人工智能伦理风险的类型,则获取需要防范风险的方式;若需要防范风险的方式是使用阶段风险防范方式,则执行使用阶段风险防范步骤;若需要防范风险的方式是研发阶段风险防范方式,则执行研发阶段风险防范步骤;

潜在风险防范步骤:若所述风险检测步骤检测得到的人工智能伦理风险的类型是无人工智能伦理风险的类型,且迄今为止对所述第一人工智能伦理规则进行所述风险检测步骤检测得到的人工智能伦理风险的类型都是无人工智能伦理风险的类型,则执行潜在风险检测与防范步骤;使用阶段风险防范步骤:通过深度学习改变所述第一事件场景中的人类行为,回到所述输入获取步骤从该步骤开始重新执行所述方法;

潜在风险检测与防范步骤:获取所述第一人工智能伦理规则导致潜在人工智能伦理风险的概率;若所述潜在人工智能伦理风险的概率大于预设阈值,则通过深度学习改变所述第一事件场景,并回到所述输入获取步骤从该步骤开始重新执行所述方法;若所述潜在人工智能伦理风险的概率不大于预设阈值,则将所述第一人工智能伦理规则,作为可应用的人工智能伦理规则;

所述潜在风险检测与防范步骤中的通过深度学习改变所述第一事件场景步骤包括:

第五训练和测试步骤:获取训练数据集和测试数据集,将人工智能伦理规则、使得人工智能装置执行符合所述人工智能伦理规则的行为时不产生人工智能伦理风险的事件场景作为深度学习模型的输入,使得人工智能装置执行符合所述人工智能伦理规则的行为时产生人工智能伦理风险的事件场景作为深度学习模型的预期输出,对深度学习模型进行训练和测试,得到训练和测试后的深度学习模型作为持续改进深度学习模型;

第五使用步骤:获取事件场景,将所述第一人工智能伦理规则、所述第一事件场景输入所述持续改进深度学习模型,计算得到的输出作为通过深度学习改变所述第一事件场景后的第一事件场景。

2.根据权利要求1所述的人工智能方法,其特征在于,所述方法在所述第二事件场景获取步骤之前还包括:场景生成步骤:根据所述第一事件场景和所述第一人工智能伦理规则,预测得到所述第一人工智能装置在所述第一事件场景中执行符合所述第一人工智能伦理规则的行为的事件场景,作为第二事件场景;

行为指令识别步骤:从所述第二事件场景中识别出所述第一人工智能装置需要执行的行为指令;

控制步骤:根据所述第一人工智能装置需要执行的行为指令控制第一人工智能装置。

3.根据权利要求1所述的人工智能方法,其特征在于,所述风险检测步骤包括:

第一训练和测试步骤:获取训练数据集和测试数据集,将事件场景作为深度学习模型的输入,将所述事件场景产生的人工智能伦理风险的类型作为深度学习模型的预期输出,对深度学习模型进行训练和测试,得到训练和测试后的深度学习模型作为人工智能伦理风险检测深度学习模型;

第一使用步骤:将所述第二事件场景输入所述人工智能伦理风险检测深度学习模型,计算得到的输出作为所述风险检测步骤检测得到的人工智能伦理风险的类型。

4.根据权利要求1所述的人工智能方法,其特征在于,所述使用阶段风险防范步骤中的通过深度学习改变所述第一事件场景中的人类行为的步骤包括:第二训练和测试步骤:获取训练数据集和测试数据集,将人工智能伦理规则、使得人工智能装置执行符合所述人工智能伦理规则的行为时产生人工智能伦理风险的事件场景作为深度学习模型的输入,将使得人工智能装置执行符合所述人工智能伦理规则的行为时不产生人工智能伦理风险的事件场景作为深度学习模型的预期输出,对深度学习模型进行训练和测试,得到训练和测试后的深度学习模型作为人类行为改进深度学习模型;其中,使得人工智能装置执行符合所述人工智能伦理规则的行为时不产生人工智能伦理风险的事件场景中的人类行为与使得人工智能装置执行符合所述人工智能伦理规则的行为时产生人工智能伦理风险的事件场景中的人类行为不同;

第二使用步骤:将所述第一人工智能伦理规则、所述第一事件场景输入所述人类行为改进深度学习模型,计算得到的输出作为改变所述第一事件场景中的人类行为后的第一事件场景。

5.根据权利要求1所述的人工智能方法,其特征在于,所述潜在风险检测与防范步骤中获取所述第一人工智能伦理规则导致潜在人工智能伦理风险的概率的步骤包括:第四训练和测试步骤:获取训练数据集和测试数据集,将使得人工智能装置执行符合所述人工智能伦理规则的行为时不产生人工智能伦理风险的已知的所有的所述事件场景的集合作为深度学习模型的输入,将所述人工智能伦理规则的产生潜在人工智能伦理风险的概率作为深度学习模型的预期输出,对深度学习模型进行训练和测试,得到训练和测试后的深度学习模型作为潜在风险概率预测深度学习模型;

第四使用步骤:获取事件场景,将使得人工智能装置执行符合所述第一人工智能伦理规则的行为时不产生人工智能伦理风险的已知的所有的所述事件场景的集合输入所述潜在风险概率预测深度学习模型,计算得到的输出作为所述第一人工智能伦理规则导致潜在人工智能伦理风险的概率。

6.一种机器人,包括存储器、处理器及存储在存储器上并可在处理器上运行的人工智能机器人程序,其特征在于,所述机器人为权利要求1中的第一人工智能装置;所述处理器执行所述程序时实现权利要求1‑5任意一项所述方法的步骤。

7.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现权利要求1‑5任意一项所述方法的步骤。