神经网络二阶反向传播学习算法及其收敛性

作者:刘铁男,王利国,刘严崴,谢爱华,刘志德 时间:2001-01-01 点击数:

刘铁男,王利国,刘严崴,谢爱华,刘志德

  • 1:大庆石油学院自动化与控制工程系

  • 2:大庆石油管理局供电电器设备有限公司

  • 3:大庆供电公司中心实验所

  • 4:大庆石油学院自动化与控制工程系

摘要(Abstract):

针对BP算法收敛速度慢的问题 ,提出了多层前向神经网络的新型二阶递推学习算法 .给出了一种新的矩阵求逆引理 ,从Newton迭代法入手 ,推导出新型递推学习算法 .该算法等价于Newton迭代法并且有二阶收敛速度 ,能同时反向传播网络各层误差和二阶导数信息因子 ,还能实现Newton搜索方向和Hessian阵逆的递推运算 .基于微分方程稳定性理论 ,研究了新算法的全局收敛性 .分析表明 ,新算法优于BP算法并且具有全局收敛性

关键词(KeyWords):全局收敛性;多层前向网络;BP算法;二阶学习算法;Newton算法

Abstract:

Keywords:

基金项目(Foundation):黑龙江省自然科学基金资助项目 (F9812 ) ;;

黑龙江省教育厅科学技术研究项目 ( 95 5 10 31)

作者(Author):刘铁男,王利国,刘严崴,谢爱华,刘志德

Email:

参考文献(References):

2019 版权所有©东北石油大学 | 地址:黑龙江省大庆市高新技术产业开发区学府街99号 | 邮政编码:163318

信息维护:学报 | 技术支持:现代教育技术中心

网站访问量: