收藏本站
收藏 | 投稿 | 论文排版

几种典型卷积神经网络的权重分析与研究

李杰  孙仁诚  
【摘要】:为了探究神经网络权重对网络产生的影响,通过选取多个典型的卷积神经网络模型,采用统计分析及最大似然拟合等方式进行分布拟合,对网络权重进行可视化的对比研究。研究结果表明,神经网络的权重值在训练过程中会向负方向偏移,均值更趋向于0。同时,预训练权重的分布也不再服从初始化时的正态分布,而是向趋于0的方向收缩,呈现出峰值更高的特征,且出现了长尾的现象,局部表现出了幂律分布的特性。利用这些分布特征对神经网络初始化参数做调整,可在一定程度上提高训练效率。

知网文化
【相似文献】
中国期刊全文数据库 前14条
1 裴君楠;陈一萱;;一维卷积神经网络在轴承故障检测中的应用[J];现代矿业;2019年10期
2 曾维亮;林志贤;陈永洒;;基于卷积神经网络的智能冰箱果蔬图像识别的研究[J];微型机与应用;2017年08期
3 侯宇昆;;卷积神经网络概述[J];中国新通信;2017年09期
4 刘佩林;张钰玲;;基于卷积神经网络的语音识别分析[J];电脑迷;2017年01期
5 王媛媛;周涛;吴翠颖;;基于卷积神经网络的PET/CT多模态图像识别研究[J];电视技术;2017年03期
6 尹勰;闫磊;;基于深度卷积神经网络的图像目标检测[J];工业控制计算机;2017年04期
7 王艳娜;孙丙宇;;基于卷积神经网络的烟瘾渴求脑电分类[J];计算机系统应用;2017年06期
8 王健;李虹磊;林鸿飞;杨志豪;张绍武;;基于神经网络的微生物生长环境关系抽取方法[J];华南理工大学学报(自然科学版);2017年03期
9 张庆辉;万晨霞;;卷积神经网络综述[J];中原工学院学报;2017年03期
10 俞汝劼;杨贞;熊惠霖;;基于深度卷积神经网络的航空器检测与识别[J];计算机应用;2017年06期
11 李楚曦;樊晓桠;赵昌和;张盛兵;王党辉;安建峰;张萌;;基于忆阻器的PIM结构实现深度卷积神经网络近似计算[J];计算机研究与发展;2017年06期
12 宋超;许道云;秦永彬;;分离多路卷积神经网络研究[J];计算机工程;2017年06期
13 徐超;闫胜业;;改进的卷积神经网络行人检测方法[J];计算机应用;2017年06期
14 周俊宇;赵艳明;;卷积神经网络在图像分类和目标检测应用综述[J];计算机工程与应用;2017年13期
中国重要会议论文全文数据库 前10条
1 汪灵枝;秦发金;;具有变时滞和脉冲的离散Cohen-Grossberg神经网络的周期解[A];中国自动化学会控制理论专业委员会D卷[C];2011年
2 张素花;展永;安海龙;张振东;韩英荣;赵同军;卓益忠;;电突触耦合FitzHugh-Nagumo神经网络的同步振荡[A];全国复杂系统研究论坛论文集(二)[C];2005年
3 郭天宇;朱铭健;王云鹤;许超;;基于自整合卷积神经网络的人脸分类算法[A];第十一届全国信号和智能信息处理与应用学术会议专刊[C];2017年
4 许进;保铮;;神经网络与图论[A];1999年中国神经网络与信号处理学术会议论文集[C];1999年
5 唐墨;王科俊;;自发展神经网络的混沌特性研究[A];2009年中国智能自动化会议论文集(第七分册)[南京理工大学学报(增刊)][C];2009年
6 张广远;万强;曹海源;田方涛;;基于遗传算法优化神经网络的故障诊断方法研究[A];第十二届全国设备故障诊断学术会议论文集[C];2010年
7 李涛;费树岷;;具有变时滞Cohen-Grossberg神经网络的指数稳定性准则[A];第二十六届中国控制会议论文集[C];2007年
8 韩正之;林家骏;;用神经网络求解非线性相容方程[A];1993年控制理论及其应用年会论文集[C];1993年
9 林家骏;王赞基;;求解不可微优化问题的连续极大熵神经网络[A];1998年中国智能自动化学术会议论文集(上册)[C];1998年
10 姜德宏;徐德民;任章;;基于神经网络的自校正控制器[A];1993中国控制与决策学术年会论文集[C];1993年
中国博士学位论文全文数据库 前10条
1 李洋;小波过程神经网络相关理论及其应用研究[D];哈尔滨工业大学;2008年
2 洪庆辉;忆阻神经网络的全电路设计及其应用[D];华中科技大学;2019年
3 田树耀;基于多尺度变分算法及深度卷积神经网络的图像压缩感知重建[D];燕山大学;2019年
4 孙诗昭;深度学习中深度问题与大模型问题的研究[D];南开大学;2018年
5 肖理业;基于机器学习的电磁场建模与设计研究[D];电子科技大学;2019年
6 梁智杰;聋哑人手语识别关键技术研究[D];华中师范大学;2019年
7 赵博雅;基于卷积神经网络的硬件加速器设计及实现研究[D];哈尔滨工业大学;2018年
8 饶红霞;信息受限下神经网络的状态估计和拟同步研究[D];广东工业大学;2019年
9 张马路;Spiking机器学习算法研究[D];电子科技大学;2019年
10 付钱华;忆阻神经网络的动力学研究[D];电子科技大学;2019年
中国硕士学位论文全文数据库 前10条
1 李志杰;基于神经网络的上证指数预测研究[D];华南理工大学;2015年
2 郑晓妍;神经网络结构化设计与研究[D];北京化工大学;2011年
3 闫明;基于FPGA的神经网络硬件实现[D];中国海洋大学;2008年
4 程都;基于神经网络的航空发动机模型自适应修正[D];大连理工大学;2019年
5 杜巧林;基于深度学习的虚假评论检测[D];山东科技大学;2018年
6 顾旸铖;视频中人物特征提取及检测算法研究[D];上海交通大学;2017年
7 郭旭;基于深度神经网络的推荐系统研究[D];黑龙江大学;2019年
8 李茹;基于深度神经网络的水利泵站工控安全研究[D];江苏科技大学;2019年
9 冯凯;基于RBF神经网络的炼化项目投资综合效益评价[D];大连理工大学;2019年
10 熊一点;基于深度学习的有色纤维配色算法研究[D];东华大学;2019年
中国重要报纸全文数据库 前10条
1 张允硕 姜正义 甄海锋 河南理工大学;基于神经网络的自适应PID控制的智能衣架[N];科学导报;2019年
2 记者 刘霞;忆阻器制成神经网络更高效[N];科技日报;2017年
3 ;神经网络小史[N];电子报;2018年
4 张敏;人机大战,到底谁会赢?[N];北京日报;2017年
5 ;人工智能将取得大面积突破[N];中国企业报;2017年
6 本报记者 龚丹韵;人机大战:人类还有优势吗[N];解放日报;2017年
7 中国科学技术大学终身学习实验室博士 吴茂乾;“寒武纪”人工智能大爆发的前夜[N];安徽日报;2017年
8 卡内基·梅隆大学计算机科学学院机器学习系主任 Tom Mitchell;突破人类和机器的边界[N];中国信息化周报;2017年
9 舒年;“深度学习”与人工智能的新挑战[N];工人日报;2017年
10 记者 刘霞;新神经网络使计算机像人一样推理[N];科技日报;2017年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978