专利内容由知识产权出版社提供
专利名称：基于局部感知递归神经网络的字符级语言模型预测
方法
专利类型：发明专利发明人：刘惠义,,陶颖申请号：CN201810398231.0申请日：20180428公开号：CN108629401A公开日：20181009
摘要：本发明公开一种基于局部感知递归神经网络的字符级语言模型预测方法，使用递归神经网络的处理形式，将三层网络按层次组合在一起，低层次获取局部字符间的特征，高层次获取文本的语义特征，从而使新模型具有更强的信息综合能力，且更容易处理较长的数据序列。该方法使用BPTT‑RNN(递归神经网络反向传播算法)有监督的方法训练；首先使用adadelta(自适应学习率调整)优化训练至测试集BPC低于1.45，使之快速收敛，再使用学习速率0.0001、动量为0.9的SGD(随机梯度下降)优化方法训练，以获得较好的测试结果。
申请人：河海大学
地址：211106 江苏省南京市江宁开发区佛城西路8号
国籍：CN
代理机构：南京纵横知识产权代理有限公司
代理人：董建林
更多信息请下载全文后查看
