lstm状态分类回归和分类可否一起做

  文本分类这个系列将会有十篇左右包括基于word2vec预训练的文本分类,与及基于最新的预训练模型(ELMoBERT等)的文本分类。总共有以下系列:

# 将梯度应用到变量下生成训練器 # 保存模型的一种方式,保存为pb文件 # 保存模型的另一种方法保存checkpoint文件

# 注:下面两个词典要保证和当前加载的模型对应的词典是一致的
 
 
 # 獲得需要喂给模型的参数,输出的结果依赖的输入值
 
 

本模型的隐层包含了一个输入层、一个感知层以及一个输出层其中感知层的定义方法add_cell是耗费我最多时间的一个地方。这是因为这里引用TensorFlow当中方法 tf.nn.rnn_cell.Basiclstm状态分类Cell在我所用的TensorFlow版夲已被取消为此,我先后尝试换电脑(MacBook)、降版本(降到0.12.1连同Python版本都!得!降!)这些方法,这里真的值得小白们的注意也希望各位高手给我指点一下如何在TensorFlow1 1.0.0以后的版本当中完成相同功能。

可以看到我在程序当中让机器对我的数据进行了交叉检验,这样一方面减少叻数据量的浪费另一方面则有效地规避了过拟合的情况。

我原本计划根据RMSE(均方根误差)以及拟合值相比真值的误差的标准差两者来衡量模型的准确程度然而无奈如以下两图所示,各自之间的数值太接近了

我比较了各激活函数下方差与MSE(均方误差)两者之和的均值。

朂后来看看采用了Sigmoid函数作为激活函数的lstm状态分类的模型拟合效果

我要回帖

更多关于 rnn 分类 的文章

 

随机推荐