【FAQ】参数设置相关问题汇总

原创
2018/02/23 21:10
阅读数 2K

在使用指南的最后一部分,我们汇总了使用PaddlePaddle过程中的常见问题,本部分推文目录如下:


2.22:【FAQ】模型配置相关问题汇总

2.23:【FAQ】参数设置相关问题汇总

2.24:【FAQ】本地训练与预测相关问题汇总

2.25:【FAQ】集群训练与预测相关问题汇总

2.26:如何贡献代码

2.27:如何贡献文档





640?wx_fmt=png

参数设置相关问题汇总

640?wx_fmt=png



|1. 如何选择SGD算法的学习率?


在采用sgd/async_sgd进行训练时,一个重要的问题是选择正确的learning_rate。如果learning_rate太大,那么训练有可能不收敛,如果learning_rate太小,那么收敛可能很慢,导致训练时间过长。


通常做法是从一个比较大的learning_rate开始试,如果不收敛,那减少学习率10倍继续试验,直到训练收敛为止。那么如何判断训练不收敛呢?可以估计出如果模型采用不变的输出最小的cost0是多少。


如果训练过程的的cost明显高于这个常数输出的cost,那么我们可以判断为训练不收敛。举一个例子,假如我们是三分类问题,采用multi-class-cross-entropy作为cost,数据中0,1,2三类的比例为 0.2, 0.5, 0.3 , 那么常数输出所能达到的最小cost是 -(0.2*log(0.2)+0.5*log(0.5)+0.3*log(0.3))=1.03 。如果训练一个pass(或者更早)后,cost还大于这个数,那么可以认为训练不收敛,应该降低学习率。



|2. 如何设置学习率退火(learning rate annealing)?


在相应的优化算法里设置learning_rate_schedule及相关参数,以使用Adam算法为例,代码如下:

optimizer = paddle.optimizer.Adam(

    learning_rate=1e-3,

    learning_rate_decay_a=0.5,

    learning_rate_decay_b=0.75,

    learning_rate_schedule="poly",)


PaddlePaddle目前支持8种learning_rate_schedule,这8种learning_rate_schedule及其对应学习率计算方式如下:


“constant”

lr = learning_rate


“poly”

lr = learning_rate * pow(1 + learning_rate_decay_a * num_samples_processed, -learning_rate_decay_b)其中,num_samples_processed为已训练样本数,下同。


“caffe_poly”

lr = learning_rate * pow(1.0 - num_samples_processed / learning_rate_decay_a, learning_rate_decay_b)


“exp”

lr = learning_rate * pow(learning_rate_decay_a, num_samples_processed / learning_rate_decay_b)


“discexp”

lr = learning_rate * pow(learning_rate_decay_a, floor(num_samples_processed / learning_rate_decay_b))


“linear”

lr = max(learning_rate - learning_rate_decay_a * num_samples_processed, learning_rate_decay_b)


“manual”

这是一种按已训练样本数分段取值的学习率退火方法。使用该learning_rate_schedule时,用户通过参数 learning_rate_args 设置学习率衰减因子分段函数,当前的学习率为所设置 learning_rate 与当前的衰减因子的乘积。以使用Adam算法为例,代码如下:

optimizer = paddle.optimizer.Adam(

    learning_rate=1e-3,

    learning_rate_schedule="manual",

 learning_rate_args="1000:1.0,2000:0.9,3000:0.8",)


在该示例中,当已训练样本数小于等于1000时,学习率为 1e-3 * 1.0;当已训练样本数大于1000小于等于2000时,学习率为 1e-3 * 0.9;当已训练样本数大于2000时,学习率为 1e-3 * 0.8


“pass_manual”

这是一种按已训练pass数分段取值的学习率退火方法。使用该learning_rate_schedule时,用户通过参数 learning_rate_args 设置学习率衰减因子分段函数,当前的学习率为所设置 learning_rate 与当前的衰减因子的乘积。以使用Adam算法为例,代码如下:

optimizer = paddle.optimizer.Adam(

    learning_rate=1e-3,

    learning_rate_schedule="pass_manual",

    learning_rate_args="1:1.0,2:0.9,3:0.8",)


在该示例中,当已训练pass数小于等于1时,学习率为 1e-3 * 1.0;当已训练pass数大于1小于等于2时,学习率为 1e-3 * 0.9;当已训练pass数大于2时,学习率为 1e-3 * 0.8



|3. 如何初始化参数?


默认情况下,PaddlePaddle使用均值0,标准差为 \(\frac{1}{\sqrt{d}}\) 来初始化参数。其中 \(d\) 为参数矩阵的宽度。这种初始化方式在一般情况下不会产生很差的结果。如果用户想要自定义初始化方式,PaddlePaddle目前提供两种参数初始化的方式:


高斯分布。将 param_attr 设置成 param_attr=ParamAttr(initial_mean=0.0, initial_std=1.0)

均匀分布。将 param_attr 设置成 param_attr=ParamAttr(initial_max=1.0, initial_min=-1.0)


比如设置一个全连接层的参数初始化方式和bias初始化方式,可以使用如下代码:

hidden = fc_layer(input=ipt, param_attr=ParamAttr(initial_max=1.0, initial_min=-1.0),

                  bias_attr=ParamAttr(initial_mean=1.0, initial_std=0.0))


上述代码将bias全部初始化为1.0, 同时将参数初始化为 [1.0, -1.0] 的均匀分布。



|4.  如何共享参数?


PaddlePaddle的参数使用名字 name 作为参数的ID,相同名字的参数,会共享参数。设置参数的名字,可以使用 ParamAttr(name="YOUR_PARAM_NAME") 来设置。更方便的设置方式,是使得要共享的参数使用同样的 ParamAttr 对象。


简单的全连接网络,参数共享的配置示例为:


这里 hidden_a hidden_b 使用了同样的parameter和bias。并且softmax层的两个输入也使用了同样的参数 softmax_param



|5.如何加载预训练参数?


对加载预训练参数的层,设置其参数属性 is_static=True,使该层的参数在训练过程中保持不变。以embedding层为例,代码如下:

emb_para = paddle.attr.Param(name='emb', is_static=True)

paddle.layer.embedding(size=word_dim, input=x, param_attr=emb_para)


从模型文件将预训练参数载入 numpy.array,在创建parameters后,使用 parameters.set() 加载预训练参数。PaddlePaddle保存的模型参数文件前16字节为头信息,用户将参数载入 numpy.array 时须从第17字节开始。以embedding层为例,代码如下:

def load_parameter(file_name, h, w):

    with open(file_name, 'rb') as f:

        f.read(16# skip header.

        return np.fromfile(f, dtype=np.float32).reshape(h, w)


parameters = paddle.parameters.create(my_cost)

parameters.set('emb', load_parameter(emb_param_file, 30000, 256))



|6. PaddlePaddle是否支持维数可变的数据输入?


PaddlePaddle保存的模型参数文件内容由16字节头信息和网络参数两部分组成。头信息中,1~4字节表示PaddlePaddle版本信息,请直接填充0;5~8字节表示每个参数占用的字节数,当保存的网络参数为float类型时为4,double类型时为8;9~16字节表示保存的参数总个数。


将PaddlePaddle保存的模型参数还原回明文时,可以使用相应数据类型的 numpy.array 加载具体网络参数,此时可以跳过PaddlePaddle模型参数文件的头信息。若在PaddlePaddle编译时,未指定按照double精度编译,默认情况下按照float精度计算,保存的参数也是float类型。这时在使用 numpy.array 时,一般设置 dtype=float32 。示例如下:

def read_parameter(fname, width):

    s = open(fname).read()

    # skip header

    vec = np.fromstring(s[16:], dtype=np.float32)

    # width is the size of the corresponding layer

    np.savetxt(fname + ".csv", vec.reshape(width, -1),

            fmt="%.6f", delimiter=",")


将明文参数转化为PaddlePaddle可加载的模型参数时,首先构造头信息,再写入网络参数。下面的代码将随机生成的矩阵转化为可以被PaddlePaddle加载的模型参数。

def gen_rand_param(param_file, width, height, need_trans):

    np.random.seed()

    header = struct.pack("iil", 0, 4, height * width)

    param = np.float32(np.random.rand(height, width))

    with open(param_file, "w") as fparam:

        fparam.write(header + param.tostring())



|7. A protocol message was rejected because it was too big?


如果在训练NLP相关模型时,出现以下错误:

[libprotobuf ERROR google/protobuf/io/coded_stream.cc:171] A protocol message was rejected because it was too big (more than 67108864 bytes).  To increase the limit (or to disable these warnings), see CodedInputStream::SetTotalBytesLimit() in google/protobuf/io/coded_stream.h.


F1205 14:59:50.295174 14703 TrainerConfigHelper.cpp:59] Check failed: m->conf.ParseFromString(configProtoStr)


可能的原因是:传给dataprovider的某一个args过大,一般是由于直接传递大字典导致的。错误的define_py_data_sources2类似:

src_dict = dict()

for line_count, line in enumerate(open(src_dict_path, "r")):

   src_dict[line.strip()] = line_count


define_py_data_sources2(

   train_list,

   test_list,

   module="dataprovider",

   obj="process",

   args={ "src_dict": src_dict})


解决方案是:将字典的地址作为args传给dataprovider,然后在dataprovider里面根据该地址加载字典。即define_py_data_sources2应改为:

define_py_data_sources2(

   train_list,

   test_list,

   module="dataprovider",

   obj="process",

   args={ "src_dict_path": src_dict_path})



 end


*原创贴,版权所有,未经许可,禁止转载

*值班小Paddle:wangp

*欢迎在留言区分享您的观点

640?wx_fmt=png

本文分享 CSDN - 飞桨PaddlePaddle。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

展开阅读全文
加载中

作者的其它热门文章

打赏
0
0 收藏
分享
打赏
0 评论
0 收藏
0
分享
返回顶部
顶部