对于预训练模型来说，提升模型的大小能够提高下游任务的效果，然而如果进一步提升模型规模，势必会导致显存或者内存出现OOM的问题，长时间的训练也可能导致模型出现退化的情况。这次的新模型不再是简单的的升级，而是采用了全新的权重共享机制，反观其他升级版BERT模型，基本都是添加了更多的预训练任务，增大数据量等轻微的改动。ALBERT模型提出了两种减少内存的方法，同时提升了训练速度，其次改进了BERT中的NSP的预训练任务。
2019达观杯信息提取第九名方案
2019达观杯信息提取第九名方案介绍以及代码地址
Lookahead Optimizer k steps forward, 1 step back
快来试试 Lookahead 最优化方法啊，调参少、收敛好、速度还快，大牛用了都说好。
最优化方法一直主导着模型的学习过程，没有最优化器模型也就没了灵魂。好的最优化方法一直是 ML 社区在积极探索的，它几乎对任何机器学习任务都会有极大的帮助。
Transformer-XL Attentive Language Models Beyond a Fixed-Length Context
目前在自然语言处理领域，Transformer的编码能力超越了RNN，但是对长距离依赖的建模能力仍然不足。在基于LSTM的模型中，为了建模长距离依赖，提出了门控机制和梯度裁剪，目前可以编码的最长距离在200左右。在基于Transformer的模型中，允许词之间直接self-attention，能够更好地捕获长期依赖关系，但是还是有限制，本文将主要介绍Transformer-XL，并基于PyTorch框架从头实现Transformer-XL。
Ubuntu 18.04环境下搭建SSR
本篇博文主要记录在ubuntu 18.04环境下搭建SSR过程。
Multi-Sample Dropout for Accelerated Training and Better Generalization
论文”Multi-Sample Dropout for Accelerated Training and Better Generalization“提出了一种Dropout的新用法，Multi-Sample Dropout可以加快训练速度以及产生更好的结果，本文我们将使用pytorch框架进行实验．