NLP领域中更有效的迁移学习方法

  • 时间:
  • 浏览:1

       今年春天,我 在ODSC East会议上发表了题为  

       在深度1学习领域,迁移学习(transfer learning)是应用比较广的妙招之一。该妙招允许朋友 构建模型以前不光还都能否借鉴或者 其它科研人员的设计的模型,还可不需用借用之类行态的模型参数,或者 之类于站在巨人的肩膀上进行深入开发。本文将讲述如何在NLP领域中更高效地应用迁移学习。

”的演讲。该演讲展示了预训练的单词和文档嵌入层在训练数据集较小时取得的优异结果,并为将那先 技术应用于工程任务中提出了一系列实用建议。此外,感谢[Alec Radford和OpenAI团队的或者 出色研究](),使得以前提出的或者 建议存在了或者 变化。



       为了解释存在变化的愿因,首先回顾一下以前在Indico会议中使用的评估妙招,以评估两种新颖的机器学习