#ERNIE

NLP中的预训练语言模型(一)—— ERNIE们和BERT-wwm

  随着bert在NLP各种任务上取得骄人的战绩,预训练模型在这不到一年的时间内得到了很大的发展,本系列的文章主要是简单回顾下在bert之后有哪些比较有名的预训练模型,这一期先介绍几个国内开源的预训练模型。一,ERNIE(清华大学&华为诺亚)  论文:ERNIE:EnhancedLanguageRepresen...