lowinli's blog
lowin.li
本博客翻译自 huggingface blog 简介 最近几年，以OpenAI公司的GPT3为代表，基于transformer结构的大模型都已经开始在上百万级别的网页上面训练。因此大家对开放领域语言生成的期待值也越来越高。开放领域的条件语言生成效果也日新月异，例如 GPT2 、 XLNet 、 CTRL 。除了transformers结构和海量的无监督预训练数据，更好的解码方法也在其中扮演了重要角…
讨论
登录后参与讨论
还没有评论，来说第一句吧。