GPT2_p

tasks:自然语言处理， code classifier，code complete

license: Apache License 2.0

模型基于GPT2，在在其基础上在代码数据中进行了大量的预训练，转为代码相关任务定制。可以对代码内容进行编码和分析，在不同的下游任务中需要不同的方法进行优化。在代码多标签分类的任务中，我们使用它将输入编码为代码token，后加一个全连接层作为模型的最后一层。除此之外，我们还用到束搜索对输出的标签内容进行优化，这一方法不仅可以捕捉到标签之间的联系，还可以进一步优化多标签分类的输出效果。问题定义为一个标准的多标签分类模型。

Clone with HTTP

 git clone https://www.modelscope.cn/xgmsBin/gpt2_p.git