您的当前位置:首页正文

Bert模型输入输出大揭秘

2024-11-18 来源:个人技术集锦

2021SC@SDUSC

1.简介

Bert在自然语言处理(NLP)领域刷新了 11 个任务的记录,万众瞩目,成为异常火热的一个预训练语言模型。相信不少人入门学习Bert模型都倾向于提纲挈领,先明白它的输入输出形式以及预训练过程中的处理,本文结合代码和相应的数据集带大家一起解密Bert模型的输入输出。

2.输入输出处理

这是一个运用bert模型对句子进行分类的应用的原始数据集(训练集)形式,由上图不难看出该数据集由关键词、关键词位置、文本和标签四个属性组成。而最终经过处理得到的能够直接传入bert模型进行预测的数据形式如下图:

这其中有一些基本概念在我的上一篇博客中有所说明,大家可以参考:

下面引入相关的代码来进行分析:

Top