Hand-Bert

或许你早就多次听说过BERT的鼎鼎大名，但你真的了解BERT吗，不如借这个机会，我们一起来看看BERT到底是如何实现的。我们将从基础的概念出发，逐步深入到BERT的每一个细节，你将学习如何从头开始构建BERT模型。

目录

1. 引言
   • 1.1 Bert介绍
2. 数据准备与预处理
   • 2.1 数据准备
   • 2.2 数据预处理
3. Bert模型构建
   • 3.1 数据集定义
   • 3.2 模型框架构建
4. Bert模型训练以及下游任务
   • 4.1 Bert模型训练
   • 4.2 情感分析
5. Transformer介绍
   • 5.1 Transfomer结构

贡献者名单

姓名	职责	简介
丁奎业	项目负责人	NLP爱好者

关注我们

扫描下方二维码关注公众号：Datawhale

LICENSE

本作品采用知识共享署名-非商业性使用-相同方式共享 4.0 国际许可协议进行许可。

注：默认使用CC 4.0协议，也可根据自身项目情况选用其他协议