Albert
Albert 源码解析:分组复用
```py class AlbertGroup(nn.Module): def __init__(self, config): super(AlbertGroup, self).__init__() self.inner_group_num = config.inner_group_num self ......
Bertviz: 在Transformer模型中可视化注意力的工具(BERT,GPT-2,Albert,XLNet,RoBERTa,CTRL,etc.)
BertViz BertViz是一个在Transformer模型中可视化注意力的工具,支持transformers库中的所有模型(BERT,GPT-2,XLNet,RoBERTa,XLM,CTRL等)。它扩展了Llion Jones的Tensor2Tensor可视化工具和HuggingFace的tr ......