JZTXT

vocab

大模型训练过程中用到的 gpt_merge.txt和gpt_vocab.json是干什么用的？

下面这边文章讲的非常清晰，原文链接：https://blog.csdn.net/ljp1919/article/details/113616226 ......
中用 gpt_merge gpt gpt_vocab 模型

怎么裁剪LLM（大语言模型）的vocab（词表）？

怎么裁剪LLM（大语言模型）的vocab（词表）？ Part1前言 对于一些多语言的大语言模型而言，它的词表往往很大。在下游使用这些模型的时候，可能我们不需要其它的一些语言，例如只需要中文和英文，此时，我们可以对其vocab进行裁剪，既可以大大减少参数量，也能够保留模型的性能，接下来以Bloom模型 ......
词表 模型 语言 vocab LLM
共2篇  :1/1页 首页上一页1下一页尾页