JZTXT

Hugging Face: 代码生成模型的预训练和微调

发布时间 2023-10-23 02:27:59作者: HuggingFace

和大家分享我们的机器学习工程师 Loubna Ben Allal 在 10 月上海 KubeCon 大会的主题演讲 ?
题目是： 代码生成模型的预训练和微调

演讲介绍了构建和训练大型代码模型比如: StarCoder ? 的幕后过程，
还探讨了如何使用开源库，包括 Transformers、datasets 和 PEFT 等。