LuYF-Lemon-love の Blog
00222 NLP Course - Sharing pretrained models 00222 NLP Course - Sharing pretrained models
前言在下面的步骤中，我们将看看分享预训练模型到🤗 Hub的最简单方法。有一些工具和实用程序可以帮助我们在Hub上轻松地分享和更新模型，我们将在下面进行探索。 我们鼓励所有训练模型的用户通过分享它们来为社区做出贡献——即使是在非常特定的数据
2024-11-04 大语言模型
深度学习 大语言模型 huggingface
00221 NLP Course - Using pretrained models 00221 NLP Course - Using pretrained models
前言模型中心（Model Hub）简化了选择合适模型的过程，使得在任何下游库中使用这些模型只需几行代码。让我们来看看如何实际使用这些模型，以及如何回馈社区。 假设我们正在寻找一个基于法语的模型，能够执行掩码填充任务。 我们选择camemb
2024-11-04 大语言模型
深度学习 大语言模型 huggingface
00220 NLP Course - The Hugging Face Hub 00220 NLP Course - The Hugging Face Hub
前言Hugging Face Hub —— 我们的主网站 —— 是一个中央平台，使任何人都能发现、使用和贡献新的最先进模型和数据集。它托管了各种类型的模型，公开可用的超过10,000个。我们将在本章中关注这些模型，并在第5章中查看数据集。
2024-11-03 大语言模型
深度学习 大语言模型 huggingface
00219 NLP Course - Fine-tuning, Check! 00219 NLP Course - Fine-tuning, Check!
前言这很有趣！在前两章中，你学习了关于模型和分词器的知识，现在你知道如何针对自己的数据对它们进行微调。回顾一下，在这一章中你： 学习了Hub中的数据集 学习了如何加载和预处理数据集，包括使用动态填充和整理器 实现了自己的模型微调和评估 实
2024-11-03 大语言模型
深度学习 大语言模型 huggingface
00218 NLP Course - A full training 00218 NLP Course - A full training
前言现在我们将看到如何在不使用Trainer类的情况下，获得与上一部分相同的结果。再次提醒，我们假设你已经完成了第二部分的数据处理。下面是一个涵盖你所需要的一切的简短总结： from datasets import load_dataset
2024-11-02 大语言模型
深度学习 大语言模型 huggingface
00217 NLP Course - Fine-tuning a model with the Trainer API 00217 NLP Course - Fine-tuning a model with the Trainer API
前言🤗 Transformers 提供了一个 Trainer 类，帮助您在您自己的数据集上微调它提供的任何预训练模型。一旦您完成了上一节中的所有数据预处理工作，您只需几个步骤就可以定义 Trainer 了。最困难的部分可能是准备运行 Tr
2024-10-30 大语言模型
深度学习 大语言模型 huggingface
00216 NLP Course - Processing the data 00216 NLP Course - Processing the data
前言继续上一章的例子，以下是我们在 PyTorch 中如何在一个批次上训练序列分类器的步骤： import torch from transformers import AdamW, AutoTokenizer, AutoModelForS
2024-10-29 大语言模型
深度学习 大语言模型 huggingface
00215 NLP Course - Introduction 00215 NLP Course - Introduction
前言在第2章中，我们探讨了如何使用分词器和预训练模型来做出预测。但是，如果你想要针对自己的数据集微调一个预训练模型呢？这就是本章的主题！你将学习： 如何从 Hub 准备大型数据集 如何使用高级 Trainer API 微调模型 如何使用自
2024-10-28 大语言模型
深度学习 大语言模型 huggingface
00214 NLP Course - Basic usage completed! 00214 NLP Course - Basic usage completed!
前言太棒了，你一直跟到了这里！回顾一下，在本章中你学习了： 学习了 Transformer 模型的基本构建块。 了解了组成分词管道的内容。 看到了如何在实际中使用 Transformer 模型。 学习了如何利用分词器将文本转换为模型可以理
2024-10-28 大语言模型
深度学习 大语言模型 huggingface
00213 NLP Course - Putting it all together 00213 NLP Course - Putting it all together
前言在过去的几节中，我们一直在尽力手动完成大部分工作。我们探讨了标记器是如何工作的，并查看了标记化、转换为输入ID、填充、截断和注意力掩码。 然而，正如我们在第2节看到的，🤗 Transformers API 可以通过一个高级函数为我们处
2024-10-27 大语言模型
深度学习 大语言模型 huggingface
00212 NLP Course - Handling multiple sequences 00212 NLP Course - Handling multiple sequences
前言在上一节中，我们探讨了最简单的用例：对单个短序列进行推理。然而，已经出现了一些问题： 我们如何处理多个序列？ 我们如何处理不同长度的多个序列？ 词汇索引是允许模型良好工作的唯一输入吗？ 有没有所谓的过长序列？ 让我们看看这些问题提出
2024-10-27 大语言模型
深度学习 大语言模型 huggingface
00211 NLP Course - Tokenizers 00211 NLP Course - Tokenizers
前言分词器是 NLP 管道中的核心组件之一。它们有一个目的：将文本转换成模型可以处理的数据。模型只能处理数字，所以分词器需要将我们的文本输入转换为数值数据。在本节中，我们将探索分词管道中确切发生的事情。 在自然语言处理任务中，通常处理的数据
2024-10-27 大语言模型
深度学习 大语言模型 huggingface
5 / 23