前言聊天管道指南介绍了TextGenerationPipeline以及与模型对话的聊天提示或聊天模板的概念。在这个高级管道的背后，是apply_chat_template方法。聊天模板是tokenizer的一部分，它指定了如何将对话转换为预

前言聊天模型是指你可以发送和接收消息的对话模型。有许多聊天模型可供选择，但一般来说，更大的模型往往表现更好，不过情况并非总是如此。模型大小通常包含在名称中，如“8B”或“70B”，它描述了参数的数量。混合专家模型（MoE）的名称如“8x7B

前言Microsoft DeepSpeed-Ulysses论文的学习笔记。 Operating System: Ubuntu 22.04.4 LTS 信息论文题目：DeepSpeed Ulysses: System Optimization

前言ByteDance DAPO论文的学习笔记。 Operating System: Ubuntu 22.04.4 LTS 信息论文题目：DAPO: An Open-Source LLM Reinforcement Learning Sys

前言ByteDance HybridFlow论文的学习笔记。 Operating System: Ubuntu 22.04.4 LTS 信息论文题目：HybridFlow: A Flexible and Efficient RLHF Fra

前言Mermaid语法的入门教程。 官方文档：https://mermaid.js.org 在线调试：https://mermaid.live Operating System: Ubuntu 22.04.4 LTS 参考文档入门教程Mer

前言正如我们在前面的部分所看到的，分词包括几个步骤： 标准化（对文本进行必要的清理，例如删除空格或重音、Unicode 标准化等） 预分词（将输入分解为单词） 通过模型运行输入（使用预分词的单词生成一系列标记） 后处理（添加分词器的特殊标

前言Unigram算法通常用于SentencePiece中，这是AlBERT、T5、mBART、Big Bird和XLNet等模型使用的分词算法。 💡 本节深入介绍了Unigram算法，甚至展示了一个完整的实现。如果您只想了解分词算法的

前言WordPiece是谷歌开发用于预训练BERT的标记化算法。自那以后，它在许多基于BERT的Transformer模型中得到了重新使用，例如DistilBERT、MobileBERT、Funnel Transformers和MPNET。

前言Python __del__ 函数。 Operating System: Ubuntu 22.04.4 LTS 参考文档介绍在Python中，__del__ 是一个特殊方法，它是一个类的析构器。当一个对象被销毁或者垃圾回收时，__del

前言Verilog的文件后缀。 操作系统：Windows 11 家庭中文版 参考文档介绍Verilog是一种硬件描述语言，用于电子系统的硬件行为描述、结构描述、设计实现和验证。Verilog代码文件的常见文件后缀有： .v：用于Veril

前言Python @wraps装饰器。 Operating System: Ubuntu 22.04.4 LTS 参考文档介绍@wraps 是 Python 标准库 functools 模块中的一个装饰器。它通常用于定义装饰器时，以便保留被