LuYF-Lemon-love の Blog

前言EleutherAI YaRN论文的学习笔记。 Operating System: Ubuntu 22.04.4 LTS 信息论文题目：YaRN: Efficient Context Window Extension of Large

2025-06-01 Paper

深度学习大语言模型

前言FastAPI 教程：将 Python 函数封装为 API。 Operating System: Ubuntu 22.04.4 LTS 将 Python 函数封装为 API1. FastAPI 简介FastAPI 是一个现代、快速（高

2025-06-01 Python

Python FastAPI

前言python monkey patch。 Operating System: Ubuntu 22.04.4 LTS Python Monkey Patch 详解Monkey Patch（猴子补丁）是一种在运行时动态修改代码的技术，允许

2025-05-31 Python

Python

前言linux查看两个文件差异的命令。 Operating System: Ubuntu 22.04.4 LTS 命令在 Linux 中，查看两个文件差异的常用命令是 diff，此外还有 vimdiff 和 colordiff 等工具。以下

2025-05-31 Linux

Linux

问题描述：详细推理下面的公式 ✅ 推导过程：原始公式第一步：展开 $\tilde{A}_{i,t}$假设即 $\tilde{A}_{i,t}$ 是当前样本的reward减去所有样本reward的平均。第二步：将 $\tild

2025-05-12 数学

数学

前言DeepSeek-AI GRPO论文的学习笔记。 Operating System: Ubuntu 22.04.4 LTS 信息论文题目：DeepSeekMath: Pushing the Limits of Mathematical

2025-05-10 Paper

深度学习大语言模型

问题描述：求下面这个无穷级数的和： $$\sum_{b=0}^{\infty} a^b = 1 + a + a^2 + a^3 + \cdots$$ 其中 $ b $ 是从 0 到正无穷的整数，也就是说这是一个等比数列的

2025-05-06 数学

数学

前言介绍create_completion_mask函数。 Operating System: Ubuntu 22.04.4 LTS 函数原型def create_completion_mask(completion_ids, eos_to

2025-05-05 PyTorch

深度学习 PyTorch

前言介绍accelerator.gather函数和accelerator.wait_for_everyone函数 Operating System: Ubuntu 22.04.4 LTS accelerator.gatheraccelera

2025-05-05 大语言模型

前言到目前为止，我们主要使用预训练模型，并通过重用预训练的权重来微调它们以适用于新的用例。正如我们在第一章中看到的，这通常被称为迁移学习，这是一种非常成功的策略，用于将Transformer模型应用于大多数现实世界的用例，其中标记数据稀缺。

2025-05-05 大语言模型

前言在这一部分，我们将探讨如何使用Transformer模型将长文档浓缩成摘要，这一任务被称为文本摘要。这是自然语言处理中最具挑战性的任务之一，因为它需要多种能力，如理解长篇文章并生成连贯的文本，抓住文档中的主要主题。然而，当做得好时，文本

2025-05-03 大语言模型

前言在第3章中，你了解了如何微调文本分类模型。在本章中，我们将探讨以下常见的语言任务，这些任务对于使用传统的NLP模型和现代的LLM都至关重要： Token classification Masked language modeling

2025-05-03 大语言模型