00075-谈谈我对攻读计算机研究生的看法——转载
前言一篇上古年代（04年左右）的关于攻读计算机研究生看法的文章，其中关于如何学习计算机的看法在我看来至今受用，因此特此转载与诸君共勉。 我参考的版本为（参考文档是我在网上
阅读更多
00343 VAPO (论文学习笔记)
前言ByteDance VAPO论文的学习笔记。
Operating System: Ubuntu 22.04.4 LTS
信息论文题目：VAPO: Efficient and Reliable Reinforcement Learning
2025-06-05
00342 YaRN (论文学习笔记)
前言EleutherAI YaRN论文的学习笔记。
Operating System: Ubuntu 22.04.4 LTS
信息论文题目：YaRN: Efficient Context Window Extension of Large
2025-06-01
00341 FastAPI教程
前言FastAPI 教程：将 Python 函数封装为 API。
Operating System: Ubuntu 22.04.4 LTS
将 Python 函数封装为 API1. FastAPI 简介FastAPI 是一个现代、快速（高
2025-06-01
00340 python monkey patch
前言python monkey patch。
Operating System: Ubuntu 22.04.4 LTS
Python Monkey Patch 详解Monkey Patch（猴子补丁） 是一种在运行时动态修改代码的技术，允许
2025-05-31
00339 linux查看两个文件差异的命令
前言linux查看两个文件差异的命令。
Operating System: Ubuntu 22.04.4 LTS
命令在 Linux 中，查看两个文件差异的常用命令是 diff，此外还有 vimdiff 和 colordiff 等工具。以下
2025-05-31
00338 RLOO 公式推导
问题描述：详细推理下面的公式
✅ 推导过程：
原始公式
第一步：展开 $\tilde{A}_{i,t}$假设
即 $\tilde{A}_{i,t}$ 是当前样本的reward减去所有样本reward的平均。
第二步：将 $\tild
2025-05-12
00337 GRPO (论文学习笔记)
前言DeepSeek-AI GRPO论文的学习笔记。
Operating System: Ubuntu 22.04.4 LTS
信息论文题目：DeepSeekMath: Pushing the Limits of Mathematical
2025-05-10
00336 等比数列的无穷和
问题描述：求下面这个无穷级数的和：
$$\sum_{b=0}^{\infty} a^b = 1 + a + a^2 + a^3 + \cdots$$
其中 $ b $ 是从 0 到正无穷的整数，也就是说这是一个等比数列的
2025-05-06
00335 收集的 pytorch 函数——create_completion_mask
前言介绍create_completion_mask函数。
Operating System: Ubuntu 22.04.4 LTS
函数原型def create_completion_mask(completion_ids, eos_to
2025-05-05
00334 accelerator.gather和accelerator.wait_for_everyone
前言介绍accelerator.gather函数和accelerator.wait_for_everyone函数
Operating System: Ubuntu 22.04.4 LTS
accelerator.gatheraccelera
2025-05-05
00333 NLP Course - Training a causal language model from scratch
前言到目前为止，我们主要使用预训练模型，并通过重用预训练的权重来微调它们以适用于新的用例。正如我们在第一章中看到的，这通常被称为迁移学习，这是一种非常成功的策略，用于将Transformer模型应用于大多数现实世界的用例，其中标记数据稀缺。
2025-05-05
00332 NLP Course - Summarization
前言在这一部分，我们将探讨如何使用Transformer模型将长文档浓缩成摘要，这一任务被称为文本摘要。这是自然语言处理中最具挑战性的任务之一，因为它需要多种能力，如理解长篇文章并生成连贯的文本，抓住文档中的主要主题。然而，当做得好时，文本
2025-05-03