LuYF-Lemon-love の Blog
00242 vLLM 学习笔记 00242 vLLM 学习笔记
前言vLLM是一个快速且易于使用的LLM推理和服务库。 vLLM速度很快： 最先进的服务吞吐量 使用PagedNote有效管理注意力键和值内存 传入请求的连续批处理 使用CUDA/HIP图快速执行模型 量化：GPTQ、A
2024-12-08 大语言模型
深度学习 大语言模型 vllm
00241 NLP Course - Creating your own dataset 00241 NLP Course - Creating your own dataset
前言有时，构建一个自然语言处理（NLP）应用程序所需的数据集并不存在，因此你需要自己创建它。在本节中，我们将向你展示如何创建一个GitHub问题的语料库，这些问题通常用于跟踪GitHub仓库中的错误或特性。这个语料库可以用于多种目的，包括：
2024-12-08 大语言模型
深度学习 大语言模型 huggingface
00240 NLP Course - Big data? 🤗 Datasets to the rescue! 00240 NLP Course - Big data? 🤗 Datasets to the rescue!
前言如今，发现自己正在处理多吉字节数据集的情况并不少见，特别是如果你计划从头开始预训练像 BERT 或 GPT-2 这样的变压器模型。在这些情况下，即使是加载数据也可能是一个挑战。例如，用于预训练 GPT-2 的 WebText 语料库包含
2024-12-08 大语言模型
深度学习 大语言模型 huggingface
00239 subprocess.run 用法 00239 subprocess.run 用法
前言subprocess.run用法。 Operating System: Ubuntu 22.04.4 LTS 介绍subprocess.run() 是 Python 3.5 及以上版本中 subprocess 模块的一个函数，用于运行子
2024-12-06 Python
Python
00238 cp命令 00238 cp命令
前言cp命令。 Operating System: Ubuntu 22.04.4 LTS 介绍cp命令是Linux和Unix系统中用于复制文件和目录的命令。以下是cp命令的基本用法和一些常见选项： 基本用法 cp [选项] 源文件 目标文件
2024-12-06 Linux
Linux
00237 partial 函数 00237 partial 函数
前言partial函数。 Operating System: Ubuntu 22.04.4 LTS 介绍partial 函数是 Python 标准库 functools 模块中的一个工具，它用于部分应用一个函数的参数。这意味着你可以“冻结”
2024-12-06 Python
Python
00236 QwQ-32B-Preview 00236 QwQ-32B-Preview
前言QwQ: 思忖未知之界。 github: https://github.com/QwenLM/Qwen2.5 huggingface: https://huggingface.co/collections/Qwen/qwq-67476
2024-11-29 大语言模型
深度学习 大语言模型
00235 pip查看包的位置 00235 pip查看包的位置
前言pip查看包的位置。 Operating System: Ubuntu 22.04.4 LTS 步骤在Python中，您可以使用pip命令来查看已安装包的位置。以下是一些常用的命令： 查看所有已安装的包及其位置： pip show
2024-11-28 Python
Python
00234 Shell脚本入门笔记 00234 Shell脚本入门笔记
前言一个简单的 Bash 脚本通常以 #!/bin/bash 开始，称为 shebang 行，指示系统使用 Bash 解释器来运行脚本。 #!/bin/bash # 这是一个简单的 Bash 脚本 echo "Hello, World!"
2024-11-24 Linux
Linux
00233 Qwen2.5-Coder 00233 Qwen2.5-Coder
前言Qwen2.5-Coder 全系列: 强大、多样、实用。 github: https://github.com/QwenLM/Qwen2.5-Coder huggingface: https://huggingface.co/col
2024-11-24 大语言模型
深度学习 大语言模型
00232 Ollama Python Library 00232 Ollama Python Library
前言The Ollama Python library provides the easiest way to integrate Python 3.8+ projects with Ollama. Operating System: Ub
2024-11-21 大语言模型
深度学习 大语言模型 ollama
00231 Ollama 学习笔记 (手动安装) 00231 Ollama 学习笔记 (手动安装)
前言与大型语言模型一起启动并运行。 Operating System: Ubuntu 22.04.4 LTS 参考文档 Ollama ollama - manual install InstallTo install Ollama, ru
2024-11-21 大语言模型
深度学习 大语言模型 ollama
9 / 29