LuYF-Lemon-love の Blog
  文章分类
计算机基础 32 实用技巧 9 C/C++和Python混合编程 6 硬件 1 博客 4 C++ 14 杂项 19 Python 73 Paper 33 大语言模型 110 PyTorch 10 动态壁纸 4 干饭 9 Linux 12 人工智能 3 Verilog 4 基础软件 3 数学 2 刷题 2
00151 面向生产的 LLM 优化 00151 面向生产的 LLM 优化
前言本文介绍了面向生产的 LLM 优化。 Hugging Face Github 主页: https://github.com/huggingface 注意 : 本文同时也是 Transformers 的文档。 以 GPT3/4
2024-08-03 大语言模型
深度学习 大语言模型 huggingface
00150 使用 DPO 微调 Llama 2 00150 使用 DPO 微调 Llama 2
前言本文介绍了使用 DPO 微调 Llama 2。 Hugging Face Github 主页: https://github.com/huggingface 操作系统：Windows 11 家庭中文版 参考文档 Fine-tune L
2024-08-03 大语言模型
深度学习 大语言模型 huggingface
00149 Fully Sharded Data Parallel(FSDP) 学习笔记 00149 Fully Sharded Data Parallel(FSDP) 学习笔记
前言本文介绍了Fully Sharded Data Parallel(FSDP)学习笔记。 In this tutorial, we show how to use FSDP APIs, for simple MNIST models th
2024-07-31 大语言模型
深度学习 大语言模型 PyTorch
00147 预处理数据 00147 预处理数据
前言本文介绍了预处理数据，专注于文本处理。 Hugging Face Github 主页: https://github.com/huggingface Before you can train a model on a dataset,
2024-07-28 大语言模型
深度学习 大语言模型 huggingface
00146 Cheat Sheet: Mastering Temperature and Top_p in ChatGPT API 00146 Cheat Sheet: Mastering Temperature and Top_p in ChatGPT API
前言temperature 和 top_p sampling 能帮助控制文本生成行为。 操作系统：Windows 11 家庭中文版 参考文档 Cheat Sheet: Mastering Temperature and Top_p in C
2024-07-21 大语言模型
深度学习 大语言模型 huggingface
00144 ChatGPT 背后的“功臣”——RLHF 技术详解 00144 ChatGPT 背后的“功臣”——RLHF 技术详解
前言本文介绍了ChatGPT背后的“功臣”——RLHF技术详解。 Hugging Face Github 主页: https://github.com/huggingface OpenAI 推出的 ChatGPT 对话模型掀起了新的 AI
2024-06-30 大语言模型
深度学习 大语言模型 huggingface
00143 文本生成策略 00143 文本生成策略
前言本文介绍了文本生成策略。 Hugging Face Github 主页: https://github.com/huggingface Text generation is essential to many NLP tasks, su
2024-06-30 大语言模型
深度学习 大语言模型 huggingface
00142 共享自定义模型 00142 共享自定义模型
前言本文介绍了GPU推理。 Hugging Face Github 主页: https://github.com/huggingface The 🤗 Transformers library is designed to be easil
2024-06-30 大语言模型
深度学习 大语言模型 huggingface
00141 GPU 推理 00141 GPU 推理
前言本文介绍了GPU推理。 Hugging Face Github 主页: https://github.com/huggingface GPUs are the standard choice of hardware for machin
2024-06-29 大语言模型
深度学习 大语言模型 huggingface
00140 CPU 推理 00140 CPU 推理
前言本文介绍了CPU推理。 Hugging Face Github 主页: https://github.com/huggingface With some optimizations, it is possible to efficien
2024-06-29 大语言模型
深度学习 大语言模型 huggingface
00139 DeepSpeed 00139 DeepSpeed
前言本文介绍了DeepSpeed。 Hugging Face Github 主页: https://github.com/huggingface DeepSpeed is a PyTorch optimization library tha
2024-06-28 大语言模型
深度学习 大语言模型 huggingface
00138 完全分片数据并行 00138 完全分片数据并行
前言本文介绍了完全分片数据并行。 Hugging Face Github 主页: https://github.com/huggingface Fully Sharded Data Parallel (FSDP) is a data par
2024-06-27 大语言模型
深度学习 大语言模型 huggingface
8 / 10