- 本章主要介绍了小模型和大模型训练数据集的差异性，并详细讲解了大模型训练过程中使用的数据类型。笔试占比3%。 本章主要介绍了小模型和大模型训练数据集的差异性，并详细讲解了大模型训练过程中使用的数据类型。笔试占比3%。
- 本章介绍了大模型的特性、发展以及业务流程，笔试占比10%。 本章介绍了大模型的特性、发展以及业务流程，笔试占比10%。
- 反向扩散过程是从一张完全高斯噪声图片中，逐步去除噪声，来生成一张图片。但是噪声的数据是很难直接获得的，所以噪声使用神经网络来模拟。 反向扩散过程是从一张完全高斯噪声图片中，逐步去除噪声，来生成一张图片。但是噪声的数据是很难直接获得的，所以噪声使用神经网络来模拟。
- 反向扩散算法是基于正向扩散算法的。直观上讲，这是合理的，因为对于给定的噪声图像，很难猜测是哪个更低噪声的图像产生了它，但是如果已经有起始图像，这样就比较容易解决。 反向扩散算法是基于正向扩散算法的。直观上讲，这是合理的，因为对于给定的噪声图像，很难猜测是哪个更低噪声的图像产生了它，但是如果已经有起始图像，这样就比较容易解决。
- CLIP 模型将图像转换为嵌入，嵌入作为 GPT-2 的提示词，生成图像的描述文本。 CLIP 模型将图像转换为嵌入，嵌入作为 GPT-2 的提示词，生成图像的描述文本。
- CLIP 通过大量的图像和文本对的学习，通过图像和文本特征向量之间的余弦相似度来度量两者的相似性 CLIP 通过大量的图像和文本对的学习，通过图像和文本特征向量之间的余弦相似度来度量两者的相似性
- 根据 Transformer 架构的特点，Transformer 可以处理任何序列数据，不仅适用于文本，还适用于图像。与卷积神经网络相比，Transformer模型也能够取得出色的结果。 根据 Transformer 架构的特点，Transformer 可以处理任何序列数据，不仅适用于文本，还适用于图像。与卷积神经网络相比，Transformer模型也能够取得出色的结果。
- 本文主要是打通从原始数据到模型训练/推理时所期待的字符串格式这一流程。 本文主要是打通从原始数据到模型训练/推理时所期待的字符串格式这一流程。
- PPO 解决了强化学习中的一个关键挑战：如何在不破坏训练稳定性的情况下进行有意义的更新。GRPO 是 DeepSeek 开发，用于 DeepSeek-Math 和 DeepSeek-R1 模型的训练，兼具 PPO 的可靠性与更高的效率。 PPO 解决了强化学习中的一个关键挑战：如何在不破坏训练稳定性的情况下进行有意义的更新。GRPO 是 DeepSeek 开发，用于 DeepSeek-Math 和 DeepSeek-R1 模型的训练，兼具 PPO 的可靠性与更高的效率。
- PPO增加了一个软约束（裁剪机制），可能会做出一些错误的决策，但它在优化速度上取得了良好的平衡。实验结果证明，这种平衡能够以最简单的方式实现最佳性能。 PPO增加了一个软约束（裁剪机制），可能会做出一些错误的决策，但它在优化速度上取得了良好的平衡。实验结果证明，这种平衡能够以最简单的方式实现最佳性能。
- 在REINFORCE算法中，使用基于神经网络建模的价值函数作为基线，这个算法叫做Actor-Critic。这个算法可以通过价值函数控制基线，给予动作正向或者负向的梯度调整。 在REINFORCE算法中，使用基于神经网络建模的价值函数作为基线，这个算法叫做Actor-Critic。这个算法可以通过价值函数控制基线，给予动作正向或者负向的梯度调整。
- 在策略函数参数更新的时候，好的动作的正梯度比较大，坏的动作正梯度比较小，基于动作概率的总和是1，所以好的动作对策略函数参数的影响超过了坏的动作。 在策略函数参数更新的时候，好的动作的正梯度比较大，坏的动作正梯度比较小，基于动作概率的总和是1，所以好的动作对策略函数参数的影响超过了坏的动作。
- 强化学习的概念和一些涉及到的基础数学知识。 强化学习的概念和一些涉及到的基础数学知识。
- Qwen3-4B分布式全参微调实践 Qwen3-4B分布式全参微调实践
- Qwen/Qwen3-0.6B 全参数微调需要的显卡内存接近30GB，无法在RTX3060显卡上面进行微调。所以本文基于 TRL 中用于监督微调的 SFT Trainer 和 Unsloth(QLoRA)工具，在RTX3060显卡上面实现 Qwen/Qwen3-0.6B 的参数高效微调。 Qwen/Qwen3-0.6B 全参数微调需要的显卡内存接近30GB，无法在RTX3060显卡上面进行微调。所以本文基于 TRL 中用于监督微调的 SFT Trainer 和 Unsloth(QLoRA)工具，在RTX3060显卡上面实现 Qwen/Qwen3-0.6B 的参数高效微调。
上滑加载中
推荐直播
-
用码道，让你的AI作品三步上朋友圈2026/08/04 周二 19:00-20:00
林华鼎-华为云AI开发者运营负责人
从入门 · 到做AI应用 · 到企业级开发。不教编程，只教用AI · 零代码、有产出、能带走、可炫耀 · 每课人人动手实操
回顾中 -
华为云码道Agent集成与鸿蒙实战2026/08/11 周二 19:00-21:00
王一男-华为云码道产品规划专家；李炎-华为云码道产品专家；彭江敏-华为云鸿蒙端云一体化开发专家
本次直播带你解读华为云码道7月份产品新特性、新功能。更有专家演示码道Agent Space × 钉钉机器集成实战，从0到1打通消息通道；码道鸿蒙端云一体化实战，快速搭建员工签到系统。
回顾中 -
基于华为云码道，构建你的定制化AI搭子2026/08/14 周五 09:00-11:30
明亮-华为云开发者发展与支持部部长
本期直播将向您全面介绍华为云码道产品，并基于码道手把手教你部署自己的定制化AI陪伴搭子。
回顾中
热门标签