最新博客文章
18 / 173AI 开发实战教程,从零到一构建你的 AI 应用。
全部173
入门32
进阶86
高级55
全部
提示词工程12
RAG检索增强16
Agent开发31
模型微调18
部署与运维22
AI应用开发33
DeepSeek API16
多模态开发3
AI 安全3
模型推理1
检索系统1
RAG检索1
模型架构1
API 开发1
Agent 开发10
模型部署1
多模态1
模型评测2
教程
日期
DeepSeek 模型评估与基准测试
模型微调
进阶
DeepSeek 模型完整评估指南:MMLU、HumanEval、GSM8K、MT-Bench 等主流基准测试结果。DeepSeek-V3 vs GPT-4o vs Claude 3.5 全方位对比,含评测代码和选型建议。
DeepSeek 数据工程教程
模型微调
高级
从数据采集到质量评估,完整掌握大模型数据工程流水线。涵盖 SFT 数据集构建、RLHF 偏好数据准备、数据清洗去重、数据增强、大规模数据处理等核心环节。
DeepSeek 模型架构深度解析
模型微调
高级
深入解析 DeepSeek-V3 的 MoE 架构、MLA 注意力机制、Multi-Token Prediction 等核心技术。理解 DeepSeek 如何以极低成本实现 GPT-4o 级别的性能,含架构图解和源码分析。
DeepSeek 微调实战教程
模型微调
高级
DeepSeek 模型微调全流程实战:LoRA/QLoRA 高效微调、全参数微调、数据准备、训练配置、评估验证。覆盖 DeepSeek-V3 和 DeepSeek-R1 的微调方案,含完整代码和最佳实践。
模型后训练
模型微调
进阶
本书的核心公式是 Agent = LLM + 上下文 + 工具。本章聚焦于优化 LLM 这个“大脑”——先用 Mid-training 补齐目标领域的知识与基础能力,再用 SFT/RL 等后训练方法塑造模型利用上下文和工具的行为。第七章结尾指出,评估体系与仿真环境是后训练的两块基石:评估环境为训练提供练习场,评估指标为…
模型蒸馏实战:用大模型训练小模型
模型微调
高级
知识蒸馏让小模型逼近大模型能力,同时大幅降低推理成本。本文深入讲解蒸馏原理、数据生成策略、训练技巧与效果评估,教你用 DeepSeek 蒸馏出高性价比小模型。
RLHF 强化微调实战:从偏好数据到奖励模型
模型微调
高级
RLHF 让模型输出与人类偏好对齐。本文从偏好数据采集、奖励模型训练到 PPO 强化微调,完整复现一条 RLHF 实战链路,并给出数据质量与效果评估的工程经验。
QLoRA 微调实战指南
模型微调
进阶
全参数微调成本高昂,QLoRA通过4-bit量化+低秩适配让普通开发者在消费级GPU上就能微调大模型。本文手把手带你完成从数据准备到模型部署的完整QLoRA微调流程,使用DeepSeek模型作为基座。
微调数据集构建的艺术
模型微调
进阶
微调效果的上限由数据质量决定,而非模型或算法。本文深入讲解微调数据集的构建方法论——从数据来源、质量控制、多样性保障到数据配比策略,帮你构建高质量的微调数据集。
模型评估与 A/B 测试
模型微调
高级
微调完成后,如何客观评估模型效果?A/B测试如何设计才能得到统计显著的结论?本文从离线评估、在线A/B测试和统计显著性三个维度,建立科学的模型效果评估体系。
LoRA vs QLoRA vs Full Fine-tuning 全面对比
模型微调
进阶
全面对比LoRA、QLoRA和全量微调三种方案,从原理、显存、训练速度、最终效果等维度分析,帮你做出正确的技术选型。
指令微调数据构造实战
模型微调
进阶
数据质量决定微调效果的上限。本文讲解指令微调数据的构造方法,包括数据来源、清洗策略、质量评估、数据增强和配比设计。
模型量化部署实战
模型微调
进阶
量化是降低模型推理成本的关键技术。本文从INT8到INT4,系统讲解模型量化的原理、工具链和部署实践,让你的模型在消费级硬件上高效运行。
DPO 偏好对齐训练详解
模型微调
高级
DPO(Direct Preference Optimization)是RLHF的简化替代方案,无需训练奖励模型。本文深入讲解DPO的原理、实现细节和训练技巧。
大模型评估与基准测试全指南
模型微调
进阶
如何客观评价大模型的能力?本文系统讲解 MMLU、HumanEval、C-Eval 等主流基准测试,以及 LLM-as-Judge、竞技场排名等评估方法,帮助你建立科学的模型评估体系。
数据集构建与质量评估
模型微调
高级
数据质量决定了微调效果的上限。本文系统讲解微调数据集的构建方法、数据清洗策略、质量评估指标以及数据增强技术,帮助你构建高质量的微调数据集。
QLoRA量化微调实战
模型微调
进阶
QLoRA通过4-bit量化将大模型微调的内存需求降低到极致。本文深入讲解QLoRA的技术原理、NF4量化、双重量化等关键技术,并提供完整的实战代码。
LoRA微调完全指南
模型微调
入门
LoRA是当前最流行的参数高效微调方法。本文从原理到实践,全面讲解LoRA微调的完整流程,包括环境配置、数据集准备、训练参数设置和模型评估。