清华大学出版社 · 计算机教材

大语言模型:
训练、精调与对齐

作者杨耀东·邓杭

结合北京大学首门系统讲授大语言模型的课程讲义,用一套完整的体系把公式、伪代码与可运行代码串成同一条路径。

北大课程讲义 10 章 · 16 课时 开源代码与配套课件

《大语言模型:训练、精调与对齐》立体书样
作者

作者介绍

杨耀东

杨耀东

北京大学人工智能研究院研究员(博雅学者)· 博士生导师
灵初智能有限公司联合创始人兼首席科学家

长期从事强化学习与对齐研究,代表性成果包括 PKU-Beaver、BeaverTails、Safe RLHF、Aligner 与 OmniSafe。大模型对齐综述提出 RICE 原则;论文《Language Models Resist Alignment》获 ACL 2025 最佳论文奖。自 2022 年起位列 CSRankings 北京大学 AI/ML 方向学者首位。

在北京大学开设首门系统讲授大语言模型的课程《大语言模型基础与对齐》,获北京大学教学成果奖二等奖。

邓杭

邓杭

北京大学 PAIR-Lab 科研助理

专注人工智能算法研发与工程实践,曾负责鹏城脑海 33B 大模型对齐工作,搭建开源框架 X-R1,完整复现 0.5B 模型的“顿悟时刻”。以“小冬瓜 AIGC”为名输出原创技术博客,主讲的“手撕 LLM”系列课程已帮助学员进入 OpenAI、Meta 与字节跳动等企业。

书本框架

围绕大模型算法展开的知识脉络

横向是模型训练的三个阶段:预训练、微调、对齐。纵向的三个维度是本书聚焦的——能力靠什么信号学出来,接到哪套结构与目标上,又如何在硬件上跑得动。

推荐

北清复交哈联袂推荐

来自北大、清华、复旦、交大与哈工大的学者与产业专家,从教材体系、课程可用性与工程落地三个角度给出评述。

配套课件

课件预览与下载

16 课时配套课件,与教材正文内容对应。课件既可按页做图片预览,也可在本站按课时在线阅读。

课件精讲

如何讲透一个知识点

多数教材讲一个算法,止步于“它是什么、有什么好处”。本书从问题动机出发,落到定义,再把“为什么非要这样写”推成可验算的式子,最后给出实现上的取舍。下面三个例子取自不同章节,走的是同一条路:问题动机 → 定义出发 → 算法推导 → 实现技巧。

精读样本 · 建议先看
代码仓库

代码仓库:token-to-llm

仓库按章组织,src/ 下每个 .py 对应书中一处算法或一幅插图;仅依赖 PyTorch 与 Matplotlib,无需额外环境。下面的输出来自真实运行,完整说明按知识点分成六页,见运行示例。

购买

购买信息

纸质版由清华大学出版社出版,京东、淘宝 / 天猫与当当同步销售。扫码或点“前往购买”直达商品页。

批量与教材采用 院校批量订购、教师索取样书与课件授权,请走联系页面。