大模型面试题库
这份材料已重新按学习逻辑分层：先读方法与地图，再读核心完整答案，最后按岗位补专项。章节编号保留为稳定链接，阅读顺序以新的分组和上一页/下一页为准。
9学习阶段
90稳定章节链接
120核心完整答案
4阅读用途层
先把材料当成三层，不要按文件编号硬读
这份题库现在按学习用途重排：前面是地图，中间是完整答案，后面是专项强化和附录。原始编号仍保留，便于从旧链接跳转；真正的阅读顺序以本页分组和章节页上一页/下一页为准。
地图层第 05-14 章只看题型、考点和作答抓手，建立十个核心模块的骨架。
答案层第 38-47 章逐题展开核心 120 题，避免在地图页重复读短答案。
索引层第 48-58 章用于复盘查漏，不作为顺读正文。
专项层再按架构/系统/数学RL/前沿方向补强，贴近不同岗位追问。
算法研究岗
入口方法 -> 核心地图 -> 核心完整答案 -> 数学/优化器/RL/Reasoning -> 长上下文与前沿专项。
训练/推理平台岗
核心地图 -> 推理优化完整答案 -> 架构算力 -> 分布式训练 -> KV cache 压缩与投机解码。
RAG/Agent 应用岗
核心地图 -> RAG/Agent 完整答案 -> 评测安全 -> MCP/A2A/Tool Schema -> 系统设计与成本治理。
0. 入口与面试方法
先建立整份资料的用途、常见追问方式和岗位准备策略。这里解决“怎么读”和“怎么答”，不要急着背细节。
1. 十个核心模块地图
这组页面只用来建立知识树：每章看题型、考点和作答抓手。详细答案不在这里展开，避免同一问题前后重复讲。
05一、基础与 Transformer 架构核心模块 · 第 1 步
06二、Tokenizer、Embedding、位置编码与上下文窗口核心模块 · 第 2 步
07三、预训练、数据工程、Scaling Law 与模型结构扩展核心模块 · 第 3 步
08四、SFT、PEFT 与对齐训练核心模块 · 第 4 步
09五、推理优化、Serving 与部署工程训练/推理/系统 · 第 5 步
10六、RAG、检索、重排与知识增强核心模块 · 第 6 步
11七、Agent、工具调用、工作流编排与协议核心模块 · 第 7 步
12八、评测、幻觉、安全与可观测性核心模块 · 第 8 步
13九、多模态（图文音视频）核心模块 · 第 9 步
14十、系统设计、业务落地与成本权衡核心模块 · 第 10 步
2. 核心题完整答案
真正需要逐题精读的是这一组。它承接上一组十个模块地图，把 1-120 题按“定义、机制、取舍、追问”展开。
38模块一：基础与 Transformer 架构核心模块 · 第 1 步
39模块二：Tokenizer、Embedding、位置编码与上下文窗口核心模块 · 第 2 步
40模块三：预训练、数据工程、Scaling Law 与模型结构扩展核心模块 · 第 3 步
41模块四：SFT、PEFT 与对齐训练核心模块 · 第 4 步
42模块五：推理优化、Serving 与部署工程训练/推理/系统 · 第 5 步
43模块六：RAG、检索、重排与知识增强核心模块 · 第 6 步
44模块七：Agent、工具调用、工作流编排与协议核心模块 · 第 7 步
45模块八：评测、幻觉、安全与可观测性核心模块 · 第 8 步
46模块九：多模态（图文音视频）核心模块 · 第 9 步
47模块十：系统设计、业务落地与成本权衡核心模块 · 第 10 步
3. 核心知识点索引
这是查漏补缺层，不适合线性阅读。复习完完整答案后，用它检查每道题背后的原理点、工程点和 trade-off 是否遗漏。
48核心 120 题知识点索引总入口答案与索引 · 第 1 步
49模块一：基础与 Transformer 架构知识点答案与索引 · 第 2 步
50模块二：Tokenizer、Embedding、位置编码与上下文窗口知识点答案与索引 · 第 3 步
51模块三：预训练、数据工程、Scaling Law 与模型结构扩展知识点答案与索引 · 第 4 步
52模块四：SFT、PEFT 与对齐训练知识点答案与索引 · 第 5 步
53模块五：推理优化、Serving 与部署工程知识点答案与索引 · 第 6 步
54模块六：RAG、检索、重排与知识增强知识点答案与索引 · 第 7 步
55模块七：Agent、工具调用、工作流编排与协议知识点答案与索引 · 第 8 步
56模块八：评测、幻觉、安全与可观测性知识点答案与索引 · 第 9 步
57模块九：多模态（图文音视频）知识点答案与索引 · 第 10 步
58模块十：系统设计、业务落地与成本权衡知识点答案与索引 · 第 11 步
4. 架构、位置编码、算力与手撕代码
把结构题、RoPE/长上下文、参数量估算和手写代码放在一起读。它们共同考察“能否把模型结构落到公式、显存和实现”。
15十一、模型架构专项题库核心模块 · 第 1 步
21十五、最新架构面试最爱怎么问核心模块 · 第 2 步
16十二、RoPE 与位置编码专项题库核心模块 · 第 3 步
84长上下文外推技术专项强化题库（第十四批：PI、NTK-aware、YaRN、LongRoPE）核心模块 · 第 4 步
17十三、参数量估算、复杂度与算力题专项训练/推理/系统 · 第 5 步
18十三点五、参数量计算深度解析（新增：完整推导与复杂场景）训练/推理/系统 · 第 6 步
22十六、参数量、显存与复杂度快算口诀训练/推理/系统 · 第 7 步
19十四、手撕代码题专项训练/推理/系统 · 第 8 步
20十四点五、手撕代码完整参考实现（新增）训练/推理/系统 · 第 9 步
23十七、手撕代码专项的复习顺序训练/推理/系统 · 第 10 步
5. 训练、推理与系统工程
先理解分布式训练和显存优化，再看推理系统里的 KV cache、continuous batching、投机解码。平台岗和推理工程岗应重点读。
24十八、分布式训练、并行策略与显存优化专项题库训练/推理/系统 · 第 1 步
28十八点五、ZeRO 与 3D 并行深度解析（新增：显存定量分析与组合策略）训练/推理/系统 · 第 2 步
29分布式与系统标准答案答案与索引 · 第 3 步
25训练系统标准答案速查答案与索引 · 第 4 步
26训练系统长答案模板训练/推理/系统 · 第 5 步
27训练系统备考顺序训练/推理/系统 · 第 6 步
88KV Cache 压缩与驱逐技术专项强化题库（第十八批：H2O、SnapKV、StreamingLLM 与 Prefix Caching）训练/推理/系统 · 第 7 步
90投机解码进阶专项强化题库（第二十批：Medusa、EAGLE、Lookahead Decoding 与接受率分析）训练/推理/系统 · 第 8 步
6. 数学、优化器、RL 与 Reasoning
这一组是算法强面的底座：先补数学，再看优化器，之后进入 PPO/GRPO 和 reasoning 后训练。顺序不能反过来。
72数学基础专项总入口数学/RL/Reasoning · 第 1 步
73一、高频问题速览数学/RL/Reasoning · 第 2 步
74二、逐题详细解答答案与索引 · 第 3 步
75三、高阶追问补强（第二组 20 题）数学/RL/Reasoning · 第 4 步
76四、高频高阶问题速览数学/RL/Reasoning · 第 5 步
77五、逐题详细解答（高阶补强）答案与索引 · 第 6 步
68优化器专项总入口数学/RL/Reasoning · 第 7 步
69一、高频问题速览数学/RL/Reasoning · 第 8 步
70二、逐题详细解答答案与索引 · 第 9 步
71优化器深度解析附录（新增：设计动机、数学推导与系统对比）数学/RL/Reasoning · 第 10 步
65RL 算法专项总入口数学/RL/Reasoning · 第 11 步
66一、PPO 与 RLHF 高频题数学/RL/Reasoning · 第 12 步
67二、GRPO 与偏好优化高频题数学/RL/Reasoning · 第 13 步
78Reasoning 后训练专项总入口数学/RL/Reasoning · 第 14 步
79一、高频问题速览数学/RL/Reasoning · 第 15 步
80二、逐题详细解答答案与索引 · 第 16 步
7. 多模态、Agent 协议、合成数据与代码模型
这是前沿专项层。按“模态扩展 -> 模型压缩/合成数据 -> Agent 协议 -> 代码模型”的顺序读，比按新增批次顺序更自然。
82VLM 与多模态大模型专项强化题库（第十二批：视觉语言模型架构、对齐与任务设计）前沿专项 · 第 1 步
87音频/视频大模型专项强化题库（第十七批：Audio LLM、Video Understanding、VLA）前沿专项 · 第 2 步
83模型压缩与轻量化专项强化题库（第十三批：剪枝、稀疏化与知识蒸馏）前沿专项 · 第 3 步
86合成数据工程专项强化题库（第十六批：Self-Improvement、Rejection Sampling、验证流水线与规模化）前沿专项 · 第 4 步
85MCP / A2A / Tool Schema 专项强化题库（第十五批：Agent 协议与工具调用设计）前沿专项 · 第 5 步
89代码大模型专项强化题库（第十九批：FIM、CodeLlama、StarCoder、评测与工程）前沿专项 · 第 6 步
8. 系统基础、DeepSeek、速查与来源附录
这组不是主线内容，而是辅助材料：操作系统基础、DeepSeek 面经策略、历史速查表、遗漏补答、参考来源。需要时查。
59操作系统基础题库总入口训练/推理/系统 · 第 1 步
60一、操作系统高频笔试题训练/推理/系统 · 第 2 步
61二、操作系统高频面试题训练/推理/系统 · 第 3 步
64DeepSeek 专项调研：笔试、面试、面经与经验贴总览与方法 · 第 4 步
35历史速查：高频标准答案参考附录 · 第 5 步
36历史速查：训练/推理/底层工程参考附录 · 第 6 步
37核心十模块完整答案总入口参考附录 · 第 7 步
62专项遗漏问题补答区（第七批：架构、RoPE、复杂度与训练系统）参考附录 · 第 8 步
81参考入口参考附录 · 第 9 步
02信息来源与作用参考附录 · 第 10 步