大模型面试题库
目录页只负责导航。正文已拆成 90 个章节 HTML，并补充本地 SVG 导图、重点公式卡和章节增强材料。
25252Markdown 源文件行数
90独立章节 HTML
336最高题号
423表格转录
基础速通
先读总览、十个核心模块、标准答案速查区，建立 Transformer、Tokenizer、SFT/RAG/Agent 的主干。
推理与系统岗
重点看训练系统、ZeRO/FSDP、KV cache、PagedAttention、continuous batching、投机解码和代码大模型部署。
算法强面
重点看数学基础、优化器、RLHF/PPO/GRPO、Reasoning 后训练、Verifier、Test-Time Scaling 与合成数据。
01这份调研回答什么问题总览与路线
02信息来源与作用总览与路线
03总体结论总览与路线
04题目全景地图总览与路线
05一、基础与 Transformer 架构核心模块
06二、Tokenizer、Embedding、位置编码与上下文窗口核心模块
07三、预训练、数据工程、Scaling Law 与模型结构扩展核心模块
08四、SFT、PEFT 与对齐训练核心模块
09五、推理优化、Serving 与部署工程训练/推理/系统
10六、RAG、检索、重排与知识增强核心模块
11七、Agent、工具调用、工作流编排与协议核心模块
12八、评测、幻觉、安全与可观测性核心模块
13九、多模态（图文音视频）核心模块
14十、系统设计、业务落地与成本权衡核心模块
15十一、模型架构专项题库其他章节
16十二、RoPE 与位置编码专项题库核心模块
17十三、参数量估算、复杂度与算力题专项训练/推理/系统
18十三点五、参数量计算深度解析（新增：完整推导与复杂场景）训练/推理/系统
19十四、手撕代码题专项训练/推理/系统
20十四点五、手撕代码完整参考实现（新增）训练/推理/系统
21十五、最新架构面试最爱怎么问其他章节
22十六、参数量、显存与复杂度快算口诀训练/推理/系统
23十七、手撕代码专项的复习顺序训练/推理/系统
24十八、分布式训练、并行策略与显存优化专项题库训练/推理/系统
25二十、训练系统强化标准答案速查区标准答案
26二十一、训练系统题的长答案模板训练/推理/系统
27二十二、训练系统方向的备考顺序训练/推理/系统
28十八点五、ZeRO 与 3D 并行深度解析（新增：显存定量分析与组合策略）训练/推理/系统
29十九、分布式与系统方向的标准答案速查区标准答案
30高频追问题 Top 15总览与路线
31笔试题最常见的 6 种题型总览与路线
32面试题最常见的 5 种追问方式总览与路线
33回答大模型面试题的通用模板总览与路线
34按岗位准备的建议总览与路线
35标准答案速查区标准答案
36标准答案题库（第二批：训练系统、推理系统与底层工程）标准答案
37完整标准答案题库（第三批：核心十模块逐题答案）标准答案
38模块一：基础与 Transformer 架构核心模块
39模块二：Tokenizer、Embedding、位置编码与上下文窗口核心模块
40模块三：预训练、数据工程、Scaling Law 与模型结构扩展核心模块
41模块四：SFT、PEFT 与对齐训练核心模块
42模块五：推理优化、Serving 与部署工程训练/推理/系统
43模块六：RAG、检索、重排与知识增强核心模块
44模块七：Agent、工具调用、工作流编排与协议核心模块
45模块八：评测、幻觉、安全与可观测性核心模块
46模块九：多模态（图文音视频）核心模块
47模块十：系统设计、业务落地与成本权衡核心模块
48完整知识点题库（第四批：120 题逐题知识点索引）标准答案
49模块一：基础与 Transformer 架构知识点标准答案
50模块二：Tokenizer、Embedding、位置编码与上下文窗口知识点标准答案
51模块三：预训练、数据工程、Scaling Law 与模型结构扩展知识点标准答案
52模块四：SFT、PEFT 与对齐训练知识点标准答案
53模块五：推理优化、Serving 与部署工程知识点标准答案
54模块六：RAG、检索、重排与知识增强知识点标准答案
55模块七：Agent、工具调用、工作流编排与协议知识点标准答案
56模块八：评测、幻觉、安全与可观测性知识点标准答案
57模块九：多模态（图文音视频）知识点标准答案
58模块十：系统设计、业务落地与成本权衡知识点标准答案
59操作系统相关题库（第六批：高频笔试题、知识点与详细解答）标准答案
60一、操作系统高频笔试题其他章节
61二、操作系统高频面试题其他章节
62专项遗漏问题补答区（第七批：架构、RoPE、复杂度与训练系统）核心模块
63一句话备考建议其他章节
64DeepSeek 专项调研：笔试、面试、面经与经验贴其他章节
65RL 算法专项强化题库（第八批：PPO、GRPO 与偏好优化）数学/RL/Reasoning
66一、PPO 与 RLHF 高频题数学/RL/Reasoning
67二、GRPO 与偏好优化高频题数学/RL/Reasoning
68优化器专项强化题库（第九批：SGD、Momentum、AdamW 与大模型训练优化器）数学/RL/Reasoning
69一、高频问题速览其他章节
70二、逐题详细解答标准答案
71优化器深度解析附录（新增：设计动机、数学推导与系统对比）数学/RL/Reasoning
72数学基础专项强化题库（第十批：离散数学、概率论、线性代数与微积分）数学/RL/Reasoning
73一、高频问题速览其他章节
74二、逐题详细解答标准答案
75三、高阶追问补强（第二组 20 题）其他章节
76四、高频高阶问题速览其他章节
77五、逐题详细解答（高阶补强）标准答案
78Reasoning 后训练专项强化题库（第十一批：Verifier、拒绝采样、蒸馏与 Test-Time Scaling）数学/RL/Reasoning
79一、高频问题速览其他章节
80二、逐题详细解答标准答案
81参考入口参考入口
82VLM 与多模态大模型专项强化题库（第十二批：视觉语言模型架构、对齐与任务设计）核心模块
83模型压缩与轻量化专项强化题库（第十三批：剪枝、稀疏化与知识蒸馏）前沿专项
84长上下文外推技术专项强化题库（第十四批：PI、NTK-aware、YaRN、LongRoPE）核心模块
85MCP / A2A / Tool Schema 专项强化题库（第十五批：Agent 协议与工具调用设计）核心模块
86合成数据工程专项强化题库（第十六批：Self-Improvement、Rejection Sampling、验证流水线与规模化）前沿专项
87音频/视频大模型专项强化题库（第十七批：Audio LLM、Video Understanding、VLA）前沿专项
88KV Cache 压缩与驱逐技术专项强化题库（第十八批：H2O、SnapKV、StreamingLLM 与 Prefix Caching）训练/推理/系统
89代码大模型专项强化题库（第十九批：FIM、CodeLlama、StarCoder、评测与工程）核心模块
90投机解码进阶专项强化题库（第二十批：Medusa、EAGLE、Lookahead Decoding 与接受率分析）训练/推理/系统