LLM Eng Cards 大模型工程知识卡片
GitHub

From Attention to Production

大模型工程知识卡片。
从 Attention 读到上线。

给已经会调模型 API 的工程师。不追热点，先理解机制，再做成 RAG / Agent，最后把系统撑上线。每张卡回答一个判断：什么时候用，什么时候不要用。

36先学主干
333知识卡片
4LLM / RAG / Agent / 上线
3原理 / 应用 / 生产

从哪一段开始

理解 LLM、做 RAG、做 Agent、上生产。点一张，落到下面对应的主干卡。

🧠

理解 LLM

Attention → KV Cache

从模型原理开始
🔍

做 RAG

Context → Retrieval → Rerank

从 RAG 架构开始
🤖

做 Agent

Agent Loop → Tool → Memory

从 Agent 开始
🚀

上生产

Inference → Cost → Security

从工程问题开始

已经有基础，想补某一段？

四条链路，每条下面就是对应的主干卡。读完一张再回来，还在原来那一组。

想完整从头学？

按原理 → 应用 → 生产走完三层。先把一层读顺，再进下一层；点开是该板块的全部卡片。

01 · Fundamentals

基础原理

它凭什么成立。从 Attention、解码、KV Cache 到 LoRA 和推理模型。后面两层会反复引用这里。

67 张 · 先读这一层
02 · Applications

应用能力

怎么做成能力。Prompt / Context、RAG 链路、Agent Loop、记忆与评测。

149 张 · 原理之后
03 · Production

生产工程

上线后先动哪个旋钮。部署、流式、成本、注入与沙箱，以及什么时候关掉。

117 张 · 最后这一层

全部 333 张卡片

查资料用这里。第一次读建议先走主干 36。不含前沿实践、面试速成和源码深潜。

最新更新

补齐 Agent 框架案例与工程范式 25 卡。 生产工程新增 Claude Code、Hermes、DeerFlow、OpenClaw 的源码级拆解； 应用能力新增 Harness、Loop、Graph 三条工程范式主线。
新增容器化与 CI/CD 六卡。 容器化与镜像工程、Docker 还是 K8s、K8s 上运行 LLM 推理服务， 再加 CI/CD 流水线原理与设计、工具链与 GitOps、AI 项目 CI/CD 的特殊代价。
补齐 7 张工程缺口卡。 Agent 身份委托、在线评测门禁、LLM 推理网关、规约驱动开发、MLA 服务、多 LoRA 服务、SSM 混合注意力。
新增 GPU / CUDA 底层四卡。 GPU 执行模型与存储层次、GEMM Tiling、算子融合、TensorRT 编译栈， 给生产工程层补上从访存到编译的底层性能视角。
学习入口重做。 首页按「理解 LLM / RAG / Agent / 上生产」给入口。
三个板块全部公开。 291 张卡在完整目录；建议先走主干 36。