9. 入坑AI大模型,看他们就对了。最近越来越多的传统后端开发程序员,转型AI大模型,被海量繁杂资料搞得晕头转向。
今天啃Transformer,明天研究LangChain,转眼又折腾微调部署、智能代理,知识点样样眼熟,却始终梳理不出从入门到就业的完整学习脉络。
想学通透大模型,盲目拼凑根本行不通。
我作为过来人,总结几位天花板大佬,直接看他们,能帮你少走90%的弯路:
🌱李沐
前亚马逊首席科学家,《动手学深度学习》作者,Boson AI创始人。
核心内容:论文精读、Transformer/LLM 实现、Higgs-Llama-3-70B 角色扮演大模型。
代表项目:
动手学深度学习(d2l-ai/d2l):PyTorch/TensorFlow 深度学习教程,GitHub 20k+ Star。
Higgs-Llama-3-70B:基于 Llama 3 的角色扮演大模型,完整 SFT+RLHF。
LLM 论文精读系列:逐句讲解 GPT-3、LLaMA、GPT-4 等顶会论文。
🌱吴恩达
负责机器学习基础和大模型前置认知入门。
吴恩达老师最大的特点,就是能把很多初学者觉得抽象的东西讲得很容易理解。
像损失函数、梯度下降、过拟合、偏差和方差这些内容,他不会一上来就用很重的公式压你,而是先让你知道这个问题为什么会出现、这个方法为什么有效。
这类内容特别适合做大模型学习的起点。
尤其是零基础、跨专业,或者以前听过很多 AI 名词,但一直没真正入门的人。
🌱王树森
清华博士,强化学习(RL)领域布道师。
核心内容:强化学习基础、RLHF、DPO、LLM 对齐技术。
代表项目:
强化学习基础系列:Q-learning、PPO、SAC,配套手写板书 + 代码实现。
RLHF 实战教程:基于 TRL 库的 LLM 人类偏好对齐,含奖励模型训练。
DPO 直接偏好优化:无需奖励模型的高效对齐,代码开源可直接运行。
🌱Andrej Karpathy(前 OpenAI,特斯拉 AI 负责人)
频道:Andrej Karpathy
核心内容:从零构建 LLM、GPT 原理、Tokenization、nanoGPT/makemore 实战。
代表项目:
neural-networks-zero-to-hero:神经网络与 LLM 入门圣经,含 micro-GPT 到 nanoGPT全流程。
nanoGPT:最简 PyTorch 版 GPT,100 行代码实现训练 + 生成。
makemore:字符级语言模型,逐步升级到 GPT 架构,适合新手理解Transformer。
🌱Sebastian Raschka(《从零构建大语言模型》作者)
频道:Sebastian Raschka。
核心内容:LLM 底层原理、从零训练、微调、量化部署,配套畅销书代码。
代表项目:
LLMs-from-scratch:从零实现 Tokenizer、Transformer、预训练 + 微调。
Build a Large Language Model (From Scratch):配套视频教程,覆盖数据处理到模型部署。
Mistral AI Cookbook:Mistral 模型高效使用指南,含微调与推理优化。
🌱李宏毅(台大教授)
频道:Hung-yi Lee。
核心内容:LLM 原理、RLHF、Agent、多模态(CLIP/Sora),中文讲解清晰。
代表项目:
LLM Fundamentals 系列:Transformer、Self-Attention、GPT-3/4 原理,配套 Colab 代码。
Agent 实战教程:AutoGPT、工具调用、旅行规划 Agent,自动调用 Google Maps/Booking API。
多模态大模型:CLIP、Stable Diffusion、Sora 原理与实现,适合跨模态学习。
🌱Yannic Kilcher(瑞士 AI 研究员,论文解析天花板)
频道:Yannic Kilcher。
核心内容:每日顶会论文解析、LLM / 多模态前沿、技术趋势分析。
代表项目:
Paper Explained 系列:GPT-4o、LLaMA 3、Mistral、Sora 等论文深度拆解,配公式 + 示意图。
LLM 效率优化:稀疏注意力、量化、蒸馏技术对比,含性能测试数据。
开源模型评测:Llama 2、Qwen、Mistral 等模型在 GLUE/MMLU 上的详细评测。
🌱Hugging Face 官方
频道:HuggingFace。
核心内容:Transformers 库、PEFT、TRL、TGI 部署、Agent 框架实战。
代表项目:
Transformers 库教程:BERT、GPT、LLaMA 2 调用,Pipeline、AutoModel、Tokenizer 详解。
PEFT 微调实战:LoRA/QLoRA/IA3 高效微调,显存占用减少 90%。
TGI 部署:LLM 推理服务化,支持动态批处理、流式输出、多模型并行。
#AI大模型应用开发 #AI大模型 #程序员 #转码 #大模型学习