Karpathy: Neural Networks精选
简介
前 Tesla AI 总监 Andrej Karpathy 的「从零到一」系列:从反向传播手推开始,逐步用 PyTorch 手写 micrograd、makemore、GPT,最终从零实现一个类 GPT-2 的语言模型——理解 Transformer 内部原理的最佳路径。
English
Andrej Karpathy's Zero-to-Hero series: from hand-deriving backprop to building GPT-2 from scratch in PyTorch — the best path to truly understand Transformers.
适用场景
- 会用框架但不懂原理,想搞懂 Transformer 到底怎么运转
- 喜欢「老师陪你一起写代码」的教学方式
- 想为阅读大模型论文/源码打好底层基础
快速上手
- 按顺序看 YouTube 视频(B 站有中文字幕搬运)
- 每集跟着从空白文件开始写代码,不复制粘贴
- micrograd → makemore → GPT 三阶段各做一次笔记
- 最后自己复现「Let's build GPT」并训练一个小字符级模型
标签
相关资源
AI Agents for Beginners(微软课程) 精选
微软官方 AI Agent 入门课程(11 课,中文讲义):从工具使用、RAG、规划到多 Agent 设计模式,带代码作业。Microsoft's official beginner course (11 lessons, Chinese notes) covering tool use, RAG, planning and multi-agent design patterns.
MCP 课程(Hugging Face)
Hugging Face 官方免费 MCP 课程:从协议原理到开发自己的 MCP Server 与 Agent 集成,配套实战单元。Hugging Face's free official MCP course: protocol fundamentals to building your own MCP servers and agent integrations.
Learning Prompt(中文提示词教程) 精选
中文世界最系统的免费提示词教程:从基础结构、进阶技巧到 ChatGPT/ Midjourney 实战,配套可运行示例,适合零基础系统入门。The most systematic free Chinese prompt-engineering tutorial, from basics to practical ChatGPT and Midjourney workflows.