首页/AI 学习教程/Karpathy: Neural Networks
K

Karpathy: Neural Networks精选

AI 学习教程 热度 94 收录 2026-11-01
访问官网 ↗ GitHub 仓库 ↗

简介

前 Tesla AI 总监 Andrej Karpathy 的「从零到一」系列:从反向传播手推开始,逐步用 PyTorch 手写 micrograd、makemore、GPT,最终从零实现一个类 GPT-2 的语言模型——理解 Transformer 内部原理的最佳路径。

English

Andrej Karpathy's Zero-to-Hero series: from hand-deriving backprop to building GPT-2 from scratch in PyTorch — the best path to truly understand Transformers.

适用场景

  • 会用框架但不懂原理,想搞懂 Transformer 到底怎么运转
  • 喜欢「老师陪你一起写代码」的教学方式
  • 想为阅读大模型论文/源码打好底层基础

快速上手

  1. 按顺序看 YouTube 视频(B 站有中文字幕搬运)
  2. 每集跟着从空白文件开始写代码,不复制粘贴
  3. micrograd → makemore → GPT 三阶段各做一次笔记
  4. 最后自己复现「Let's build GPT」并训练一个小字符级模型

标签

相关资源

M
学习

MCP 课程(Hugging Face)

Hugging Face 官方免费 MCP 课程:从协议原理到开发自己的 MCP Server 与 Agent 集成,配套实战单元。Hugging Face's free official MCP course: protocol fundamentals to building your own MCP servers and agent integrations.

热度 67 详情 →
↑