除了”计算机教育中缺失的一课 IAP 2026“, 我们不推荐将文档中的材料一次性看完。更推荐的方式是在解决问题的同时回顾材料;同时也推荐你将这篇文档直接发给Agent,根据你目前的知识情况总结出学习要点。
计算机教育中缺失的一课 IAP 2026:https://missing-semester-cn.github.io/
强烈建议零基础小白先过一遍这个课程。命令行,版本管理等是Compute Science的基础概念,是开发的基石,即使你只会Vibe Coding也是必须要学会的东西。
git推荐在 https://learngitbranching.js.org/ 进行练习并且自己在 GitHub 上创建仓库尝试远程仓库管理
Computer Systems: A Programmer's Perspective, 3/E (CS:APP3e)
也是入门必看。小白可以先看 Introduction 和 5, 6章。但如果是零基础那么整个 Part1都推荐阅读。
CUDA C++ Best Practices Guide: https://docs.nvidia.com/cuda/cuda-c-best-practices-guide/index.html#
新手老手都值得一看的CUDA代码指南,过完完之后能对算子性能和GPU架构有一个基本的认识。
矩阵乘法算子实践: https://siboehm.com/articles/22/CUDA-MMM
从Naive实现到 BlockTiling再到 WarpTiling,从头到尾过了一遍将MatMul kernel 性能压榨到极致的流程。适合进阶学习CUDA 编程
RDMA入门: https://networking-docs.nvidia.com/doca/archive/3-4-0/rdma-aware-networks-programming-guide
Nvidia提供的RDMA入门指南。要进阶到分布式的高性能计算,RDMA是绕不开的话题。
PTX文档:https://docs.nvidia.com/cuda/parallel-thread-execution/index.html#scope-and-applicability
作为 CUDA与底层机器指令的IR (Intermediate Representation) , PTX是极致算子优化不可缺少的一部分。推荐阅读 异步copy, TMA, 锁同步,Memory Consitency Model 这几个topic
NSYS (Nsight System) 的底层 - CUPTI: https://docs.nvidia.com/cupti/13.0.1/tutorial/tutorial.html
如果你想知道Nsight System为什么如此强大,可以看看CUPTI暴露了哪些接口
OpenMP 和MPI 都建议学习
学习时最好有计算机基础。可以补补CSAPP