写CUDA到底难在哪？
更新时间：2025-06-21 02:45:15
对GPU进行性能优化时，cudagraph是绕不开的话题。
不仅是GPU，大部分的xpu都会提供类似graph mode的优化，相比于每次分别由CPU进行kernel launch的eager mode，graph mode通常都会有较大性能提升，然而也经常容易出现各种各样的奇怪问题。
NVIDIA有一个简单的 博客 介绍，其中只使用了stream capture的形式来构造cudagraph，而且本质上就是多个kernel前后提交，根本无法展示cudagraph的复杂性。
本文尝试从底层原理出发，根据文档 和 …。
案例推荐
case recommendation-
今天在用剪映剪***被一个会Premiere的同学看到了，嘲笑我用剪映，Pr剪辑真的比剪映好吗，好在哪？
查看案例
-
如果世界是虚拟的，当两个镜子对面放，将会无限反射，会不会将 cpu 算力耗光？
查看案例
-
央视罕见公布东风-5 洲际导弹参数，最大射程 12000 公里，怎样解读？此时公布有哪些意义？
查看案例
-
做个web服务器，gin框架和go-zero怎么选？
查看案例
-
新手平面设计师(方向美工)怎么有目的提升设计能力？
查看案例
-
如何评价腾讯元宝桌面端使用 Rust 的 Tauri 框架？
查看案例
-
我毕业想成为前端工程师，可是前端技术太多，越学越多，可是我想成为技术强的人，又很无助，怎么办?
查看案例
-
现在二手房是不是卖不出去了？
查看案例