跳到主要内容

GPU 体系与 CUDA 工程开发指南

设计原则​

  1. 可观测:关键路径打点(延迟、错误码、队列长度);
  2. 可回放:输入、版本、随机种子可复现;
  3. 可降级:依赖不可用时的明确行为;
  4. 可评审:变更有对照实验,而不是「感觉更好」。

推荐模块划分​

模块职责反模式
领域逻辑算法与业务规则把 UI 字符串塞进核心
适配器对接 CUDA 等外部系统到处直接调用 SDK
评测指标与门槛只在笔记本里目测
发布配置、灰度、回滚手工改生产无记录

关键栈触点​

本课高频技术点:CUDA, CuPy, Nsight Systems, Triton, CUTLASS, pybind11。

实践建议:

  • 先读官方「最小示例」,再读本课 Day 对应源码实验;
  • 用「对照表」记录:官方默认 vs 你的改动 vs 指标变化;
  • 对破坏性变更使用 feature flag。

配置与密钥​

  • 密钥进环境变量或密钥管理,不进 Git;
  • 区分 dev / staging / prod 配置;
  • 七天子站学习数据若仅浏览器本地,清理缓存会丢失——重要结论请外置备份。

测试金字塔(精简版)​

层级内容频率
单元纯函数、指标计算每次提交
契约API schema、配置校验CI
回归黄金集样本每日/发版前
探索红队/压力/长尾发版窗口

日志字段建议​

{
"ts": "ISO-8601",
"run_id": "uuid",
"course": "cuda",
"step": "baseline|optimize|verify",
"metrics": {"latency_ms": 12.3},
"git_sha": "abc123"
}

扩展练习​

  1. 为 Day3 主题增加一个对照实验;
  2. 把指标导出为 CSV 并画趋势;
  3. 写一份一页纸的「发布检查表」。

下一步​

阅读 最佳实践 与 从零到一。

延伸练习与检查表​

  • 把本页清单复制到团队 Wiki,按周打勾。
  • 选一个开源仓库,映射到本文模块表。
  • 写 5 条「如果失败会怎样」的演练题并实际跑一次。
  • 将指标口径写成 ADR(架构决策记录)短文。
  • 与相邻课程(推理/安全/部署)做一次联合对照实验。

作者:mr stone · 联系:chenxiaoshivivid@126.com · StoneXYZ · 思之维 AI