AI高性能计算后端开发简历模板

• 负责千亿参数大模型推理引擎的GPU算子与调度优化，基于CUDA/Triton重写Attention与MoE核心算子，单卡吞吐提升约60%。
• 主导多机多卡推理集群的通信与显存优化，引入PagedAttention与连续批处理，首字延迟下降45%，单集群支撑日均千万级请求。
• 搭建算子性能基准与回归测试体系，覆盖200+核心算子，版本迭代性能回退问题定位时间从2天缩短至4小时。

• 参与分布式训练框架后端开发，基于NCCL与RDMA优化AllReduce通信，千卡集群训练线性加速比从0.72提升至0.89。
• 负责训练任务调度与容错模块，实现断点续训与故障自动迁移，长周期训练任务中断恢复时间由小时级降至分钟级。
• 使用Nsight与perf完成热点分析，优化数据加载与流水线并行策略，单步训练耗时降低约28%。

• 设计并实现面向LLM推理的统一性能压测与调优平台，支持vLLM、TensorRT-LLM多后端对比，覆盖延迟、吞吐与显存三类核心指标。
• 通过算子融合、KV Cache量化与动态批处理策略调优，在同等硬件下推理成本下降约35%，支撑业务方3个线上模型迁移。
• 输出调优规范与自动化脚本，团队新模型上线性能评估周期由1周缩短至1天。

• 针对大规模训练中的通信瓶颈，实现分层AllReduce与通信计算重叠方案，跨机通信开销降低约40%。
• 结合拓扑感知的任务编排，减少跨交换机流量，集群整体训练效率提升约18%。

研究方向为并行计算与GPU加速，参与国家自然科学基金高性能计算课题。

主修计算机体系结构、操作系统、编译原理，GPA 3.6/4.0。