现场笔记 · 11 条
最近在看的问题。
方案审核、排障、调优。只记下看了什么、判断依据是什么。
-
网盘自动挂载故障分析
从用户侧的一个"偶尔挂不上"出发，沿着启动顺序、凭据续签和网络就绪时间逐项排查。
-
用户投诉"取消失败"的诊断
先复现，再看日志，最后才改代码。修复随新版本发布，同步更新下载页和包管理器。
-
推理"时快时慢"的真正原因
排除了网络、存储和调度，最后确认是 DP+EP 的锁步：一组慢，全体等。相应调整了 KV Cache 参数，并把结论写进报告。
-
运维 SLA 与容器维护边界
把"谁负责什么"写清楚：平台、K8s、容器内应用，各自的 SLA 和交接点。
-
518 台 B300 网络建设方案审核
从拓扑、收敛比、无损配置到交付顺序，逐项核对一个大规模 GPU 集群的网络方案。
-
512 台服务器无损网络方案审核
RoCE 无损网络的关键在细节：PFC、ECN、缓冲和故障域。审核意见按风险等级整理。
-
监控平台使用手册
好的监控平台要能交给别人用。手册按"看到告警之后该做什么"来组织，而不是按功能菜单。
-
Higress 前置层方案可行性审核
在模型网关前再加一层 AI 网关，值不值得？从延迟、功能重叠和运维成本三方面评估。
-
Token 限额管理系统设计
按租户、按模型、按时间窗口的多维配额，以及超额时的降级策略。
-
910B4 上的 DeepSeek 吞吐优化
并发、批大小、KV 预留和量化格式，一次只改一个变量，每一步都留压测数据。
-
让网关兼容 Responses 接口
新一代 OpenAI Responses 接口和旧的 Chat 接口差别不小，网关要做的不只是转发。