我们在做什么
AI Infra 学习社区是一个开放的技术学习社区,聚焦 AI Infra 领域的核心技术。我们通过在线分享、读书会和学习资源三种形式,帮助成员系统地学习 AI Infra 技术栈。最近动态
07 - 推理平台全景
开源推理平台项目介绍:NVIDIA Dynamo, llm-d, Kthena, RoleBasedGroup, OME, AiBrix, KServe
正在阅读:AI Systems Performance Engineering
第一本书 — 深入理解 AI 系统的性能工程,从硬件到软件的全栈优化。
交流群(加群请备注来意)

