Gate 广场「创作者认证激励计划」优质创作者持续招募中!
立即加入,发布优质内容,参与活动即可瓜分月度 $10,000+ 创作奖励!
认证申请步骤:
1️⃣ 打开 App 首页底部【广场】 → 点击右上角头像进入个人主页
2️⃣ 点击头像右下角【申请认证】,提交申请等待审核
立即报名:https://www.gate.com/questionnaire/7159
豪华代币奖池、Gate 精美周边、流量曝光等超 $10,000 丰厚奖励等你拿!
活动详情:https://www.gate.com/announcements/article/47889
某组织 (SGLang) 现在在 GB200 NVL72 上运行某AI模型 R1 时,每个 GPU 实现了 7,583 个令牌每秒,比 H100 提升了 2.7 倍。
我们很高兴看到开源生态系统在 GB200 NVL72 上推进推理优化,从而降低行业每个 token 的成本