Sebuah organisasi (SGLang) kini mencapai 7.583 token per detik per GPU yang menjalankan model AI tertentu R1 di GB200 NVL72, sebuah lonjakan 2,7x dibandingkan H100.



Kami sangat senang melihat ekosistem sumber terbuka memajukan optimasi inferensi pada GB200 NVL72, menurunkan biaya per token untuk industri di
A-4,5%
OVER-1,78%
TOKEN-8,2%
Lihat Asli
post-image
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • 9
  • Posting ulang
  • Bagikan
Komentar
0/400
Tidak ada komentar
  • Sematkan

Perdagangkan Kripto Di Mana Saja Kapan Saja
qrCode
Pindai untuk mengunduh aplikasi Gate
Komunitas
Bahasa Indonesia
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)