Daya Komputasi Layanan: Model Bisnis Baru di Era Model Besar

Seiring dengan perkembangan pesat model besar kecerdasan buatan, Daya Komputasi sedang menjadi model bisnis yang baru muncul. Meskipun saat ini tren "mengolah ramuan" model besar masih berlangsung, penyedia layanan daya komputasi perlu bersiap-siap dan mempersiapkan diri untuk perubahan pasar di masa depan.

Baru-baru ini, seorang pemuda yang lulus dari Universitas Tsinghua selama 3 tahun telah melatih model cuaca besar dengan jumlah parameter mencapai miliaran. Proyek ini menggunakan data cuaca global selama 40 tahun, menggunakan 200 kartu GPU untuk pelatihan awal, dan memakan waktu sekitar 2 bulan. Berdasarkan harga GPU saat ini, biaya pelatihan saja mungkin melebihi 2 juta yuan. Dan jika itu adalah pelatihan model besar umum, biayanya mungkin meningkat seratus kali lipat.

Saat ini, China telah memiliki lebih dari 100 model besar dengan skala 10 miliar parameter. Namun, industri secara umum menghadapi masalah kekurangan GPU kelas atas. Biaya daya komputasi tetap tinggi, dan kekurangan daya komputasi serta dana menjadi masalah nyata yang dihadapi banyak perusahaan.

Dalam situasi permintaan yang melebihi pasokan, harga GPU high-end telah melonjak tinggi. Harga satu unit NVIDIA A100 mencapai dua hingga tiga ratus ribu yuan pada puncaknya, dan sewa bulanan untuk satu server A100 juga melonjak hingga 50-70 ribu yuan. Meskipun demikian, banyak perusahaan masih kesulitan untuk mendapatkan sumber daya chip yang dibutuhkan.

Menghadapi situasi sulit ini, perusahaan-perusahaan berusaha mencari solusi. Beberapa memilih untuk menggunakan data berkualitas lebih tinggi untuk meningkatkan efisiensi pelatihan; beberapa berfokus pada peningkatan kemampuan infrastruktur untuk memastikan operasi stabil dari kluster GPU skala besar; sementara perusahaan lain beralih ke penggunaan platform dalam negeri untuk pelatihan dan inferensi model besar.

Seiring dengan pasar yang semakin rasional, perusahaan juga menyesuaikan strategi untuk mengendalikan biaya. Sementara itu, Daya Komputasi sebagai layanan sedang menjadi model bisnis baru. Penyedia layanan Daya Komputasi mengintegrasikan daya komputasi, penyimpanan, jaringan, dan sumber daya lainnya, dan menyampaikan daya komputasi kepada pengguna dalam bentuk API. Model ini memungkinkan pengguna untuk tidak perlu membangun infrastruktur sendiri, cukup mengajukan permintaan untuk mendapatkan dukungan daya komputasi yang diperlukan.

Dalam rantai industri daya komputasi, perusahaan hulu bertanggung jawab untuk menyediakan sumber daya daya komputasi dasar, perusahaan tengah bertanggung jawab untuk produksi dan penjadwalan daya komputasi, sedangkan hulu adalah pengguna dari berbagai industri. Seiring dengan perkembangan layanan daya komputasi, model penagihan baru dan bentuk layanan juga terus muncul, seperti penagihan berdasarkan penggunaan, paket tahunan dan bulanan, serta integrasi daya komputasi dan jaringan.

Meskipun masalah kekurangan GPU kelas atas saat ini masih ada, tetapi dalam jangka panjang, pasar layanan Daya Komputasi pasti akan beralih dari pasar penjual ke pasar pembeli. Menghadapi tren ini, penyedia layanan Daya Komputasi perlu mempersiapkan diri untuk menyesuaikan strategi mereka dengan tepat ketika arah pasar berubah, dan menangkap peluang pengembangan baru.