c3-vllm yeni modelleri dağıtmayı çok kolay hale getiriyor. Bu, açık kaynaklı AI'ye yaptığımız katkılardan biri ve büyük modelleri çalıştırmayı her zamankinden daha kolay hale getiriyor. Büyük modeller hala büyük GPU'lar gerektiriyor. Büyük GPU'larınız yok mu? Sorun değil! Bizde var.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
14 Likes
Reward
14
4
Repost
Share
Comment
0/400
BrokenDAO
· 10h ago
Açık Kaynak AI olduğu söyleniyor ama GPU maliyetlerine baktığınızda durumu anlarsınız.
View OriginalReply0
BackrowObserver
· 10h ago
Nihayet benim ekran kartımın kullanma zamanı geldi.
c3-vllm yeni modelleri dağıtmayı çok kolay hale getiriyor. Bu, açık kaynaklı AI'ye yaptığımız katkılardan biri ve büyük modelleri çalıştırmayı her zamankinden daha kolay hale getiriyor. Büyük modeller hala büyük GPU'lar gerektiriyor. Büyük GPU'larınız yok mu? Sorun değil! Bizde var.