c3-vllm làm cho việc triển khai các mô hình mới trở nên dễ dàng. Đây là một trong những đóng góp của chúng tôi cho AI mã nguồn mở và giúp việc chạy các mô hình lớn trở nên dễ dàng hơn bao giờ hết. Các mô hình lớn vẫn cần GPU lớn. Không có GPU lớn? Cũng không sao! Chúng tôi có.