توّي شاهدت تقدم مذهل في تحسين الأداء - أحدهم حطم الرقم القياسي لتدريب NanoGPT. حقق خسارة تحقق (validation loss) بمقدار 3.28 على Fineweb خلال 22.3 دقيقة فقط. هذا شيء جنوني بالنظر إلى أن الرقم القياسي السابق كان 24.9 دقيقة. وتيرة تحسين كفاءة تدريب النماذج تتسارع باستمرار. هذي التحسينات في السرعة أهم بكثير مما يتصور الناس بالنسبة لتوسيع تطبيقات الذكاء الاصطناعي.