الآن، قدرات Frontier AI لم تعد مشكلة، العائق الحقيقي هو عدم إمكانية إثباتها.

كلما كبر النموذج، وزادت تعقيد النظام، زادت صعوبة فهم كيف يتخذ القرارات من قبل الخارج. في سيناريوهات مثل الروبوتات، الأنظمة المالية، واتخاذ القرارات الآلية، تتضخم هذه المشكلة بشكل غير محدود، يمكنك أن تكون ذكيًا جدًا، لكن عليك أن تشرح بوضوح.

لهذا السبب، بدأ التحقق القابل للإثبات يتحول إلى حاجة أساسية، وليس مجرد إضافة جميلة. DSperse و JSTprove هما في الواقع يعوضان هذا الفراغ. أحدهما مسؤول عن خفض تكلفة zkML، لتمكين التحقق من أن يكون قابلاً للتوسع؛ والآخر مسؤول عن جعل كل قرار AI قابلًا للتتبع والفحص كشهادة.

باختصار: التحقق المتعدد لا يعني بالضرورة تكلفة أعلى؛ عدم التحقق يعني أن التنفيذ سيكون أصعب بالتأكيد.

الإشارات واضحة جدًا الآن. مثل مدينة شيكاغو، قبل مناقشة روبوتات الأرصفة، يركز السكان والجهات التنظيمية على السلامة، وليس الجودة. هل لديك بيانات متوافقة؟ من يتحمل المسؤولية إذا حدث خطأ؟ عندما لا يمكن لنظام أن يثبت صحته بنفسه، سيظل دائمًا صندوقًا أسود في نظر الجمهور. عندما يفقد الثقة، لن تنفع التكنولوجيا المتقدمة.

وهذا المشكلة ستزداد سوءًا مع الوقت. مع زيادة حجم النموذج، يصبح عملية الاستنتاج أكثر غموضًا، ومصدر البيانات أصعب تتبعًا، والفجوة في التحقق ستنمو بسرعة أكبر من فارق الأداء. لذلك، مفهوم Autitable Autonomy الذي يقترحونه، أراه ليس مجرد شعار، بل هو خط أحمر: يجب أن يترك كل مخرج AI بصمة قابلة للتحقق. هذا هو الشرط الأساسي لدخول الأنظمة الآلية إلى العالم الحقيقي، والشركات، والنظام التنظيمي.

وفي النهاية، أولئك الشباب الذين يصنعون أطرافًا صناعية باستخدام ليغو، في الواقع، يضربون على الوتر الصحيح. مع انخفاض عتبة التقنية، وتحرير الإبداع مبكرًا، لكن ما نريد أن نتركه حقًا، ليس فقط AI أكثر ذكاءً، بل بيئة بنية تحتية قابلة للتحقق، وموثوقة بشكل افتراضي.

وإلا، حتى أذكى المهندسين المستقبليين سيظلون يبنون صناديق سوداء فوق صناديق سوداء.