Sekarang Frontier AI, kemampuan sudah bukan lagi masalah, yang benar-benar menjadi kekurangan adalah ketidakmampuannya untuk dibuktikan.

Semakin besar model dan semakin kompleks sistemnya, justru semakin sulit bagi dunia luar untuk memahami bagaimana keputusan dibuat. Dalam skenario robot, sistem keuangan, dan pengambilan keputusan otomatis, masalah ini akan semakin diperbesar secara tak terbatas, kamu bisa sangat pintar, tapi harus bisa menjelaskannya dengan jelas.

Itulah mengapa verifikasi mulai menjadi kebutuhan yang keras, bukan sekadar pelengkap. DSperse dan JSTprove sebenarnya sedang mengisi kekosongan ini. Satu bertanggung jawab menurunkan biaya zkML agar verifikasi dapat dilakukan secara skala besar; yang lain bertanggung jawab menjadikan setiap keputusan AI sebagai bukti yang dapat dilacak dan diperiksa.

Singkatnya: lebih banyak verifikasi tidak selalu lebih mahal; tanpa verifikasi, pasti lebih sulit untuk diimplementasikan.

Sinyal yang sangat jelas sudah diberikan oleh kenyataan. Seperti kota Chicago, sebelum membahas robot di trotoar, warga dan regulator paling peduli bukan tentang apakah itu bagus atau tidak, tetapi apakah aman? Apakah data yang digunakan sesuai regulasi? Jika terjadi masalah, siapa yang bertanggung jawab? Ketika sebuah sistem tidak bisa membuktikan sendiri, di mata publik ia akan selalu menjadi kotak hitam yang berjalan di jalan. Jika kepercayaan hilang, teknologi sekeren apapun tidak akan berguna.

Dan masalah ini hanya akan semakin memburuk. Setelah skala model meningkat, proses inferensi menjadi semakin tidak transparan, sumber data semakin sulit dilacak, dan celah verifikasi akan tumbuh lebih cepat daripada perbedaan performa. Jadi, mereka mengusulkan Auditable Autonomy, saya mengerti ini bukan sekadar slogan, melainkan garis dasar: setiap output AI harus meninggalkan jejak yang dapat diverifikasi. Ini adalah prasyarat bagi sistem otomatisasi untuk masuk ke dunia nyata, ke perusahaan, dan ke sistem pengawasan.

Terakhir, menyebutkan anak muda yang membuat anggota badan dengan LEGO sebenarnya sangat tepat. Ambang teknologi menurun, kreativitas mulai dilepaskan lebih awal. Tapi yang benar-benar ingin kita tinggalkan bukan hanya AI yang lebih pintar, melainkan infrastruktur dasar yang secara default dapat diverifikasi dan dipercaya.

Kalau tidak, bahkan insinyur masa depan yang hebat sekalipun hanya akan terus membangun kotak hitam di atas kotak hitam.