d/acc: Tinjauan dan Harapan Setelah Setahun

Tahun lalu, saya menulis sebuah artikel tentang optimisme teknologi, yang menjelaskan antusiasme saya secara keseluruhan terhadap teknologi dan manfaat besar yang mungkin dibawanya. Pada saat yang sama, saya juga mengungkapkan sikap hati-hati terhadap beberapa masalah tertentu, terutama yang berkaitan dengan kecerdasan buatan super, serta risiko penghancuran yang mungkin ditimbulkan jika dibangun dengan tidak benar, atau risiko kehilangan kekuasaan secara tidak dapat dipulihkan bagi umat manusia.

Salah satu poin inti dari artikel tersebut adalah mendorong sebuah ide: percepatan defensif yang terdesentralisasi, demokratis, dan beragam. Kita harus mempercepat perkembangan teknologi, sambil secara selektif fokus pada teknologi yang dapat meningkatkan kemampuan pertahanan dan bukan merusak, serta berkomitmen untuk mendorong distribusi kekuasaan, bukan konsentrasi di tangan segelintir elit, untuk menghindari penilaian moral oleh mereka yang mewakili semua orang. Model pertahanan seharusnya seperti demokrasi Swiss, serta wilayah Zomia yang hampir anarkis dalam sejarah, bukan model yang diwakili oleh tuan tanah dan kastil di bawah feodalisme abad pertengahan.

Dalam setahun terakhir, konsep dan ide-ide ini telah berkembang dan matang secara signifikan. Saya telah membagikan ide-ide ini di platform "80.000 Jam" dan menerima banyak tanggapan, sebagian besar positif, tentu saja ada juga beberapa suara kritis.

Pekerjaan ini sendiri terus maju dan telah mencapai hasil yang nyata: di bidang vaksin sumber terbuka yang dapat diverifikasi, kami melihat kemajuan; kesadaran orang tentang nilai udara dalam ruangan yang sehat semakin mendalam; "catatan komunitas" terus berperan aktif; pasar prediksi sebagai alat informasi telah mengalami tahun terobosan; bukti pengetahuan non-interaktif yang ringkas tanpa pengetahuan (ZK-SNARKs) diterapkan dalam identifikasi identitas pemerintah dan media sosial ( dan memastikan keamanan dompet Ethereum melalui abstraksi akun ); alat pencitraan sumber terbuka diterapkan di bidang medis dan antarmuka otak-komputer (BCI), dan lain-lain.

Musim gugur lalu, kami menyelenggarakan acara d/acc penting pertama: "Hari Penemuan d/acc"(d/aDDy), acara ini diadakan di Devcon, mengumpulkan pembicara dari berbagai bidang pilar d/acc( biologi, fisika, jaringan, pertahanan informasi, serta teknologi syaraf), acara ini berlangsung selama satu hari penuh. Orang-orang yang telah mengabdikan diri selama bertahun-tahun untuk teknologi ini semakin memahami pekerjaan satu sama lain, sementara orang luar juga semakin menyadari visi yang lebih besar ini: mendorong nilai-nilai yang sama dalam pengembangan Ethereum dan cryptocurrency dapat meluas ke dunia yang lebih luas.

Makna dan Cakupan d/acc

Bayangkan skenario tahun 2042. Anda melihat sebuah berita di media yang menyebutkan bahwa kota Anda mungkin akan mengalami wabah baru. Anda sudah tidak heran dengan berita semacam ini: orang sering bereaksi berlebihan terhadap setiap mutasi penyakit hewan, dan dalam sebagian besar kasus, mutasi ini pada akhirnya tidak memicu krisis nyata. Dua potensi wabah sebelumnya berhasil terdeteksi lebih awal melalui pemantauan limbah dan analisis sumber terbuka di media sosial, dan berhasil dihentikan sebelum berkembang. Namun, kali ini situasinya berbeda, pasar prediksi menunjukkan bahwa probabilitas munculnya setidaknya 10.000 kasus mencapai 60%, yang membuat Anda cemas.

Baru kemarin, urutan gen virus tersebut telah ditentukan. Pembaruan perangkat lunak untuk alat penguji udara di saku Anda segera diluncurkan, dengan pembaruan ini, alat penguji dapat mendeteksi virus baru ( baik melalui tes napas tunggal, maupun setelah terpapar udara dalam ruangan selama 15 menit untuk mendeteksi ). Sementara itu, instruksi dan kode sumber terbuka untuk menghasilkan vaksin menggunakan perangkat yang dapat diakses di fasilitas medis modern di seluruh dunia diharapkan akan dirilis dalam beberapa minggu ke depan. Sebagian besar orang saat ini belum mengambil tindakan, mereka terutama bergantung pada langkah-langkah penyaringan udara dan ventilasi yang banyak digunakan untuk melindungi diri mereka.

Karena Anda memiliki masalah kekebalan, Anda lebih berhati-hati: asisten AI pribadi yang Anda gunakan yang berjalan secara lokal dengan sumber terbuka, selain menjalankan tugas-tugas umum seperti navigasi, rekomendasi restoran, dan aktivitas, juga akan mempertimbangkan data pengujian udara waktu nyata dan data karbon dioksida, sehingga hanya merekomendasikan tempat yang paling aman untuk Anda. Data ini disediakan oleh ribuan peserta dan perangkat, dengan bantuan teknologi ZK-SNARKs dan privasi diferensial, meminimalkan risiko data bocor atau disalahgunakan untuk tujuan lain ( Jika Anda bermaksud untuk menyumbangkan data untuk kumpulan data ini, ada asisten AI pribadi lainnya yang akan memverifikasi apakah alat enkripsi ini benar-benar efektif ).

Dua bulan kemudian, pandemi secara ajaib mereda: tampaknya 60% orang mengikuti protokol pencegahan dasar, yaitu mengenakan masker ketika alat penguji udara berbunyi alarm dan menunjukkan adanya virus, serta mengisolasi diri di rumah jika hasil tes individu positif. Langkah ini cukup untuk menurunkan tingkat penularan yang sudah berkurang drastis akibat penyaringan udara yang kuat menjadi di bawah 1. Sebuah simulasi menunjukkan bahwa penyakit yang mungkin lima kali lebih parah daripada pandemi COVID-19 dua puluh tahun lalu, kini tidak menyebabkan dampak serius.

Acara d/acc yang diselenggarakan oleh Devcon mencapai hasil yang sangat positif, yaitu konsep d/acc berhasil menyatukan orang-orang dari berbagai bidang dan secara nyata membangkitkan minat mereka terhadap pekerjaan satu sama lain.

Mengadakan acara yang "beragam" bukanlah hal yang sulit, tetapi membuat orang-orang dengan latar belakang dan minat yang berbeda benar-benar membangun hubungan yang erat adalah hal yang tidak mudah. Saya masih ingat dengan jelas pengalaman saya dipaksa menonton opera yang panjang di SMP dan SMA, saat itu saya merasa opera-opera tersebut membosankan. Saya sangat tahu bahwa saya "seharusnya" menghargainya, karena jika tidak, saya akan dianggap sebagai kutu buku ilmu komputer yang tidak berbudaya, tetapi saya tidak dapat merasakan resonansi yang lebih dalam dengan isi opera tersebut. Namun, suasana acara d/acc hari itu sangat berbeda: rasanya orang-orang benar-benar senang untuk memahami berbagai pekerjaan di berbagai bidang.

Jika kita ingin membangun masa depan yang lebih cerah daripada kekuasaan, perlambatan, dan penghancuran, kita pasti perlu melakukan pembangunan aliansi yang luas ini. d/acc tampaknya telah mencapai hasil yang signifikan dalam hal ini, dan hanya ini saja sudah cukup untuk menunjukkan nilai berharga dari konsep ini.

Inti pemikiran d/acc sangat jelas dan ringkas: desentralisasi, demokratis, dan perlindungan yang berbeda. Membangun teknologi yang dapat mendorong keseimbangan antara serangan dan pertahanan untuk condong ke arah pertahanan, dan dalam proses pelaksanaannya tidak bergantung pada penyerahan lebih banyak kekuasaan kepada otoritas pusat. Ada hubungan yang erat antara kedua aspek ini: setiap struktur politik yang desentralisasi, demokratis, atau bebas, sering kali dapat berkembang pesat ketika pertahanan mudah dilaksanakan, tetapi akan menghadapi tantangan berat ketika pertahanan mengalami kesulitan yang besar---dalam keadaan tersebut, hasil yang lebih mungkin muncul adalah sebuah periode kekacauan di mana semua orang saling berhadapan, yang pada akhirnya mencapai keadaan keseimbangan yang didominasi oleh yang terkuat.

Salah satu cara untuk memahami pentingnya mencoba untuk secara bersamaan mewujudkan desentralisasi, pertahanan, dan percepatan adalah dengan membandingkannya dengan gagasan yang muncul dari pengabaian salah satu dari ketiga aspek ini.

Desentralisasi mempercepat, tetapi mengabaikan bagian "pertahanan yang berbeda"

Pada dasarnya, ini mirip dengan menjadi seorang akselerasionis yang efektif ( e/acc ), tetapi pada saat yang sama mengejar desentralisasi. Ada banyak orang yang mengambil pendekatan ini, beberapa di antaranya menyebut diri mereka d/acc, tetapi mereka secara bermanfaat menggambarkan fokus mereka sebagai "agresif". Selain itu, ada banyak orang lain yang menunjukkan antusiasme yang lebih moderat terhadap "kecerdasan buatan desentralisasi" dan topik serupa, tetapi menurut saya, perhatian mereka terhadap aspek "defensif" jelas kurang.

Menurut saya, cara ini mungkin dapat menghindari risiko kelompok tertentu mendiktatorikan umat manusia secara global, tetapi ia tidak dapat menyelesaikan masalah struktural yang mendasarinya: dalam lingkungan yang menguntungkan untuk menyerang, selalu ada risiko bencana yang terus-menerus, atau seseorang akan memposisikan diri sebagai pelindung dan secara permanen menduduki posisi kekuasaan. Dalam hal kecerdasan buatan, ia juga tidak dapat dengan baik menyelesaikan risiko kekuasaan manusia secara keseluruhan yang tereduksi dibandingkan dengan kecerdasan buatan.

Percepatan pertahanan terdistribusi, tetapi mengabaikan "desentralisasi dan demokrasi"

Untuk mencapai tujuan keamanan dengan menerima kontrol terpusat, hal ini selalu memiliki daya tarik tertentu bagi sebagian orang, dan pembaca tentunya sudah akrab dengan banyak contoh seperti itu, serta kerugian yang ditimbulkannya. Baru-baru ini, beberapa orang khawatir bahwa kontrol terpusat yang ekstrem mungkin menjadi satu-satunya cara untuk menghadapi teknologi ekstrem di masa depan: misalnya, bayangkan skenario hipotetis di mana "setiap orang mengenakan 'label kebebasan' --- ini adalah produk lanjutan dari perangkat pemantauan yang lebih terbatas saat ini, mirip dengan label pergelangan kaki yang digunakan sebagai alternatif penjara di beberapa negara...... video dan audio terenkripsi diunggah secara terus-menerus dan dianalisis secara real-time oleh mesin". Namun, ada masalah dengan kontrol terpusat. Bentuk kontrol terpusat yang relatif moderat tetapi tetap berbahaya yang sering diabaikan, tercermin dalam bidang bioteknologi ( seperti makanan, vaksin ) perlawanan terhadap pengawasan publik, serta membiarkan perilaku perlawanan ini tidak ditantang oleh norma-norma sumber tertutup.

Risiko dari cara ini jelas terlihat, yaitu bahwa pusat itu sendiri sering kali menjadi sumber risiko. Kami telah menyaksikan hal ini selama pandemi COVID-19, di mana penelitian fungsional yang didanai oleh beberapa pemerintah besar di dunia mungkin menjadi akar penyebab pandemi, dan epistemologi terpusat menyebabkan Organisasi Kesehatan Dunia selama bertahun-tahun menolak untuk mengakui bahwa virus COVID-19 ditularkan melalui udara, sementara jarak sosial yang wajib dan mandat vaksin menyebabkan kemungkinan reaksi politik yang dapat bertahan selama beberapa dekade. Situasi serupa sangat mungkin terjadi lagi dalam konteks risiko yang terkait dengan kecerdasan buatan atau teknologi risiko lainnya. Sebaliknya, cara yang terdesentralisasi akan lebih efektif dalam menangani risiko yang berasal dari pusat itu sendiri.

Pertahanan terdesentralisasi, tetapi menolak percepatan

Secara esensial, ini adalah upaya untuk memperlambat kemajuan teknologi atau mendorong resesi ekonomi.

Strategi ini menghadapi tantangan ganda. Pertama, secara keseluruhan, pertumbuhan teknologi dan ekonomi sangat bermanfaat bagi umat manusia, dan setiap penundaan terhadapnya akan membawa biaya yang sulit diukur. Kedua, dalam dunia yang tidak otoriter, stagnasi adalah tidak stabil: mereka yang "curang" paling banyak, yang dapat menemukan cara yang tampaknya masuk akal untuk terus mendorong perkembangan, akan mendapatkan keunggulan. Strategi perlambatan dapat berfungsi sampai batas tertentu dalam beberapa konteks khusus: misalnya, makanan Eropa lebih sehat dibandingkan makanan Amerika, ini adalah contoh; keberhasilan non-proliferasi nuklir sampai saat ini juga demikian. Namun, strategi ini tidak mungkin berhasil selamanya.

Melalui d/acc, kami berkomitmen untuk mencapai tujuan berikut:

• Dalam tren yang semakin tertribalisasi di dunia saat ini, berpegang teguh pada prinsip-prinsip, bukan sekadar membangun berbagai hal secara buta --- sebaliknya, kami berharap dapat membangun hal-hal tertentu untuk membuat dunia menjadi lebih aman dan lebih baik.
• Menyadari kemajuan teknologi yang eksponensial berarti dunia akan menjadi sangat aneh, dan "jejak" manusia di alam semesta pasti akan terus meningkat. Kemampuan kita untuk melindungi hewan, tumbuhan, dan kelompok rentan dari bahaya harus terus ditingkatkan, dan satu-satunya jalan keluar adalah terus maju.
• Membangun teknologi yang dapat secara nyata melindungi kita, bukan berdasarkan asumsi "orang baik ( atau kecerdasan buatan yang baik ) mengendalikan segalanya". Kami mencapai tujuan ini dengan membangun alat yang secara alami lebih efektif untuk membangun dan melindungi daripada untuk menghancurkan.

Memikirkan d/acc dari sudut pandang lain adalah kembali ke kerangka gerakan Partai Bajak Laut Eropa di akhir tahun 2000-an: pemberdayaan.

Tujuan kami adalah membangun dunia yang dapat mempertahankan agensi manusia, mewujudkan kebebasan negatif, yaitu menghindari intervensi aktif oleh orang lain (, baik itu warga biasa, pemerintah, atau robot super pintar ) terhadap kemampuan kita untuk membentuk nasib kita sendiri, sekaligus mewujudkan kebebasan positif, yaitu memastikan kita memiliki pengetahuan dan sumber daya untuk menjalankan kemampuan ini. Ini mencerminkan tradisi liberal klasik yang telah berlangsung selama berabad-abad, yang mencakup perhatian Stewart Brand terhadap "akses alat", serta John Stuart.