d/acc: Tinjauan Setelah Satu Tahun

Tahun lalu, saya menulis artikel tentang optimisme teknologi, menjelaskan semangat saya secara keseluruhan terhadap teknologi, serta manfaat besar yang mungkin dibawanya, sambil juga menyampaikan sikap hati-hati terhadap beberapa masalah tertentu, terutama mengenai AI super cerdas dan risiko menghancurkan yang mungkin ditimbulkannya atau risiko yang dapat secara irreversible merampas kekuasaan manusia.

Inti dari artikel ini adalah mendorong konsep akselerasi defensif yang terdesentralisasi, demokratis, dan beragam. Kita harus mempercepat perkembangan teknologi, tetapi dengan fokus yang tepat pada teknologi yang dapat meningkatkan kemampuan pertahanan daripada merusak, dan berkomitmen untuk mendistribusikan kekuasaan, alih-alih mengkonsentrasikannya pada segelintir elit. Mode pertahanan seharusnya mirip dengan demokrasi Swiss, bukan model tuan dan kastil di bawah feodalisme abad pertengahan.

Selama setahun terakhir, ide-ide ini telah berkembang dan disempurnakan secara signifikan. Saya telah membagikan pandangan ini di platform "80,000 Jam", dan menerima banyak umpan balik, sebagian besar positif, tentu saja ada juga beberapa kritik.

Pekerjaan itu sendiri juga telah mencapai kemajuan substantif: ada terobosan di bidang vaksin sumber terbuka yang dapat diverifikasi; kesadaran akan nilai udara dalam ruangan yang sehat terus meningkat; "Catatan Komunitas" terus memainkan peran positif; pasar prediksi sebagai alat informasi meraih tahun yang inovatif; bukti nol (ZK-SNARKs) diterapkan di bidang identifikasi pemerintah dan media sosial ( dan memastikan keamanan dompet Ethereum melalui abstraksi akun ); alat pencitraan sumber terbuka diterapkan di bidang kedokteran dan antarmuka otak-mesin (BCI), dan lain-lain.

Musim gugur tahun lalu, kami mengadakan acara d/acc penting pertama: "Hari Penemuan d/acc" yang diadakan di Devcon (d/aDDy). Acara ini mengumpulkan pembicara dari berbagai bidang pilar d/acc (biologi, fisika, jaringan, pertahanan informasi, dan teknologi saraf ), berlangsung selama sehari penuh. Orang-orang yang telah lama berkomitmen pada teknologi ini semakin memahami pekerjaan satu sama lain, dan orang luar semakin menyadari visi yang lebih besar ini: nilai-nilai yang mendorong perkembangan Ethereum dan cryptocurrency dapat diperluas ke dunia yang lebih luas.

Makna dan Ekstensi d/acc

Mari kita bayangkan skenario di tahun 2042. Anda melihat berita di media yang menyebutkan bahwa kota Anda mungkin mengalami wabah baru. Berita semacam ini sudah menjadi hal biasa: orang sering bereaksi berlebihan terhadap setiap mutasi penyakit hewan, dan dalam sebagian besar kasus, mutasi ini pada akhirnya tidak memicu krisis nyata. Dua potensi wabah sebelumnya berhasil terdeteksi dan berhasil dihentikan di awal melalui pemantauan limbah dan analisis sumber terbuka di media sosial. Namun, kali ini situasinya berbeda, pasar prediksi menunjukkan kemungkinan munculnya setidaknya 10.000 kasus mencapai 60%, yang membuat Anda sangat khawatir.

Kemarin, urutan gen virus tersebut telah ditentukan. Pembaruan perangkat lunak untuk alat penguji udara di saku Anda segera diluncurkan, dengan pembaruan ini, alat penguji dapat mendeteksi virus baru ( baik melalui pengujian pernapasan sekali, atau setelah terpapar udara dalam ruangan selama 15 menit untuk mendeteksi ). Sementara itu, instruksi dan kode sumber terbuka untuk menghasilkan vaksin menggunakan perangkat yang dapat diakses di fasilitas medis modern di seluruh dunia diperkirakan akan dirilis dalam beberapa minggu ke depan. Sebagian besar orang saat ini belum mengambil tindakan apa pun, mereka terutama mengandalkan langkah-langkah penyaringan udara dan ventilasi yang banyak diterapkan untuk melindungi diri mereka.

Karena Anda memiliki masalah kekebalan, Anda bertindak lebih hati-hati: Asisten AI pribadi yang berjalan secara lokal dan open source yang Anda gunakan, selain melakukan tugas-tugas biasa seperti navigasi, rekomendasi restoran dan kegiatan, juga akan mempertimbangkan data pengujian udara real-time dan data karbon dioksida, sehingga hanya merekomendasikan tempat yang paling aman untuk Anda. Data ini disediakan oleh ribuan peserta dan perangkat, dengan bantuan teknologi ZK-SNARKs dan privasi diferensial, meminimalkan risiko data bocor atau disalahgunakan untuk tujuan lain ( Jika Anda berminat untuk menyumbangkan data untuk kumpulan data ini, ada asisten AI pribadi lain yang akan memverifikasi apakah alat enkripsi ini benar-benar efektif ).

Dua bulan kemudian, pandemi secara ajaib menghilang: tampaknya 60% orang mengikuti protokol pencegahan dasar, yaitu mengenakan masker ketika alat penguji udara mengeluarkan alarm dan menunjukkan adanya virus, serta melakukan isolasi mandiri jika hasil tes pribadi positif. Langkah inilah yang cukup untuk menurunkan tingkat penyebaran yang sudah sangat berkurang akibat penyaringan udara yang kuat menjadi di bawah 1. Sebuah simulasi menunjukkan bahwa penyakit yang mungkin lima kali lebih parah daripada pandemi COVID-19 dua puluh tahun yang lalu, kini tidak menyebabkan dampak serius.

Acara d/acc yang diselenggarakan oleh Devcon telah mencapai hasil yang sangat positif, yaitu ide d/acc berhasil menyatukan orang-orang dari berbagai bidang dan secara nyata membangkitkan minat mereka yang kuat terhadap pekerjaan satu sama lain.

Mengadakan acara yang "beragam" bukanlah hal yang sulit, tetapi untuk membuat orang-orang dari latar belakang dan minat yang berbeda benar-benar membangun hubungan yang erat adalah hal yang tidak mudah. Saya masih ingat pengalaman dipaksa menonton opera yang panjang selama masa SMP dan SMA, ketika saya merasa opera tersebut membosankan. Saya sangat menyadari bahwa saya "seharusnya" menghargai mereka, karena jika tidak, saya akan dianggap sebagai kutu buku ilmu komputer yang tidak berbudaya, tetapi saya tidak dapat beresonansi dengan isi opera tersebut pada tingkat yang lebih dalam. Namun, suasana acara d/acc hari itu sangat berbeda: rasanya orang-orang benar-benar suka untuk memahami berbagai pekerjaan di berbagai bidang.

Jika kita ingin membangun masa depan yang lebih cerah daripada kekuasaan, perlambatan, dan penghancuran, maka kita pasti perlu melakukan pembangunan aliansi yang luas seperti ini. d/acc tampaknya telah mencapai kemajuan yang signifikan dalam hal ini, dan hanya ini saja sudah cukup untuk menunjukkan nilai berharga dari ide ini.

Inti pemikiran d/acc sederhana dan jelas: desentralisasi, demokratis, dan diferensiasi pertahanan yang cepat. Membangun teknologi yang dapat mendorong keseimbangan serangan dan pertahanan condong ke pertahanan, dan dalam proses implementasinya tidak bergantung pada penyerahan lebih banyak kekuasaan kepada otoritas pusat. Ada hubungan erat yang mendasar antara kedua aspek ini: struktur politik yang desentralisasi, demokratis, atau bebas cenderung berkembang pesat ketika pertahanan mudah diimplementasikan, sedangkan ketika pertahanan menghadapi banyak kesulitan, mereka akan menghadapi tantangan besar—dalam situasi tersebut, hasil yang lebih mungkin muncul adalah periode kekacauan di mana semua orang saling berhadapan, yang akhirnya mencapai keadaan keseimbangan yang dikuasai oleh yang terkuat.

Salah satu cara untuk memahami pentingnya mencoba untuk mencapai desentralisasi, pertahanan, dan percepatan secara bersamaan adalah dengan membandingkannya dengan ide yang dihasilkan dari mengabaikan salah satu dari tiga aspek ini.

Desentralisasi dipercepat, tetapi mengabaikan bagian "pertahanan yang berbeda"

Pada dasarnya, ini mirip dengan menjadi seorang akselerasionis yang efektif ( e/acc ), tetapi pada saat yang sama mengejar desentralisasi. Ada banyak orang yang mengambil pendekatan ini, beberapa di antaranya menyebut diri mereka d/acc, tetapi mereka secara bermanfaat menggambarkan fokus mereka sebagai "serangan". Selain itu, ada banyak orang lain yang menunjukkan antusiasme yang lebih moderat terhadap "AI desentralisasi" dan topik serupa, tetapi bagi saya, perhatian mereka terhadap aspek "pertahanan" jelas kurang.

Menurut saya, cara ini mungkin dapat menghindari risiko kelompok tertentu mendikte seluruh umat manusia, tetapi tidak dapat menyelesaikan masalah struktural yang mendasar: dalam lingkungan yang mendukung serangan, selalu ada risiko bencana yang terus-menerus, atau seseorang akan menempatkan dirinya sebagai pelindung dan secara permanen menduduki posisi dominasi. Dalam hal AI, ini juga tidak dapat dengan baik mengatasi risiko kekuasaan manusia secara keseluruhan yang dilemahkan dibandingkan dengan AI.

Percepatan pertahanan yang berbeda, tetapi mengabaikan "desentralisasi dan demokrasi"

Untuk mencapai tujuan keamanan dengan menerima kontrol terpusat, hal ini selalu memiliki daya tarik tertentu bagi sebagian orang, dan pembaca pasti sudah akrab dengan banyak contoh seperti itu, serta kelemahan yang ditimbulkannya. Baru-baru ini, beberapa orang khawatir bahwa kontrol terpusat yang ekstrem mungkin merupakan satu-satunya cara untuk menghadapi teknologi ekstrem di masa depan: misalnya, bayangkan skenario hipotetis di mana "setiap orang mengenakan 'label kebebasan'—ini adalah produk lanjutan dari perangkat pemantauan yang lebih terbatas saat ini, mirip dengan label pergelangan kaki yang digunakan sebagai alternatif penjara di beberapa negara...... video dan audio terenkripsi terus diunggah, dan ditafsirkan secara langsung oleh mesin". Namun, ada masalah tingkat dalam kontrol terpusat. Bentuk kontrol terpusat yang relatif moderat namun tetap berbahaya, yang biasanya diabaikan, tercermin dalam bidang bioteknologi ( seperti makanan, vaksin ) penolakan pengawasan publik, serta membiarkan tindakan penolakan ini tidak tertantang oleh norma-norma tertutup.

Risiko dari pendekatan ini sangat jelas, yaitu bahwa pusat itu sendiri sering kali menjadi sumber risiko. Kita telah menyaksikan hal ini selama pandemi COVID-19, di mana penelitian yang didanai oleh beberapa pemerintah dunia utama mungkin menjadi sumber dari pandemi tersebut, dan epistemologi yang terpusat menyebabkan Organisasi Kesehatan Dunia selama bertahun-tahun menolak untuk mengakui bahwa virus COVID-19 ditularkan melalui udara, sementara jarak sosial yang dipaksakan dan mandat vaksin memicu kemungkinan reaksi politik yang akan bertahan selama beberapa dekade. Situasi serupa sangat mungkin terjadi lagi dalam konteks risiko terkait AI atau teknologi risiko lainnya. Sebaliknya, pendekatan desentralisasi akan lebih efektif dalam menangani risiko yang berasal dari pusat itu sendiri.

Pertahanan terdesentralisasi, tetapi menolak percepatan

Pada dasarnya, ini adalah upaya untuk memperlambat kemajuan teknologi atau mendorong resesi ekonomi.

Strategi ini menghadapi tantangan ganda. Pertama, secara umum, kemajuan teknologi dan ekonomi sangat menguntungkan bagi umat manusia, dan setiap penundaan dalam hal ini akan membawa biaya yang sulit diukur. Kedua, dalam dunia yang non-otoriter, stagnasi adalah tidak stabil: mereka yang "curang" paling banyak, yang mampu menemukan cara yang tampak masuk akal untuk terus memajukan perkembangan, akan mendominasi. Strategi perlambatan dapat berfungsi hingga batas tertentu dalam konteks tertentu: misalnya, makanan Eropa lebih sehat dibandingkan makanan Amerika, ini adalah sebuah contoh; keberhasilan non-proliferasi nuklir hingga saat ini juga demikian. Namun, strategi ini tidak dapat selalu berhasil.

Melalui d/acc, kami berkomitmen untuk mencapai tujuan berikut:

• Dalam tren dunia yang semakin terpecah belah saat ini, berpegang pada prinsip, bukan sekadar membangun berbagai hal dengan buta — sebaliknya, kami berharap untuk membangun hal-hal tertentu, sehingga dunia menjadi lebih aman dan baik.
• Menyadari kemajuan teknologi eksponensial berarti dunia akan menjadi sangat aneh, dan "jejak" keseluruhan umat manusia di alam semesta pasti akan terus meningkat. Kemampuan kita untuk melindungi hewan, tumbuhan, dan kelompok yang rentan dari bahaya harus terus ditingkatkan, dan satu-satunya jalan keluar adalah terus maju.
• Membangun teknologi yang benar-benar melindungi kita, bukan berdasarkan asumsi "orang baik ( atau AI baik ) mengendalikan segalanya". Kami mencapai tujuan ini dengan membangun alat yang secara alami lebih efektif untuk dibangun dan dilindungi daripada untuk dihancurkan.

Memikirkan d/acc dari perspektif lain adalah kembali ke kerangka gerakan Partai Bajak Laut Eropa di akhir 2000-an: pemberdayaan.

Tujuan kami adalah untuk membangun dunia yang dapat mempertahankan agensi manusia, mencapai kebebasan negatif, yaitu menghindari intervensi aktif oleh orang lain ( baik itu warga biasa, pemerintah, atau superintelligent robots ) terhadap kemampuan kita untuk membentuk nasib kita sendiri, sekaligus mencapai kebebasan positif, yaitu memastikan kita memiliki pengetahuan dan sumber daya untuk menjalankan kemampuan ini. Ini mencerminkan tradisi liberalisme klasik yang telah berlangsung selama berabad-abad, yang mencakup perhatian Stewart Brand terhadap "akses alat", serta penekanan John Stuart Mill pada pendidikan dan kebebasan sebagai elemen kunci kemajuan manusia—mungkin juga dapat ditambahkan harapan Buckminster Fuller bahwa proses penyelesaian masalah global adalah partisipatif dan terdistribusi luas. Mengingat lanskap teknologi abad ke-21, kita dapat melihat d/acc sebagai salah satu cara untuk mencapai tujuan-tujuan yang sama ini.

Dimensi Ketiga: Kolaborasi antara Bertahan Hidup dan Kemakmuran