d/acc: Bir yıl sonra geri dönüş

Geçen yıl, teknolojik iyimserlik üzerine bir makale yazdım, teknolojinin genel heyecanı ve potansiyel faydaları hakkında görüşlerimi dile getirdim, aynı zamanda süper zeki AI ve bunun getirebileceği yıkıcı riskler veya insan gücünü geri dönülmez bir şekilde alma riski gibi belirli konulara karşı temkinli bir tutum sergiledim.

Makaledeki temel görüş, merkeziyetsiz, demokratik ve farklı bir savunma hızlandırma anlayışını savunmaktır. Teknolojik gelişimi hızlandırmalıyız, ancak savunma yeteneklerini artıran, yıkıcı yetenekleri değil, hedef odaklı bir şekilde bu teknolojilere odaklanmalıyız ve gücü dağıtmaya, azınlık elitlerin elinde toplamak yerine, çaba göstermeliyiz. Savunma modeli, Orta Çağ'daki feodal lordlar ve kaleler düzeninden ziyade, demokratik İsviçre'yi andırmalıdır.

Geçtiğimiz yıl bu fikirler önemli bir gelişim ve iyileşme kaydetti. Bu görüşleri "80,000 Saat" platformunda paylaştım, çok sayıda geri bildirim aldım, bunların çoğu olumlu oldu, elbette bazı eleştiriler de geldi.

Bu çalışma kendisi de önemli ilerlemeler kaydetti: doğrulanabilir açık kaynak aşı alanında atılımlar yapıldı; sağlıklı iç hava değerine olan farkındalık sürekli artıyor; "topluluk notları" olumlu bir rol oynamaya devam ediyor; tahmin piyasaları bilgi aracı olarak devrim niteliğinde bir yıl geçiriyor; sıfır bilgi kanıtları (ZK-SNARKs) hükümet kimlik tanıma ve sosyal medya alanlarında uygulanıyor ( ve hesap soyutlama ile Ethereum cüzdanlarının güvenliğini sağlıyor ); açık kaynaklı görüntüleme araçları tıp ve beyin-bilgisayar arayüzü (BCI) alanında uygulanıyor.

Geçen sonbaharda, ilk önemli d/acc etkinliğimizi düzenledik: Devcon'da gerçekleştirilen "d/acc Keşif Günü" ( d/aDDy ). Etkinlik, d/acc'nin çeşitli sütun alanlarından ( biyoloji, fizik, ağ, bilgi savunması ve sinir teknolojisi ) alanlarından konuşmacıları bir araya getirdi ve tam bir gün sürdü. Bu teknolojilere uzun süre adanmış kişiler, birbirlerinin çalışmalarını daha iyi anlama fırsatı buldular ve dışarıdan gelenler de bu daha büyük vizyonu giderek daha fazla anlamaya başladı: Ethereum ve kripto para gelişimini destekleyen aynı değerlerin daha geniş bir dünyaya yayılabileceği.

d/acc'in içeriği ve kapsamı

2042 yılındaki bir senaryoyu hayal edelim. Medyada bulunduğunuz şehirde yeni bir salgın patlak verebileceğine dair bir haber gördünüz. Böyle haberler artık sıradan hale geldi: insanlar genellikle her tür hayvan hastalığı mutasyonuna aşırı tepki veriyor ve çoğu durumda, bu mutasyonlar nihayetinde gerçek bir krize yol açmıyor. Önceki iki potansiyel salgın, atık su izleme ve sosyal medya açık kaynak analizleri sayesinde erken aşamada tespit edilip başarıyla kontrol altına alınmıştı. Ancak bu sefer durum farklı, tahmin piyasaları en az 10,000 vaka olasılığının %60'a kadar çıktığını gösteriyor ve bu sizi endişelendiriyor.

Dün, virüsün genetik dizilimi belirlendi. Cebinizdeki hava test cihazının yazılım güncellemesi hemen piyasaya sürüldü; bu güncelleme sayesinde, test cihazı yeni virüsü (, bir nefes testi ile ya da odada 15 dakika boyunca iç hava maruziyeti sonrası )'i tespit edebiliyor. Bu arada, dünya genelinde herhangi bir modern sağlık tesisinde erişilebilen cihazlarla aşı üretmek için açık kaynak talimatları ve kodlarının birkaç hafta içinde yayınlanması bekleniyor. Çoğu insan şu anda herhangi bir adım atmamış durumda; kendilerini korumak için genellikle yaygın olarak kullanılan hava filtreleme ve havalandırma önlemlerine güveniyorlar.

Bağışıklık sorunlarınız nedeniyle daha dikkatli hareket ediyorsunuz: Kullandığınız açık kaynaklı yerel çalışan kişisel asistan AI, yönlendirme, restoran ve etkinlik önerileri gibi standart görevlerin yanı sıra, gerçek zamanlı hava testi verileri ve karbondioksit verilerini de dikkate alarak yalnızca en güvenli mekanları öneriyor. Bu veriler, binlerce katılımcı ve cihaz tarafından sağlanmakta olup, ZK-SNARKs ve diferansiyel gizlilik teknolojileri sayesinde verilerin sızma veya başka amaçlar için kötüye kullanılma riskini en aza indirmektedir (. Bu veri setlerine katkıda bulunmak istiyorsanız, diğer kişisel asistan AI'lar bu şifreleme araçlarının gerçekten etkili olup olmadığını doğrulayacaktır ).

İki ay sonra, salgın mucizevi bir şekilde azaldı: görünüşe göre, insanların %60'ı temel sağlık protokollerine uymuştu; yani hava test cihazı alarm verdiğinde ve virüs tespit edildiğinde maske takıyor, bireysel test sonuçları pozitif çıkarsa evde izole oluyorlardı. İşte bu önlem, pasif güçlü hava filtrasyonu ile zaten büyük ölçüde düşen bulaşma oranını 1'in altına daha da düşürmek için yeterliydi. Yirmi yıl önceki COVID-19 salgınından beş kat daha şiddetli olabileceği öngörülen bir simülasyonun sonuçları, şimdi ise ciddi bir etki yaratmamış durumda.

Devcon'un düzenlediği d/acc etkinliği son derece olumlu bir sonuç elde etti; d/acc anlayışı, farklı alanlardan gelen insanları bir araya getirerek, birbirlerinin çalışmalarına karşı güçlü bir ilgi uyandırdı.

"Çeşitlilik" içeren bir etkinlik düzenlemek zor değildir, ancak farklı geçmişlere ve ilgi alanlarına sahip insanların gerçekten yakın ilişkiler kurmasını sağlamak oldukça zordur. Ortaokul ve lise dönemimde zorla uzun operalar izlemek zorunda kaldığım deneyimi hala taze hatırlıyorum; o dönemde bu operaların sıkıcı olduğunu düşünüyordum. Onları "takdir etmem gerektiğini" çok iyi biliyordum, çünkü aksi takdirde kültürsüz bir bilgisayar bilimi tembeli olarak değerlendirilecektim, ama operanın içeriğiyle daha derin bir düzeyde bir bağ kurmayı başaramamıştım. Ancak, d/acc günü etkinliğinin atmosferi tamamen farklıydı: İnsanların farklı alanlardaki işleri gerçekten sevgiyle tanımak istedikleri hissi veriyordu.

Eğer egemenlik, yavaşlama ve yıkımdan daha parlak bir gelecek inşa etme arzumuz varsa, bu tür geniş bir ittifak inşası kesinlikle gereklidir. d/acc bu alanda belirgin başarılar elde etmiş gibi görünüyor, yalnızca bu bile bu fikrin değerini gözler önüne sermek için yeterlidir.

d/acc'nin temel düşüncesi sade ve açıktır: merkeziyetsizlik, demokrasi ve farklılaştırılmış savunma hızlandırması. Saldırı ve savunma dengesini savunma lehine kaydıracak teknolojilerin inşası, uygulama sürecinde daha fazla gücü merkezi otoritelere devretmeye bağımlı olmadan gerçekleştirilmelidir. Bu iki yön arasında içsel bir sıkı bağlantı bulunmaktadır: Herhangi bir merkeziyetsiz, demokratik veya özgür siyasi yapı, savunmanın uygulanmasının kolay olduğu durumlarda genellikle gelişme gösterirken, savunmanın zorluklarla karşılaştığı durumlarda ciddi zorluklarla karşılaşır - bu tür durumlarda, daha olası sonuç, herkesin birbirine karşı olduğu karmaşık bir dönemdir ve nihayetinde en güçlülerin hüküm sürdüğü bir denge durumuna ulaşılmasıdır.

Merkeziyetsizlik, savunuculuk ve hızlandırıcılığın önemini anlamanın bir yolu, bunların herhangi birinin terk edilmesinin ortaya çıkardığı kavramlarla karşılaştırmaktır.

Merkeziyetsiz hızlanma, ancak "farklılaştırılmış savunma" kısmını göz ardı etme

Temelde, bu etkili bir hızlandırıcı olmayı (e/acc) ile benzer kılmaktadır, ancak aynı zamanda merkeziyetsizliği de takip eder. Bu yolu seçen birçok insan var, bunlardan bazıları kendilerini d/acc olarak adlandırıyor, ancak kendilerini "saldırgan" olarak tanımlama konusunda faydalı bir şekilde odaklanıyorlar. Ayrıca, "merkeziyetsiz AI" ve benzeri konulara daha ılımlı bir ilgi gösteren birçok diğer insan var, ancak benim görüşümde, "savunma" boyutuna olan dikkatleri belirgin şekilde yetersiz.

Bana kalırsa, bu yöntem belirli grupların dünya insanlarına diktatörlük uygulama riskini önleyebilir, ancak potansiyel yapısal sorunları çözemez: saldırgan bir ortamda her zaman felaketin sürekli bir riskinin varlığı vardır veya biri kendisini koruyucu olarak konumlandırabilir ve kalıcı olarak egemenlik pozisyonunu işgal edebilir. AI açısından, insanlığın AI'ya karşı güçlerinin zayıflama riskini de uygun bir şekilde çözemez.

Farklılaştırılmış savunma hızlandırılıyor, ancak "merkeziyetsizlik ve demokrasi" göz ardı ediliyor

Güvenlik hedeflerine ulaşmak için merkezi kontrolü kabul etmek, bazı insanlar için her zaman belirli bir çekiciliğe sahip olmuştur; okuyucuların bu tür birçok örneği ve bunların getirdiği dezavantajları bilmesi şüphesizdir. Son zamanlarda, bazı insanlar aşırı merkezi kontrolün gelecekteki aşırı teknolojilere karşı tek çözüm olabileceğinden endişe duyuyor: örneğin, herkesin bir 'özgür etiket' takması gereken varsayımsal bir senaryo düşünün - bu, günümüzde daha sınırlı giyilebilir izleme cihazlarının bir sonraki ürünüdür ve birkaç ülkenin hapishane alternatifleri olarak kullandığı ayak bilek etiketlerine benzer... Kriptolu video ve ses sürekli olarak yükleniyor ve makineler tarafından gerçek zamanlı olarak yorumlanıyor." Ancak, merkezi kontrolün bir derece sorunu vardır. Genellikle göz ardı edilen ama yine de zararlı olan görece ılımlı merkezi kontrol biçimi, biyoteknoloji alanında ( örneğin gıda, aşılar ) kamu denetimine karşı direniş ve bu direnç davranışının sorgulanmadan devam etmesine izin veren kapalı kaynak standartlarında kendini gösterir.

Bu yöntemin riskleri belirgindir, çünkü merkez genellikle riskin kaynağı haline gelir. Bunun örneğini Covid-19 pandemisi sırasında gördük; birçok ana dünya hükümeti tarafından finanse edilen işlevsel kazanım araştırmaları, pandeminin kökeni olabilir. Merkezci epistemoloji, Dünya Sağlık Örgütü'nün yıllardır Covid-19'un hava yoluyla yayıldığını kabul etmesini reddetmesine neden oldu ve zorunlu sosyal mesafe ile aşı zorunluluğu, muhtemelen onlarca yıl sürecek siyasi tepkilere yol açtı. Benzer durumların, AI veya diğer riskli teknolojilerle ilgili herhangi bir risk senaryosunda yeniden ortaya çıkması oldukça muhtemeldir. Buna karşın, merkezi olmayan bir yaklaşım, merkezden kaynaklanan risklerle daha etkili bir şekilde başa çıkacaktır.

Merkeziyetsiz savunma, ancak hızlanmayı dışlama

Temelde, bu teknolojik ilerlemeyi yavaşlatma veya ekonomik duraklamayı teşvik etme çabasıdır.

Bu strateji çift zorlukla karşı karşıyadır. Öncelikle, genel olarak teknolojik ve ekonomik büyüme insanlık için son derece faydalıdır ve buna getirilecek herhangi bir gecikme ölçülemez maliyetler doğuracaktır. İkincisi, otoriter olmayan bir dünyada duraklamak istikrarsızdır: "hile yapan" en fazla olanlar ve gelişimi devam ettirmek için makul görünecek yollar bulabilen kişi veya gruplar avantajlı olacaktır. Yavaşlama stratejileri bazı belirli durumlarda bir ölçüde işe yarayabilir: örneğin, Avrupa'nın gıdaları Amerika'nın gıdalarından daha sağlıklıdır, bu da bir örnektir; nükleer yayılmayı önleme konusundaki başarı da böyledir. Ancak, bu stratejilerin sonsuza dek işe yaraması mümkün değildir.

d/acc aracılığıyla aşağıdaki hedeflere ulaşmayı taahhüt ediyoruz:

• Günümüzde giderek kabileleşen bir dünyada, sadece çeşitli şeyler inşa etmek yerine ilkelere sadık kalmak - aksine, belirli şeyler inşa etmeyi umuyoruz, böylece dünyayı daha güvenli ve güzel hale getirelim.
• Üstel teknolojik ilerlemelerin farkına varmak, dünyanın son derece tuhaf hale geleceği ve insanlığın evrendeki genel "izinin" sürekli artacağı anlamına geliyor. Hassas hayvanları, bitkileri ve toplulukları zarardan koruma yeteneğimizin sürekli olarak artması gerekiyor ve tek yol cesurca ilerlemektir.
• Gerçekten teknolojimizi koruyacak bir altyapı inşa etmek, "iyi insanlar ( veya iyi AI ) her şeyi kontrol eder" varsayımına dayanmak yerine, bu hedefe ulaşmak için, inşa etmek ve korumak için doğal olarak yıkımdan daha etkili olan araçlar geliştirmekle mümkün olacaktır.

d/acc'in başka bir perspektifi, 21. yüzyılın 2000'li yıllarının sonlarındaki Avrupa Korsan Partisi hareketine geri dönmek: güçlendirme.

Amacımız, insan eyleyiciliğini koruyan bir dünya inşa etmek, olumsuz özgürlüğü sağlamak, yani diğerlerinin (, ister sıradan vatandaşlar, ister hükümetler, ister süper zeki robotlar ), kendi kaderimizi şekillendirme yeteneğimize aktif müdahalede bulunmasını önlemektir. Aynı zamanda olumlu özgürlüğü sağlamak, yani bu yeteneği gerçekleştirmek için bilgi ve kaynaklara sahip olmamızı güvence altına almaktır. Bu, yüzyıllardır süregelen klasik liberalizm geleneğiyle örtüşmektedir; bu gelenekte Stewart Brand'ın "araç edinme" konusundaki ilgisi ve John Stuart Mill'in eğitimi ve özgürlüğü insan ilerlemesinin anahtar unsurları olarak vurgulaması yer almaktadır - belki de Buckminster Fuller'ın küresel sorunları çözme sürecinin katılımcı ve geniş dağıtılmış bir vizyonunu arzuladığını da ekleyebiliriz. 21. yüzyılın teknolojik manzarası göz önüne alındığında, d/acc'yi bu aynı hedeflere ulaşmanın bir yolu olarak görebiliriz.

Üçüncü Boyut: Hayatta Kalma ve Refahın İşbirliği