d/acc: Nhìn lại sau một năm

Năm ngoái, tôi đã viết một bài báo về chủ nghĩa lạc quan công nghệ, trình bày niềm đam mê tổng thể của tôi đối với công nghệ và những lợi ích to lớn mà nó có thể mang lại, đồng thời cũng bày tỏ sự thận trọng đối với một số vấn đề cụ thể, đặc biệt là về trí tuệ nhân tạo siêu thông minh và những rủi ro tàn phá có thể xảy ra hoặc rủi ro tước đoạt quyền lực của con người một cách không thể đảo ngược.

Quan điểm cốt lõi của bài viết là cổ vũ một tư tưởng tăng tốc phòng thủ phi tập trung, dân chủ và có sự khác biệt. Chúng ta nên thúc đẩy sự phát triển công nghệ, nhưng cần tập trung một cách có mục tiêu vào những công nghệ có thể nâng cao khả năng phòng thủ chứ không phải phá hoại, và cam kết phân tán quyền lực, thay vì tập trung quyền lực vào tay một số ít tinh hoa. Mô hình phòng thủ nên tương tự như một Thụy Sĩ dân chủ, chứ không phải là mô hình lãnh chúa và lâu đài trong chủ nghĩa phong kiến thời trung cổ.

Trong năm qua, những ý tưởng này đã phát triển và hoàn thiện đáng kể. Tôi đã chia sẻ những quan điểm này trên nền tảng "80,000 giờ" và nhận được rất nhiều phản hồi, trong đó phần lớn là tích cực, tất nhiên cũng có một số ý kiến chỉ trích.

Công việc này cũng đã đạt được tiến bộ đáng kể: lĩnh vực vắc xin mã nguồn mở có những bước đột phá; nhận thức về giá trị của không khí trong nhà lành mạnh ngày càng tăng; "ghi chú cộng đồng" tiếp tục phát huy vai trò tích cực; thị trường dự đoán đã có một năm đột phá như một công cụ thông tin; chứng minh không kiến thức (ZK-SNARKs) đã được áp dụng trong nhận diện danh tính chính phủ và lĩnh vực mạng xã hội (, đồng thời đảm bảo an toàn cho ví Ethereum thông qua trừu tượng tài khoản ); công cụ hình ảnh mã nguồn mở đã được áp dụng trong y học và giao diện não-máy (BCI).

Vào mùa thu năm ngoái, chúng tôi đã tổ chức sự kiện d/acc quan trọng đầu tiên: "Ngày Khám Phá d/acc" được tổ chức tại Devcon (d/aDDy). Sự kiện đã quy tụ các diễn giả từ nhiều lĩnh vực trụ cột của d/acc ( sinh học, vật lý, mạng, phòng thủ thông tin và công nghệ thần kinh ), kéo dài suốt một ngày. Những người đã dành nhiều thời gian cho những công nghệ này hiểu rõ hơn về công việc của nhau, và người ngoài cũng ngày càng nhận thức rõ hơn về một tầm nhìn rộng lớn hơn: các giá trị thúc đẩy sự phát triển của Ethereum và tiền điện tử có thể mở rộng ra thế giới rộng lớn hơn.

Ý nghĩa và phạm vi của d/acc

Hãy tưởng tượng một cảnh tượng vào năm 2042. Bạn thấy một tin tức trong các báo cáo truyền thông, nói rằng thành phố bạn đang sống có thể bùng phát một dịch bệnh mới. Những tin tức kiểu này đã trở nên quen thuộc: mọi người thường phản ứng thái quá với mỗi sự biến đổi của bệnh động vật, trong khi hầu hết các trường hợp, những biến đổi này cuối cùng không dẫn đến khủng hoảng thực sự. Hai lần dịch bệnh tiềm tàng trước đó đã được phát hiện sớm và thành công bị ngăn chặn thông qua giám sát nước thải và phân tích nguồn mở trên mạng xã hội. Tuy nhiên, lần này thì khác, thị trường dự đoán cho thấy khả năng xuất hiện ít nhất 10,000 ca bệnh lên tới 60%, điều này khiến bạn rất lo lắng.

Ngay hôm qua, chuỗi gen của virus đã được xác định. Cập nhật phần mềm cho thiết bị kiểm tra không khí trong túi của bạn đã được phát hành ngay lập tức, với bản cập nhật này, thiết bị kiểm tra có thể phát hiện virus mới (, dù là thông qua kiểm tra hô hấp hay kiểm tra sau khi tiếp xúc với không khí trong phòng trong 15 phút với ). Trong khi đó, các hướng dẫn và mã nguồn mở để tạo ra vaccine bằng thiết bị có thể được sử dụng tại bất kỳ cơ sở y tế hiện đại nào trên toàn cầu dự kiến sẽ được phát hành trong vài tuần tới. Hầu hết mọi người hiện vẫn chưa có hành động nào, họ chủ yếu dựa vào các biện pháp lọc không khí và thông gió được áp dụng rộng rãi để bảo vệ sự an toàn của bản thân.

Do vì vấn đề miễn dịch của bạn, bạn hành động cẩn thận hơn: Trợ lý AI cá nhân chạy trên mã nguồn mở mà bạn sử dụng, ngoài việc đảm nhận các nhiệm vụ thông thường như điều hướng, khuyến nghị nhà hàng và hoạt động, còn xem xét dữ liệu thử nghiệm không khí theo thời gian thực và dữ liệu carbon dioxide, từ đó chỉ đề xuất những địa điểm an toàn nhất cho bạn. Những dữ liệu này được cung cấp bởi hàng ngàn người tham gia và thiết bị, nhờ vào công nghệ ZK-SNARKs và quyền riêng tư khác biệt, giảm thiểu tối đa rủi ro dữ liệu bị rò rỉ hoặc bị lạm dụng cho các mục đích khác ( Nếu bạn có ý định đóng góp dữ liệu cho các tập dữ liệu này, còn có những trợ lý AI cá nhân khác sẽ xác minh xem những công cụ mã hóa này có thực sự hiệu quả hay không ).

Hai tháng sau, dịch bệnh một cách kỳ diệu đã tan biến: dường như 60% người dân đã tuân theo các biện pháp phòng ngừa cơ bản, tức là đeo khẩu trang khi máy đo không khí phát tín hiệu cảnh báo và hiển thị sự hiện diện của virus, nếu kết quả xét nghiệm cá nhân dương tính thì sẽ tự cách ly tại nhà. Chính biện pháp này đã đủ để giảm tỷ lệ lây lan, vốn đã giảm mạnh nhờ vào hệ thống lọc không khí mạnh mẽ, xuống dưới 1. Một mô phỏng cho thấy bệnh có thể nghiêm trọng gấp năm lần so với dịch COVID-19 cách đây hai mươi năm, nhưng hiện nay lại không gây ra ảnh hưởng nghiêm trọng.

Sự kiện d/acc do Devcon tổ chức đã đạt được một kết quả rất tích cực, đó là tư tưởng d/acc đã thành công trong việc tập hợp những người đến từ các lĩnh vực khác nhau và thực sự khơi dậy sự quan tâm sâu sắc của họ đối với công việc của nhau.

Tổ chức một sự kiện có "đặc sắc" không phải là điều khó, nhưng để những người có nền tảng và sở thích khác nhau thực sự tạo dựng được mối liên hệ chặt chẽ thì lại rất khó. Tôi vẫn còn nhớ như in trải nghiệm bị ép phải xem những vở opera dài dòng ở trung học cơ sở và trung học phổ thông, lúc đó tôi cảm thấy những vở opera này thật nhàm chán. Tôi hiểu rằng mình "nên" thưởng thức chúng, vì nếu không, tôi sẽ bị coi là một kẻ lười biếng trong ngành khoa học máy tính không có văn hóa, nhưng tôi lại không thể kết nối sâu sắc với nội dung của các vở opera. Tuy nhiên, không khí của sự kiện d/acc ngày hôm đó thì hoàn toàn khác biệt: cảm giác mọi người thật sự yêu thích việc tìm hiểu về các công việc ở những lĩnh vực khác nhau.

Nếu chúng ta khao khát xây dựng một tương lai tươi sáng hơn so với sự cai trị, làm chậm và hủy diệt, thì chắc chắn chúng ta cần phải tiến hành xây dựng liên minh rộng rãi này. d/acc dường như đã đạt được những thành tựu đáng kể trong lĩnh vực này, chỉ riêng điều này đã đủ để làm nổi bật giá trị quý báu của tư tưởng này.

Ý tưởng cốt lõi của d/acc rất rõ ràng: phòng thủ phi tập trung, dân chủ và khác biệt. Xây dựng công nghệ có thể thúc đẩy sự cân bằng giữa tấn công và phòng thủ nghiêng về phía phòng thủ, và trong quá trình thực hiện không phụ thuộc vào việc giao thêm quyền lực cho các cơ quan trung ương. Hai khía cạnh này có mối liên hệ chặt chẽ với nhau: bất kỳ cấu trúc chính trị nào phi tập trung, dân chủ hoặc tự do, khi phòng thủ dễ thực hiện thường có thể phát triển mạnh mẽ, trong khi khi phòng thủ gặp khó khăn sẽ phải đối mặt với những thách thức nghiêm trọng - trong những trường hợp đó, kết quả có khả năng xảy ra hơn là một giai đoạn hỗn loạn mà mọi người đối kháng lẫn nhau, cuối cùng đạt được trạng thái cân bằng do kẻ mạnh nhất cai trị.

Một cách để hiểu ý nghĩa quan trọng của việc cố gắng đồng thời thực hiện phi tập trung, tính phòng thủ và tính tăng tốc là so sánh nó với các ý tưởng phát sinh từ việc từ bỏ bất kỳ một trong ba khía cạnh này.

Tăng tốc độ phi tập trung, nhưng bỏ qua phần "phòng thủ khác biệt"

Về bản chất, điều này tương tự như việc trở thành một nhà tăng tốc hiệu quả ( e/acc ), nhưng đồng thời theo đuổi sự phi tập trung. Có nhiều người theo cách này, trong đó một số tự gọi mình là d/acc, nhưng họ mô tả trọng tâm của mình một cách hữu ích là "tấn công". Ngoài ra, còn nhiều người khác thể hiện sự nhiệt tình ôn hòa hơn đối với "AI phi tập trung" và các chủ đề tương tự, nhưng theo quan điểm của tôi, họ thiếu sự quan tâm rõ ràng đến các khía cạnh "phòng thủ".

Theo tôi, cách này có thể giúp tránh rủi ro của một nhóm cụ thể đối với việc áp đặt chế độ độc tài lên toàn nhân loại, nhưng nó không giải quyết được các vấn đề cấu trúc tiềm ẩn: trong một môi trường có lợi cho tấn công, luôn tồn tại rủi ro liên tục về thảm họa xảy ra, hoặc có thể có ai đó tự đặt mình vào vị trí người bảo vệ và chiếm giữ vị trí thống trị vĩnh viễn. Về AI, nó cũng không thể giải quyết một cách thích hợp rủi ro về việc sức mạnh của nhân loại bị suy yếu so với AI.

Phòng thủ khác biệt được tăng tốc, nhưng bỏ qua "phi tập trung và dân chủ"

Để đạt được mục tiêu an toàn mà chấp nhận kiểm soát tập trung, điều này luôn có sức hấp dẫn nhất định đối với một số người, độc giả chắc chắn đã quen thuộc với nhiều ví dụ như vậy, cũng như những bất lợi mà chúng mang lại. Gần đây, một số người lo ngại rằng kiểm soát tập trung cực đoan có thể là cách duy nhất để ứng phó với công nghệ cực đoan trong tương lai: chẳng hạn, tưởng tượng một kịch bản giả định, "mọi người đều đeo một 'nhãn tự do' - đây là sản phẩm tiếp theo của thiết bị giám sát đeo được hiện nay có giới hạn hơn, tương tự như một số quốc gia sử dụng làm phương án thay thế cho tù nhân là nhãn chân... video và âm thanh được mã hóa liên tục được tải lên, và được máy móc giải mã theo thời gian thực". Tuy nhiên, kiểm soát tập trung có một vấn đề về mức độ. Một dạng kiểm soát tập trung tương đối nhẹ nhàng thường bị bỏ qua nhưng vẫn có hại, thể hiện trong lĩnh vực công nghệ sinh học ( chẳng hạn như thực phẩm, vắc xin ) sự kháng cự của công chúng đối với việc giám sát, cũng như việc cho phép hành vi kháng cự này không bị thách thức bởi các quy định mã nguồn đóng.

Rủi ro của phương thức này là rõ ràng, đó là trung tâm bản thân thường trở thành nguồn gốc của rủi ro. Chúng ta đã chứng kiến điều này trong đại dịch COVID-19, khi các nghiên cứu chức năng được tài trợ bởi nhiều chính phủ lớn trên thế giới có thể là nguồn gốc của đại dịch, nhận thức tập trung đã dẫn đến việc Tổ chức Y tế Thế giới từ chối công nhận virus COVID-19 lây lan qua không khí trong nhiều năm, trong khi các biện pháp giãn cách xã hội bắt buộc và yêu cầu tiêm vaccine đã gây ra phản ứng chính trị có thể kéo dài hàng thập kỷ. Tình huống tương tự rất có thể xảy ra một lần nữa trong bất kỳ bối cảnh rủi ro nào liên quan đến AI hoặc công nghệ rủi ro khác. So với đó, phương thức phi tập trung sẽ hiệu quả hơn trong việc đối phó với rủi ro đến từ chính trung tâm.

Phòng thủ phi tập trung, nhưng loại trừ tăng tốc

Về bản chất, đây là một nỗ lực nhằm làm chậm tiến bộ công nghệ hoặc thúc đẩy suy thoái kinh tế.

Chiến lược này đối mặt với hai thách thức kép. Đầu tiên, nhìn chung, sự phát triển công nghệ và kinh tế rất có lợi cho nhân loại, bất kỳ sự chậm trễ nào đều có thể gây ra những chi phí không thể đo lường. Thứ hai, trong một thế giới không phải toàn trị, sự đình trệ là không ổn định: những người hoặc nhóm "gian lận" nhiều nhất, có khả năng tìm ra những cách dường như hợp lý để tiếp tục thúc đẩy sự phát triển sẽ chiếm ưu thế. Chiến lược chậm lại có thể hoạt động ở một mức độ nào đó trong một số tình huống cụ thể: ví dụ, thực phẩm châu Âu là lành mạnh hơn thực phẩm Mỹ, điều này là một ví dụ; thành công của việc không phổ biến vũ khí hạt nhân cho đến nay cũng vậy. Tuy nhiên, những chiến lược này không thể mãi mãi có hiệu lực.

Thông qua d/acc, chúng tôi cam kết đạt được các mục tiêu sau:

• Giữ vững nguyên tắc trong bối cảnh thế giới ngày càng có xu hướng bộ lạc hóa, chứ không chỉ mù quáng xây dựng nhiều thứ khác nhau - ngược lại, chúng tôi mong muốn xây dựng những thứ cụ thể, từ đó làm cho thế giới trở nên an toàn và tốt đẹp hơn.
• Nhận ra rằng sự tiến bộ công nghệ theo cấp số nhân có nghĩa là thế giới sẽ trở nên vô cùng kỳ lạ, và "dấu chân" tổng thể của loài người trong vũ trụ chắc chắn sẽ không ngừng gia tăng. Khả năng bảo vệ các loài động vật, thực vật và con người mong manh khỏi tổn hại của chúng ta phải liên tục được nâng cao, và con đường duy nhất chính là tiến về phía trước.
• Xây dựng công nghệ có thể thực sự bảo vệ chúng ta, thay vì dựa trên giả định "người tốt ( hoặc AI tốt ) kiểm soát mọi thứ". Chúng ta đạt được mục tiêu này bằng cách xây dựng các công cụ mà tự nhiên hiệu quả hơn trong việc xây dựng và bảo vệ hơn là trong việc phá hoại.

Một cách tiếp cận khác để suy nghĩ về d/acc là quay trở lại khung của phong trào Pirate Party ở châu Âu vào cuối những năm 2000: trao quyền.

Mục tiêu của chúng tôi là xây dựng một thế giới có thể giữ lại tính chủ động của con người, đạt được tự do tiêu cực, tức là tránh sự can thiệp tích cực từ người khác (, dù là công dân bình thường, chính phủ hay siêu trí tuệ nhân tạo ) vào khả năng tự định hình số phận của chúng ta, đồng thời đạt được tự do tích cực, tức là đảm bảo rằng chúng ta có kiến thức và tài nguyên để thực hiện khả năng này. Điều này phù hợp với truyền thống tự do cổ điển kéo dài hàng thế kỷ, trong đó bao gồm sự quan tâm của Stewart Brand đối với "công cụ để có được", cũng như sự nhấn mạnh của John Stuart Mill về giáo dục và tự do như những yếu tố quan trọng cho sự tiến bộ của nhân loại - có lẽ còn có thể bổ sung thêm tầm nhìn của Buckminster Fuller rằng quá trình giải quyết vấn đề toàn cầu là tham gia và phân phối rộng rãi. Xét về bối cảnh công nghệ của thế kỷ 21, chúng ta có thể xem d/acc như một cách để đạt được những mục tiêu tương tự.

Chiều thứ ba: Hợp tác giữa sự sống sót và thịnh vượng