d/acc: Revisão de um ano depois

No ano passado, escrevi um artigo sobre otimismo tecnológico, onde expus o meu entusiasmo geral pela tecnologia e os enormes benefícios que ela pode trazer, ao mesmo tempo que expressei uma atitude cautelosa em relação a certos problemas específicos, especialmente no que diz respeito à superinteligência AI e os riscos devastadores que ela pode acarretar ou o risco de privar a humanidade de forma irreversível do seu poder.

O ponto central do artigo é promover uma filosofia de aceleração defensiva que seja descentralizada, democrática e diversificada. Devemos acelerar o desenvolvimento tecnológico, mas focar especificamente nas tecnologias que aumentam a capacidade de defesa em vez de capacidades destrutivas, e dedicar-nos a descentralizar o poder, em vez de concentrá-lo nas mãos de alguns poucos elites. O modelo de defesa deveria ser semelhante ao da Suíça democrática, e não ao modelo feudal medieval de senhores e castelos.

No último ano, essas ideias foram significativamente desenvolvidas e aprimoradas. Eu compartilhei esses pontos de vista na plataforma "80,000 horas" e recebi muitos feedbacks, a maioria positiva, mas claro, também houve algumas críticas.

Este trabalho também fez progressos substanciais: houve avanços no campo das vacinas de código aberto verificáveis; a consciência sobre o valor de um ar interior saudável está em constante aumento; as "notas da comunidade" continuam a desempenhar um papel positivo; o mercado preditivo teve um ano revolucionário como ferramenta de informação; as provas de conhecimento nulo (ZK-SNARKs) foram aplicadas em identificação governamental e redes sociais ( e garantiram a segurança das carteiras Ethereum através da abstração de contas ); ferramentas de imagem de código aberto foram aplicadas nas áreas médica e de interface cérebro-máquina (BCI), entre outras.

No outono do ano passado, realizamos o nosso primeiro grande evento d/acc: o "Dia de Descoberta d/acc" na Devcon (d/aDDy). O evento reuniu oradores de várias áreas pilares do d/acc (, incluindo biologia, física, redes, defesa da informação e tecnologias neurais ), e durou um dia inteiro. As pessoas que se dedicam a essas tecnologias há muito tempo entenderam melhor o trabalho umas das outras, e os externos também começaram a perceber essa visão mais ampla: os mesmos valores que impulsionam o desenvolvimento do Ethereum e das criptomoedas podem ser estendidos a um mundo mais vasto.

O significado e a extensão de d/acc

Vamos imaginar uma cena no ano de 2042. Você vê uma notícia na mídia que diz que a cidade onde você mora pode enfrentar um novo surto. Esse tipo de notícia já se tornou comum: as pessoas frequentemente reagem de forma exagerada a cada mutação de doença animal, e na maioria dos casos, essas mutações acabam não causando crises reais. Os dois surtos potenciais anteriores foram detectados precocemente e contidos com sucesso através da monitorização de águas residuais e da análise de código aberto nas redes sociais. No entanto, desta vez a situação é diferente, os mercados preditivos indicam uma probabilidade de até 60% de haver pelo menos 10.000 casos, o que o deixa preocupado.

Apenas ontem, a sequência genética do vírus foi determinada. Uma atualização de software para o seu medidor de ar de bolso foi lançada, permitindo que o dispositivo detecte o novo vírus (, seja através de um teste de respiração ou após 15 minutos de exposição ao ar interior da sala para detectar ). Ao mesmo tempo, as instruções e códigos de código aberto para gerar vacinas usando equipamentos disponíveis em qualquer instalação médica moderna em todo o mundo devem ser lançados dentro de algumas semanas. A maioria das pessoas ainda não tomou nenhuma medida, dependendo principalmente de amplas medidas de filtragem de ar e ventilação para garantir sua segurança.

Devido a problemas de imunidade, você age com mais cautela: o assistente pessoal AI de código aberto que você utiliza, além de realizar tarefas convencionais como navegação, recomendações de restaurantes e atividades, também leva em conta dados de testes de qualidade do ar em tempo real e dados de dióxido de carbono, recomendando apenas os locais mais seguros. Esses dados são fornecidos por milhares de participantes e dispositivos, e, com o auxílio de ZK-SNARKs e tecnologia de privacidade diferencial, o risco de os dados serem vazados ou utilizados indevidamente para outros fins é minimizado (. Se você estiver interessado em contribuir com dados para esses conjuntos, existem outros assistentes pessoais AI que validarão se essas ferramentas criptográficas são realmente eficazes ).

Dois meses depois, a pandemia desapareceu de forma milagrosa: parece que 60% das pessoas seguiram os protocolos básicos de prevenção, ou seja, usar máscaras quando o medidor de qualidade do ar emitia alarmes e mostrava a presença do vírus, e isolar-se em casa se o resultado do teste pessoal fosse positivo. Esta medida foi suficiente para reduzir ainda mais a taxa de transmissão, que já havia diminuído significativamente devido à filtragem de ar passiva, para abaixo de 1. Uma simulação indicou que uma doença que poderia ser cinco vezes mais grave do que a pandemia de COVID-19 de há vinte anos, agora não causou impactos significativos.

O evento d/acc realizado pela Devcon teve um resultado extremamente positivo, que é a filosofia d/acc conseguiu reunir pessoas de diferentes áreas e realmente despertou um forte interesse pelo trabalho uns dos outros.

Organizar um evento com "diversidade" não é uma tarefa difícil, mas fazer com que pessoas de diferentes origens e interesses realmente estabeleçam conexões próximas é um desafio. Ainda me lembro claramente da experiência de ter que assistir a longas óperas durante o ensino fundamental e médio, quando pessoalmente achava essas óperas tediosas. Eu sabia que "deveria" apreciá-las, pois, caso contrário, seria visto como um preguiçoso da ciência da computação sem cultura, mas não consegui ressoar mais profundamente com o conteúdo das óperas. No entanto, a atmosfera do evento d/acc foi completamente diferente: parecia que as pessoas realmente amavam conhecer os diversos trabalhos de diferentes áreas.

Se desejamos construir um futuro mais brilhante do que a dominação, a desaceleração e a destruição, é necessário desenvolver essa ampla construção de alianças. O d/acc parece ter alcançado resultados significativos nesse sentido, e apenas isso é suficiente para destacar o valioso valor dessa ideia.

A ideia central do d/acc é clara e concisa: uma aceleração defensiva descentralizada, democrática e diferenciada. Construir tecnologias que possam inclinar o equilíbrio entre ataque e defesa em favor da defesa, sem depender do aumento do poder concedido a autoridades centrais durante sua implementação. Há uma conexão intrínseca e estreita entre esses dois aspectos: qualquer estrutura política descentralizada, democrática ou livre tende a prosperar quando a defesa é fácil de implementar, enquanto enfrenta sérias dificuldades quando a defesa é desafiadora - nessas circunstâncias, o resultado mais provável é um período de caos em que todos se confrontam, culminando em um estado de equilíbrio dominado pelos mais fortes.

Uma forma de entender a importância de tentar implementar simultaneamente a descentralização, a defesa e a aceleração é compará-la com as ideias resultantes da renúncia a qualquer um desses três aspectos.

Aceleração descentralizada, mas ignorando a parte da "defesa diferenciada"

Essencialmente, isso é semelhante a se tornar um efetivo aceleracionista (e/acc), mas ao mesmo tempo buscando a descentralização. Há muitas pessoas que adotam essa abordagem, algumas das quais se autodenominam d/acc, mas que benéficamente descrevem seu foco como "ofensivo". Além disso, há muitos outros que demonstram um entusiasmo mais moderado por "IA descentralizada" e tópicos semelhantes, mas, na minha opinião, a sua atenção para a camada de "defesa" é claramente insuficiente.

Na minha opinião, essa abordagem pode talvez evitar o risco de um grupo específico impor um regime ditatorial sobre a humanidade global, mas não resolve os problemas estruturais subjacentes: em um ambiente favorável a ataques, sempre existe o risco contínuo de desastres, ou alguém pode se posicionar como protetor e ocupar permanentemente uma posição de domínio. No que diz respeito à IA, ela também não consegue lidar adequadamente com o risco de a humanidade como um todo ter seu poder reduzido em relação à IA.

A defesa diferenciada acelera, mas ignora "descentralização e democracia"

A aceitação do controle centralizado para alcançar objetivos de segurança sempre teve um certo apelo para algumas pessoas; os leitores certamente estão familiarizados com muitos desses casos, bem como com as desvantagens que eles trazem. Recentemente, algumas pessoas expressaram preocupação de que o controle central extremo pode ser a única maneira de lidar com tecnologias extremas no futuro: por exemplo, imagine um cenário hipotético, "cada pessoa usa uma 'etiqueta de liberdade' - que é um produto subsequente dos dispositivos de monitoramento vestíveis mais limitados de hoje, semelhante às etiquetas de tornozelo usadas como alternativas à prisão em vários países... vídeos e áudios criptografados são continuamente enviados e interpretados em tempo real por máquinas". No entanto, o controle centralizado apresenta um problema de grau. Uma forma de controle centralizado relativamente moderada, geralmente negligenciada, mas ainda assim prejudicial, se manifesta no campo da biotecnologia (, por exemplo, a resistência à supervisão pública sobre alimentos, vacinas ) e a permissão para que esse comportamento de resistência não seja contestado por normas de código fechado.

Os riscos desta abordagem são evidentes, sendo que o centro em si muitas vezes se torna a fonte do risco. Já testemunhámos isso durante a pandemia de COVID-19, onde a pesquisa funcional financiada por vários governos mundiais pode ser a raiz da pandemia, e a epistemologia centralizada levou a Organização Mundial da Saúde a recusar-se a reconhecer por anos que o vírus COVID-19 é transmitido pelo ar, enquanto o distanciamento social obrigatório e os mandatos de vacinação provocaram uma reação política que pode durar décadas. Situações semelhantes podem facilmente ocorrer novamente em qualquer cenário de risco relacionado à IA ou outras tecnologias de risco. Em comparação, uma abordagem descentralizada enfrentará de forma mais eficaz os riscos provenientes do próprio centro.

Defesa descentralizada, mas rejeição à aceleração

Essencialmente, isso tenta desacelerar o avanço tecnológico ou promover uma recessão econômica.

Esta estratégia enfrenta duplo desafio. Primeiro, de um modo geral, o crescimento tecnológico e econômico é extremamente benéfico para a humanidade, e qualquer atraso nisso pode ter custos incalculáveis. Em segundo lugar, em um mundo não autoritário, a estagnação é instável: aqueles que "trapaceiam" mais, capazes de encontrar maneiras aparentemente razoáveis de continuar a promover o desenvolvimento, terão vantagem. A estratégia de desaceleração pode funcionar em certos contextos específicos até certo ponto: por exemplo, a comida na Europa é mais saudável do que a comida nos Estados Unidos, e isso é um exemplo; o sucesso alcançado até agora na não proliferação nuclear também é assim. No entanto, essas estratégias não podem funcionar para sempre.

Através do d/acc, estamos empenhados em alcançar os seguintes objetivos:

• Manter princípios diante da crescente tribalização do mundo atual, e não apenas construir coisas de forma cega - pelo contrário, esperamos construir coisas específicas, tornando o mundo mais seguro e melhor.
• Reconhecer que os avanços tecnológicos exponenciais significam que o mundo se tornará extremamente peculiar, e a "pegada" geral da humanidade no universo inevitavelmente aumentará. Nossa capacidade de proteger animais, plantas e comunidades vulneráveis de danos deve continuar a aumentar, e o único caminho a seguir é avançar corajosamente.
• Construir tecnologias que realmente nos protejam, em vez de se basear na suposição de que "pessoas boas ( ou IA boa ) controlam tudo". Alcançamos esse objetivo construindo ferramentas que são naturalmente mais eficazes para construir e proteger do que para destruir.

Uma outra perspectiva sobre o d/acc é voltar a um quadro do movimento pirata europeu do final da década de 2000: empoderamento.

O nosso objetivo é construir um mundo que preserve a agência humana, alcançando a liberdade negativa, ou seja, evitar a intervenção ativa de outros (, sejam cidadãos comuns, governos, ou superinteligências ), na nossa capacidade de moldar o nosso próprio destino, ao mesmo tempo que se alcança a liberdade positiva, ou seja, garantir que temos o conhecimento e os recursos para exercer essa capacidade. Isto ecoa uma tradição de liberalismo clássico que se estende por séculos, abrangendo a preocupação de Stewart Brand com a "aquisição de ferramentas" e a ênfase de John Stuart Mill na educação e na liberdade como elementos-chave do progresso humano — talvez também se possa acrescentar a visão de Buckminster Fuller de que o processo de resolução de problemas globais é participativo e amplamente distribuído. Dada a paisagem tecnológica do século XXI, podemos ver o d/acc como uma forma de alcançar esses mesmos objetivos.

Terceira Dimensão: Colaboração para Sobrevivência e Prosperidade