d/acc : Retour sur une année

L'année dernière, j'ai écrit un article sur l'optimisme technologique, exposant mon enthousiasme général pour la technologie et les énormes bénéfices qu'elle pourrait apporter, tout en exprimant une attitude prudente face à certains problèmes spécifiques, notamment en ce qui concerne l'IA super intelligente et les risques dévastateurs qu'elle pourrait engendrer ou le risque de priver irréversiblement l'humanité de son pouvoir.

Le point central de l'article est de promouvoir une idéologie de l'accélération défensive qui soit décentralisée, démocratique et variée. Nous devrions accélérer le développement technologique, mais en nous concentrant spécifiquement sur les technologies qui améliorent les capacités de défense plutôt que de destruction, et nous engager à décentraliser le pouvoir, au lieu de le concentrer entre les mains d'une élite restreinte. Le mode de défense devrait ressembler à celui de la Suisse démocratique, et non au modèle féodal des seigneurs et des châteaux du Moyen Âge.

Au cours de l'année écoulée, ces idées ont connu un développement et un perfectionnement significatifs. J'ai partagé ces points de vue sur la plateforme "80,000 heures", et j'ai reçu de nombreux retours, dont la plupart étaient positifs, bien sûr, il y a également eu quelques critiques.

Des progrès substantiels ont également été réalisés dans ce travail : des percées dans le domaine des vaccins open source vérifiables ; une prise de conscience croissante de la valeur de l'air intérieur sain ; le "carnet de notes communautaire" continue de jouer un rôle positif ; le marché prédictif a connu une année révolutionnaire en tant qu'outil d'information ; les preuves à divulgation nulle de connaissance (ZK-SNARKs) sont appliquées dans le domaine de l'identification gouvernementale et des réseaux sociaux ( et garantissent la sécurité des portefeuilles Ethereum grâce à l'abstraction de compte ) ; les outils d'imagerie open source sont appliqués dans les domaines médical et des interfaces cerveau-machine (BCI), etc.

L'automne dernier, nous avons organisé notre premier événement important sur le d/acc : le "Jour de découverte d/acc" qui a eu lieu à Devcon (d/aDDy). L'événement a rassemblé des intervenants de divers domaines piliers du d/acc (, tels que la biologie, la physique, le réseau, la défense de l'information et la technologie neuronale ), et a duré toute la journée. Les personnes qui se consacrent depuis longtemps à ces technologies ont mieux compris le travail des autres, et les personnes extérieures prennent de plus en plus conscience de cette vision plus vaste : les mêmes valeurs qui poussent le développement d'Ethereum et des cryptomonnaies peuvent s'étendre à un monde plus large.

La signification et l'étendue de d/acc

Imaginons la scène de l'année 2042. Vous voyez dans les reportages médiatiques une nouvelle disant que votre ville pourrait connaître une nouvelle épidémie. Ce genre de nouvelles est devenu banal : les gens réagissent souvent de manière excessive à chaque mutation de maladies animales, alors que dans la grande majorité des cas, ces mutations ne déclenchent finalement pas de crise réelle. Les deux précédentes épidémies potentielles ont été détectées tôt et maîtrisées avec succès grâce à la surveillance des eaux usées et à l'analyse open source des réseaux sociaux. Cependant, cette fois-ci, la situation est différente ; les marchés de prévision montrent une probabilité de 60 % d'au moins 10 000 cas, ce qui vous inquiète.

Juste hier, la séquence génétique du virus a été déterminée. Une mise à jour du logiciel pour votre testeur d'air de poche a immédiatement été lancée, grâce à laquelle le testeur peut détecter le nouveau virus ( soit par un test de respiration, soit après avoir été exposé à l'air intérieur pendant 15 minutes pour détecter ). Pendant ce temps, des instructions et des codes open source pour générer un vaccin à l'aide d'équipements disponibles dans n'importe quelle installation médicale moderne dans le monde devraient être publiés dans quelques semaines. La plupart des gens n'ont pas encore pris de mesures, s'appuyant principalement sur des mesures de filtration de l'air et de ventilation largement adoptées pour assurer leur sécurité.

En raison de vos problèmes immunitaires, vous agissez avec plus de prudence : l'assistant personnel AI open source que vous utilisez, en plus de prendre en charge des tâches courantes telles que la navigation, les recommandations de restaurants et d'activités, tiendra également compte des données de test de la qualité de l'air en temps réel et des données sur le dioxyde de carbone, afin de ne vous recommander que les lieux les plus sûrs. Ces données sont fournies par des milliers de participants et d'appareils, et grâce aux technologies ZK-SNARKs et à la confidentialité différentielle, le risque que les données soient divulguées ou utilisées à d'autres fins est réduit au minimum ( Si vous souhaitez contribuer des données à ces ensembles de données, d'autres assistants personnels AI vérifieront si ces outils cryptographiques sont effectivement efficaces ).

Deux mois plus tard, la pandémie a miraculeusement disparu : il semble que 60 % des personnes aient respecté les protocoles de prévention de base, à savoir porter un masque lorsque le détecteur de qualité de l'air émet une alarme et indique la présence du virus, et s'isoler à domicile en cas de test positif. Cette mesure a suffi à faire chuter le taux de transmission, déjà considérablement réduit grâce à un filtrage de l'air passif, à moins de 1. Un scénario simulé montrait qu'une maladie pouvant être cinq fois plus grave que la pandémie de COVID-19 d'il y a vingt ans n'a cependant pas eu d'impact sérieux.

L'événement d/acc organisé par Devcon a obtenu un résultat extrêmement positif, à savoir que le concept d/d'acc a réussi à rassembler des personnes de différents domaines et a véritablement suscité leur vif intérêt pour le travail des uns et des autres.

Organiser un événement "diversifié" n'est pas une tâche difficile, mais faire en sorte que des personnes de différents horizons et intérêts établissent réellement des liens étroits est en revanche très difficile. Je me souviens encore de mes expériences au collège et au lycée, où j'étais contraint de regarder de longues opéras, que je trouvais personnellement ennuyeux. Je savais pertinemment que je "devrais" les apprécier, car sinon, je serais considéré comme un paresseux en informatique sans culture, mais je n'ai pas réussi à résonner avec le contenu des opéras à un niveau plus profond. Cependant, l'atmosphère de l'événement d/d'acc était tout à fait différente : on avait l'impression que les gens aimaient vraiment découvrir le travail de différents domaines.

Si nous aspirons à construire un avenir plus lumineux que la domination, le ralentissement et la destruction, il est nécessaire de mener cette large construction d'alliances. d/acc semble avoir obtenu des résultats significatifs dans ce domaine, et rien que cela suffit à souligner la valeur précieuse de cette idée.

L'idée centrale de d/acc est simple et claire : une accélération défensive décentralisée, démocratique et différenciée. Construire des technologies qui favorisent un équilibre entre attaque et défense, sans dépendre de l'attribution de plus de pouvoir à des autorités centrales. Il existe un lien intrinsèque étroit entre ces deux aspects : toute structure politique décentralisée, démocratique ou libre prospère généralement lorsque la défense est facile à mettre en œuvre, mais est confrontée à de graves défis lorsque la défense fait face à de nombreuses difficultés. Dans ces cas, le résultat le plus probable est une période de chaos où tous s'affrontent, aboutissant finalement à un état d'équilibre dominé par les plus forts.

Une façon de comprendre l'importance d'essayer d'atteindre simultanément la décentralisation, la défense et l'accélération est de la comparer à l'idée qui résulte de l'abandon de l'un de ces trois aspects.

Accélération de la décentralisation, mais négligence de la partie "défense différenciée"

En essence, cela ressemble à devenir un accélérationniste efficace (e/acc), tout en poursuivant la décentralisation. Beaucoup de gens adoptent cette approche, certains se qualifiant de d/acc, mais ils décrivent utilement leur propre accent comme "agressif". De plus, il y a beaucoup d'autres qui manifestent un enthousiasme plus modéré pour "l'IA décentralisée" et des sujets similaires, mais à mon avis, leur attention au niveau "défensif" est manifestement insuffisante.

À mon avis, cette approche pourrait peut-être éviter le risque d'une dictature mondiale par des groupes spécifiques, mais elle ne parvient pas à résoudre les problèmes structurels sous-jacents : dans un environnement favorable à l'agression, il existe toujours un risque constant de catastrophe, ou quelqu'un pourrait se positionner comme un protecteur et occuper de manière permanente une position dominante. En ce qui concerne l'IA, elle ne peut également pas résoudre correctement le risque d'affaiblissement du pouvoir de l'humanité par rapport à l'IA.

Défense différenciée accélérée, mais néglige "la décentralisation et la démocratie"

Accepter un contrôle centralisé pour atteindre des objectifs de sécurité a toujours un certain attrait pour une partie des gens, et les lecteurs sont sans doute déjà familiers avec de nombreux exemples de ce type, ainsi que les inconvénients qu'ils entraînent. Récemment, certaines personnes craignent que le contrôle centralisé extrême puisse être le seul moyen de faire face aux technologies extrêmes à venir : par exemple, imaginons un scénario hypothétique, "chacun porte une 'étiquette de liberté' — qui est le produit dérivé des dispositifs de surveillance portables plus limités d'aujourd'hui, semblables aux bracelets de cheville utilisés comme alternatives à l'incarcération dans plusieurs pays... des vidéos et des audios cryptés sont continuellement téléchargés, et interprétés en temps réel par des machines". Cependant, il existe un problème de degré avec le contrôle centralisé. Une forme de contrôle centralisé relativement douce, mais souvent ignorée et toujours nuisible, se manifeste dans le domaine des biotechnologies ( par exemple la résistance à la surveillance publique concernant les aliments, les vaccins ), ainsi que la permissivité de cette résistance sans contestation au sein de normes propriétaires.

Les risques de cette approche sont évidents, à savoir que le centre lui-même devient souvent la source du risque. Nous avons déjà été témoins de cela pendant la pandémie de COVID-19, où la recherche fonctionnelle financée par plusieurs gouvernements mondiaux majeurs pourrait être à l'origine de la pandémie. L'épistémologie centralisée a conduit l'Organisation mondiale de la santé à refuser pendant des années de reconnaître que le virus COVID-19 se propageait par voie aérienne, tandis que les mesures de distanciation sociale obligatoires et les mandats de vaccination ont suscité un retour politique qui pourrait durer des décennies. Une situation similaire est très susceptible de se reproduire dans tout contexte de risque lié à l'IA ou à d'autres technologies à risque. En revanche, une approche décentralisée serait plus efficace pour faire face aux risques provenant du centre lui-même.

Défense décentralisée, mais rejet de l'accélération

En essence, il s'agit d'une tentative de ralentir le progrès technologique ou de favoriser une récession économique.

Cette stratégie est confrontée à un double défi. Tout d'abord, dans l'ensemble, la croissance technologique et économique est extrêmement bénéfique pour l'humanité, et tout retard à cet égard aura des coûts incalculables. Deuxièmement, dans un monde non autoritaire, la stagnation est instable : ceux qui "trichent" le plus, capables de trouver des moyens apparemment raisonnables de continuer à avancer, auront un avantage. La stratégie de ralentissement peut fonctionner dans certaines situations particulières : par exemple, les aliments européens sont plus sains que les aliments américains, ce qui en est un exemple ; le succès obtenu jusqu'à présent en matière de non-prolifération nucléaire en est un autre. Cependant, ces stratégies ne peuvent pas fonctionner indéfiniment.

Grâce à d/acc, nous nous engageons à atteindre les objectifs suivants :

• Dans un monde de plus en plus tribalisé, tenir ferme à ses principes, et pas seulement construire aveuglément toutes sortes de choses - au contraire, nous espérons construire des choses spécifiques pour rendre le monde plus sûr et meilleur.
• Reconnaître que les avancées technologiques exponentielles signifient que le monde deviendra extrêmement étrange, et que l'empreinte globale de l'humanité dans l'univers ne pourra que croître. Notre capacité à protéger les animaux, les plantes et les populations vulnérables des dommages doit continuer à s'améliorer, et la seule voie à suivre est d'aller de l'avant.
• Construire des technologies qui protègent réellement, plutôt que de se baser sur l'hypothèse que "les bonnes personnes ( ou une bonne IA ) contrôlent tout". Nous atteignons cet objectif en développant des outils qui sont naturellement plus efficaces pour construire et protéger que pour détruire.

Une autre perspective sur d/acc est de revenir à un cadre du mouvement des pirates européens à la fin des années 2000 : l'autonomisation.

Notre objectif est de construire un monde capable de préserver l'autonomie humaine, en réalisant la liberté négative, c'est-à-dire éviter que d'autres, que ce soit des citoyens ordinaires, des gouvernements ou des super-intelligences, n'interviennent activement dans notre capacité à façonner notre propre destin, tout en réalisant la liberté positive, c'est-à-dire s'assurer que nous avons les connaissances et les ressources pour exercer cette capacité. Cela fait écho à une tradition du libéralisme classique qui dure depuis des siècles, incluant l'attention de Stewart Brand à l'"accès aux outils", ainsi que l'accent de John Stuart Mill sur l'éducation et la liberté comme éléments clés du progrès humain - peut-être peut-on également ajouter la vision de Buckminster Fuller selon laquelle le processus de résolution des problèmes mondiaux est participatif et largement distribué. Compte tenu du paysage technologique du 21ème siècle, nous pouvons considérer d/acc comme un moyen d'atteindre ces mêmes objectifs.

Troisième dimension : synergie entre survie et prospérité