Минулого року я написав статтю про технічний оптимізм, в якій виклав своє загальне захоплення технологіями та їх потенційними великими перевагами, водночас висловивши обережність щодо деяких конкретних проблем, зокрема стосовно надінтелектуального ШІ та можливих катастрофічних ризиків, які він може нести, або ризиків, які можуть незворотно позбавити людей влади.
Основна ідея статті полягає в підтримці децентралізованої, демократичної та різноманітної концепції оборонного прискорення. Ми повинні прискорити розвиток технологій, але зосередитися на тих, які можуть підвищити обороноздатність, а не на тих, що руйнують, і прагнути до розподілу влади, а не до концентрації її в руках небагатьох еліт. Оборонна модель повинна бути схожою на демократичну Швейцарію, а не на феодальну систему з лордами та замками середньовіччя.
Протягом минулого року ці ідеї отримали значний розвиток і вдосконалення. Я поділився цими думками на платформі "80,000 годин", отримавши велику кількість відгуків, більшість з яких були позитивними, хоча, звичайно, були й критичні голоси.
Ця робота сама по собі також досягла суттєвого прогресу: в галузі перевірених відкритих вакцин відбулися прориви; усвідомлення цінності здорового повітря в приміщенні постійно зростає; "комунальні нотатки" продовжують відігравати позитивну роль; ринок прогнозів став інструментом інформації, який пережив проривний рік; нульові знання (ZK-SNARKs) знайшли своє застосування в державній ідентифікації та сфері соціальних медіа (, а також забезпечили безпеку гаманців Ethereum через абстракцію облікових записів ); відкриті інструменти візуалізації знайшли застосування в медицині та галузі інтерфейсів мозок-комп'ютер (BCI).
Минулої осені ми провели нашу першу важливу подію d/acc: "День відкриття d/acc", що відбувався на Devcon (d/aDDy). Подія об'єднала спікерів з різних стовпів d/acc ( біології, фізики, мереж, інформаційної безпеки та нейротехнологій ) і тривала цілий день. Люди, які довгий час працювали над цими технологіями, краще зрозуміли роботу одне одного, а зовнішні особи стали все більше усвідомлювати цю більшу мету: що цінності, які просувають розвиток Ethereum та криптовалют, можуть поширюватися на ширший світ.
Значення та межі d/acc
Уявімо собі сцену 2042 року. Ви читаєте в медіа новину, що у вашому місті може спалахнути нова епідемія. Такі новини стали звичними: люди часто надмірно реагують на кожну мутацію хвороб тварин, а в більшості випадків ці мутації врешті-решт не викликають реальної кризи. Дві попередні потенційні епідемії були виявлені на ранніх стадіях завдяки моніторингу стічних вод і аналізу відкритих даних соціальних медіа, і їх вдалося успішно стримати. Проте, цього разу ситуація інша, ринки прогнозів показують, що ймовірність виникнення щонайменше 10 000 випадків становить до 60%, і це вас насторожує.
Тільки вчора була визначена генетична послідовність цього вірусу. Випущено оновлення програмного забезпечення для повітряного тестера у вашій кишені, завдяки якому тестер може виявляти новий вірус ( як через одноразове дихальне тестування, так і при впливі на кімнатне повітря протягом 15 хвилин після виявлення ). Тим часом, відкриті інструкції та код для генерації вакцини за допомогою пристроїв, доступних у всіх сучасних медичних установах, очікується, що будуть опубліковані протягом кількох тижнів. Більшість людей наразі не вжили жодних заходів, вони в основному покладаються на широко використовувані заходи фільтрації повітря та вентиляції для захисту своєї безпеки.
Оскільки у вас є проблеми з імунітетом, ви дієте більш обережно: ваш локальний відкритий особистий асистент AI, крім виконання звичайних завдань, таких як навігація, рекомендації ресторанів і заходів, також буде враховувати дані про якість повітря в реальному часі та дані про вміст вуглекислого газу, щоб рекомендувати вам лише найбезпечніші місця. Ці дані надаються тисячами учасників і пристроїв, завдяки технологіям ZK-SNARKs та диференційної конфіденційності, які мінімізують ризик витоку даних або їх неналежного використання ( Якщо ви бажаєте внести дані до цих наборів даних, інші особисті асистенти AI перевірять, чи дійсно ці криптографічні інструменти є ефективними ).
Через два місяці епідемія дивовижним чином зникла: здавалося, що 60% людей дотримуються основних протиепідемічних протоколів, тобто носять маски, коли датчик забруднення повітря подає сигнал тривоги і показує наявність вірусу, а якщо особа має позитивний тест, то вона самоізолюється вдома. Саме цей захід достатній, щоб ще більше знизити вже значно зменшений завдяки пасивному потужному очищенню повітря рівень поширення до 1 і нижче. Симуляція показала, що хвороба, яка може бути в п'ять разів серйознішою за COVID-19 двадцятирічної давності, наразі не спричинила серйозних наслідків.
Подія d/acc, організована Devcon, досягла надзвичайно позитивного результату, а саме концепція d/acc успішно об'єднала людей з різних сфер та дійсно викликала в них сильний інтерес до роботи один одного.
Провести захід з "різноманіттям" не є складним завданням, але справжнє встановлення тісних зв'язків між людьми з різними фонами та інтересами є досить непростим. Я досі пам'ятаю свій досвід у середній та старшій школі, коли мене змушували дивитися довгі опери, які я вважав нудними. Я добре знав, що "повинен" їх цінувати, адже інакше мене вважали б культурно непідготовленим комп'ютерним науковцем-ледарем, але мені не вдалося глибше зрозуміти зміст опери. Проте атмосфера заходу d/acc була зовсім іншою: здавалося, що людям справді цікаво дізнаватися про роботу в різних сферах.
Якщо ми прагнемо побудувати більш світле майбутнє, ніж правління, уповільнення та знищення, нам обов'язково потрібно розпочати таке широке будівництво альянсів. d/acc у цьому плані, здається, досяг значних успіхів, і цього вже достатньо, щоб підкреслити цінність цієї ідеї.
Основна ідея d/acc проста і зрозуміла: децентралізований, демократичний та диференційований захисний прискорювач. Створення технологій, які можуть сприяти балансуванню атак і захисту на користь захисту, і при цьому не покладатися на передачу більшої влади центральним авторитетам під час реалізації. Між цими двома аспектами існує внутрішній тісний зв'язок: будь-яка децентралізована, демократична чи вільна політична структура зазвичай процвітає, коли захист легко реалізувати, але стикається з серйозними викликами, коли захист стикається з численними труднощами. У таких випадках більш імовірним результатом є період хаосу, коли всі протистоять один одному, що врешті-решт призводить до встановлення балансу, що контролюється найсильнішими.
Розуміння важливості спроби одночасно реалізувати децентралізацію, захист і прискорення можна досягти, порівнявши його з концепцією, що виникає при відмові від будь-якого з цих трьох аспектів.
Децентралізація прискорюється, але ігнорує частину "диференційованої оборони"
За своєю суттю це схоже на те, щоб стати ефективним акселераціоністом ( e/acc ), але водночас прагнути до децентралізації. Є багато людей, які обирають цей шлях, деякі з них самі себе називають d/acc, але вони корисно описують свій акцент як "агресивний". Крім того, є багато інших, які проявляють більш помірковану пристрасть до "децентралізованого ШІ" та подібних тем, але, на мій погляд, їхня увага до аспекту "захисту" явно недостатня.
На мій погляд, цей підхід, можливо, зможе уникнути ризику диктатури певних груп над усім людством, але він не вирішує потенційні структурні проблеми: у середовищі, яке сприяє агресії, завжди існує постійний ризик катастрофи, або хтось може позиціонувати себе як захисник і назавжди зайняти домінуюче положення. Щодо ШІ, він також не може належним чином вирішити ризик послаблення влади людства в порівнянні з ШІ.
Диференційована оборона прискорюється, але ігнорує "децентралізацію та демократію"
Для досягнення цілей безпеки прийняття централізованого контролю завжди має певну привабливість для деяких людей. Читачі безумовно вже добре знайомі з численними такими випадками та їхніми недоліками. Нещодавно деякі люди висловили занепокоєння, що екстремальний централізований контроль може бути єдиним способом протидії майбутнім екстремальним технологіям: наприклад, уявіть собі таку гіпотетичну ситуацію, "кожен носить 'вільну мітку' — це наступний продукт обмежених носимих пристроїв моніторингу, подібний до браслетів на щиколотку, які використовуються в деяких країнах як альтернативи ув'язненню... зашифроване відео та аудіо постійно завантажуються і в реальному часі інтерпретуються машинами". Однак централізований контроль має свою проблему в ступені. Одна форма зазвичай ігнорується, але все ще є шкідливою та відносно м'якою формою централізованого контролю, що виявляється в галузі біотехнологій (, наприклад, в опорі громадського контролю над продуктами харчування та вакцинами ), а також дозволяючи цій опозиції залишатися без виклику закритим нормам.
Цей спосіб має очевидні ризики, а саме, що сам центр часто стає джерелом ризику. Ми вже стали свідками цього під час пандемії COVID-19, коли функціональні дослідження, які фінансувалися кількома основними світовими урядами, могли стати джерелом пандемії. Централізована епістемологія призвела до того, що Всесвітня організація охорони здоров'я роками відмовлялася визнати, що вірус COVID-19 передається повітрям, а обов'язкова соціальна дистанція та примусові вакцинації викликали політичну реакцію, яка могла тривати десятиліттями. Подібна ситуація, ймовірно, знову виникне в будь-якому ризиковому контексті, пов'язаному з штучним інтелектом або іншими ризиковими технологіями. У порівнянні з цим, децентралізований підхід ефективніше впорається з ризиками, що виходять від самого центру.
Децентралізовані захист, але виключають прискорення
По суті, це намагається сповільнити технологічний прогрес або сприяти економічному спаду.
Ця стратегія стикається з подвійними викликами. По-перше, в цілому, технологічний та економічний розвиток є надзвичайно корисними для людства, будь-яка затримка в цьому питанні призведе до непередбачуваних витрат. По-друге, у світі, що не є авторитарним, бездіяльність є нестабільною: ті, хто "обманює" найбільше, здатні знайти, здавалося б, розумні способи продовжувати розвиток, отримають перевагу. Стратегія сповільнення може працювати в певних специфічних обставинах: наприклад, європейська їжа є більш здоровою, ніж американська, це є прикладом; успіхи в запобіганні розповсюдженню ядерної зброї до цього часу є ще одним. Однак ці стратегії не можуть діяти вічно.
Завдяки d/acc, ми прагнемо досягти наступних цілей:
Дотримуючись принципів у світі, що дедалі більше стає племінним, а не просто сліпо будуючи різні речі — навпаки, ми сподіваємось створити певні речі, щоб зробити світ більш безпечним і кращим.
Усвідомлення експоненційного технологічного прогресу означає, що світ стане надзвичайно дивним, і загальний "слід" людства у Всесвіті неодмінно буде постійно зростати. Наша здатність захищати вразливих тварин, рослин і людей від шкоди повинна постійно покращуватися, а єдиний шлях уперед – це сміливо йти вперед.
Створення технологій, які дійсно захищають нас, а не базуються на припущенні, що "добрі люди ( або хороший штучний інтелект ) контролюють все". Ми досягаємо цієї мети, створюючи інструменти, які природно ефективніші для побудови та захисту, ніж для руйнування.
Інший погляд на d/acc полягає в поверненні до рамок руху піратської партії в Європі наприкінці 2000-х років: наділення повноваженнями.
Наша мета полягає в тому, щоб створити світ, який зберігає людську активність, досягаючи негативної свободи, тобто уникати активного втручання інших (, будь то звичайні громадяни, уряд чи суперінтелектуальні роботи ) у нашу здатність формувати власну долю, одночасно досягаючи позитивної свободи, тобто забезпечуючи наявність знань і ресурсів для реалізації цієї здатності. Це відгукується на традицію класичного лібералізму, що триває вже кілька століть, яка охоплює увагу Стюарта Брандта до "отримання інструментів", а також підкреслення Джона Стюарта Мілля про освіту та свободу як ключові елементи людського прогресу — можливо, також можна додати бачення Бакмінстера Фуллера про те, що процес глобального вирішення проблем є участюючим і широко розподіленим. З огляду на технологічний ландшафт 21-го століття, ми можемо сприймати d/acc як один із способів досягнення цих самих цілей.
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
d/acc огляд: Децентралізація оборонного прискорення рік прогресу
d/acc:Огляд через рік
Минулого року я написав статтю про технічний оптимізм, в якій виклав своє загальне захоплення технологіями та їх потенційними великими перевагами, водночас висловивши обережність щодо деяких конкретних проблем, зокрема стосовно надінтелектуального ШІ та можливих катастрофічних ризиків, які він може нести, або ризиків, які можуть незворотно позбавити людей влади.
Основна ідея статті полягає в підтримці децентралізованої, демократичної та різноманітної концепції оборонного прискорення. Ми повинні прискорити розвиток технологій, але зосередитися на тих, які можуть підвищити обороноздатність, а не на тих, що руйнують, і прагнути до розподілу влади, а не до концентрації її в руках небагатьох еліт. Оборонна модель повинна бути схожою на демократичну Швейцарію, а не на феодальну систему з лордами та замками середньовіччя.
Протягом минулого року ці ідеї отримали значний розвиток і вдосконалення. Я поділився цими думками на платформі "80,000 годин", отримавши велику кількість відгуків, більшість з яких були позитивними, хоча, звичайно, були й критичні голоси.
Ця робота сама по собі також досягла суттєвого прогресу: в галузі перевірених відкритих вакцин відбулися прориви; усвідомлення цінності здорового повітря в приміщенні постійно зростає; "комунальні нотатки" продовжують відігравати позитивну роль; ринок прогнозів став інструментом інформації, який пережив проривний рік; нульові знання (ZK-SNARKs) знайшли своє застосування в державній ідентифікації та сфері соціальних медіа (, а також забезпечили безпеку гаманців Ethereum через абстракцію облікових записів ); відкриті інструменти візуалізації знайшли застосування в медицині та галузі інтерфейсів мозок-комп'ютер (BCI).
Минулої осені ми провели нашу першу важливу подію d/acc: "День відкриття d/acc", що відбувався на Devcon (d/aDDy). Подія об'єднала спікерів з різних стовпів d/acc ( біології, фізики, мереж, інформаційної безпеки та нейротехнологій ) і тривала цілий день. Люди, які довгий час працювали над цими технологіями, краще зрозуміли роботу одне одного, а зовнішні особи стали все більше усвідомлювати цю більшу мету: що цінності, які просувають розвиток Ethereum та криптовалют, можуть поширюватися на ширший світ.
Значення та межі d/acc
Уявімо собі сцену 2042 року. Ви читаєте в медіа новину, що у вашому місті може спалахнути нова епідемія. Такі новини стали звичними: люди часто надмірно реагують на кожну мутацію хвороб тварин, а в більшості випадків ці мутації врешті-решт не викликають реальної кризи. Дві попередні потенційні епідемії були виявлені на ранніх стадіях завдяки моніторингу стічних вод і аналізу відкритих даних соціальних медіа, і їх вдалося успішно стримати. Проте, цього разу ситуація інша, ринки прогнозів показують, що ймовірність виникнення щонайменше 10 000 випадків становить до 60%, і це вас насторожує.
Тільки вчора була визначена генетична послідовність цього вірусу. Випущено оновлення програмного забезпечення для повітряного тестера у вашій кишені, завдяки якому тестер може виявляти новий вірус ( як через одноразове дихальне тестування, так і при впливі на кімнатне повітря протягом 15 хвилин після виявлення ). Тим часом, відкриті інструкції та код для генерації вакцини за допомогою пристроїв, доступних у всіх сучасних медичних установах, очікується, що будуть опубліковані протягом кількох тижнів. Більшість людей наразі не вжили жодних заходів, вони в основному покладаються на широко використовувані заходи фільтрації повітря та вентиляції для захисту своєї безпеки.
Оскільки у вас є проблеми з імунітетом, ви дієте більш обережно: ваш локальний відкритий особистий асистент AI, крім виконання звичайних завдань, таких як навігація, рекомендації ресторанів і заходів, також буде враховувати дані про якість повітря в реальному часі та дані про вміст вуглекислого газу, щоб рекомендувати вам лише найбезпечніші місця. Ці дані надаються тисячами учасників і пристроїв, завдяки технологіям ZK-SNARKs та диференційної конфіденційності, які мінімізують ризик витоку даних або їх неналежного використання ( Якщо ви бажаєте внести дані до цих наборів даних, інші особисті асистенти AI перевірять, чи дійсно ці криптографічні інструменти є ефективними ).
Через два місяці епідемія дивовижним чином зникла: здавалося, що 60% людей дотримуються основних протиепідемічних протоколів, тобто носять маски, коли датчик забруднення повітря подає сигнал тривоги і показує наявність вірусу, а якщо особа має позитивний тест, то вона самоізолюється вдома. Саме цей захід достатній, щоб ще більше знизити вже значно зменшений завдяки пасивному потужному очищенню повітря рівень поширення до 1 і нижче. Симуляція показала, що хвороба, яка може бути в п'ять разів серйознішою за COVID-19 двадцятирічної давності, наразі не спричинила серйозних наслідків.
Подія d/acc, організована Devcon, досягла надзвичайно позитивного результату, а саме концепція d/acc успішно об'єднала людей з різних сфер та дійсно викликала в них сильний інтерес до роботи один одного.
Провести захід з "різноманіттям" не є складним завданням, але справжнє встановлення тісних зв'язків між людьми з різними фонами та інтересами є досить непростим. Я досі пам'ятаю свій досвід у середній та старшій школі, коли мене змушували дивитися довгі опери, які я вважав нудними. Я добре знав, що "повинен" їх цінувати, адже інакше мене вважали б культурно непідготовленим комп'ютерним науковцем-ледарем, але мені не вдалося глибше зрозуміти зміст опери. Проте атмосфера заходу d/acc була зовсім іншою: здавалося, що людям справді цікаво дізнаватися про роботу в різних сферах.
Якщо ми прагнемо побудувати більш світле майбутнє, ніж правління, уповільнення та знищення, нам обов'язково потрібно розпочати таке широке будівництво альянсів. d/acc у цьому плані, здається, досяг значних успіхів, і цього вже достатньо, щоб підкреслити цінність цієї ідеї.
Основна ідея d/acc проста і зрозуміла: децентралізований, демократичний та диференційований захисний прискорювач. Створення технологій, які можуть сприяти балансуванню атак і захисту на користь захисту, і при цьому не покладатися на передачу більшої влади центральним авторитетам під час реалізації. Між цими двома аспектами існує внутрішній тісний зв'язок: будь-яка децентралізована, демократична чи вільна політична структура зазвичай процвітає, коли захист легко реалізувати, але стикається з серйозними викликами, коли захист стикається з численними труднощами. У таких випадках більш імовірним результатом є період хаосу, коли всі протистоять один одному, що врешті-решт призводить до встановлення балансу, що контролюється найсильнішими.
Розуміння важливості спроби одночасно реалізувати децентралізацію, захист і прискорення можна досягти, порівнявши його з концепцією, що виникає при відмові від будь-якого з цих трьох аспектів.
Децентралізація прискорюється, але ігнорує частину "диференційованої оборони"
За своєю суттю це схоже на те, щоб стати ефективним акселераціоністом ( e/acc ), але водночас прагнути до децентралізації. Є багато людей, які обирають цей шлях, деякі з них самі себе називають d/acc, але вони корисно описують свій акцент як "агресивний". Крім того, є багато інших, які проявляють більш помірковану пристрасть до "децентралізованого ШІ" та подібних тем, але, на мій погляд, їхня увага до аспекту "захисту" явно недостатня.
На мій погляд, цей підхід, можливо, зможе уникнути ризику диктатури певних груп над усім людством, але він не вирішує потенційні структурні проблеми: у середовищі, яке сприяє агресії, завжди існує постійний ризик катастрофи, або хтось може позиціонувати себе як захисник і назавжди зайняти домінуюче положення. Щодо ШІ, він також не може належним чином вирішити ризик послаблення влади людства в порівнянні з ШІ.
Диференційована оборона прискорюється, але ігнорує "децентралізацію та демократію"
Для досягнення цілей безпеки прийняття централізованого контролю завжди має певну привабливість для деяких людей. Читачі безумовно вже добре знайомі з численними такими випадками та їхніми недоліками. Нещодавно деякі люди висловили занепокоєння, що екстремальний централізований контроль може бути єдиним способом протидії майбутнім екстремальним технологіям: наприклад, уявіть собі таку гіпотетичну ситуацію, "кожен носить 'вільну мітку' — це наступний продукт обмежених носимих пристроїв моніторингу, подібний до браслетів на щиколотку, які використовуються в деяких країнах як альтернативи ув'язненню... зашифроване відео та аудіо постійно завантажуються і в реальному часі інтерпретуються машинами". Однак централізований контроль має свою проблему в ступені. Одна форма зазвичай ігнорується, але все ще є шкідливою та відносно м'якою формою централізованого контролю, що виявляється в галузі біотехнологій (, наприклад, в опорі громадського контролю над продуктами харчування та вакцинами ), а також дозволяючи цій опозиції залишатися без виклику закритим нормам.
Цей спосіб має очевидні ризики, а саме, що сам центр часто стає джерелом ризику. Ми вже стали свідками цього під час пандемії COVID-19, коли функціональні дослідження, які фінансувалися кількома основними світовими урядами, могли стати джерелом пандемії. Централізована епістемологія призвела до того, що Всесвітня організація охорони здоров'я роками відмовлялася визнати, що вірус COVID-19 передається повітрям, а обов'язкова соціальна дистанція та примусові вакцинації викликали політичну реакцію, яка могла тривати десятиліттями. Подібна ситуація, ймовірно, знову виникне в будь-якому ризиковому контексті, пов'язаному з штучним інтелектом або іншими ризиковими технологіями. У порівнянні з цим, децентралізований підхід ефективніше впорається з ризиками, що виходять від самого центру.
Децентралізовані захист, але виключають прискорення
По суті, це намагається сповільнити технологічний прогрес або сприяти економічному спаду.
Ця стратегія стикається з подвійними викликами. По-перше, в цілому, технологічний та економічний розвиток є надзвичайно корисними для людства, будь-яка затримка в цьому питанні призведе до непередбачуваних витрат. По-друге, у світі, що не є авторитарним, бездіяльність є нестабільною: ті, хто "обманює" найбільше, здатні знайти, здавалося б, розумні способи продовжувати розвиток, отримають перевагу. Стратегія сповільнення може працювати в певних специфічних обставинах: наприклад, європейська їжа є більш здоровою, ніж американська, це є прикладом; успіхи в запобіганні розповсюдженню ядерної зброї до цього часу є ще одним. Однак ці стратегії не можуть діяти вічно.
Завдяки d/acc, ми прагнемо досягти наступних цілей:
Інший погляд на d/acc полягає в поверненні до рамок руху піратської партії в Європі наприкінці 2000-х років: наділення повноваженнями.
Наша мета полягає в тому, щоб створити світ, який зберігає людську активність, досягаючи негативної свободи, тобто уникати активного втручання інших (, будь то звичайні громадяни, уряд чи суперінтелектуальні роботи ) у нашу здатність формувати власну долю, одночасно досягаючи позитивної свободи, тобто забезпечуючи наявність знань і ресурсів для реалізації цієї здатності. Це відгукується на традицію класичного лібералізму, що триває вже кілька століть, яка охоплює увагу Стюарта Брандта до "отримання інструментів", а також підкреслення Джона Стюарта Мілля про освіту та свободу як ключові елементи людського прогресу — можливо, також можна додати бачення Бакмінстера Фуллера про те, що процес глобального вирішення проблем є участюючим і широко розподіленим. З огляду на технологічний ландшафт 21-го століття, ми можемо сприймати d/acc як один із способів досягнення цих самих цілей.
Третій вимір: співпраця виживання та процвітання