В прошлом году я написал статью о технологическом оптимизме, в которой изложил свой общий энтузиазм по поводу технологий и огромных преимуществ, которые они могут принести, одновременно выражая осторожное отношение к некоторым конкретным вопросам, особенно касающимся суперумного ИИ и рисков, которые он может принести, таких как разрушительные последствия или необратимое лишение власти человека.
Основная идея статьи заключается в продвижении концепции децентрализованной, демократической и разнообразной защитной акселерации. Мы должны ускорять развитие технологий, но целенаправленно сосредоточиваться на тех технологиях, которые могут повысить защитные способности, а не разрушать их, и стремиться к распределению власти, а не к её концентрации в руках немногих элит. Модель защиты должна быть похожа на демократическую Швейцарию, а не на феодальную систему средневековья с лордами и замками.
За последний год эти идеи значительно развились и усовершенствовались. Я поделился этими взглядами на платформе "80,000 часов" и получил множество отзывов, большинство из которых были положительными, но, конечно, были и некоторые критические замечания.
Эта работа сама по себе достигла значительного прогресса: в области проверяемых открытых вакцин были достигнуты прорывы; растет осознание ценности здорового воздуха в помещениях; "сообщество записей" продолжает играть позитивную роль; предсказательные рынки стали прорывным инструментом информации в этом году; нулевые доказательства (ZK-SNARKs) были применены в области государственного идентифицирования и социальных медиа ( и обеспечили безопасность кошельков Ethereum через абстракцию учетных записей ); открытые инструменты визуализации нашли применение в медицине и области интерфейсов мозг-компьютер (BCI) и др.
Прошлой осенью мы провели наше первое важное мероприятие d/acc: "День открытия d/acc", который состоялся на Devcon (d/aDDy). Мероприятие объединило спикеров из различных столпов d/acc: ( биология, физика, сети, информационная безопасность и нейротехнологии ), которое длилось целый день. Люди, долгое время работающие в этих областях, лучше узнали друг друга, а внешние участники все больше осознавали эту более широкую цель: продвигать те же ценности, которые способствуют развитию Ethereum и криптовалют, на более обширный мир.
Содержание и объем d/acc
Давайте представим сцену 2042 года. Вы видите в СМИ сообщение о том, что в вашем городе может вспыхнуть новая эпидемия. Такие сообщения стали обычным делом: люди часто чрезмерно реагируют на каждое изменение животного заболевания, и в подавляющем большинстве случаев эти изменения в конечном итоге не приводят к реальному кризису. Две предыдущие потенциальные эпидемии были раннее обнаружены и успешно сдержаны благодаря мониторингу сточных вод и анализу открытых данных в социальных сетях. Однако на этот раз ситуация иная, прогнозные рынки показывают вероятность того, что будет зарегистрировано как минимум 10 000 случаев, на уровне 60%, что вызывает у вас тревогу.
Вчера была определена генетическая последовательность этого вируса. Обновление программного обеспечения для вашего карманного воздухомера было выпущено незамедлительно, благодаря этому обновлению, устройство сможет обнаруживать новый вирус ( как через одно дыхательное тестирование, так и через тестирование ) после 15 минут воздействия на внутренний воздух в помещении. В то же время, ожидается выпуск открытых инструкций и кода для создания вакцины, которые могут быть получены с использованием оборудования, доступного в современных медицинских учреждениях по всему миру, в течение нескольких недель. В настоящее время большинство людей не предприняли никаких действий, полагаясь в основном на широко используемые меры по фильтрации воздуха и вентиляции для обеспечения своей безопасности.
Из-за проблем с иммунной системой вам следует действовать более осторожно: используемый вами открытый локальный персональный помощник ИИ, помимо выполнения обычных задач, таких как навигация, рекомендации ресторанов и мероприятий, также будет учитывать данные о качестве воздуха и уровне углекислого газа в реальном времени, чтобы рекомендовать вам только самые безопасные места. Эти данные предоставляются тысячами участников и устройств, и с помощью технологий ZK-SNARKs и дифференциальной конфиденциальности риск утечки данных или их неправильного использования минимизирован до (. Если вы хотите внести свой вклад в эти наборы данных, другие персональные помощники ИИ проверят, действительно ли эти криптографические инструменты эффективны ).
Два месяца спустя эпидемия чудесным образом утихла: похоже, 60% людей следовали основным протоколам профилактики, то есть носили маски, когда датчик воздуха сигнализировал о наличии вируса, а те, у кого был положительный тест, оставались дома на карантине. Именно эта мера позволила снизить уровень распространения, который уже значительно уменьшился благодаря пассивной силовой фильтрации воздуха, до уровня ниже 1. Болезнь, которая в симуляции показала, что может быть в пять раз более серьезной, чем коронавирусная эпидемия двадцатилетней давности, на сегодняшний день не оказала серьезного влияния.
Мероприятие d/acc, организованное Devcon, достигло весьма положительного результата, а именно: концепция d/acc успешно объединила людей из различных областей и реально вызвала у них живой интерес к работе друг друга.
Организовать мероприятие с "разнообразием" несложно, но заставить людей с разным фоном и интересами действительно установить тесные связи – задача не из легких. Я до сих пор помню свои впечатления от того, как меня заставляли смотреть длинные оперы в средней и старшей школе; в то время мне казалось, что эти оперы скучны и неинтересны. Я прекрасно осознавал, что "должен" их ценить, потому что в противном случае меня бы считали безкультурным ленивым компьютерным ученым, но я так и не смог глубже соприкоснуться с содержанием оперы. Однако атмосфера мероприятия d/acc была совершенно иной: казалось, что людям действительно нравится узнавать о различных работах из разных областей.
Если мы стремимся построить более светлое будущее, чем правление, замедление и разрушение, нам необходимо начать такое широкое строительство альянсов. d/acc, похоже, достиг значительных результатов в этом отношении, и этого достаточно, чтобы продемонстрировать ценность этой идеи.
Основная идея d/acc проста и ясна: децентрализованная, демократическая и дифференцированная оборонная ускоренная система. Создание технологий, способствующих смещению баланса сил в сторону обороны, не полагаясь при этом на передачу большей власти центральным властям. Существует внутренняя тесная связь между этими двумя аспектами: любая децентрализованная, демократическая или свободная политическая структура, как правило, может процветать, когда оборона легко реализуема, и сталкивается с серьезными вызовами, когда оборона оказывается под угрозой — в таких случаях более вероятным исходом становится период хаоса, в котором все противостоят друг другу, в конечном итоге достигая состояния баланса, установленного сильнейшим.
Один из способов понять важное значение одновременного достижения децентрализации, защиты и ускорения заключается в сопоставлении этого с концепцией, возникающей при отказе от любого из этих трех аспектов.
Децентрализация ускоряется, но игнорируется часть "дифференцированной защиты"
По сути, это похоже на то, чтобы стать эффективным ускоренцем ( e/acc ), но при этом стремиться к децентрализации. Есть много людей, которые принимают этот подход, некоторые из которых называют себя d/acc, но они с пользой описывают свой фокус как "наступательный". Кроме того, есть много других, которые проявляют более умеренный интерес к "децентрализованному ИИ" и подобным темам, но, на мой взгляд, их внимание к аспекту "защиты" явно недостаточно.
На мой взгляд, этот подход может помочь избежать риска установления диктатуры над человечеством определенной группой, но он не решает потенциальные структурные проблемы: в среде, благоприятной для нападений, всегда существует постоянный риск катастрофы, или кто-то может занять позицию защитника и навсегда занять доминирующее положение. Что касается ИИ, он также не может должным образом решить проблему ослабления власти человечества по сравнению с ИИ.
Дифференцированная защита ускоряется, но игнорирует "децентрализацию и демократию"
Принятие централизованного контроля для достижения целей безопасности всегда представляет собой определенный интерес для части людей, читатели, безусловно, знакомы с множеством таких примеров и недостатков, которые они приносят. В последнее время некоторые люди беспокоятся, что крайний централизованный контроль может быть единственным способом справиться с крайними технологиями будущего: например, представьте себе гипотетическую ситуацию, в которой "каждый носит 'свободный ярлык' — это более ограниченная версия современных носимых устройств мониторинга, подобная браслетам, используемым в нескольких странах в качестве альтернативы тюремному заключению... зашифрованное видео и аудио постоянно загружается и в реальном времени интерпретируется машинами". Однако централизованный контроль имеет свои пределы. Одна из форм относительно мягкого централизованного контроля, которая обычно игнорируется, но все же вредна, проявляется в области биотехнологий (, например, в отношении продовольствия и вакцин ), противостоянию общественного контроля и позволению этому противодействию оставаться без вызова благодаря закрытым стандартам.
Риски такого подхода очевидны, а именно, что сам центр часто становится источником риска. Мы уже стали свидетелями этого во время пандемии COVID-19, когда финансируемые несколькими основными мировыми правительствами функциональные исследования могли стать источником пандемии, а централизованная эпистемология привела к многолетнему отказу Всемирной организации здравоохранения признать, что коронавирус передается воздушным путем, в то время как обязательная социальная дистанция и обязательные вакцины вызвали возможные политические последствия, которые могут продолжаться десятилетиями. Подобная ситуация с большой вероятностью может повториться в любом контексте рисков, связанных с ИИ или другими рискованными технологиями. В этом контексте децентрализованный подход будет гораздо более эффективным в борьбе с рисками, исходящими от самого центра.
Децентрализованная защита, но исключающая ускорение
По сути, это попытка замедлить технологический прогресс или способствовать экономическому спаду.
Эта стратегия сталкивается с двойными вызовами. Во-первых, в целом технологический и экономический рост крайне полезен для человечества, и любая задержка в этом процессе может привести к непредсказуемым последствиям. Во-вторых, в мире, не подверженном тоталитаризму, стагнация является нестабильной: те, кто «мошенничает» больше всего и находит, казалось бы, разумные способы продолжать развитие, будут в выигрыше. Стратегия замедления может в определенных конкретных обстоятельствах сработать в определенной степени: например, еда в Европе более здоровая, чем в США, что является примером; успехи в ядерном нераспространении до сих пор также подтверждают это. Однако эти стратегии не могут работать вечно.
Через d/acc мы стремимся достичь следующих целей:
В условиях нарастающей племенной тенденции в современном мире стоит придерживаться принципов, а не просто слепо создавать различные вещи — наоборот, мы ожидаем создать определенные вещи, чтобы сделать мир более безопасным и прекрасным.
Осознание экспоненциального технологического прогресса означает, что мир станет чрезвычайно странным, и общий "след" человечества во Вселенной неизбежно будет постоянно увеличиваться. Наша способность защищать уязвимых животных, растения и людей от вреда должна постоянно повышаться, и единственный выход заключается в том, чтобы двигаться вперед.
Создание технологий, которые действительно защищают нас, а не основываются на предположении "хороших людей ( или хорошего ИИ ), контролирующих все". Мы достигаем этой цели, создавая инструменты, которые по своей природе более эффективны для создания и защиты, чем для разрушения.
Другой взгляд на d/acc заключается в том, чтобы вернуться к рамкам движения пиратов в Европе в конце 2000-х годов: расширение прав и возможностей.
Наша цель состоит в том, чтобы создать мир, способный сохранить человеческую активность, реализовать негативную свободу, то есть избежать активного вмешательства со стороны других (, будь то обычные граждане, правительство или сверхинтеллектуальные роботы ), в нашу способность формировать собственную судьбу, одновременно достигая позитивной свободы, то есть обеспечивая наличие знаний и ресурсов для реализации этой способности. Это перек呼应 древней традиции классического либерализма, которая охватывает внимание Стюарта Брандта к "доступу к инструментам", а также акцент Джона Стюарта Милля на образовании и свободе как ключевых элементах человеческого прогресса — возможно, также можно добавить видение Бакминстера Фуллера о том, что процесс глобального решения проблем является участническим и широко распространенным. Учитывая технологическую структуру XXI века, мы можем рассматривать d/acc как способ достижения этих же целей.
Третье измерение: Синергия выживания и процветания
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
19 Лайков
Награда
19
5
Поделиться
комментарий
0/400
AirdropHarvester
· 08-02 04:06
разыгрывайте людей как лохов!
Посмотреть ОригиналОтветить0
BlindBoxVictim
· 07-30 12:32
Продолжать демонизировать ИИ имеет смысл?
Посмотреть ОригиналОтветить0
New_Ser_Ngmi
· 07-30 12:29
Техническое освобождение не означает освобождение власти?
Посмотреть ОригиналОтветить0
RektRecorder
· 07-30 12:11
Защитное ускорение действительно понято
Посмотреть ОригиналОтветить0
gaslight_gasfeez
· 07-30 12:03
Всё это слишком идеально, посмотрите на реальность.
d/acc обзор: Децентрализация защитного ускоренного прогресса за год
d/acc: обзор через год
В прошлом году я написал статью о технологическом оптимизме, в которой изложил свой общий энтузиазм по поводу технологий и огромных преимуществ, которые они могут принести, одновременно выражая осторожное отношение к некоторым конкретным вопросам, особенно касающимся суперумного ИИ и рисков, которые он может принести, таких как разрушительные последствия или необратимое лишение власти человека.
Основная идея статьи заключается в продвижении концепции децентрализованной, демократической и разнообразной защитной акселерации. Мы должны ускорять развитие технологий, но целенаправленно сосредоточиваться на тех технологиях, которые могут повысить защитные способности, а не разрушать их, и стремиться к распределению власти, а не к её концентрации в руках немногих элит. Модель защиты должна быть похожа на демократическую Швейцарию, а не на феодальную систему средневековья с лордами и замками.
За последний год эти идеи значительно развились и усовершенствовались. Я поделился этими взглядами на платформе "80,000 часов" и получил множество отзывов, большинство из которых были положительными, но, конечно, были и некоторые критические замечания.
Эта работа сама по себе достигла значительного прогресса: в области проверяемых открытых вакцин были достигнуты прорывы; растет осознание ценности здорового воздуха в помещениях; "сообщество записей" продолжает играть позитивную роль; предсказательные рынки стали прорывным инструментом информации в этом году; нулевые доказательства (ZK-SNARKs) были применены в области государственного идентифицирования и социальных медиа ( и обеспечили безопасность кошельков Ethereum через абстракцию учетных записей ); открытые инструменты визуализации нашли применение в медицине и области интерфейсов мозг-компьютер (BCI) и др.
Прошлой осенью мы провели наше первое важное мероприятие d/acc: "День открытия d/acc", который состоялся на Devcon (d/aDDy). Мероприятие объединило спикеров из различных столпов d/acc: ( биология, физика, сети, информационная безопасность и нейротехнологии ), которое длилось целый день. Люди, долгое время работающие в этих областях, лучше узнали друг друга, а внешние участники все больше осознавали эту более широкую цель: продвигать те же ценности, которые способствуют развитию Ethereum и криптовалют, на более обширный мир.
Содержание и объем d/acc
Давайте представим сцену 2042 года. Вы видите в СМИ сообщение о том, что в вашем городе может вспыхнуть новая эпидемия. Такие сообщения стали обычным делом: люди часто чрезмерно реагируют на каждое изменение животного заболевания, и в подавляющем большинстве случаев эти изменения в конечном итоге не приводят к реальному кризису. Две предыдущие потенциальные эпидемии были раннее обнаружены и успешно сдержаны благодаря мониторингу сточных вод и анализу открытых данных в социальных сетях. Однако на этот раз ситуация иная, прогнозные рынки показывают вероятность того, что будет зарегистрировано как минимум 10 000 случаев, на уровне 60%, что вызывает у вас тревогу.
Вчера была определена генетическая последовательность этого вируса. Обновление программного обеспечения для вашего карманного воздухомера было выпущено незамедлительно, благодаря этому обновлению, устройство сможет обнаруживать новый вирус ( как через одно дыхательное тестирование, так и через тестирование ) после 15 минут воздействия на внутренний воздух в помещении. В то же время, ожидается выпуск открытых инструкций и кода для создания вакцины, которые могут быть получены с использованием оборудования, доступного в современных медицинских учреждениях по всему миру, в течение нескольких недель. В настоящее время большинство людей не предприняли никаких действий, полагаясь в основном на широко используемые меры по фильтрации воздуха и вентиляции для обеспечения своей безопасности.
Из-за проблем с иммунной системой вам следует действовать более осторожно: используемый вами открытый локальный персональный помощник ИИ, помимо выполнения обычных задач, таких как навигация, рекомендации ресторанов и мероприятий, также будет учитывать данные о качестве воздуха и уровне углекислого газа в реальном времени, чтобы рекомендовать вам только самые безопасные места. Эти данные предоставляются тысячами участников и устройств, и с помощью технологий ZK-SNARKs и дифференциальной конфиденциальности риск утечки данных или их неправильного использования минимизирован до (. Если вы хотите внести свой вклад в эти наборы данных, другие персональные помощники ИИ проверят, действительно ли эти криптографические инструменты эффективны ).
Два месяца спустя эпидемия чудесным образом утихла: похоже, 60% людей следовали основным протоколам профилактики, то есть носили маски, когда датчик воздуха сигнализировал о наличии вируса, а те, у кого был положительный тест, оставались дома на карантине. Именно эта мера позволила снизить уровень распространения, который уже значительно уменьшился благодаря пассивной силовой фильтрации воздуха, до уровня ниже 1. Болезнь, которая в симуляции показала, что может быть в пять раз более серьезной, чем коронавирусная эпидемия двадцатилетней давности, на сегодняшний день не оказала серьезного влияния.
Мероприятие d/acc, организованное Devcon, достигло весьма положительного результата, а именно: концепция d/acc успешно объединила людей из различных областей и реально вызвала у них живой интерес к работе друг друга.
Организовать мероприятие с "разнообразием" несложно, но заставить людей с разным фоном и интересами действительно установить тесные связи – задача не из легких. Я до сих пор помню свои впечатления от того, как меня заставляли смотреть длинные оперы в средней и старшей школе; в то время мне казалось, что эти оперы скучны и неинтересны. Я прекрасно осознавал, что "должен" их ценить, потому что в противном случае меня бы считали безкультурным ленивым компьютерным ученым, но я так и не смог глубже соприкоснуться с содержанием оперы. Однако атмосфера мероприятия d/acc была совершенно иной: казалось, что людям действительно нравится узнавать о различных работах из разных областей.
Если мы стремимся построить более светлое будущее, чем правление, замедление и разрушение, нам необходимо начать такое широкое строительство альянсов. d/acc, похоже, достиг значительных результатов в этом отношении, и этого достаточно, чтобы продемонстрировать ценность этой идеи.
Основная идея d/acc проста и ясна: децентрализованная, демократическая и дифференцированная оборонная ускоренная система. Создание технологий, способствующих смещению баланса сил в сторону обороны, не полагаясь при этом на передачу большей власти центральным властям. Существует внутренняя тесная связь между этими двумя аспектами: любая децентрализованная, демократическая или свободная политическая структура, как правило, может процветать, когда оборона легко реализуема, и сталкивается с серьезными вызовами, когда оборона оказывается под угрозой — в таких случаях более вероятным исходом становится период хаоса, в котором все противостоят друг другу, в конечном итоге достигая состояния баланса, установленного сильнейшим.
Один из способов понять важное значение одновременного достижения децентрализации, защиты и ускорения заключается в сопоставлении этого с концепцией, возникающей при отказе от любого из этих трех аспектов.
Децентрализация ускоряется, но игнорируется часть "дифференцированной защиты"
По сути, это похоже на то, чтобы стать эффективным ускоренцем ( e/acc ), но при этом стремиться к децентрализации. Есть много людей, которые принимают этот подход, некоторые из которых называют себя d/acc, но они с пользой описывают свой фокус как "наступательный". Кроме того, есть много других, которые проявляют более умеренный интерес к "децентрализованному ИИ" и подобным темам, но, на мой взгляд, их внимание к аспекту "защиты" явно недостаточно.
На мой взгляд, этот подход может помочь избежать риска установления диктатуры над человечеством определенной группой, но он не решает потенциальные структурные проблемы: в среде, благоприятной для нападений, всегда существует постоянный риск катастрофы, или кто-то может занять позицию защитника и навсегда занять доминирующее положение. Что касается ИИ, он также не может должным образом решить проблему ослабления власти человечества по сравнению с ИИ.
Дифференцированная защита ускоряется, но игнорирует "децентрализацию и демократию"
Принятие централизованного контроля для достижения целей безопасности всегда представляет собой определенный интерес для части людей, читатели, безусловно, знакомы с множеством таких примеров и недостатков, которые они приносят. В последнее время некоторые люди беспокоятся, что крайний централизованный контроль может быть единственным способом справиться с крайними технологиями будущего: например, представьте себе гипотетическую ситуацию, в которой "каждый носит 'свободный ярлык' — это более ограниченная версия современных носимых устройств мониторинга, подобная браслетам, используемым в нескольких странах в качестве альтернативы тюремному заключению... зашифрованное видео и аудио постоянно загружается и в реальном времени интерпретируется машинами". Однако централизованный контроль имеет свои пределы. Одна из форм относительно мягкого централизованного контроля, которая обычно игнорируется, но все же вредна, проявляется в области биотехнологий (, например, в отношении продовольствия и вакцин ), противостоянию общественного контроля и позволению этому противодействию оставаться без вызова благодаря закрытым стандартам.
Риски такого подхода очевидны, а именно, что сам центр часто становится источником риска. Мы уже стали свидетелями этого во время пандемии COVID-19, когда финансируемые несколькими основными мировыми правительствами функциональные исследования могли стать источником пандемии, а централизованная эпистемология привела к многолетнему отказу Всемирной организации здравоохранения признать, что коронавирус передается воздушным путем, в то время как обязательная социальная дистанция и обязательные вакцины вызвали возможные политические последствия, которые могут продолжаться десятилетиями. Подобная ситуация с большой вероятностью может повториться в любом контексте рисков, связанных с ИИ или другими рискованными технологиями. В этом контексте децентрализованный подход будет гораздо более эффективным в борьбе с рисками, исходящими от самого центра.
Децентрализованная защита, но исключающая ускорение
По сути, это попытка замедлить технологический прогресс или способствовать экономическому спаду.
Эта стратегия сталкивается с двойными вызовами. Во-первых, в целом технологический и экономический рост крайне полезен для человечества, и любая задержка в этом процессе может привести к непредсказуемым последствиям. Во-вторых, в мире, не подверженном тоталитаризму, стагнация является нестабильной: те, кто «мошенничает» больше всего и находит, казалось бы, разумные способы продолжать развитие, будут в выигрыше. Стратегия замедления может в определенных конкретных обстоятельствах сработать в определенной степени: например, еда в Европе более здоровая, чем в США, что является примером; успехи в ядерном нераспространении до сих пор также подтверждают это. Однако эти стратегии не могут работать вечно.
Через d/acc мы стремимся достичь следующих целей:
Другой взгляд на d/acc заключается в том, чтобы вернуться к рамкам движения пиратов в Европе в конце 2000-х годов: расширение прав и возможностей.
Наша цель состоит в том, чтобы создать мир, способный сохранить человеческую активность, реализовать негативную свободу, то есть избежать активного вмешательства со стороны других (, будь то обычные граждане, правительство или сверхинтеллектуальные роботы ), в нашу способность формировать собственную судьбу, одновременно достигая позитивной свободы, то есть обеспечивая наличие знаний и ресурсов для реализации этой способности. Это перек呼应 древней традиции классического либерализма, которая охватывает внимание Стюарта Брандта к "доступу к инструментам", а также акцент Джона Стюарта Милля на образовании и свободе как ключевых элементах человеческого прогресса — возможно, также можно добавить видение Бакминстера Фуллера о том, что процесс глобального решения проблем является участническим и широко распространенным. Учитывая технологическую структуру XXI века, мы можем рассматривать d/acc как способ достижения этих же целей.
Третье измерение: Синергия выживания и процветания