d/acc: Обзор и перспективы через год

Примерно год назад я написал статью о технологическом оптимизме, в которой изложил свой общий энтузиазм по поводу технологий и огромных выгод, которые они могут принести. В то же время я выразил осторожное отношение к некоторым конкретным проблемам, в основном сосредоточив внимание на сверхинтеллектуальном искусственном интеллекте и рисках разрушения, которые могут возникнуть, если он будет построен неправильно, или рисках, которые могут привести к необратимой утрате власти человечества.

Одной из ключевых идей этой статьи является пропаганда концепции: децентрализованного, демократичного и дифференцированного защитного ускорения. Мы должны как ускорять развитие технологий, так и выборочно сосредотачиваться на тех технологиях, которые могут повысить защитные способности, а не разрушительные, и стремиться к децентрализации власти, а не сосредоточению ее в руках немногих элит, избегая того, чтобы они представляли всех и судили о добре и зле. Модель защиты должна быть похожа на демократическую Швейцарию, а также на исторически почти анархистский регион Зомия, а не на модель, представляющую средневековый феодализм с его лордами и замками.

За последний год эти идеи и мысли значительно развились и стали более зрелыми. Я делился этими мыслями на платформе "80,000 часов", и получил много откликов, большинство из которых были положительными, хотя были и некоторые критические голоса.

Эта работа продолжается и приносит реальные результаты: в области проверяемых открытых вакцин мы видим прогресс; понимание ценности здоровогоIndoor воздуха углубляется; "Сообщества заметок" продолжают играть активную роль; предсказательные рынки как информационный инструмент переживают прорывный год; ZK-SNARKs(, нулевые знания, компактные неинтерактивные доказательства знаний), были применены в области правительственной идентификации и социальных медиа( и обеспечили безопасность кошельков Ethereum) через абстракцию учетных записей; открытые инструменты визуализации были применены в медицине и в области интерфейсов «мозг-компьютер»(BCI) и так далее.

Прошлой осенью мы провели наше первое значимое мероприятие d/acc: "День открытия d/acc"(d/aDDy). Мероприятие прошло на Devcon и собрало спикеров из различных областей d/acc: биологии, физики, сетевой безопасности, информационной защиты и нейротехнологий(. Мероприятие длилось целый день. Люди, которые на протяжении многих лет занимаются этими технологиями, лучше узнали друг о друге, а внешние участники все больше осознавали эту более широкую цель: продвижение тех же ценностей, которые способствуют развитию Ethereum и криптовалют, может быть расширено на более широкий мир.

Содержание и объем d/acc

Представьте себе сцену 2042 года. Вы видите в новостях сообщение о том, что в вашем городе может вспыхнуть новая эпидемия. На такие новости вы уже не обращаете внимания: люди часто чрезмерно реагируют на каждое изменение в заболеваниях животных, и в большинстве случаев эти изменения в конечном итоге не приводят к реальным кризисам. Две предыдущие потенциальные эпидемии были успешно выявлены на ранних стадиях благодаря мониторингу сточных вод и открытому анализу социальных медиа, и были успешно предотвращены на зародыше. Однако в этот раз ситуация другая: прогнозные рынки показывают, что вероятность появления как минимум 10,000 случаев составляет 60%, что вызывает у вас беспокойство.

Вчера была установлена генетическая последовательность вируса. Обновление программного обеспечения для вашего портативного анализатора воздуха было выпущено незамедлительно, благодаря этому обновлению анализатор может обнаружить новый вирус ) как при проверке по одному вдоху, так и при тестировании ( через 15 минут пребывания в помещении с внутренним воздухом. Ожидается, что открытые инструкции и коды для создания вакцины с использованием оборудования, доступного в любых современных медицинских учреждениях по всему миру, будут опубликованы в течение нескольких недель. Большинство людей пока не предприняли никаких действий, полагаясь в основном на широко применяемые меры фильтрации воздуха и вентиляции для обеспечения своей безопасности.

![Виталик новая статья: Как децентрализованный ускоризм соединяет криптовалюту и ИИ?])https://img-cdn.gateio.im/webp-social/moments-e42a1dcd075fe6d525b3fa2ccbe6aa27.webp(

Из-за ваших проблем с иммунной системой вы действуете более осторожно: используемый вами открытый локальный персональный помощник на базе искусственного интеллекта, помимо выполнения обычных задач, таких как навигация, рекомендации ресторанов и мероприятий, также учитывает данные о качестве воздуха в реальном времени и уровни углекислого газа, чтобы рекомендовать вам только самые безопасные места. Эти данные предоставляются тысячами участников и устройств, при этом с помощью технологий ZK-SNARKs и дифференциальной конфиденциальности минимизируется риск утечки данных или их неправильного использования в других целях ) Если вы хотите внести данные в эти наборы данных, существуют и другие персональные помощники на базе искусственного интеллекта, которые проверят, действительно ли эти криптографические инструменты эффективны (.

Через два месяца пандемия чудесным образом исчезла: похоже, 60% людей соблюдали основные профилактические меры, то есть носили маски, когда детектор воздуха срабатывал и показывал наличие вируса, а также оставались дома в случае положительного теста. Именно эта мера смогла дополнительно снизить уровень передачи, который уже значительно уменьшился благодаря пассивной мощной фильтрации воздуха, до менее 1. Болезнь, результаты моделирования которой показывали, что она может быть в пять раз серьезнее пандемии COVID-19 двадцатилетней давности, теперь не оказала серьезного влияния.

Мероприятие d/acc, проведенное Devcon, достигло крайне положительного результата: концепция d/acc успешно объединила людей из разных областей и действительно вызвала у них живой интерес к работе друг друга.

Организовать мероприятие с "разнообразием" не так уж и сложно, но заставить людей с разным бэкграундом и интересами действительно установить тесные связи — это уже сложная задача. Я до сих пор помню, как в средней и старшей школе меня заставляли смотреть длинные оперы, которые мне казались скучными и неинтересными. Я прекрасно понимал, что "должен" их ценить, потому что в противном случае меня бы считали безкультурным лентяем в области компьютерных наук, но я не смог глубже сопереживать содержанию оперы. Однако атмосфера мероприятия d/acc была совершенно другой: казалось, что людям искренне нравится узнавать о различных областях работы.

Если мы стремимся построить будущее, более светлое, чем правление, замедление и разрушение, нам обязательно нужно развивать такое широкое объединение. d/acc, похоже, достиг значительных успехов в этой области, и этого достаточно, чтобы подчеркнуть ценность этой идеи.

Основная идея d/acc проста и ясна: децентрализованная, демократическая и дифференцированная защитная акселерация. Создание технологий, способствующих смещению баланса между атакой и защитой в сторону защиты, при этом в процессе реализации не полагаясь на передачу большей власти центральным властям. Между этими двумя аспектами существует внутренняя тесная связь: любая децентрализованная, демократическая или свободная политическая структура обычно процветает, когда защита легко реализуется, и сталкивается с серьезными вызовами, когда защита оказывается под угрозой---в таких случаях более вероятным результатом является период хаоса, когда все противостоят друг другу, в конечном итоге приводящий к состоянию равновесия, управляемому сильнейшим.

Один из способов понять важность одновременной реализации децентрализации, защитных свойств и ускорения заключается в сравнении с концепцией, возникающей при отказе от любого из этих трех аспектов.

Децентрализованное ускорение, но игнорирование части "дифференцированной защиты"

По сути, это похоже на то, чтобы стать эффективным акцелерационистом )e/acc(, но при этом стремиться к децентрализации. Многие люди принимают этот подход, некоторые из них называют себя d/acc, но они полезно описывают свой фокус как "агрессивный". Кроме того, существует множество других, кто проявляет более умеренный энтузиазм к "децентрализованному искусственному интеллекту" и подобным темам, но, на мой взгляд, их внимание к "защитным" аспектам явно недостаточно.

На мой взгляд, этот подход может помочь избежать риска применения диктатуры определенными группами над всем человечеством, но он не решает потенциальные структурные проблемы: в среде, благоприятной для нападения, всегда существует постоянный риск катастрофы, или кто-то может занять позицию защитника и занять доминирующее положение на постоянной основе. Что касается искусственного интеллекта, он также не может должным образом решить риск ослабления власти человечества по отношению к искусственному интеллекту.

Дифференцированная защита ускоряется, но игнорирует "децентрализацию и демократию"

Принятие централизованного контроля для достижения целей безопасности всегда будет привлекать определённую часть людей. Читатели, безусловно, знакомы с многочисленными подобными примерами и их недостатками. В последнее время некоторые беспокоятся, что крайняя централизованная форма контроля может быть единственным способом противодействия будущим экстремальным технологиям: например, представьте себе гипотетическую ситуацию, «каждый носит 'ярлык свободы' — это более ограниченное в настоящее время носимое устройство для мониторинга, аналогичное браслетам, используемым в некоторых странах в качестве альтернативы тюремному заключению... зашифрованные видео и аудио постоянно загружаются и в реальном времени интерпретируются машинами». Однако централизованный контроль имеет определённые проблемы. Одна форма относительно умеренного централизованного контроля, которая обычно игнорируется, но по-прежнему вредна, проявляется в области биотехнологий ), например, в отношении продовольствия, вакцин ( и противодействия общественному контролю, а также в том, что такие действия остаются без вызова из-за закрытых стандартов.

![Vitalik новая статья: как децентрализованный ускоризм связывает криптовалюту и ИИ?])https://img-cdn.gateio.im/webp-social/moments-cf3127f9a06cb15023ddeba35b9b2ad9.webp(

Риски такого подхода очевидны, так как сам центр часто становится источником риска. Мы уже стали свидетелями этого во время пандемии COVID-19, когда функциональные исследования, финансируемые несколькими основными мировыми правительствами, могли оказаться источником пандемии. Централизованная эпистемология привела к тому, что Всемирная организация здравоохранения в течение многих лет отказывалась признавать, что вирус COVID-19 распространяется по воздуху, а обязательное социальное дистанцирование и вакцинация вызвали политическую реакцию, которая может продолжаться десятилетиями. Подобная ситуация вполне может повториться в любом рискованном контексте, связанном с искусственным интеллектом или другими рискованными технологиями. В этом отношении децентрализованный подход будет более эффективно справляться с рисками, исходящими от самого центра.

Децентрализованная защита, но исключает ускорение

По сути, это попытка замедлить технологический прогресс или способствовать экономическому спаду.

Эта стратегия сталкивается с двойной проблемой. Во-первых, в целом, технологии и экономический рост крайне полезны для человечества, и любое задержание приведет к непредсказуемым затратам. Во-вторых, в мире, который не является тоталитарным, стагнация нестабильна: те, кто "обманывает" больше всего и может найти, казалось бы, разумные способы продолжать развитие, будут в преимущественном положении. Стратегия замедления может в определенных конкретных обстоятельствах сработать в какой-то степени: например, европейская еда более полезна, чем американская, это является примером; успехи в ядерном нераспространении до сих пор также таковы. Тем не менее, эти стратегии не могут работать вечно.

С помощью d/acc мы стремимся достичь следующих целей:

• В условиях нарастающей племенной тенденции в современном мире необходимо придерживаться принципов, а не слепо строить различные вещи - наоборот, мы ожидаем создать что-то конкретное, чтобы сделать мир более безопасным и прекрасным.
• Признавая, что экспоненциальный технологический прогресс означает, что мир станет крайне необычным, а общий "след" человечества во вселенной будет неизбежно расти. Наша способность защищать уязвимых животных, растения и людей от вреда должна продолжать улучшаться, и единственный выход - это смело идти вперед.
• Построить технологии, которые действительно защищают нас, а не основываются на предположении, что "хорошие люди ) или хороший искусственный интеллект ( контролируют всё". Мы достигаем этой цели, создавая инструменты, которые по своей природе более эффективны для построения и защиты, чем для разрушения.

Другой взгляд на d/acc заключается в возвращении к рамкам движения пиратской партии в Европе в конце 2000-х годов: наделение властью.

Наша цель состоит в том, чтобы построить мир, который способен сохранить человеческую агентность, реализовать негативную свободу, то есть избежать активного вмешательства со стороны других ), будь то обычные граждане, государство или сверхинтеллектуальные роботы (, в нашу способность формировать собственную судьбу, а также достичь позитивной свободы, то есть обеспечить наличие знаний и ресурсов для осуществления этой способности. Это соответствует классической либеральной традиции, которая продолжается несколько веков, включая внимание Стюарта Брандта к "доступу к инструментам" и Джона Стюарта.