d/acc: Огляд і перспективи через рік

Минулого року я написав статтю про технічний оптимізм, в якій виклав своє загальне захоплення технологіями та величезними перевагами, які вони можуть принести. Водночас я також висловив обережність щодо певних конкретних питань, зокрема, щодо суперінтелектуального штучного інтелекту та ризиків, які можуть виникнути, якщо його створити неправильно, або ризиків, які можуть призвести до незворотної втрати влади людьми.

Однією з основних ідей цієї статті є пропаганда концепції: децентралізованої, демократичної та диференційованої захисної прискорення. Ми повинні як прискорювати розвиток технологій, так і вибірково зосереджуватись на тих технологіях, які можуть підвищити обороноздатність, а не руйнівну силу, і прагнути до розподілу влади, а не її концентрації в руках небагатьох еліт, уникаючи того, щоб вони представляли всіх у судженнях про добро і зло. Модель захисту повинна бути схожою на демократичну Швейцарію та історично майже анархічний район Зомії, а не на модель, що представляє феодалізм середньовіччя з його лордами та замками.

Протягом минулого року ці ідеї та концепції зазнали значного розвитку та зрілості. Я поділився цими думками на платформі "80,000 годин", отримав багато відгуків, більшість з яких були позитивними, звичайно, було й кілька критичних голосів.

Ця робота продовжує розвиватися і досягати реальних результатів: у сфері перевірених відкритих вакцин ми бачимо прогрес; розуміння цінності здорового внутрішнього повітря постійно поглиблюється; «спільнотні нотатки» продовжують відігравати позитивну роль; ринки прогнозування стали проривом року як інформаційний інструмент; докази знань з нульовими знаннями, стислі, неінтерактивні (ZK-SNARKs) застосовуються в сфері урядової ідентифікації та соціальних медіа ( і забезпечують безпеку гаманців Ethereum через абстракцію рахунків ); відкриті інструменти візуалізації отримали застосування в медицині та в галузі інтерфейсів мозок-комп'ютер (BCI), і так далі.

Минулої осені ми відзначили першу важливу подію d/acc: "День відкриття d/acc"(d/aDDy), яка проходила на Devcon, зібравши спікерів з різних основних областей d/acc( біології, фізики, мереж, інформаційної безпеки та нейротехнологій). Захід тривав цілий день. Люди, які багато років працювали над цими технологіями, краще зрозуміли роботу один одного, а зовнішні учасники все більше усвідомлювали це більш грандіозне бачення: просування тих самих цінностей розвитку Ethereum та криптовалют може розширитися на ширший світ.

Значення та межі d/acc

Уявіть собі сцену 2042 року. Ви бачите в новинах повідомлення про те, що у вашому місті може спалахнути нова епідемія. На такі новини ви вже реагуєте спокійно: люди зазвичай надмірно реагують на кожну мутацію хвороб тварин, а в більшості випадків ці мутації врешті-решт не призводять до реальної кризи. Дві попередні потенційні епідемії були виявлені на ранніх стадіях завдяки моніторингу стічних вод та аналізу відкритих даних в соціальних мережах, і їх вдалося успішно стримати на зародковій стадії. Однак цього разу ситуація інша, ринкові прогнози вказують на ймовірність появи як мінімум 10,000 випадків на рівні 60%, що викликає у вас тривогу.

Щойно вчора була визначена генетична послідовність цього вірусу. Відповідне оновлення програмного забезпечення для повітряного тестера у вашій кишені було випущене, завдяки якому тестер може виявляти новий вірус ( як через одноразове дихальне тестування, так і після 15-хвилинного перебування у закритому повітрі кімнати ). Водночас, відкриті інструкції та код для створення вакцини, які можна отримати за допомогою пристроїв, доступних у сучасних медичних закладах по всьому світу, очікується, що будуть опубліковані протягом кількох тижнів. Більшість людей наразі не вжили жодних заходів, покладаючись головним чином на широко впроваджені заходи фільтрації повітря та вентиляції для забезпечення власної безпеки.

Оскільки у вас є проблеми з імунітетом, ви дієте більш обережно: ваш відкритий локальний асистент штучного інтелекту, окрім виконання звичайних завдань, таких як навігація, рекомендації ресторанів та заходів, також буде враховувати дані про якість повітря та вміст вуглекислого газу в реальному часі, щоб рекомендувати лише найбезпечніші місця. Ці дані надаються тисячами учасників та пристроїв, завдяки технологіям ZK-SNARKs та диференційованої конфіденційності, що мінімізує ризик витоку даних або їх неналежного використання в інших цілях (. Якщо ви хочете внести внесок у ці набори даних, інші особисті асистенти штучного інтелекту перевірять, чи дійсно ці шифрувальні інструменти ефективні ).

Через два місяці епідемія дивом зникла: здається, 60% людей дотримувалися основних протиепідемічних протоколів, тобто носили маски, коли повітряний тестер сповіщав про наявність вірусу, а якщо особистий тест був позитивним, то залишалися вдома на ізоляції. Саме цей захід достатній, щоб ще більше знизити вже значно знижений завдяки пасивній потужній фільтрації повітря рівень передачі до 1. Симуляція показала, що захворювання, яке може бути в п'ять разів серйознішим за COVID-19, що було двадцять років тому, тепер не завдало серйозного впливу.

Подія d/acc, організована Devcon, досягла надзвичайно позитивного результату, а саме, концепція d/acc успішно об'єднала людей з різних галузей та справді викликала у них сильний інтерес до роботи один одного.

Провести захід, що має "різноманітність", не є складним завданням, але насправді налагодити тісні зв'язки між людьми з різними фонами та інтересами вкрай важко. Я досі пам'ятаю свій досвід вимушеного перегляду нудних опер у середній та старшій школі, коли я вважав їх нудними. Я добре знав, що "повинен" цінувати їх, адже в іншому випадку мене вважали б безкультурним комп'ютерним науковцем-ледарем, але я не зміг на більш глибокому рівні знайти відгук у змісті опер. Проте атмосфера заходу d/acc була абсолютно інша: здавалося, що люди щиро прагнуть дізнатися про різні сфери діяльності.

Якщо ми прагнемо побудувати майбутнє, яке буде яскравішим за панування, гальмування та руйнування, нам обов'язково потрібно розпочати таку широкомасштабну побудову альянсів. d/acc, здається, досяг значних успіхів у цій сфері, і цього достатньо, щоб підкреслити цінність цієї ідеї.

Основна ідея d/acc проста і зрозуміла: децентралізований, демократичний та диференційований захисний прискорювач. Створення технологій, які можуть сприяти зміщенню балансу сил на захист, без покладання на передачу більшої влади центральним авторитетним інститутам під час впровадження. Між цими двома аспектами існує внутрішній тісний зв'язок: будь-яка децентралізована, демократична чи вільна політична структура зазвичай процвітає, коли захист легко реалізувати, і стикається з серйозними викликами, коли захист зазнає значних труднощів — в таких випадках більш імовірним результатом є період хаосу, в якому всі протистоять один одному, що врешті-решт призводить до досягнення балансу, встановленого найсильнішими.

Розуміння важливості спроби одночасно реалізувати децентралізацію, захисні функції та прискорення можна досягти шляхом порівняння з концепцією, що виникає при відмові від будь-якого з цих трьох аспектів.

Децентралізація прискорюється, але ігнорується частина "диференційованого захисту"

По суті, це схоже на те, щоб стати ефективним прискорювачем ( e/acc ), але при цьому переслідувати децентралізацію. Є багато людей, які обирають цей шлях, деякі з яких самі себе називають d/acc, але вони корисно описують свою увагу як «атакуючу». Крім того, є багато інших, хто виявляє більш помірний ентузіазм щодо «децентралізованого штучного інтелекту» та подібних тем, але, на мій погляд, їхня увага до «оборонних» аспектів явно недостатня.

На мій погляд, цей підхід може уникнути ризику диктатури певних груп над усім людством, але він не вирішує потенційні структурні проблеми: в середовищі, що сприяє агресії, завжди існує постійний ризик катастрофи, або хтось може позиціонувати себе як захисник і назавжди зайняти домінуючу позицію. Що стосується штучного інтелекту, він також не може належним чином вирішити ризик ослаблення влади людства в порівнянні зі штучним інтелектом.

Диференційована оборона прискорюється, але ігнорує "децентралізацію та демократію"

Прийняття централізованого контролю для досягнення безпекових цілей завжди має певну привабливість для деяких людей, читач безсумнівно вже знайомий з численними такими випадками та їхніми негативними наслідками. Нещодавно деякі люди висловлюють занепокоєння, що екстремальний централізований контроль може бути єдиним шляхом для реагування на екстремальні технології в майбутньому: наприклад, уявіть собі таку гіпотетичну ситуацію: "кожен носить 'мітку свободи' --- це наступний продукт теперішніх більш обмежених носимих пристроїв для моніторингу, подібний до браслетів на щиколотках, які використовуються в кількох країнах як альтернатива ув'язненню... зашифроване відео та аудіо постійно завантажуються та в реальному часі інтерпретуються машинами". Проте централізований контроль має проблему з певним ступенем. Однією з форм централізованого контролю, яка зазвичай ігнорується, але все ще є шкідливою, є відносно м'яка форма, що проявляється у біотехнологічній сфері (, наприклад, опір громадському контролю щодо продуктів харчування, вакцин ) та дозволення цьому опору залишатись без виклику закритими стандартами.

Цей спосіб має очевидні ризики, а саме те, що сам центр часто стає джерелом ризику. Ми вже стали свідками цього під час пандемії COVID-19, коли функціональні дослідження, що фінансуються кількома основними світовими урядами, могли бути джерелом пандемії; централізована епістемологія призвела до того, що Всесвітня організація охорони здоров'я багато років відмовлялася визнавати, що вірус COVID-19 передається повітрям, а обов'язкове соціальне дистанціювання та обов'язкові щеплення викликали політичну реакцію, яка може тривати десятиліттями. Подібні ситуації, швидше за все, знову виникнуть у будь-якому ризиковому контексті, пов'язаному з штучним інтелектом або іншими ризиковими технологіями. У порівнянні, децентралізований підхід ефективніше впорається з ризиками, що походять від самого центру.

Децентралізоване захист, але відмова від прискорення

По суті, це спроба сповільнити технологічний прогрес або сприяти економічному спаду.

Ця стратегія стикається з подвійними викликами. По-перше, загалом, технологічний та економічний розвиток є надзвичайно корисними для людства, і будь-яка затримка призведе до непередбачуваних витрат. По-друге, у неавторитарному світі стагнація є нестабільною: ті, хто "обманює" найбільше, здатні знайти, здавалося б, розумні способи продовжувати розвиток, отримають перевагу. Стратегія уповільнення може в певних конкретних ситуаціях спрацьовувати до певної міри: наприклад, європейська їжа є більш здоровою, ніж американська, і це є прикладом; успіхи в ядерному нерозповсюдженні до теперішнього часу також підтверджують це. Однак ці стратегії не можуть діяти вічно.

Через d/acc ми прагнемо досягти наступних цілей:

• Дотримуватися принципів у світі, що стає дедалі більш племінним, а не просто сліпо будувати різні речі - навпаки, ми сподіваємося створити конкретні речі, щоб світ став безпечнішим і кращим.
• Визнання експоненціального технологічного прогресу означає, що світ стане надзвичайно дивним, і загальний "слід" людства у всесвіті безумовно буде постійно зростати. Наша здатність захищати в脆лі тварини, рослини та людей від шкоди повинна постійно покращуватися, а єдиний шлях вперед – це сміливо йти вперед.
• Створювати технології, які дійсно захищають нас, а не ґрунтуються на припущенні "добра людина ( або добрий штучний інтелект ) контролює все". Ми досягаємо цієї мети, створюючи інструменти, які природно є більш ефективними для побудови та захисту, ніж для руйнування.

Інший спосіб розглянути d/acc - це повернутися до рамок руху піратської партії в Європі наприкінці 2000-х років: надання повноважень.

Наша мета полягає в побудові світу, який зможе зберегти активність людини, реалізувати негативну свободу, тобто уникнути активного втручання інших (, будь то звичайні громадяни, уряди чи надінтелектуальні роботи ) у нашу здатність формувати власну долю, одночасно реалізуючи позитивну свободу, тобто забезпечуючи нам знання та ресурси для втілення цієї здатності. Це відповідає класичній традиції лібералізму, що триває вже кілька століть, яка охоплює увагу Стюарта Брэндa до "отримання інструментів", а також Джона Стюарта.