d/acc: Revisão e Perspectivas para o Ano Seguinte

No ano passado, escrevi um artigo sobre o otimismo tecnológico, onde expus o meu entusiasmo geral pela tecnologia e os enormes benefícios que ela pode trazer. Ao mesmo tempo, também expressei uma atitude cautelosa em relação a certas questões específicas, principalmente focando na superinteligência artificial e nos riscos de destruição que podem surgir se for construída de forma inadequada, ou o risco de a humanidade perder irrevogavelmente o poder.

Um dos pontos centrais do artigo é defender uma filosofia: uma aceleração defensiva que seja descentralizada, democrática e diferenciada. Devemos acelerar o desenvolvimento tecnológico, mas também focar seletivamente nas tecnologias que possam aumentar a capacidade de defesa em vez de capacidade de destruição, comprometendo-nos a promover a dispersão do poder, em vez de concentrá-lo nas mãos de uma minoria de elites, evitando que eles representem todos na avaliação do certo e do errado. O modelo de defesa deve ser como a Suíça democrática e a região de Zomia, que historicamente foi quase anárquica, e não o modelo representado pelos senhores e castelos do feudalismo medieval.

No último ano, essas ideias e conceitos tiveram um desenvolvimento e amadurecimento significativos. Compartilhei essas ideias na plataforma "80,000 horas" e recebi muitas respostas, a maioria positivas, embora também tenha havido algumas críticas.

Este trabalho está em andamento e já trouxe resultados concretos: na área de vacinas de código aberto verificáveis, vimos progresso; a conscientização sobre o valor do ar interior saudável está em constante aprofundamento; as "notas da comunidade" continuam a desempenhar um papel positivo; o mercado de previsões, como uma ferramenta de informação, teve um ano de grandes avanços; a prova de conhecimento não interativa de conhecimento zero (ZK-SNARKs) foi aplicada na identificação de identidade governamental e nas redes sociais (, e garantiu a segurança das carteiras Ethereum através da abstração de contas ); ferramentas de imagem de código aberto foram aplicadas nas áreas de medicina e interfaces cérebro-máquina (BCI), entre outros.

No outono do ano passado, recebemos o primeiro evento importante de d/acc: "Dia de Descoberta d/acc"(d/aDDy), o evento foi realizado no Devcon, reunindo palestrantes de diversos pilares do d/acc( biologia, física, rede, defesa da informação, e também tecnologia neural), o evento durou o dia todo. Pessoas que se dedicaram a essas tecnologias ao longo dos anos entenderam melhor o trabalho uns dos outros, enquanto os de fora passaram a perceber cada vez mais essa visão mais ampla: os mesmos valores que impulsionam o desenvolvimento do Ethereum e das criptomoedas podem se expandir para um mundo mais amplo.

O significado e a extensão de d/acc

Imagine o cenário em 2042. Você vê uma notícia na mídia dizendo que a cidade onde você mora pode enfrentar um novo surto. Para esse tipo de notícia, você já está acostumado: as pessoas tendem a reagir de forma exagerada a cada mutação de doenças animais, e na grande maioria dos casos, essas mutações não levam a uma crise real. As duas potenciais epidemias anteriores foram detectadas precocemente através da monitorização de águas residuais e da análise de dados abertos nas redes sociais, conseguindo ser contidas ainda no seu estágio inicial. No entanto, a situação desta vez é diferente, com os mercados de previsão indicando uma probabilidade de 60% de haver pelo menos 10.000 casos, o que o deixa preocupado.

Apenas ontem, a sequência genética do vírus foi determinada. Uma atualização de software para o seu dispositivo de teste de ar de bolso foi lançada imediatamente, permitindo que o dispositivo detecte o novo vírus (, seja através de um teste de respiração ou detectando ) após 15 minutos de exposição ao ar interior da sala. Além disso, as instruções e códigos de código aberto para gerar vacinas, que podem ser obtidas com equipamentos disponíveis em qualquer instalação médica moderna ao redor do mundo, devem ser divulgadas nas próximas semanas. A maioria das pessoas ainda não tomou nenhuma ação, confiando principalmente em medidas amplamente adotadas de filtragem de ar e ventilação para garantir sua segurança.

Devido a problemas de imunidade que você possui, você age com mais cautela: o assistente pessoal de inteligência artificial de código aberto que você utiliza, além de realizar tarefas habituais como navegação, recomendações de restaurantes e atividades, também considera dados de testes de ar em tempo real e dados de dióxido de carbono, recomendando apenas os locais mais seguros. Esses dados são fornecidos por milhares de participantes e dispositivos, e, com o auxílio de ZK-SNARKs e técnicas de privacidade diferencial, minimiza-se o risco de que os dados sejam vazados ou mal utilizados para outros fins ( Se você estiver interessado em contribuir com dados para esses conjuntos de dados, outros assistentes pessoais de inteligência artificial validarão se essas ferramentas criptográficas são realmente eficazes ).

Dois meses depois, a pandemia desapareceu milagrosamente: parece que 60% das pessoas seguiram os protocolos básicos de prevenção, ou seja, usaram máscaras quando o detector de ar soou o alarme e mostrou a presença do vírus, e se o resultado do teste pessoal fosse positivo, ficavam em isolamento em casa. Essa medida foi suficiente para reduzir ainda mais a taxa de transmissão, que já havia diminuído significativamente devido à filtragem de ar passiva, para abaixo de 1. Uma simulação mostrou que uma doença que poderia ser cinco vezes mais grave do que a pandemia de COVID-19 há vinte anos, agora não causou impactos severos.

O evento d/acc realizado pela Devcon obteve um resultado extremamente positivo, que foi a ideia de d/acc conseguir unir pessoas de diferentes áreas e de fato estimular seu grande interesse pelo trabalho uns dos outros.

Realizar um evento com "diversidade" não é difícil, mas fazer com que pessoas de diferentes origens e interesses realmente estabeleçam conexões estreitas é uma tarefa árdua. Eu ainda me lembro vividamente das experiências forçadas de assistir a longas óperas durante o ensino fundamental e médio; na época, pessoalmente achava essas óperas monótonas e desinteressantes. Eu sabia que "deveria" apreciá-las, porque se não o fizesse, seria visto como um preguiçoso da ciência da computação sem cultura, mas não consegui me conectar em um nível mais profundo com o conteúdo da ópera. No entanto, a atmosfera do evento d/acc foi completamente diferente: parecia que as pessoas realmente amavam aprender sobre os diversos trabalhos de diferentes áreas.

Se desejamos construir um futuro mais brilhante do que dominação, desaceleração e destruição, é necessário desenvolver esta ampla construção de alianças. O d/acc parece ter alcançado resultados significativos neste aspecto, e apenas isso já é suficiente para destacar o valor precioso desta ideia.

A ideia central do d/acc é simples e clara: uma aceleração defensiva descentralizada, democrática e diferenciada. Construir tecnologias que possam inclinar o equilíbrio entre ataque e defesa em favor da defesa, sem depender da delegação de mais poder a uma autoridade central durante o processo de implementação. Existe uma conexão intrínseca e estreita entre esses dois aspectos: qualquer estrutura política descentralizada, democrática ou livre tende a prosperar quando a defesa é fácil de implementar, mas enfrenta desafios severos quando a defesa encontra dificuldades significativas - nessas situações, o resultado mais provável é um período caótico de confrontos entre todos, culminando em um estado de equilíbrio dominado pelos mais fortes.

Uma forma de compreender a importância de tentar implementar simultaneamente a descentralização, a defensividade e a aceleração é compará-la com as ideias resultantes da renúncia a qualquer um desses três aspectos.

Descentralização acelerada, mas ignorando a parte de "defesa diferenciada"

Essencialmente, isso é semelhante a se tornar um efetivo aceleracionista (e/acc), mas ao mesmo tempo perseguindo a descentralização. Há muitas pessoas que adotam essa abordagem, algumas das quais se autodenominam d/acc, mas descrevem benéficamente seu foco como "ofensivo". Além disso, há muitas outras que demonstram um entusiasmo mais moderado por "inteligência artificial descentralizada" e tópicos semelhantes, mas, na minha opinião, sua atenção ao aspecto "defensivo" é claramente insuficiente.

Na minha opinião, essa abordagem pode evitar o risco de um grupo específico implementar um regime de ditadura sobre a humanidade global, mas não resolve problemas estruturais potenciais: em um ambiente que favorece a ofensiva, sempre existe o risco contínuo de desastres, ou alguém se posicionará como protetor e ocupará permanentemente uma posição de domínio. No que diz respeito à inteligência artificial, ela também não consegue resolver adequadamente o risco de um enfraquecimento do poder da humanidade em relação à inteligência artificial.

Defesa diferenciada acelerada, mas ignora "descentralização e democracia"

Para alcançar objetivos de segurança, aceitar o controle centralizado sempre teve um certo apelo para algumas pessoas; os leitores sem dúvida já estão familiarizados com muitos casos desse tipo e os problemas que eles trazem. Recentemente, algumas pessoas expressaram preocupação de que o controle centralizado extremo pode ser a única maneira de lidar com tecnologias extremas no futuro: por exemplo, imagine um cenário hipotético em que "cada pessoa usa um 'rótulo de liberdade' - que é o produto sucessor dos dispositivos de monitoramento vestíveis mais limitados de hoje, semelhante aos dispositivos de tornozelo usados como alternativas à prisão em alguns países... vídeos e áudios criptografados são continuamente enviados e interpretados em tempo real por máquinas". No entanto, o controle centralizado tem um problema de grau. Uma forma de controle centralizado relativamente moderada, frequentemente ignorada, mas ainda prejudicial, se manifesta no campo da biotecnologia (, como a resistência da supervisão pública em relação a alimentos e vacinas ), assim como a permissão para que essa resistência não seja desafiada por normas de código fechado.

O risco desse método é evidente, ou seja, o centro em si muitas vezes se torna a fonte do risco. Já testemunhamos isso durante a pandemia de COVID-19, quando a pesquisa funcional financiada por vários governos mundiais pode ter sido a origem da pandemia, a epistemologia centralizada levou a Organização Mundial da Saúde a rejeitar por anos o reconhecimento de que o vírus COVID-19 se espalha pelo ar, enquanto o distanciamento social forçado e as mandatos de vacinação provocaram uma reação política que pode durar décadas. Situações semelhantes são altamente prováveis de ocorrer novamente em qualquer cenário de risco associado a tecnologias como a inteligência artificial ou outras tecnologias de risco. Em contraste, uma abordagem descentralizada lidaria de forma mais eficaz com os riscos provenientes do próprio centro.

Defesa descentralizada, mas rejeita aceleração

Essencialmente, isso é uma tentativa de desacelerar o avanço tecnológico ou impulsionar a recessão econômica.

Esta estratégia enfrenta duplo desafio. Primeiro, de uma forma geral, o crescimento tecnológico e econômico é extremamente benéfico para a humanidade, e qualquer atraso nesse crescimento terá custos incalculáveis. Em segundo lugar, em um mundo não autoritário, a estagnação é instável: aqueles que "trapaceiam" mais e conseguem encontrar maneiras aparentemente razoáveis de continuar a impulsionar o desenvolvimento terão vantagem. A estratégia do desaceleracionismo pode funcionar em certos contextos específicos: por exemplo, os alimentos europeus são mais saudáveis do que os alimentos americanos, o que é um exemplo; o sucesso alcançado até agora na não proliferação nuclear também se aplica aqui. No entanto, essas estratégias não podem funcionar para sempre.

Através do d/acc, estamos empenhados em alcançar os seguintes objetivos:

• Manter princípios em um mundo cada vez mais tribalizado, em vez de simplesmente construir várias coisas de forma cega - pelo contrário, esperamos construir coisas específicas para tornar o mundo mais seguro e melhor.
• Reconhecer que os avanços tecnológicos exponenciais significam que o mundo se tornará extremamente peculiar, e que a "pegada" total da humanidade no universo inevitavelmente continuará a aumentar. Nossa capacidade de proteger animais, plantas e populações vulneráveis de danos deve continuar a aumentar, e a única saída é seguir em frente.
• Construir tecnologias que realmente nos protejam, em vez de basear-se na suposição de que "boas pessoas ( ou boas inteligências artificiais ) controlam tudo". Alcançamos esse objetivo construindo ferramentas que, por natureza, são mais eficazes para construir e proteger do que para destruir.

Outra perspectiva para pensar d/acc é voltar ao quadro do movimento dos Piratas na Europa no final da década de 2000: empoderamento.

O nosso objetivo é construir um mundo que preserve a capacidade de ação humana, alcançando a liberdade negativa, ou seja, evitando que outros (, sejam cidadãos comuns, governos ou super-robôs inteligentes ), intervenham ativamente na nossa capacidade de moldar o nosso próprio destino, ao mesmo tempo garantindo a liberdade positiva, ou seja, assegurando que temos o conhecimento e os recursos para exercer essa capacidade. Isto ecoa uma tradição do liberalismo clássico que se estende por séculos, que abrange a atenção de Stewart Brand à "aquisição de ferramentas" e também a de John Stuart.