A fusão da IA com o Web3 gera novos desafios de segurança, DeFAI torna-se o foco
Recentemente, a Semana de Blockchain de Istambul focou na tendência de fusão entre AI e Web3, tornando-se uma plataforma importante para discussões sobre segurança em Web3 este ano. Durante o evento, vários especialistas da indústria realizaram discussões aprofundadas sobre o estado atual da aplicação da tecnologia AI em finanças descentralizadas (DeFi) e os desafios de segurança.
Com o rápido desenvolvimento dos grandes modelos de linguagem e agentes de IA, um novo modelo financeiro chamado "DeFAI" (Finanças de Inteligência Artificial Descentralizada) está gradualmente tomando forma. No entanto, essa inovação também trouxe riscos de segurança e ataques sem precedentes.
Um executivo de uma empresa de segurança apontou que, embora o DeFAI tenha um grande potencial, também força a indústria a reexaminar os mecanismos de confiança em sistemas descentralizados. Ao contrário dos contratos inteligentes tradicionais, o processo de decisão dos agentes de IA é influenciado por vários fatores, apresentando uma grande imprevisibilidade, o que não só aumenta os riscos, mas também cria oportunidades para potenciais atacantes.
Os agentes de IA são essencialmente entidades inteligentes capazes de tomar decisões e executar ações de forma autônoma com base na lógica da IA, sendo os robôs de negociação de IA os representantes mais típicos. Atualmente, a maioria dos agentes de IA ainda opera em cima da arquitetura Web2, dependendo de servidores centralizados e APIs, o que os torna vulneráveis a várias ameaças de ataques cibernéticos. Uma vez que um agente de IA seja sequestrado, isso pode não apenas resultar em perdas financeiras diretas, mas também afetar a estabilidade de todo o protocolo.
Os especialistas também discutiram um cenário típico de ataque: quando um agente de negociação de IA operado por um usuário de DeFi monitora informações de redes sociais como sinais de negociação, um atacante pode induzir o agente a executar operações inadequadas ao publicar alarmes falsos, resultando em perdas de ativos para o usuário e provocando volatilidade no mercado.
Em relação a esses riscos, os especialistas presentes concordaram que a segurança dos agentes de IA deve ser uma responsabilidade compartilhada entre usuários, desenvolvedores e agências de segurança de terceiros. Os usuários devem autorizar e revisar com cautela as operações de alto risco dos agentes de IA; os desenvolvedores devem implementar múltiplas medidas de defesa já na fase de design; e as empresas de segurança de terceiros devem fornecer serviços de auditoria de segurança abrangentes para os agentes de IA.
Um especialista em segurança alertou que, se continuarmos a considerar os agentes de IA como uma "caixa preta", um acidente de segurança no mundo real é apenas uma questão de tempo. Ele sugeriu que os desenvolvedores que estão explorando a direção do DeFAI devem tratar a lógica de comportamento dos agentes de IA da mesma forma que tratam os contratos inteligentes, realizando auditorias de segurança e testes de penetração profissionais.
Como um dos eventos de blockchain mais influentes da Europa, a Istanbul Blockchain Week atraiu mais de 15.000 desenvolvedores, representantes de projetos, investidores e reguladores de todo o mundo. Com a Comissão do Mercado de Capitais da Turquia a iniciar oficialmente a emissão de licenças para projetos de blockchain, a posição do evento na indústria foi ainda mais fortalecida.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
12 Curtidas
Recompensa
12
2
Compartilhar
Comentário
0/400
LootboxPhobia
· 08-04 06:32
Web3 está a fazer novas coisas, que chatice.
Ver originalResponder0
HalfBuddhaMoney
· 08-04 06:32
Não consigo lidar com essa coisa de IA, quem é que está a negociar?
DeFAI Segurança da IA risco chama a atenção Especialistas pedem mais longo para construir uma linha de defesa
A fusão da IA com o Web3 gera novos desafios de segurança, DeFAI torna-se o foco
Recentemente, a Semana de Blockchain de Istambul focou na tendência de fusão entre AI e Web3, tornando-se uma plataforma importante para discussões sobre segurança em Web3 este ano. Durante o evento, vários especialistas da indústria realizaram discussões aprofundadas sobre o estado atual da aplicação da tecnologia AI em finanças descentralizadas (DeFi) e os desafios de segurança.
Com o rápido desenvolvimento dos grandes modelos de linguagem e agentes de IA, um novo modelo financeiro chamado "DeFAI" (Finanças de Inteligência Artificial Descentralizada) está gradualmente tomando forma. No entanto, essa inovação também trouxe riscos de segurança e ataques sem precedentes.
Um executivo de uma empresa de segurança apontou que, embora o DeFAI tenha um grande potencial, também força a indústria a reexaminar os mecanismos de confiança em sistemas descentralizados. Ao contrário dos contratos inteligentes tradicionais, o processo de decisão dos agentes de IA é influenciado por vários fatores, apresentando uma grande imprevisibilidade, o que não só aumenta os riscos, mas também cria oportunidades para potenciais atacantes.
Os agentes de IA são essencialmente entidades inteligentes capazes de tomar decisões e executar ações de forma autônoma com base na lógica da IA, sendo os robôs de negociação de IA os representantes mais típicos. Atualmente, a maioria dos agentes de IA ainda opera em cima da arquitetura Web2, dependendo de servidores centralizados e APIs, o que os torna vulneráveis a várias ameaças de ataques cibernéticos. Uma vez que um agente de IA seja sequestrado, isso pode não apenas resultar em perdas financeiras diretas, mas também afetar a estabilidade de todo o protocolo.
Os especialistas também discutiram um cenário típico de ataque: quando um agente de negociação de IA operado por um usuário de DeFi monitora informações de redes sociais como sinais de negociação, um atacante pode induzir o agente a executar operações inadequadas ao publicar alarmes falsos, resultando em perdas de ativos para o usuário e provocando volatilidade no mercado.
Em relação a esses riscos, os especialistas presentes concordaram que a segurança dos agentes de IA deve ser uma responsabilidade compartilhada entre usuários, desenvolvedores e agências de segurança de terceiros. Os usuários devem autorizar e revisar com cautela as operações de alto risco dos agentes de IA; os desenvolvedores devem implementar múltiplas medidas de defesa já na fase de design; e as empresas de segurança de terceiros devem fornecer serviços de auditoria de segurança abrangentes para os agentes de IA.
Um especialista em segurança alertou que, se continuarmos a considerar os agentes de IA como uma "caixa preta", um acidente de segurança no mundo real é apenas uma questão de tempo. Ele sugeriu que os desenvolvedores que estão explorando a direção do DeFAI devem tratar a lógica de comportamento dos agentes de IA da mesma forma que tratam os contratos inteligentes, realizando auditorias de segurança e testes de penetração profissionais.
Como um dos eventos de blockchain mais influentes da Europa, a Istanbul Blockchain Week atraiu mais de 15.000 desenvolvedores, representantes de projetos, investidores e reguladores de todo o mundo. Com a Comissão do Mercado de Capitais da Turquia a iniciar oficialmente a emissão de licenças para projetos de blockchain, a posição do evento na indústria foi ainda mais fortalecida.