La fusión de la IA y Web3 genera nuevos desafíos de seguridad, DeFAI se convierte en el foco

Recientemente, la Semana de Blockchain de Estambul se centró en la tendencia de fusión entre AI y Web3, convirtiéndose en una plataforma importante para las discusiones sobre seguridad de Web3 este año. Durante el evento, varios expertos de la industria llevaron a cabo un análisis profundo sobre el estado de la aplicación de la tecnología AI en las finanzas descentralizadas (DeFi) y los desafíos de seguridad.

Con el rápido desarrollo de los modelos de lenguaje de gran escala y los agentes de IA, está surgiendo un nuevo modelo financiero conocido como "DeFAI" (finanzas de inteligencia artificial descentralizada). Sin embargo, esta innovación también ha traído consigo riesgos de seguridad y ataques sin precedentes.

Un alto ejecutivo de una empresa de seguridad ha señalado que, aunque DeFAI tiene un gran potencial, también obliga a la industria a reevaluar los mecanismos de confianza en los sistemas descentralizados. A diferencia de los contratos inteligentes tradicionales, el proceso de toma de decisiones de los agentes de IA está influenciado por múltiples factores y presenta una fuerte imprevisibilidad, lo que no solo aumenta el riesgo, sino que también crea oportunidades para posibles atacantes.

Los agentes de IA son esencialmente entidades inteligentes capaces de tomar decisiones y ejecutar acciones de forma autónoma basadas en la lógica de IA, siendo los robots de trading de IA el representante más típico. Actualmente, la mayoría de los agentes de IA aún funcionan sobre la arquitectura Web2, dependiendo de servidores centralizados y API, lo que los hace vulnerables a diversas amenazas de ataques cibernéticos. Una vez que un agente de IA es secuestrado, no solo puede resultar en pérdidas directas de fondos, sino que también puede afectar la estabilidad de todo el protocolo.

Los expertos también discutieron un escenario típico de ataque: cuando un agente de trading de IA que utilizan los usuarios de DeFi monitorea la información de las redes sociales como señales de trading, un atacante podría inducir al agente a realizar acciones inapropiadas al publicar alarmas falsas, lo que podría resultar en pérdidas de activos para los usuarios y provocar volatilidad en el mercado.

Con respecto a estos riesgos, los expertos presentes coincidieron en que la seguridad de los agentes de IA debe ser una responsabilidad compartida entre los usuarios, los desarrolladores y las agencias de seguridad de terceros. Los usuarios deben autorizar y revisar cuidadosamente las operaciones de alto riesgo de los agentes de IA; los desarrolladores deben implementar múltiples medidas de defensa desde la etapa de diseño; y las empresas de seguridad de terceros deben proporcionar servicios de auditoría de seguridad integral para los agentes de IA.

Un experto en seguridad advierte que si se sigue considerando a los agentes de IA como una "caja negra", los accidentes de seguridad en el mundo real son solo una cuestión de tiempo. Sugirió que los desarrolladores que están explorando la dirección de DeFAI deberían tratar la lógica de comportamiento de los agentes de IA con auditorías de seguridad y pruebas de penetración profesionales, al igual que se hace con los contratos inteligentes.

Como uno de los eventos de blockchain más influyentes de Europa, la Semana de Blockchain de Estambul ha atraído a más de 15,000 desarrolladores, proyectos, inversores y reguladores de todo el mundo. Con el lanzamiento oficial por parte de la Comisión del Mercado de Capitales de Turquía de la emisión de licencias para proyectos de blockchain, la posición de este evento en la industria se ha elevado aún más.