L'intégration de l'IA et du Web3 soulève de nouveaux défis en matière de sécurité, DeFAI devient le centre d'attention

Récemment, la Semaine de la Blockchain d'Istanbul s'est concentrée sur les tendances de fusion entre l'IA et le Web3, devenant une plateforme importante pour les discussions sur la sécurité du Web3 cette année. Pendant l'événement, plusieurs experts de l'industrie ont mené des discussions approfondies sur l'état actuel de l'application des technologies IA dans la finance décentralisée ( DeFi ) et les défis de sécurité.

Avec le développement rapide des grands modèles de langage et des agents IA, un nouveau modèle financier appelé "DeFAI" (finance décentralisée d'intelligence artificielle) est en train de prendre forme. Cependant, cette innovation apporte également des risques pour la sécurité et des menaces d'attaque sans précédent.

Un cadre supérieur d'une entreprise de sécurité a souligné que bien que le DeFAI ait un avenir prometteur, il oblige également l'industrie à réévaluer les mécanismes de confiance dans les systèmes décentralisés. Contrairement aux contrats intelligents traditionnels, le processus décisionnel des agents IA est influencé par divers facteurs et présente une forte imprévisibilité, ce qui augmente non seulement les risques, mais crée également des opportunités pour les attaquants potentiels.

Les agents AI sont essentiellement des entités intelligentes capables de prendre des décisions autonomes et d'exécuter des actions sur la base de la logique AI, parmi lesquels les robots de trading AI sont les plus typiques. Actuellement, la plupart des agents AI fonctionnent encore sur une architecture Web2, dépendant de serveurs centralisés et d'API, ce qui les rend vulnérables à diverses menaces d'attaques réseau. Une fois qu'un agent AI est compromis, cela peut non seulement entraîner des pertes financières directes, mais aussi affecter la stabilité de l'ensemble du protocole.

Les experts ont également discuté d'un scénario d'attaque typique : lorsque l'agent de trading IA utilisé par les utilisateurs de DeFi surveille les informations des réseaux sociaux comme signaux de trading, un attaquant pourrait inciter l'agent à effectuer des opérations inappropriées en publiant de fausses alertes, entraînant ainsi des pertes d'actifs pour les utilisateurs et provoquant des fluctuations du marché.

Face à ces risques, les experts présents s'accordent à dire que la sécurité des agents IA devrait être une responsabilité partagée entre les utilisateurs, les développeurs et les agences de sécurité tierces. Les utilisateurs doivent accorder des autorisations avec précaution et examiner les opérations à haut risque des agents IA ; les développeurs doivent mettre en œuvre des mesures de défense multiples dès la phase de conception ; et les entreprises de sécurité tierces doivent fournir des services d'audit de sécurité complets pour les agents IA.

Un expert en sécurité a averti que si les agents IA continuent d'être considérés comme une "boîte noire", il ne s'agit que d'une question de temps avant qu'un accident de sécurité ne se produise dans le monde réel. Il a conseillé aux développeurs explorant la direction du DeFAI de traiter la logique comportementale des agents IA avec un audit de sécurité professionnel et des tests de pénétration, tout comme ils le feraient pour des contrats intelligents.

En tant que l'un des événements de blockchain les plus influents d'Europe, la Semaine de la Blockchain d'Istanbul a attiré plus de 15 000 développeurs, promoteurs de projets, investisseurs et régulateurs du monde entier. Avec le lancement officiel par la Commission des marchés de capitaux de Turquie de la délivrance de licences pour des projets blockchain, le statut de cet événement dans l'industrie a été encore rehaussé.