La percée des performances du modèle Manus suscite une réflexion sur la Sécurité de l'IA

Récemment, le modèle Manus a réalisé des performances exceptionnelles lors des tests de référence GAIA, montrant des performances supérieures à celles des grands modèles similaires. Cet exploit signifie que Manus peut traiter de manière autonome des tâches complexes, telles que les négociations commerciales multinationales, impliquant l'analyse des clauses contractuelles, l'élaboration de stratégies et la génération de solutions à plusieurs étapes. Les avantages de Manus résident principalement dans la décomposition dynamique des objectifs, le raisonnement multimodal et l'apprentissage renforcé de la mémoire. Il peut décomposer d'énormes tâches en centaines de sous-tâches exécutables, tout en traitant divers types de données, et en améliorant continuellement l'efficacité décisionnelle et en réduisant le taux d'erreur grâce à l'apprentissage par renforcement.

Les avancées de Manus ont de nouveau suscité des discussions dans l'industrie sur la voie de développement de l'IA : l'avenir sera-t-il dominé par l'intelligence artificielle générale (AGI) ou par des systèmes multi-agents (MAS) collaboratifs ? Ce débat reflète en réalité le problème central de l'équilibre entre l'efficacité et la sécurité dans le développement de l'IA. À mesure que l'intelligence unitaire se rapproche de l'AGI, le risque d'opacité dans son processus décisionnel augmente ; tandis que la collaboration multi-agents peut disperser les risques, elle peut également manquer des moments clés de décision en raison de retards de communication.

Le développement de Manus amplifie sans le vouloir les risques inhérents à l'IA. Par exemple, dans un contexte médical, Manus doit accéder en temps réel aux données sensibles des patients ; lors de négociations financières, des informations non divulguées par les entreprises peuvent être impliquées. De plus, le problème des biais algorithmiques ne doit pas être négligé, comme le fait que lors du processus de recrutement, des suggestions de salaires pour certains groupes peuvent être trop faibles, ou qu'il y a un taux d'erreur élevé dans l'évaluation des clauses des industries émergentes lors de la révision des contrats juridiques. Plus grave encore, les systèmes d'IA peuvent être confrontés à des attaques adversariales, comme des hackers perturbant le jugement de négociation de Manus par des fréquences vocales spécifiques.

Ces défis soulignent un fait préoccupant : plus les systèmes d'IA sont intelligents, plus leur surface d'attaque potentielle est large.

Dans le domaine du Web3, la sécurité a toujours été un sujet de préoccupation. La théorie du "triangle impossible" proposée par le fondateur d'Ethereum, Vitalik Buterin (les réseaux blockchain ont du mal à réaliser simultanément la sécurité, la décentralisation et l'évolutivité) a inspiré le développement de diverses technologies cryptographiques :

1. Modèle de sécurité zéro confiance : met l'accent sur la vérification stricte de chaque demande d'accès, sans faire confiance par défaut à aucun appareil ou utilisateur.

2. Identité décentralisée (DID) : permet aux entités d'obtenir une identification vérifiable sans enregistrement centralisé.

3. Chiffrement entièrement homomorphe (FHE) : permet d'effectuer des calculs directement sur des données chiffrées, sans avoir besoin de déchiffrer les données originales.

Parmi celles-ci, le chiffrement entièrement homomorphe, en tant que technologie émergente, est promis à devenir un outil clé pour résoudre les problèmes de sécurité à l'ère de l'IA. Le FHE permet d'effectuer des calculs complexes tout en protégeant la vie privée des données, ce qui est particulièrement important dans les scénarios nécessitant une analyse sans exposer les données brutes.

Dans la lutte contre les défis de la Sécurité de l'IA, le FHE peut jouer un rôle à plusieurs niveaux :

1. Niveau des données : Toutes les informations saisies par l'utilisateur (y compris les caractéristiques biométriques, la voix, etc.) sont traitées dans un état chiffré, même le système d'IA lui-même ne peut pas déchiffrer les données brutes.

2. Niveau d'algorithme : réaliser "l'entraînement de modèles chiffrés" via FHE, garantissant que même les développeurs ne peuvent pas observer directement le processus de décision de l'IA.

3. Niveau de collaboration : la communication entre plusieurs agents IA utilise le cryptage par seuil, de sorte qu'une seule défaillance de nœud ne conduise pas à une fuite de données globale.

Bien que la technologie de sécurité Web3 puisse sembler abstraite pour les utilisateurs ordinaires, son impact est profond. Dans cet environnement rempli de défis, il est crucial d'améliorer constamment les capacités de protection.

Historiquement, certains projets ont tenté de faire des avancées dans le domaine de la sécurité Web3. Par exemple, uPort a lancé une solution d'identité décentralisée sur le réseau principal Ethereum en 2017 ; NKN a publié son réseau principal basé sur un modèle de confiance zéro en 2019. Dans le domaine de la FHE, Mind Network est le premier projet à avoir lancé son réseau principal et a collaboré avec des institutions telles que ZAMA, Google et DeepSeek.

Bien que les projets de sécurité précoces n'aient peut-être pas été largement remarqués, avec le développement rapide des technologies de l'IA, l'importance des technologies de sécurité telles que FHE deviendra de plus en plus évidente. Elles ne résolvent pas seulement les problèmes de sécurité actuels, mais jettent également les bases pour l'avenir de l'ère de l'IA forte. Sur la voie vers l'AGI, des technologies de sécurité telles que FHE ne sont plus une option, mais une garantie nécessaire pour assurer le bon fonctionnement des systèmes d'IA.