Modèles d'intelligence artificielle sans restriction : une nouvelle menace émergente dans l'industrie du chiffrement

Avec le développement rapide de la technologie de l'intelligence artificielle, des modèles avancés allant de la série GPT à Gemini transforment profondément notre façon de travailler et de vivre. Cependant, derrière cette avancée technologique se cachent également des dangers potentiels : l'émergence de modèles de langage de grande taille (LLM) non régulés ou malveillants.

Les LLM sans restrictions sont des modèles de langage spécialement conçus ou modifiés pour contourner les mécanismes de sécurité intégrés et les restrictions éthiques des modèles grand public. Bien que les développeurs de LLM grand public investissent d'importantes ressources pour empêcher l'abus des modèles, certaines personnes ou organisations, à des fins illégales, commencent à rechercher ou à développer des modèles non restreints. Cet article explorera les potentielles façons d'abus de ces outils LLM sans restrictions dans l'industrie du chiffrement, ainsi que les défis de sécurité associés et les stratégies de réponse.

Les menaces potentielles des LLM sans restrictions

Grâce à LLM sans restriction, même les personnes sans compétences professionnelles peuvent facilement réaliser des tâches complexes telles que rédiger du code malveillant, créer des e-mails de phishing ou planifier des escroqueries. Les attaquants n'ont qu'à obtenir les poids et le code source du modèle open source, puis à l'affiner en utilisant un ensemble de données contenant du contenu malveillant ou des instructions illégales, leur permettant ainsi de créer des outils d'attaque personnalisés.

Cette tendance entraîne de multiples risques :

1. Les attaquants peuvent personnaliser des modèles en fonction de cibles spécifiques pour générer un contenu plus trompeur, contournant ainsi la vérification du contenu des LLM conventionnels.
2. Le modèle peut être utilisé pour générer rapidement des variantes de code de sites de phishing ou pour personnaliser des scénarios d'escroquerie pour différentes plateformes.
3. La disponibilité des modèles open source a favorisé l'émergence d'un écosystème d'IA souterrain, créant un terreau pour les transactions et le développement illégaux.

LLM typiques sans restriction et leur abus dans l'industrie du chiffrement

WormGPT : version noire de GPT

WormGPT est un LLM malveillant vendu publiquement sur des forums clandestins, prétendant ne pas avoir de restrictions éthiques. Il est basé sur des modèles open source tels que GPT-J 6B et a été entraîné sur une grande quantité de données liées aux logiciels malveillants. Dans le domaine du chiffrement, WormGPT pourrait être mal utilisé pour :

• Générer des courriels de phishing réalistes en se faisant passer pour des échanges ou des projets pour envoyer des demandes de vérification de compte.
• Aider des attaquants ayant un niveau technique faible à rédiger du code malveillant pour voler des fichiers de portefeuille ou surveiller le presse-papiers.
• Piloter l'automatisation de la fraude, en dirigeant les victimes vers de fausses offres de jetons ou des projets d'investissement.

DarkBERT : une épée à double tranchant pour le contenu du dark web

DarkBERT est un modèle pré-entraîné sur des données du dark web, initialement conçu pour aider les chercheurs et les agences d'application de la loi à comprendre l'écosystème du dark web. Cependant, s'il est exploité par des acteurs malveillants, cela pourrait entraîner :

• Mettre en œuvre des escroqueries précises, collecter des informations sur les utilisateurs de chiffrement et les équipes de projet pour des fraudes sociales.
• Copier les stratégies de vol de cryptomonnaie et de blanchiment d'argent mûres dans le dark web.

FraudGPT : un outil multifonction pour la fraude en ligne

FraudGPT est la version améliorée de WormGPT, avec des fonctionnalités plus complètes. Dans le domaine du chiffrement, il pourrait être utilisé pour :

• Projets de chiffrement contrefaits, générant des livres blancs, des sites Web et des contenus marketing réalistes pour de fausses ICO/IDO.
• Génération en masse de pages de phishing imitant l'interface de connexion des échanges connus.
• Mener des activités de bots sur les réseaux sociaux pour promouvoir des jetons d'escroquerie ou dénigrer des projets concurrents.
• Mener des attaques d'ingénierie sociale, établir une confiance avec les utilisateurs et les inciter à divulguer des informations sensibles.

GhostGPT : un assistant IA sans contraintes morales

GhostGPT est un chatbot IA clairement positionné comme n'ayant pas de limites morales. Dans le domaine du chiffrement, il pourrait être utilisé de manière abusive :

• Lancer des attaques de phishing avancées, générer des e-mails frauduleux d'une grande fidélité.
• Générer du code de contrat intelligent contenant des portes dérobées cachées, utilisé pour des escroqueries de type Rug Pull ou pour attaquer des protocoles DeFi.
• Créer un voleur de chiffrement capable de se transformer, difficile à détecter par les logiciels de sécurité traditionnels.
• Déployer des robots escrocs sur les plateformes sociales en combinant des scripts de discours générés par l'IA.
• En collaboration avec d'autres outils d'IA, générer de fausses voix de fondateurs de projets ou de cadres d'échanges pour réaliser des escroqueries téléphoniques.

Venice.ai : risques potentiels d'accès sans censure

Venice.ai offre un accès à plusieurs LLM, y compris certains modèles moins soumis à des contrôles. Bien qu'il soit positionné comme une plateforme ouverte pour explorer les capacités de l'IA, il pourrait également être utilisé de manière abusive :

• Contourner la censure pour générer du contenu malveillant, comme des modèles de phishing ou de fausse publicité.
• Abaisser le seuil d'entrée des indicateurs, rendant plus facile pour les attaquants d'obtenir des sorties initialement restreintes.
• Accélérer l'itération des discours d'attaque, tester rapidement et optimiser les scripts de fraude.

Stratégie de réponse

L'émergence des LLM sans restriction marque l'arrivée de nouvelles menaces complexes, à grande échelle et dotées de capacités d'automatisation dans le domaine de la cybersécurité. Pour faire face à ces défis, toutes les parties de l'écosystème de la sécurité doivent travailler ensemble :

1. Accroître les investissements dans les technologies de détection et développer des systèmes capables d'identifier et d'intercepter le contenu généré par des LLM malveillants.
2. Améliorer la capacité du modèle à résister au jailbreak, explorer les mécanismes de filigrane et de traçabilité pour suivre l'origine des contenus malveillants.
3. Établir des normes éthiques et des mécanismes de régulation solides pour limiter dès le départ le développement et l'abus de modèles malveillants.

Ce n'est qu'en collaborant avec plusieurs parties et en améliorant continuellement nos capacités de défense que nous pourrons protéger la sécurité de l'industrie du chiffrement dans ce jeu d'attaque et de défense en constante évolution.