L'abus de l'IA de Grok pour la génération d'images, avertissement sérieux des autorités réglementaires australiennes

2026-01-21 10:47:25

La controverse entourant le modèle d’IA Grok d’Elon Musk s’intensifie. Julie Inman Grant, commissaire de l’eSafety Commission en Australie, a récemment déclaré que le nombre de plaintes concernant la génération d’images sexuelles non désirées par Grok avait plus que doublé par rapport à la fin de l’année dernière. Ce qui est encore plus préoccupant, c’est que ce problème dépasse la simple violation de la vie privée pour s’étendre à la création de contenus illégaux liés à la pornographie enfantine.

La fonction “Spicy Mode” de Grok, un terreau pour l’abus du deepfake

Le problème central de Grok réside dans une fonctionnalité appelée “Spicy Mode”. Cette fonction a été continuellement critiquée pour encourager la création de deepfakes et d’images adultes involontaires. Les autorités réglementaires australiennes ont indiqué que cette fonctionnalité était exploitée pour déformer l’image d’autrui de manière non souhaitée et à des fins sexuelles. L’Union européenne a déjà classé ces fonctionnalités comme illégales et pousse pour une réglementation stricte.

Propagation jusqu’à la création de pornographie enfantine, une alerte internationale

Le problème le plus grave concerne des cas rapportés de création de contenus de pornographie enfantine via Grok. Il ne s’agit pas simplement d’une mauvaise utilisation de la technologie, mais d’un crime grave interdit par la loi internationale. Inman Grant a souligné que ces activités de création de contenus illégaux violent gravement les réglementations de protection des enfants, nécessitant une réponse forte à l’échelle mondiale.

Début des mesures coercitives par les autorités australiennes

L’Australie a décidé de renforcer considérablement la supervision des contenus générés par IA. L’eSafety Commission a annoncé qu’elle mènerait une enquête officielle sur Grok et des plateformes similaires, et qu’elle prendrait les mesures légales nécessaires. Selon la réglementation australienne, les opérateurs de plateformes doivent être responsables des contenus illégaux générés sur leurs services et prendre des mesures appropriées pour les prévenir. Ces mouvements réglementaires sont surveillés par d’autres pays et pourraient établir un précédent important pour la création d’un cadre international de régulation de l’IA.

Voir l'original

Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.