L'Indonésie est devenue la première nation à agir en suspendant le chatbot Grok d'Elon Musk, en réponse à l'inquiétude croissante concernant son potentiel à générer des images pornographiques. Samedi, suite à un rapport de PANews citant Zhitong Finance, le gouvernement indonésien a décidé de suspendre l'outil d'IA, marquant un tournant dans la régulation mondiale de l'IA. Cette action intervient alors que des gouvernements et des organismes de surveillance en Europe et en Asie ont de plus en plus critiqué la capacité de la plateforme à produire des médias synthétiques nuisibles, certains lançant des enquêtes officielles.

La ministre indonésienne des Communications et du Numérique, Mutia Hafeed, a exprimé clairement la position du gouvernement : « L'État reconnaît que les deepfakes non consensuels sans permission constituent une violation critique des droits fondamentaux, de la dignité individuelle et de la sécurité numérique de notre population. » Le ministère a ensuite convié des dirigeants de la société mère de Grok (Grok) à des discussions formelles sur le sujet.

L'interdiction souligne l'alarme croissante à l'échelle internationale concernant les systèmes d'IA capables de générer des images pornographiques sans le consentement de l'utilisateur. L'intervention décisive de l'Indonésie témoigne de l'urgence avec laquelle les décideurs politiques abordent cette menace émergente, plaçant le pays en tête des actions de protection. La décision reflète un engagement à protéger les citoyens contre des technologies qui présentent des risques pour la vie privée, la dignité et la sécurité personnelle dans le domaine numérique.