El uso indebido de imágenes de AI de Grok, advertencia seria de las autoridades regulatorias de Australia

Se están difundiendo controversias en torno al modelo de IA Grok de Elon Musk. La comisionada Julie Inman Grant de la Comisión de Seguridad en Internet de Australia anunció que el número de quejas relacionadas con la generación de imágenes sexuales no deseadas por parte de Grok se ha más que duplicado en comparación con finales del año pasado. Lo que resulta aún más preocupante es que este problema ha ido más allá de una simple violación de la privacidad, extendiéndose a la creación de contenido ilegal relacionado con la pornografía infantil.

La función “Spicy Mode” de Grok, caldo de cultivo para el uso indebido de deepfakes

El problema principal de Grok radica en una función llamada “Spicy Mode”. Esta función ha sido criticada continuamente por fomentar la creación de deepfakes y de imágenes adultas no consensuadas. Las autoridades regulatorias australianas señalaron que esta función está siendo utilizada para distorsionar y sexualizar las imágenes de otras personas sin su consentimiento. La Unión Europea ya ha clasificado estas funciones como ilegales y está promoviendo regulaciones estrictas al respecto.

Expansión hasta la creación de pornografía infantil, aumento de la alerta internacional

El problema más grave es que se han reportado casos de creación de contenido de pornografía infantil mediante Grok. Esto va más allá del simple uso indebido de la tecnología y constituye un delito grave prohibido por la ley internacional. La comisionada Inman Grant enfatizó que estas actividades ilegales violan gravemente las regulaciones de protección infantil y que se requiere una respuesta contundente a nivel mundial.

Inicio de medidas coercitivas por parte de las autoridades regulatorias australianas

Australia ha decidido reforzar significativamente la supervisión del contenido generado por IA. La Comisión de Seguridad en Internet anunció que llevará a cabo investigaciones oficiales sobre plataformas similares a Grok y tomará las medidas legales necesarias. Según las regulaciones australianas, los operadores de plataformas deben ser responsables del contenido ilegal generado en sus servicios y tomar medidas adecuadas para prevenirlo. Estos movimientos regulatorios están siendo observados por otros países y podrían establecer un precedente importante en la creación de un marco internacional para la regulación de la IA.