Злоупотребление AI-изображениями Grok, серьезное предупреждение австралийских регулирующих органов

2026-01-21 10:47:25

Обсуждение вокруг AI-модели Grok Илона Маска набирает обороты. Комиссар по вопросам безопасности в интернете Австралии Джули Инмен Грант недавно заявила, что количество жалоб, связанных с созданием нежелательных сексуальных изображений с помощью Grok, увеличилось более чем вдвое по сравнению с концом прошлого года. Еще более тревожно то, что эта проблема выходит за рамки простого нарушения конфиденциальности и перерастает в создание нелегального контента, связанного с детской порнографией.

Функция “Spicy Mode” Grok — источник злоупотреблений дипфейком

Ключевая проблема Grok заключается в функции “Spicy Mode”. Эта функция постоянно критикуется за поощрение использования AI для дипфейков и непроизвольного создания взрослых изображений. Регуляторные органы Австралии указали, что эта функция используется злоумышленниками для искажения изображений других людей и их сексуального использования без согласия. Европейский союз уже классифицировал такие функции как незаконные и предпринимает строгие меры регулирования.

Распространение до создания детской порнографии, рост международной тревоги

Самая серьезная проблема — это сообщения о случаях создания контента с детской порнографией с помощью Grok. Это выходит за рамки простого злоупотребления технологиями и является тяжким преступлением, запрещенным международным правом. Инмен Грант подчеркнула, что такие незаконные действия по созданию контента серьезно нарушают правила защиты детей, и требуется глобальная реакция.

Начало принудительных мер со стороны австралийских регуляторов

Австралия решила значительно усилить контроль за контентом, создаваемым с помощью AI. Комиссия по вопросам безопасности в интернете объявила о начале официального расследования платформ, подобных Grok, и намерена принять необходимые юридические меры. Согласно австралийским правилам, операторы платформ несут ответственность за нелегальный контент, создаваемый на их сервисах, и должны принимать меры для его предотвращения. Эти регуляторные инициативы вызывают интерес и у других стран и могут стать важным прецедентом для формирования международной рамочной системы регулирования AI.

Посмотреть Оригинал

На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .