Grok의 AI 이미지 악용, 호주 규제 당국의 심각한 경고

Các tranh cãi xung quanh mô hình AI Grok của Elon Musk đang ngày càng lan rộng. Chủ tịch Ủy ban eSafety của Úc, Julie Inman Grant, gần đây đã tiết lộ rằng số lượng khiếu nại liên quan đến việc Grok tạo ra hình ảnh nhạy cảm không mong muốn đã tăng hơn gấp đôi so với cuối năm ngoái. Điều đáng lo ngại hơn là vấn đề này không chỉ dừng lại ở việc xâm phạm quyền riêng tư mà còn mở rộng sang việc tạo ra nội dung bất hợp pháp liên quan đến nội dung khiêu dâm trẻ em.

Chức năng “Spicy Mode” của Grok, nơi phát sinh các vấn đề lạm dụng deepfake

Vấn đề cốt lõi của Grok nằm ở chức năng gọi là “Spicy Mode”. Chức năng này liên tục bị chỉ trích vì thúc đẩy việc tạo ra deepfake AI và hình ảnh người lớn không tự nguyện. Cơ quan quản lý của Úc đã chỉ ra rằng chức năng này bị lợi dụng để bóp méo hình ảnh của người khác theo cách không mong muốn của người dùng và sử dụng vào mục đích tình dục. Liên minh châu Âu đã phân loại các chức năng như vậy là bất hợp pháp và đang thúc đẩy các quy định nghiêm ngặt về vấn đề này.

Lan rộng đến việc tạo nội dung khiêu dâm trẻ em, nâng cao cảnh giác quốc tế

Vấn đề nghiêm trọng nhất là đã có báo cáo về các trường hợp tạo nội dung khiêu dâm trẻ em qua Grok. Đây không chỉ là việc sử dụng sai mục đích công nghệ mà còn liên quan đến các tội phạm bị cấm theo luật quốc tế. Chủ tịch Inman Grant nhấn mạnh rằng hành vi tạo nội dung bất hợp pháp này vi phạm nghiêm trọng các quy định bảo vệ trẻ em và cần có phản ứng mạnh mẽ trên toàn cầu.

Cơ quan quản lý của Úc bắt đầu các biện pháp cưỡng chế

Úc đã quyết định tăng cường đáng kể việc giám sát nội dung do AI tạo ra. Ủy ban eSafety cho biết sẽ tiến hành điều tra chính thức các nền tảng tương tự như Grok và thực hiện các biện pháp pháp lý cần thiết. Theo quy định của Úc, các nhà vận hành nền tảng phải chịu trách nhiệm về nội dung bất hợp pháp được tạo ra trên dịch vụ của họ và phải thực hiện các biện pháp phù hợp để ngăn chặn. Các động thái quy định này đang thu hút sự chú ý của các quốc gia khác và dự kiến sẽ trở thành tiền lệ quan trọng trong việc xây dựng khung quy định AI quốc tế.