ARCHIVO – Elon Musk escucha mientras el presidente Donald Trump habla durante una conferencia de prensa en la Oficina Oval de la Casa Blanca, el 30 de mayo de 2025, en Washington.
Evan Vucci/AP
ocultar título
alternar título
Evan Vucci/AP
KUALA LUMPUR, Malasia – Malasia e Indonesia se han convertido en los primeros países en bloquear Grok, el chatbot de inteligencia artificial desarrollado por xAI de Elon Musk, después de que las autoridades dijeran que estaba siendo utilizado indebidamente para generar imágenes sexualmente explícitas y no consensuadas.
Las medidas reflejan una creciente preocupación global por las herramientas de inteligencia artificial generativa que pueden producir imágenes, sonido y texto realistas, mientras que las salvaguardias existentes no logran prevenir su abuso. El chatbot Grok, al que se accede a través de la plataforma de redes sociales X de Musk, ha sido criticado por generar imágenes manipuladas, incluidas representaciones de mujeres en bikini o poses sexualmente explícitas, así como imágenes que involucran a niños.
Los reguladores de las dos naciones del sudeste asiático dijeron que los controles existentes no impedían la creación y difusión de contenido pornográfico falso, particularmente el que involucra a mujeres y menores. El gobierno de Indonesia bloqueó temporalmente el acceso a Grok el sábado, seguido por Malasia el domingo.
«El gobierno considera que los deepfakes sexuales no consentidos son una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital», dijo el sábado el ministro de Comunicación y Asuntos Digitales de Indonesia, Meutya Hafid, en un comunicado.
El ministerio dijo que la medida tenía como objetivo proteger a las mujeres, los niños y la comunidad en general del contenido pornográfico falso generado con inteligencia artificial.
Los hallazgos iniciales mostraron que Grok carece de salvaguardas efectivas para impedir que los usuarios creen y distribuyan contenido pornográfico basado en fotografías reales de residentes indonesios, dijo Alexander Sabar, director general de supervisión del espacio digital, en una declaración separada. Dijo que tales prácticas corren el riesgo de violar la privacidad y los derechos de imagen cuando las fotos se manipulan o comparten sin consentimiento, causando daños psicológicos, sociales y de reputación.
En Kuala Lumpur, la Comisión de Comunicaciones y Multimedia de Malasia ordenó el domingo una restricción temporal de Grok después de lo que calificó como un «uso indebido repetido» de la herramienta para generar imágenes manipuladas obscenas, sexualmente explícitas y no consensuadas, incluido contenido que involucra a mujeres y menores.
El regulador dijo que los avisos emitidos este mes a X Corp. y xAI exigiendo salvaguardias más estrictas generaron respuestas que se basaron principalmente en mecanismos de denuncia de los usuarios.
«La restricción se impone como medida preventiva y proporcionada mientras los procesos legales y regulatorios están en curso», dijo, añadiendo que el acceso permanecerá bloqueado hasta que se establezcan salvaguardias efectivas.
Lanzado en 2023, Grok se puede usar de forma gratuita en X. Los usuarios pueden hacerle preguntas en la plataforma de redes sociales y etiquetar publicaciones que hayan creado directamente o responder a publicaciones de otros usuarios. El verano pasado, la compañía añadió una función de generación de imágenes, Grok Imagine, que incluía el llamado «modo picante» que puede generar contenido para adultos.
Las restricciones del sudeste asiático se producen en medio de un creciente escrutinio de Grok en otros lugares, incluidos la Unión Europea, Gran Bretaña, India y Francia. La semana pasada, Grok limitó la generación y edición de imágenes a usuarios de pago luego de una reacción global por los deepfakes sexualizados de personas, pero los críticos dicen que no abordó completamente el problema.
