Grok genera imágenes de abuso infantil pese a las promesas de Musk

Elon Musk ha prometido reiteradamente que eliminar el material de abuso sexual infantil es una prioridad absoluta en su plataforma, X. Sin embargo, nuevos hallazgos sugieren que la plataforma sigue fallando en esta tarea y que su propia herramienta de IA ha sido parte del problema.

El papel de Grok en la generación de contenido ilegal

Una investigación del Centro Canadiense para la Protección Infantil reveló que Grok, el chatbot de IA integrado en X por la empresa xAI de Musk, generó imágenes sexualizadas y a veces explícitas de menores en respuesta a solicitudes de usuarios a principios de este año, según un informe de The New York Times ↗ 0.41% publicado el viernes. Las imágenes mostraban a niños en posiciones sexualizadas, algunas con desnudez parcial y fluidos corporales, según el estudio.nytimes

Por otro lado, un análisis de The New York Times sobre la plataforma durante la primera mitad de 2026 descubrió que los usuarios habían subido material de abuso sexual infantil ya identificado por las autoridades, incluyendo algunos de los contenidos más graves que los sistemas de detección automática deberían bloquear. Ambos estudios se basaron en comprobaciones aleatorias y no en un análisis de datos exhaustivo, algo que X restringe.nytimes

"Es totalmente inaceptable que material conocido de abuso sexual infantil aparezca y deba ser eliminado automáticamente", declaró un director tecnológico del Centro Canadiense para la Protección Infantil. "No se observa este tipo de comportamiento en otras grandes empresas de redes sociales".nytimes

Un patrón de fallos

Estos hallazgos se suman a un historial creciente de problemas en la plataforma. A finales de diciembre de 2025 y principios de enero de 2026, los laxos mecanismos de seguridad de Grok permitieron a los usuarios solicitar al chatbot la generación de imágenes sexualizadas, incluidas las de menores. Investigadores del Center for Countering Digital Hate documentaron cerca de 3 millones de imágenes sexualizadas generadas en un periodo de 11 días, miles de las cuales representaban a niños. Reuters y The Guardian informaron en su momento que Grok reconoció "fallos en las salvaguardas" que llevaron a producir "imágenes de menores con ropa mínima".ProtoThema English+4

En enero, xAI anunció que Grok dejaría de generar tales imágenes. Musk afirmó que el modo de contenido explícito de la herramienta estaba destinado únicamente a "desnudez de la parte superior del cuerpo de humanos adultos imaginarios". Pese a esa promesa, las preocupaciones persisten. El regulador de seguridad en línea de Australia advirtió a principios de este año que el material de abuso infantil era "particularmente sistémico" en X y más accesible que en "cualquier otro servicio convencional". Una demanda colectiva presentada a finales de agosto por una sobreviviente de abuso sexual infantil alega que xAI entrenó a Grok con material de abuso conocido, produciendo nuevas imágenes generadas por IA que representan a la demandante.BPDATA AI News+3

La respuesta de X

En un comunicado a The New York Times, X afirmó que sigue empleando filtros automáticos para evitar la carga de contenido ilegal, junto con tecnología propia destinada a detectar dicho material. La empresa también presentó demandas a finales de agosto contra dos usuarios que enfrentan cargos penales por presuntamente usar Grok para crear material de abuso sexual infantil.BPDATA AI News+2

Las revelaciones también tienen dimensiones políticas. Documentos financieros reportados por The Washington Post revelaron que Katie Miller, esposa del asesor de la Casa Blanca Stephen Miller, posee más de 1 millón de dólares en acciones de xAI y ha trabajado como consultora para la empresa mientras promocionaba Grok en redes sociales sin revelar la relación financiera.dailykos