Redacción El País
Un nuevo escándalo rodea a Elon Musk y su red social X. Esta vez por Grok, el asistente de inteligencia artificial (IA) de la red social X, que permite crear a partir de fotografías de personas reales imágenes de carácter sexual.
Grok, el chatbot desarrollado por la empresa estadounidense xAI, dispone de su propia cuenta en la red social X, lo que permite a los usuarios interactuar con él.
Hasta la semana pasada, todos los internautas podían mencionar al bot en sus publicaciones para pedir la creación o la modificación de imágenes, que luego recibían como respuesta.
Algunos aprovecharon este servicio para publicar o responder a mensajes con fotografías de mujeres, acompañándolas de órdenes como “Ponle un bikini” para obtener a cambio un montaje ultrarrealista (“deepfake”).
Desde el 9 de enero, la función de creación de imágenes fue desactivada para los usuarios que no son de pago en la plataforma.
Aunque ya existen dispositivos que permiten crear imágenes íntimas no consentidas con IA, Grok fue el primero en popularizar esta deriva integrándola directamente en una red social.
El fenómeno se agravó con la aparición de fotografías trucadas en las que se incluía a menores.
Algunos usuarios también utilizaron este bot para generar imágenes sexualizadas de las víctimas del incendio de Crans-Montana, en Suiza, y de la mujer asesinada a manos de la policía migratoria en Mineápolis a principios de enero.
Un análisis realizado la semana pasada por la oenegé AI Forensics sobre más de 20.000 imágenes generadas por Grok reveló que más de la mitad representaban a personas con poca ropa, de las cuales el 81% eran mujeres y el 2% parecían menores.
En Reino Unido, el regulador de seguridad en internet abrió el lunes una investigación contra la red social, que podría desembocar en una multa de hasta el 10% de su facturación mundial. El organismo también podría recurrir a la justicia para bloquear la plataforma.
El primer ministro británico, Keir Starmer, afirmó que “si X no puede controlar a Grok, lo haremos nosotros, y lo haremos rápido”. En su opinión, reservar esta opción a los usuarios de pago “convierte una funcionalidad que permite la creación de imágenes ilegales en un servicio premium” y constituye “una afrenta a las víctimas de la misoginia y de las violencias sexuales”.
En Francia, la ministra a cargo de los asuntos digitales, Anne Le Hénanff, denunció una decisión “insuficiente e hipócrita”, y declaró que “si X puede desactivar esta funcionalidad para los que no están abonados, entonces puede hacerlo para todos”.
La UE anunció haber impuesto a X una medida cautelar a raíz del escándalo. “No externalizaremos la protección infantil y el consentimiento a Silicon Valley. Si ellos no actúan, lo haremos nosotros”, advirtió la presidenta de la Comisión, Ursula von der Leyen.
A principios de enero, la plataforma afirmó que estaba tomando “medidas contra los contenidos ilegales”, especialmente la pornografía infantil, “eliminándolos, suspendiendo de forma permanente las cuentas y colaborando con las autoridades locales”.
Cualquier persona que utilice Grok para “crear contenido ilegal sufrirá las mismas consecuencias que si publicara contenido ilegal”, se defendió la semana pasada Elon Musk en X. También arremetió contra los políticos que reclaman medidas de bloqueo. Para él, los detractores de X y Grok “simplemente quieren suprimir la libertad de expresión”.
En tanto, el fiscal general de California anunció ayer miércoles que abrirá una investigación sobre la proliferación de imágenes de carácter sexual de mujeres y menores de edad producidas con Grok. La investigación se suma a las varias abiertas contra X en varios países tras la difusión imágenes pornográficas falsas creadas con su herramienta de IA.
“No tengo conocimiento de imágenes de menores”
El dueño de X, Elon Musk, negó ayer que la herramienta de inteligencia artificial (IA) de su red social, Grok, haya generado imágenes de menores desnudos. “No tengo conocimiento de ninguna imagen de menores desnudos generada por Grok. Literalmente ninguna”, escribió Musk en su red social. Agregó que Grok solo genera las imágenes que los usuarios le piden y que “se negará a producir cualquier contenido ilegal”.
, situado en el área de extensiones del navegador (en la esquina superior derecha de la pantalla). Es posible que veas un pequeño número cubriendo parte del icono.
, situado en el área de extensiones del navegador (en la esquina superior derecha de la pantalla). Es posible que veas un pequeño número cubriendo parte del icono.
de modo que se deslice hacia la izquierda.
, situado en el área de extensiones del navegador (en la esquina superior derecha de la pantalla). Es posible que veas un pequeño número cubriendo parte del icono.
. Se pondrá en gris, lo que indica que ya no se bloquearán los anuncios de ese sitio web.
.