La plataforma de redes sociales X anunció que comenzó a bloquear a Grok, el chatbot de inteligencia artificial creado por Elon Musk, para que no genere imágenes sexualizadas y desnudas de personas reales.
La medida se produce en medio de la indignación mundial por las imágenes explícitas generadas por IA que han inundado X. En la última semana, los reguladores de todo el mundo han abierto investigaciones sobre Grok y algunos países han prohibido la aplicación.
El miércoles por la mañana, investigadores de California afirmaron estar investigando si Grok había violado las leyes estatales. Ofcom, el organismo independiente británico de control de la seguridad en línea, abrió una investigación sobre Grok el lunes.
“Este es un avance positivo”, declaró el regulador británico el jueves en un comunicado en respuesta a las nuevas restricciones impuestas a Grok. “Sin embargo, nuestra investigación formal continúa”.
Si se descubre que X ha violado la ley británica y se niega a cumplir con las solicitudes de acción de Ofcom, el regulador tiene el poder, si es necesario, de buscar una orden judicial que impida a los proveedores de pagos y anunciantes trabajar con X.
X dijo en un comunicado el miércoles que utilizaría “geobloqueo” para impedir que Grok cumpla con las solicitudes de dichas imágenes en jurisdicciones donde dicho contenido fuera ilegal.
Las restricciones no parecieron abarcar a la aplicación y el sitio web independientes de Grok, fuera de X. Grok y X son propiedad de xAI. X no respondió a una solicitud de comentarios.
“Seguimos comprometidos a hacer de X una plataforma segura para todos y continuamos teniendo tolerancia cero ante cualquier forma de explotación sexual infantil, desnudez no consentida y contenido sexual no deseado”, afirma el comunicado.
La semana pasada, X anunció que había limitado la capacidad de generación de imágenes de Grok a los suscriptores, quienes pagarían una prima por la función. Sin embargo, esto no logró apaciguar a los reguladores internacionales. Indonesia y Malasia han prohibido el chatbot, y la Unión Europea ha abierto investigaciones sobre sus deepfakes explícitos.
Ursula von der Leyen, presidenta de la Comisión Europea, el órgano ejecutivo de la Unión Europea, ha criticado duramente esta tecnología. “Me horroriza que una plataforma tecnológica permita a los usuarios desnudar digitalmente a mujeres y niños en línea. Es un comportamiento inconcebible”, declaró a los medios de comunicación europeos a principios de este mes. “Y el daño que esto causa es muy real”.
La Unión Europea cuenta con herramientas poderosas para monitorear y frenar dicha actividad, incluida la Ley de Servicios Digitales, que obliga a las grandes empresas tecnológicas a monitorear el contenido publicado en sus plataformas, o enfrentar consecuencias que incluyen multas importantes.
Estas regulaciones son a menudo criticadas por la administración Trump, que ha argumentado que las reglas digitales de la Unión Europea equivalen a censura y discriminan injustamente a las grandes empresas tecnológicas estadounidenses.
Los reguladores de la Unión Europea han ordenado a Grok que conserve los documentos relacionados con el chatbot mientras investiga la creación de imágenes sexuales.
Poseer o compartir imágenes sexuales de menores es ilegal en muchos países, y algunos incluso prohíben las imágenes sexuales de menores generadas por IA.
Varios países, incluidos Estados Unidos y el Reino Unido, también han promulgado leyes contra la difusión de imágenes de desnudos no consentidos, a menudo denominadas “porno de venganza”. La política de X prohíbe a los usuarios publicar “fotos o vídeos íntimos de alguien producidos o distribuidos sin su consentimiento”. Ali Watkins / The New York Times
, situado en el área de extensiones del navegador (en la esquina superior derecha de la pantalla). Es posible que veas un pequeño número cubriendo parte del icono.
, situado en el área de extensiones del navegador (en la esquina superior derecha de la pantalla). Es posible que veas un pequeño número cubriendo parte del icono.
de modo que se deslice hacia la izquierda.
, situado en el área de extensiones del navegador (en la esquina superior derecha de la pantalla). Es posible que veas un pequeño número cubriendo parte del icono.
. Se pondrá en gris, lo que indica que ya no se bloquearán los anuncios de ese sitio web.
.