Grok: IA desactiva herramienta que permite desnudar a las personas
La decisión se tomó luego de las críticas por la creación de imágenes falsas con contenido sexual de mujeres y menores, elaboradas a partir del retoque de fotografías
Grok, el asistente de inteligencia artificial vinculado a la plataforma X, desactivó su función de generación y edición de imágenes para usuarios que no cuentan con una suscripción de pago. La decisión se tomó luego de las críticas por la creación de imágenes falsas con contenido sexual de mujeres y menores, elaboradas a partir del retoque de fotografías o videos de personas reales.
De acuerdo con respuestas emitidas por el propio sistema, la generación y edición de imágenes quedó limitada a usuarios suscriptores. Esta medida provocó reacciones de autoridades en distintos países, al considerar que la restricción no elimina el problema de fondo, sino que condiciona el acceso a una función que permite producir contenido ilegal.
El gobierno del Reino Unido expresó su inconformidad con la decisión. Un portavoz del primer ministro Keir Starmer señaló que la medida convierte una función asociada a la creación de imágenes ilegales en un servicio de pago, lo que calificó como una falta de consideración hacia las víctimas de misoginia y violencia sexual. Previamente, autoridades británicas habían solicitado a la plataforma implementar soluciones urgentes para frenar la difusión de este tipo de contenido.
TAMBIÉN PUEDES LEER: Sheinbaum busca dialogar con Trump ante declaraciones
En la Unión Europea, la Comisión Europea informó que tomó nota de los cambios aplicados por X, aunque los consideró insuficientes. Su portavoz para Asuntos Digitales indicó que el problema persiste independientemente de si la herramienta se encuentra disponible con o sin suscripción, y reiteró que las plataformas deben diseñar sus sistemas de forma que no permitan la generación de contenido ilegal.
Como parte de las acciones emprendidas, la Comisión Europea anunció la imposición de una medida cautelar contra X relacionada con el caso. Esta incluyó una orden legal que obliga a la empresa a conservar todos los documentos internos vinculados con Grok hasta finales de 2026. La medida se suma a una multa de 120 millones de euros impuesta a la plataforma por incumplimientos a la Ley de Servicios Digitales.
Las críticas se intensificaron tras la circulación de imágenes sexualmente explícitas generadas por la herramienta, lo que derivó en protestas en distintos países. Autoridades europeas y británicas reiteraron su exigencia de que las plataformas adopten mecanismos que impidan la creación y difusión de este tipo de contenidos, en especial cuando involucran a mujeres y menores de edad.
