Grok: X anuncia medidas para restringir imágenes sexualizadas en IA
El anuncio se dio en un contexto de presión internacional, luego de que distintos países señalaran que la herramienta permitió crear imágenes explícitas de mujeres
La plataforma X anunció nuevas medidas para limitar la generación de imágenes sexualizadas a través de Grok, su chatbot de inteligencia artificial desarrollado por la empresa xAI, propiedad de Elon Musk. El anuncio se dio en un contexto de presión internacional, luego de que distintos países señalaran que la herramienta permitió crear imágenes explícitas de mujeres y, en algunos casos, de personas que aparentaban ser menores de edad.
Según informó X, la empresa bloqueará de manera geográfica la opción que permite generar o editar imágenes de personas reales con vestimenta como bikini, ropa interior u otros atuendos similares, en aquellos países donde este tipo de contenido esté prohibido por la ley. El equipo de seguridad de la plataforma señaló que se implementaron medidas tecnológicas para impedir la edición de imágenes de personas reales con ropa reveladora.
La decisión se dio después de que la fiscalía de California iniciara una investigación contra xAI. De acuerdo con el fiscal general del estado, Rob Bonta, la indagatoria busca determinar si la empresa facilitó la producción masiva de montajes íntimos no consentidos, conocidos como deepfakes, los cuales habrían sido utilizados para acosar a mujeres y niñas a través de internet, principalmente en X.
TAMBIÉN PUEDES LEER: Grok: IA desactiva herramienta que permite desnudar a las personas
A nivel internacional, Filipinas anunció el bloqueo de Grok, convirtiéndose en el tercer país en prohibir el chatbot, después de Malasia e Indonesia. El jefe de delitos cibernéticos de Filipinas informó que el bloqueo entraría en vigor de manera inmediata y precisó que las nuevas medidas anunciadas por X no modifican la decisión del gobierno filipino. En tanto, autoridades de Reino Unido y Francia solicitaron que la plataforma respete sus respectivas legislaciones.
De acuerdo con un análisis de la organización AI Forensics, realizado sobre más de 20 mil imágenes generadas por Grok, más de la mitad mostraban a personas con poca ropa. Según ese informe, el 81 por ciento de las imágenes correspondían a mujeres y alrededor del 2 por ciento parecían representar a menores de edad. La comisionada francesa para la infancia informó que el caso fue turnado a la fiscalía, al regulador de medios y a instancias de la Unión Europea.
En paralelo, una coalición de 28 organizaciones civiles envió cartas a Apple y Google para solicitar que se evalúe la permanencia de Grok y X en sus tiendas de aplicaciones. Mientras tanto, xAI informó que las funciones de generación y edición de imágenes quedaron limitadas a usuarios con suscripción de pago, como parte de los ajustes anunciados.
