La plataforma X de Elon Musk anunció medidas para impedir que su chatbot de inteligencia artificial Grok transforme fotos de personas reales en imágenes con carácter sexual, tras críticas globales por la generación de ese tipo de contenido de mujeres y niños.
El anuncio llega después de que la fiscalía de California iniciara una investigación sobre xAI, la empresa de IA de Musk, por “facilitar la producción a gran escala de montajes íntimos no consentidos (deepfakes), utilizados para acosar a mujeres y niñas en internet, principalmente vía la red social X”-
El fiscal general del estado, Rob Bonta, afirmó: “Tenemos tolerancia cero para la creación y difusión con IA de imágenes íntimas no consentidas o material pedopornográfico”.
Bonta dijo que la investigación determinará si xAI violó la ley estatal después de que las imágenes explícitas fueran “utilizadas para acosar a personas en Internet”.
X respondió que “bloqueará geográficamente la capacidad” de todos los usuarios de Grok y X para crear imágenes de personas en “bikinis, ropa interior y atuendos similares” en aquellas jurisdicciones donde esas acciones se consideren ilegales.
Como “una capa adicional de protección”, la creación de imágenes y la posibilidad de editar fotos a través de la cuenta Grok de X ahora solo estaba disponible para suscriptores de pago, añadió.
Desde finales de diciembre una función gratuita de Grok permitía remover digitalmente la vestimenta en fotografías publicadas. Usuarios abusaron de ello y generaron imágenes sexualizadas de mujeres, hombres y presuntamente menores de edad.
Aquí en México varias mujeres resultaron afectadas por esta herramienta, se generaron fotos sexuales de ellas sin su consentimiento y ahora exigen que sean eliminadas de todas las redes sociales donde se hayan difundido. La policía cibernética ha recibido varios reportes por el uso indebido de Grok.
Países como Malasia, Indonesia y el Reino Unidos han tomado medidas contra Grok, incluido su bloqueo temporal.