Adolescentes oriundas de San Francisco, en Estados Unidos, iniciaron acciones legales contra xAI, la empresa de inteligencia artificial propiedad de Elon Musk. La demanda sostiene que el sistema Grok utilizó fotografías suyas para generar imágenes pornográficas sin su consentimiento.
El conflicto legal surge tras una polémica masiva a principios de año, cuando un informe reveló la capacidad de la IA para producir contenido explícito. Según los datos recolectados, el software generó cerca de 3 millones de archivos sexuales en una semana, de los cuales 23.000 correspondían a menores de edad.
La gravedad de los hechos quedó reflejada en el testimonio de una de las familias afectadas por la viralización del material. “Ver a mi hija sufrir un ataque de pánico al darse cuenta de que esas imágenes habían sido creadas y difundidas sin ninguna esperanza de borrarlas fue desgarrador”, expresó la madre de una de las denunciantes.
Las representantes legales de las víctimas señalaron una supuesta intencionalidad en el desarrollo del producto para maximizar beneficios. En un comunicado oficial, las abogadas afirmaron: “xAI diseñó deliberadamente Grok para producir contenidos sexualmente explícitos con fines lucrativos“, sin implementar protecciones contra la pornografía infantil.
La demanda detalló secuelas psicológicas severas en las víctimas, tales como pesadillas recurrentes, miedo a asistir a eventos escolares y necesidad de asistencia médica para conciliar el sueño. El escrito enfatiza el impacto negativo y persistente de este modelo de IA permisivo sobre la salud mental de las adolescentes.
Si bien la firma de Musk restringió posteriormente las funciones que permitían estos contenidos, la intervención resultó insuficiente para frenar el daño. Para el momento de las reformas técnicas, una gran parte del material ya circulaba de forma viral en diversas plataformas de internet.
Fuente: C5N
