La Unión Europea investiga el chatbot de IA Grok de Musk por generación de imágenes sexualizadas

Los reguladores de la Unión Europea abrieron el lunes una investigación formal sobre la plataforma de redes sociales de Elon Musk, X, después de que su chatbot de inteligencia artificial, Grok, comenzara a difundir imágenes deepfake sexualizadas no consensuadas en la plataforma.

El escrutinio desde Bruselas se produce después de que Grok provocara una reacción global al permitir a los usuarios, a través de sus herramientas de generación y edición de imágenes de IA, producir imágenes con los rostros de personas reales en las que aparecían mujeres con bikinis transparentes o ropa reveladora. Los investigadores dijeron que algunas imágenes parecían incluir a menores. Algunos gobiernos prohibieron el servicio o emitieron advertencias.

El ejecutivo de la UE, compuesto por 27 naciones, dijo que estaba investigando si X ha hecho lo suficiente, como requieren las regulaciones digitales del bloque, para contener los riesgos de difundir contenido ilegal, como 'imágenes sexualmente explícitas manipuladas'.

Eso incluye contenido que 'puede equivaler a material de abuso sexual infantil', dijo la Comisión Europea. Estos riesgos ahora se han 'materializado', dijo la comisión, exponiendo a los ciudadanos del bloque a 'daños graves'.

Los reguladores examinarán si Grok está cumpliendo con sus obligaciones bajo la Ley de Servicios Digitales, el amplio conjunto de normas del bloque para mantener a los usuarios de internet a salvo de contenido y productos dañinos.

En respuesta a una solicitud de comentarios, una portavoz de X dirigió a The Associated Press a una declaración anterior en la que la compañía afirma que sigue 'comprometida a hacer de X una plataforma segura para todos' y que tiene 'tolerancia cero' para la explotación sexual infantil, la desnudez no consensuada y el contenido sexual no deseado.

La declaración de X del 14 de enero también decía que dejaría de permitir a los usuarios representar a personas en 'bikinis, ropa interior u otra vestimenta reveladora', pero solo en lugares donde sea ilegal.

'Los deepfakes sexuales no consensuados de mujeres y niños son una forma violenta e inaceptable de degradación', afirmó Henna Virkkunen, vicepresidenta ejecutiva de la comisión.

'Con esta investigación, determinaremos si X ha cumplido con sus obligaciones legales bajo la DSA, o si ha tratado los derechos de los ciudadanos europeos, incluidos los de mujeres y niños, como daños colaterales de su servicio', dijo Virkkunen, quien supervisa la soberanía tecnológica, la seguridad y la democracia.

La Comisión también dijo el lunes que está ampliando una investigación separada sobre X para determinar si la plataforma ha estado cumpliendo con los requisitos de la DSA. Esa investigación se abrió en 2023 y aún está en curso. Hasta ahora, ha resultado en una multa de 120 millones de euros (entonces 140 millones de dólares) en diciembre por incumplimientos de los requisitos de transparencia.