LONDRES, 12 ene (Reuters) – El regulador de medios de Gran Bretaña inició el lunes una investigación sobre X de Elon Musk para determinar si los deepfakes sexualmente íntimos producidos por su chatbot Grok AI violaron su deber de proteger a las personas en el Reino Unido de contenido que podría ser ilegal.
“Ha habido informes profundamente preocupantes sobre el uso de la cuenta del chatbot Grok AI en X para crear y compartir imágenes de personas desnudas, lo que puede constituir demasía de imágenes íntimas o pornografía, e imágenes sexualizadas de niños que pueden constituir material de demasía sexual inmaduro”, dijo Ofcom en un comunicado.
El regulador está bajo presión para representar a posteriori de que el primer ministro Keir Starmer dijera que las imágenes producidas por Grok eran “repugnantes” e “ilegales”.
La X de Musk tuvo que “controlar” a Grok, dijo Starmer el jueves, añadiendo que Ofcom contaba con todo el apoyo del gobierno para tomar medidas.
Crear o compartir imágenes íntimas no consensuadas o material de demasía sexual inmaduro, incluidas imágenes sexuales generadas por IA, es ilegal en Gran Bretaña.
Adicionalmente, las plataformas tecnológicas deben evitar que los usuarios británicos encuentren contenido ilegal y eliminarlo una vez que se den cuenta de ello.
X ha enfrentado condenas en otros países por su característica, que “puede producir imágenes de mujeres y menores con ropa diminuta”.
Los funcionarios franceses han denunciado X en presencia de fiscales y reguladores, calificando el contenido de “manifiestamente ilegal”, mientras que las autoridades indias igualmente han preciso explicaciones.
X ha restringido la función a usuarios de suscripción. La semana pasada dijo que elimina todo el contenido ilegal de la plataforma y suspende permanentemente las cuentas involucradas.
“Cualquier persona que use o incite a Grok a crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”, decía.
Cuando se le preguntó sobre el tema recientemente, xAI dijo a Reuters: “Legacy Media Lies”.
Ofcom investigará si X no evaluó el peligro de que las personas en Gran Bretaña vieran contenido ilegal y si “consideró el peligro” para los niños.
Ofcom dijo que en los casos más graves de incumplimiento podría pedir a un tribunal que exija a “los proveedores de pagos o a los anunciantes que retiren sus servicios de una plataforma”, o hacer que los proveedores de servicios de Internet bloqueen el entrada a un sitio en Gran Bretaña.
X no respondió de inmediato a una solicitud para comentar sobre la investigación de Ofcom.
(Reporte de Sam Tabahriti y Paul Sandle, escrito por William James; editado por Kate Holton)