El Gobierno reclama a la Fiscalía que investigue a las redes sociales por difundir pornografía infantil con sus IA: “La impunidad de los gigantes debe acabar”

En un paso más en su batalla contra la impunidad de las grandes tecnológicas, el Consejo de Ministros ha decidido pedirle a la Fiscalía General del Estado que ponga en marcha su maquinaria para ponerle coto a la creación y difusión de pornografía infantil con herramientas de inteligencia artificial (IA) en redes sociales. De este modo, el Gobierno avanza en una de las cinco medidas que había anunciado el presidente Pedro Sánchez para poner coto a los problemas provocados por las plataformas tecnológicas. “No podemos permitir, a través del algoritmo, que se pueda amplificar o amparar todo esto”, ha advertido la portavoz del Gobierno, Elma Saiz, en la rueda de prensa posterior al Consejo de Ministros en el que se ha aprobado esta medida. El Ejecutivo considera que la confluencia entre la IA generativa y las redes sociales ha creado un ecosistema de riesgo en el que ha proliferado la promoción y distribución de contenidos sexuales y pornográficos.

“Está en juego la seguridad de nuestros hijos, de nuestras hijas, la protección de su imagen, de su intimidad y de su libertad”, ha añadido Saiz. Según ha explicado la portavoz, el ministro de Justicia, Félix Bolaños, se va a dirigir a la Fiscalía con un informe en el que se muestra lo que pasa en otros países. “Damos un paso más para garantizar los derechos de la infancia en redes sociales”, ha dicho la ministra de Juventud e Infancia, Sira Rego, en Bluesky, red social competencia de X.

El presidente del Gobierno, Pedro Sánchez, había anunciado la puesta en marcha de esta medida para que se investiguen los posibles delitos que las plataformas digitales “podrían estar cometiendo por la creación y difusión de pornografía infantil mediante sus IA”, en referencia a estos programas capaces de crear imágenes sexualizadas de menores (deepfakes). Se trata de una de las cinco medidas que el propio Sánchez anunció el 3 de febrero en Dubái contra las redes sociales, que “se han convertido en un Estado fallido, en el que se ignoran las leyes y se toleran los delitos”, según expresó.

“Estas plataformas están atentando contra la salud mental, la dignidad y los derechos de nuestros hijos e hijas. El Estado no lo puede permitir. La impunidad de los gigantes debe acabar”, ha escrito este martes el presidente en su cuenta de la red social X, una de las plataformas contra las que pretende actuar.

El Centro para Contrarrestar el Odio Digital publicó un estudio sobre las imágenes que generó Grok, la IA de Elon Musk, en unos pocos días (entre el 29 de diciembre y el 8 de enero): los usuarios que usaron esa herramienta crearon tres millones de imágenes de contenido sexual explícito, de las que al menos 23.000 mostraban a menores. Más del 90% de esos vídeos falsos e imágenes hiperrealistas suelen afectar a mujeres y niñas, según diversos estudios, como sucedió en el caso de las menores sexualizadas con estos programas en un instituto de Almendralejo.

Lo que hace el Consejo de Ministros es instar a la fiscal general del Estado, Teresa Peramato, a investigar esos posibles delitos de pornografía infantil y violencia sexual digital a través del Ministerio de la Presidencia. Así, el Gobierno pedirá que “ejerza las acciones penales que considere oportunas y establezca criterios de actuación y mecanismos que permitan a las víctimas, así como a sus tutores y representantes legales” defender sus derechos ante la Fiscalía.

El artículo mencionado por Sánchez, el 8 del Estatuto Orgánico del Ministerio Fiscal, establece que “el Gobierno podrá interesar del fiscal general del Estado que promueva ante los tribunales las actuaciones pertinentes en orden a la defensa del interés público”. Una vez recibida la comunicación, Peramato tendrá que convocar a la Junta de Fiscales de Sala para que emita su opinión, aunque no será vinculante, dado que la última palabra la tiene la propia jefa del Ministerio Público, informa Rocío Martínez.

En la misiva dirigida a la Fiscalía, se argumenta que la responsabilidad de los delitos cometidos va más allá de los usuarios individuales de las redes que los cometen, “sino que también podría haber responsabilidad penal dentro de las plataformas por el dominio que ejercen sobre los contenidos”, señala el Gobierno. Con esto, se refiere a las propias herramientas de inteligencia artificial integradas en ellas, como Grok en X y Meta AI, y al modo en que los algoritmos de esas plataformas favorecen unos contenidos sobre otros.

El Gobierno enmarca esta decisión, que se apoya en un informe técnico elaborado conjuntamente por los ministerios de Presidencia, Transformación Digital y Juventud, en la necesidad de combatir “la impunidad” presente en las redes. Así, se refiere a “un entorno digital que considera caracterizado por la impunidad y la tolerancia hacia prácticas delictivas que ponen en riesgo la intimidad, la imagen y la libertad de los menores”.

El Ejecutivo se suma así a una corriente internacional de actuaciones contra las grandes plataformas tecnológicas. Hace dos semanas, la Fiscalía francesa registró la sede parisina de X y pidió la comparecencia de su dueño, el magnate Elon Musk, mientras la Comisión Europea está investigando a Meta, TikTok y la inteligencia artificial Grok bajo el reglamento de servicios digitales.

El mismo día del registro parisino de X, Sánchez anunció en Dubái que el Gobierno prohibirá el acceso a las redes sociales a los menores de 16 años, por las implicaciones que tiene para su salud mental el estar expuestos a contenidos nocivos. Por ello, anunció el impulso a la medida de prohibir el acceso a los menores de 16 a las plataformas, que está actualmente en tramitación en el Congreso. “Les protegeremos del salvaje Oeste digital”, dijo.

De las otras cinco medidas propuestas por Sánchez, dos tienen un carácter más jurídico o judicial: legislar para que se pueda actuar contra los directivos de las grandes tecnológicas por “las múltiples violaciones que tienen lugar en sus plataformas”; e introducir el delito de manipulación de algoritmos. Las otras dos son de carácter más técnico: la restricción del acceso de los menores a las redes y la puesta en marcha de un sistema para monitorizar los discursos tóxicos en redes, una “huella de odio y polarización que seguirá, cuantificará y revelará cómo las plataformas digitales alimentan la división y amplifican el odio”, en palabras de Sánchez.