El Gobierno de España está preparando una reforma del Código Penal para reforzar la protección de los menores en entornos digitales. Este proyecto de ley, que se espera sea aprobado por el Consejo de Ministros el martes 25 de marzo de 2025, introduce nuevas figuras delictivas para abordar amenazas como los montajes denigrantes realizados con inteligencia artificial (IA) y el grooming.
Una de las principales novedades es la tipificación específica de los deepfakes, que son imágenes o audios manipulados tecnológicamente para simular situaciones sexuales o gravemente vejatorias. La reforma sancionará a quienes, sin autorización de la persona afectada y con el ánimo de menoscabar su integridad moral, difundan, exhiban o cedan su imagen o voz generada o modificada mediante sistemas automatizados, software, algoritmos, IA u otras tecnologías, de modo que parezca real.
Además, se abordará el grooming, penalizando la creación de identidades falsas con el propósito de engañar a menores para la comisión de delitos sexuales. Se incorporarán penas de prohibición de acceso o comunicación a través de redes sociales y otras plataformas digitales para prevenir la reincidencia y la revictimización. También se elevará la edad mínima para abrir una cuenta en redes sociales de 14 a 16 años, y se exigirá a los fabricantes de dispositivos digitales que incluyan sistemas de control parental.
A nivel internacional, varios países han implementado medidas legislativas similares para combatir los deepfakes y proteger a los menores:
- Estados Unidos: Aunque no existe una legislación federal específica sobre deepfakes, algunos estados han tomado medidas. Por ejemplo, en 2024, el Senado de Pensilvania aprobó una ley que penaliza la creación y distribución de imágenes falsas de menores generadas por IA, con el objetivo de combatir la pornografía infantil deepfake. Además, se han introducido proyectos de ley como la «DEEP FAKES Accountability Act», que busca prohibir la creación de contenidos deepfake con la intención de difamar o desacreditar mediante representaciones de desnudos o actividades sexuales.
- Reino Unido: En 2023, el Reino Unido aprobó la Ley de Seguridad en Línea, que tipifica como delito la creación y distribución de deepfakes sin el consentimiento de la persona afectada, especialmente cuando se trata de contenido sexual explícito.
- China: Desde 2020, China exige que los contenidos generados mediante tecnologías de síntesis profunda, como los deepfakes, lleven una clara advertencia sobre su falsedad. La falta de cumplimiento puede considerarse un delito, y tanto los usuarios como las plataformas de video en línea pueden ser procesados si no cumplen con las normas.
- Unión Europea: La UE ha trabajado en el Acta de Inteligencia Artificial, que aborda, entre otros temas, la regulación de los deepfakes. Esta legislación clasifica las aplicaciones de IA según su riesgo y establece obligaciones para los proveedores y usuarios de sistemas de IA, buscando proteger a los ciudadanos de posibles abusos y garantizar un uso ético de estas tecnologías.
Imagen creada con inteligencia artificial.
- El País (2025, 22 de marzo):
🔗 https://elpais.com/espana/2025-03-22/el-gobierno-anadira-nuevos-delitos-en-el-codigo-penal-para-castigar-los-montajes-con-ia-que-afecten-a-menores.html - Senado de Pensilvania – Legislación contra deepfakes con menores (2024):
🔗 https://pasenate.com/es/pennsylvania-senate-passes-legislation-to-combat-ai-generated-deepfake-images-of-minors/ - SciELO México – El fenómeno de los deepfakes y su regulación:
🔗 https://www.scielo.org.mx/scielo.php?pid=S2448-51362024000200359&script=sci_arttext - Wikipedia – Deepfake y legislación global:
🔗 https://en.wikipedia.org/wiki/Deepfake - Financial Times – The legal battle against explicit AI deepfakes:
🔗 https://www.ft.com/content/e2fa34b2-6987-494d-a81a-1bdb6693671f - Reuters – Spain to impose massive fines for not labelling AI-generated content (2025):
🔗 https://www.reuters.com/technology/artificial-intelligence/spain-impose-massive-fines-not-labelling-ai-generated-content-2025-03-11/ - Cadena SER – El Gobierno aprueba la ley para el «buen uso y la gobernanza» de la IA (2025):
🔗 https://cadenaser.com/nacional/2025/03/11/el-gobierno-aprueba-la-ley-para-el-buen-uso-y-la-gobernanza-de-la-inteligencia-artificial-cadena-ser/