Por María José Motta*
CIBEREXPLOTACIÓN SEXUAL INFANTIL: UN DESAFÍO JURÍDICO EN LA ERA DE LA INTELIGENCIA ARTIFICIAL
Introducción
El desarrollo acelerado de la inteligencia artificial (IA) ha planteado desafíos sin precedentes en la creación de material de abuso sexual infantil (MASI). Esta nueva forma de explotación digital no solo implica la generación de contenido que simula la participación de menores en actos sexuales, sino que también presenta dificultades profundas para el sistema jurídico, que debe adaptarse a realidades tecnológicas jamás imaginadas. Este artículo se propone analizar cómo la IA intensifica la problemática del MASI, evaluar el vacío legal en la legislación argentina y presentar propuestas de reforma que fortalezcan la respuesta del Estado frente a este fenómeno.
Ampliación de la problemática a través de la IA
La capacidad de la IA para producir imágenes y videos hiperrealistas ha transformado el panorama del MASI. Los algoritmos, especialmente a través de técnicas como el deep learning y las redes generativas adversarias (GANs), permiten la creación de contenidos sin la necesidad de víctimas reales, lo que complica la identificación legal y el enjuiciamiento de los responsables. Este material, a menudo indistinguible del contenido real, plantea preguntas difíciles sobre la naturaleza del daño y la responsabilidad.
Además, la capacidad de distribución rápida a través de plataformas digitales potencia la proliferación del MASI, convirtiéndolo en un desafío global que trasciende fronteras. Esta facilidad de difusión también se traduce en un riesgo de normalización de la explotación sexual infantil, donde la exposición repetida a este tipo de contenido puede desensibilizar a los individuos y erosionar las barreras éticas y legales en torno al abuso infantil.
El marco legal actual y sus limitaciones
El artículo 128 del Código Penal Argentino, que sanciona la producción y distribución de material pornográfico infantil, no contempla expresamente la creación de contenido mediante IA. Esto genera una vulnerabilidad en el sistema legal, permitiendo que aquellos que utilizan tecnología avanzada para generar MASI escapen a la sanción penal. En este contexto, es fundamental adoptar una interpretación extensiva de este artículo para incorporar el término "ciberexplotación sexual infantil", que abarque tanto el contenido generado por IA como el material tradicionalmente considerado como MASI. Dicha inclusión debería reflejar una visión moderna del abuso sexual infantil, que reconozca no solo a las víctimas directas, sino también el impacto de la generación de contenido que puede contribuir a la normalización de la explotación.
Propuestas de reforma para una respuesta efectiva
1. Inclusión expresa de contenido generado por IA en el Código Penal: La legislación debe ser actualizada para especificar que el uso de IA para crear MASI es punible. Esto implica no solo sancionar a quienes producen contenido abusivo, sino también a aquellos que distribuyen o poseen dicho material. La extensión de la responsabilidad penal a incluir imágenes generadas digitalmente es esencial para cerrar las lagunas legales existentes.
2. Responsabilidad proactiva de las plataformas digitales: Las plataformas tecnológicas deben ser obligadas a implementar sistemas robustos de detección y eliminación de contenido ilegal. Esta responsabilidad incluye formación y recursos para garantizar que puedan identificar y actuar frente a contenido que sexualice a menores. Las legislaciones comparadas muestran que el establecimiento de penalidades para estas plataformas puede ser efectivo para fomentar la diligencia necesaria.
3. Aumento de penas y agravantes: Proponer un aumento en las penas por delitos relacionados con MASI generado por IA. Especialmente donde se utilizan imágenes de menores reales manipuladas digitalmente, las sanciones deben ser severas, reflejando la gravedad del daño causado. La consideración de factores agravantes es crucial para disuadir la producción y distribución de este tipo de contenido.
4. Desarrollo de normas que reconozcan la violencia simbólica: Establecer un marco jurídico que contemple el uso de imágenes manipuladas digitalmente como una forma de violencia simbólica, reconociendo así el daño que puede infligir sobre los menores cuyos rostros son utilizados. Esto contribuiría a una protección más amplia y efectiva de los derechos de los niños en el contexto digital
Responsabilidad penal y civil en el uso de IA
La determinación de responsabilidad en el contexto del MASI generado por IA es compleja. La responsabilidad penal por la creación y distribución de este material debe extenderse a todos los actores involucrados, desde los desarrolladores de la tecnología hasta los usuarios finales. Esto incluye no solo a quienes crean el material, sino también a quienes lo comparten o lo poseen sin consideración de su origen. Las reformas legales deben contemplar la dificultad inherente de probar la intención detrás de la creación de contenido, por lo que es esencial que el marco legal prevea explícitamente la responsabilidad compartida.
A nivel civil, es crucial establecer mecanismos de reparación para aquellos cuyas imágenes han sido utilizadas sin autorización. Esto debería incluir la posibilidad de que tutores legales de menores que hayan sido manipulados digitalmente puedan demandar por daños y perjuicios. La violencia simbólica que representa la manipulación de imágenes de niños debe ser reconocida legalmente, y se deben permitir acciones en contra de quienes utilizan estas imágenes para producir contenido ilegal. responsabilidad civil por los daños generados.
Además de la responsabilidad penal, el uso de IA para crear material abusivo también puede generar responsabilidad civil, especialmente en aquellos casos en que se utilicen imágenes de menores reales que son manipuladas digitalmente. Aunque el contenido final puede no representar a una víctima real, el uso no autorizado de la imagen de un menor, modificado o no, constituye una violación a su derecho a la imagen y a la dignidad, que pueden ser reparados mediante la vía civil. En este sentido, los padres o tutores de los menores afectados podrían entablar demandas por daños y perjuicios en virtud del artículo 1770 del Código Civil y Comercial de la Nación, que establece la responsabilidad civil por el daño causado por la utilización de la imagen o el nombre de una persona sin su consentimiento. Asimismo, la Ley de Protección Integral de los Derechos de los Niños, Niñas y Adolescentes (Ley 26.061) refuerza el principio de que los menores tienen derecho a su integridad física, psíquica y moral, lo que abre la puerta a la reparación civil en casos de manipulación de su imagen. Además de la reparación directa a las víctimas indirectas, es posible que las plataformas tecnológicas, en calidad de intermediarios, sean consideradas responsables civilmente si no cumplen con su deber de eliminar rápidamente el contenido ilegal. Si bien estas plataformas podrían alegar que no son responsables por el contenido generado por terceros, el principio de culpa invigilando; puede extender su responsabilidad a los casos en que no implementen medidas adecuadas para impedir la difusión de contenido ilícito. Esto sería especialmente relevante si las plataformas no cumplen con los estándares mínimos de diligencia debida en la detección y eliminación de contenido abusivo.
La Necesidad de colaboración internacional
Dado que el MASI generado por IA a menudo trasciende fronteras nacionales, es imperativo fomentar la cooperación internacional en la lucha contra esta problemática. La legislación argentina debe alinearse con convenios internacionales que exigen la protección de los derechos de los niños frente a la explotación y el abuso. Esto incluye la ratificación y aplicación de tratados como el Protocolo Facultativo de la Convención sobre los Derechos del Niño.
Además, es vital establecer redes de cooperación entre jurisdicciones para la detección y enjuiciamiento de delitos relacionados con MASI. Las autoridades deben colaborar con organizaciones internacionales y agencias de aplicación de la ley para compartir inteligencia y recursos, promoviendo una respuesta globalizada y efectiva contra el uso ilícito de la IA en la explotación infantil.
Reflexiones finales
La capacidad de la inteligencia artificial para generar contenido altamente realista presenta un desafío significativo para el marco legal argentino. Las reformas sugieren la necesidad de un enfoque integral que no solo aborde la producción y distribución de MASI, sino que también considere el impacto en las víctimas indirectas, la necesidad de una rápida eliminación del contenido ilegal y la protección de la dignidad de los menores.
La creación de un entorno legal que contemple las realidades de la IA es esencial para garantizar que los responsables sean llevados ante la justicia y que se protejan eficientemente los derechos de los niños en un mundo digital cada vez más complejo. Debemos actuar con urgencia para actualizar nuestra legislación y nuestras prácticas, asegurando que la inteligencia artificial no se convierta en una herramienta para la perpetuación del abuso infantil, sino más bien en un aliado en la lucha por la justicia y la protección de los más vulnerables.
Notas
1. Anderson, M. (2022). La inteligencia artificial en la jurisprudencia moderna. Oxford University Press.
2. Brown, T. J. y Hall, S. (2021). El impacto de la inteligencia artificial en el sistema penal. Revista de Tecnología y Derecho, 12(1), 45-62.
3. Fernández, P. (2020). La protección de los derechos infantiles en el entorno digital. Revista de Protección de Menores, 27(2), 159-180.
4. Martínez, J. y Ramos, P. (2021). El papel de las tecnologías avanzadas en la explotación infantil. Informe Anual de Derechos Humanos. Naciones Unidas.
5. Protocolo Facultativo de la Convención sobre los Derechos del Niño, ratificado por Argentina.
* Abogada especialista en cibercrimen y evidencia digital. UBA. Diplomada en litigación penal. UCES. Diplomada en IA. CEUPE
Si desea participar de nuestra «Sección Doctrina», contáctenos aquí >>
