Motta, deepfakes e IA...

Por María José Motta*

DEEPFAKES E INTELIGENCIA ARTIFICIAL EN ARGENTINA: REFLEXIONES JURÍDICAS Y ÉTICAS 

Introducción

En la era digital, la inteligencia artificial (IA) ha revolucionado la manera en que interactuamos con la información y el contenido visual. Sin embargo, este avance trae consigo no solo oportunidades, sino también desafíos legales y éticos significativos, siendo los deepfakes una de las manifestaciones más preocupantes de estas tecnologías. Se entiende por deepfake a la técnica que emplea el aprendizaje profundo para crear contenido audiovisual manipulado que resulta indistinguible de la realidad.
Esta evolución tecnológica ha suscitado un creciente interés y preocupación en la comunidad jurídica, ya que su uso indebido puede dar lugar a violaciones de derechos fundamentales, poner en riesgo la integridad personal y socavar la confianza pública en las instituciones democráticas. En este marco, es imperativo analizar de manera exhaustiva el impacto de los deepfakes en el derecho argentino y la necesidad de una respuesta regulatoria adaptativa y efectiva que contemple tanto los aspectos jurídicos como los éticos. 

Los Deepfakes en el Derecho Argentino: Un Desafío Urgente

- Breve Introducción Técnica
El auge de los deepfakes se basa en el uso de redes neuronales generativas antagónicas (GANs). Este enfoque consiste en dos modelos que compiten entre sí: uno genera contenido falso, mientras que el otro lo evalúa para mejorar su realismo. La capacidad de estos modelos para aprender y adaptarse convierte a los deepfakes en herramientas extremadamente sofisticadas, capaces de engañar incluso a los observadores más entrenados. La dificultad para detectar estas manipulaciones plantea severos interrogantes sobre la autenticidad de los contenidos y la integridad de la información, llevando al ámbito jurídico a una encrucijada donde se demandan respuestas adecuadas.

- Derechos Vulnerados
La proliferación de los deepfakes en Argentina genera serias preocupaciones respecto a la violación de derechos fundamentales, que incluyen, pero no se limitan a:

• Derecho a la Privacidad (art. 19 de la Constitución Nacional): Este derecho protege la esfera privada del individuo, permitiéndole controlar la divulgación de su imagen y voz. La utilización de deepfakes, que a menudo implica el uso no consentido de estos elementos personales, es una grave transgresión a este derecho fundamental y puede resultar en daños irreparables.
• Derecho a la Imagen (art. 53 del Código Civil y Comercial): Este artículo establece que cada persona tiene control sobre el uso de su imagen. Los deepfakes que alteran o manipulan la imagen de un individuo sin autorización son una infracción clara y directa a este derecho, exponiendo a las personas a situaciones de ridiculización o algún otro perjuicio.
• Derecho al Honor y a la Reputación (art. 52 del Código Civil y Comercial): Los deepfakes pueden difundir información falsa que afecte el honor y la reputación de un individuo, constituyendo una violación a su dignidad y a la protección de la imagen pública que poseen.
• Derecho a la Propiedad Intelectual: El uso de deepfakes para producir o distribuir obras originales sin el debido respeto a los derechos de autor plantea un grave problema para los creadores de contenido. Esta cuestión es crítica, ya que afecta no solo el reconocimiento de los derechos de los artistas, sino también su sustento económico.

Deepfakes y Responsabilidad Penal

El Código Penal argentino carece de normativas específicas que aborden directamente los deepfakes, creando un vacío que podría ser explotado por delincuentes. Sin embargo, diversas conductas vinculadas a la creación y difusión de deepfakes pueden encuadrarse dentro de figuras penales existentes:

• Usurpación de Identidad (art. 139): Este delito se encuentra presente cuando un deepfake se utiliza para suplantar la identidad de otra persona, generando engaños y fraudes. Este es un aspecto crucial de las implicaciones penales de los deepfakes que demanda atención regulatoria.
• Extorsión (art. 168): La utilización de deepfakes como herramienta de chantaje se ha vuelto más común en casos de sextorsión, donde se amenaza a las víctimas con la divulgación de contenido ínti mo fabricado o manipulado. Estas conductas no solo son moralmente reprochables, sino que también encuentran encuadre en figuras penales existentes que requieren una respuesta contundente.
• MASI (art. 128): La manipulación de imágenes, incluso de naturaleza ficticia, que involucren a menores en contextos inapropiados puede ser catalogada como pornografía infantil. Esta categorización conlleva implicaciones penales severas y resalta la urgencia de una regulación que contemple y califique la producción y distribución de contenido de deepfakes que afecten a menores.
• El fenómeno de los deepfakes presenta riesgos considerables no solo en la protección de derechos individuales, sino también en la preservación de la confianza social. Un ejemplo prominente de esto son los casos en los que se crean y difunden imágenes o videos manipulados de figuras públicas en contextos que pueden generar escándalos o desinformación, afectando a la salud del discurso público y la estabilidad de las instituciones políticas.

Desafíos en la Regulación

La falta de un marco normativo específico enfocado en los deepfakes presenta múltiples desafíos para el sistema legal argentino:
Brechas Normativas: La legislación actual es insuficiente para abordar las particularidades de los deepfakes. Un marco normativo específico tendría que considerar quiénes son los responsables de la generación, difusión y aprobación de este contenido, así como las repercusiones frente a la identidad personal.
Dificultades en la prueba: La naturaleza de los deepfakes plantea un reto significativo para el sistema judicial en términos de autenticidad. La carga de la prueba sobre la falsedad de un contenido recae frecuentemente sobre la víctima, dificultando las acusaciones y dejando a quienes han sido afectados en una posición desventajosa.
Intencionalidad y Uso Legítimo: Es crucial diferenciar entre los usos legítimos de deepfakes (por ejemplo, en la industria del entretenimiento) y los usos malintencionados. Regulaciones que prohíban completamente esta tecnología podrían limitar la innovación en campos creativos, lo que plantea la necesidad de un enfoque matizado que no frene el avance artístico y tecnológico.
Responsabilidad de las plataformas: Las plataformas digitales son a menudo los vehículos de difusión de deepfakes. La falta de claridad en su responsabilidad legal puede resultar en un entorno donde el contenido dañino circula sin limitaciones. Es necesario definir claramente los deberes de las plataformas en la moderación y eliminación de este tipo de contenido tras enfrentar notificaciones. 

Ejemplos Internacionales de Regulación

La respuesta de varios países ante el desafío que representan los deepfakes muestra la variedad de enfoques legales que pueden ser adoptados:

• Unión Europea: A través del Reglamento General de Protección de Datos (GDPR), se prohíbe el tratamiento de datos biométricos sin consentimiento. Esto proporciona un marco relevante para la protección de la imagen y la voz de los ciudadanos, implicando que cualquier uso de esta información, como en deepfakes, requiere autorización.
• Estados Unidos: En algunas jurisdicciones como California, se han promulgado leyes que prohíben el uso de deepfakes para desinformar en contextos electorales y para la creación de pornografía no consensuada. Estas leyes implementan protecciones específicas para los individuos, calibrando el uso de tecnologías emergentes con la necesidad de mantener la integridad pública.
• China: En respuesta a los retos que plantea la manipulación digital, ha implementado regulaciones que obligan a etiquetar el contenido generado por inteligencia artificial. Esta medida busca garantizar la transparencia y combatir la desinformación masiva.

Reflexión Ética

El desarrollo y uso de deepfakes plantea cuestiones éticas profundas. ¿Hasta dónde se debe permitir la innovación tecnológica en el ámbito de la creación digital? La responsabilidad moral no solo recae en los desarrolladores de tecnología, sino también en los usuarios y en las plataformas que facilitan la difusión de contenido.
Un enfoque ético es esencial para la innovación, estableciendo límites que prevengan los abusos. La formación en ética digital y la concienciación sobre el uso responsable de la tecnología deberían incluirse en currículos educativos en todos los niveles.

Implicaciones Sociales de los Deepfakes

Las consecuencias sociales de la utilización de deepfakes son alarmantes y abarcan desde la desinformación hasta la afectación directa a la vida de las personas. La capacidad de manipular imágenes y sonidos puede socavar la confianza en las instituciones y en la información pública.
Esto se convierte en un problema significativo en contextos donde la confianza es fundamental, como en periodos electorales o en la comunicación entre el gobierno y los ciudadanos. La manipulación de la imagen de figuras públicas puede dar lugar a campañas de desprestigio que no solo dañan la reputación de los afectados, sino que también erosionan la confianza del electorado en sus representantes y en el sistema democrático en su conjunto.
Adicionalmente, en el ámbito personal, las víctimas de deepfakes pueden enfrentar deterioro emocional y psicológico.
El acoso y la vergüenza pública que pueden resultar de la difusión de contenido falso, especialmente en redes sociales, pueden tener un impacto devastador en la salud mental de una persona.
Los individuos que se convierten en blanco de deepfakes a menudo se sienten impotentes, lo que les lleva a un estado de angustia que puede resultar en ansiedad, depresión, e incluso en trastornos más severos.

Educación y Concienciación Pública

Una de las respuestas más efectivas al desafío que plantean los deepfakes es la inversión en educación y concienciación pública.
Es crucial que tanto jóvenes como adultos sean instruidos sobre cómo se crean los deepfakes, así como sobre los riesgos asociados a su difusión. La inclusión de programas educativos que aborden la alfabetización digital, el pensamiento crítico y la evaluación de fuentes en los currículos escolares podría ayudar a preparar a las nuevas generaciones para afrontar esta problemática de manera efectiva.
Las campañas de concienciación pública, lideradas por instituciones educativas, organizaciones sin fines de lucro y plataformas digitales, pueden jugar un papel vital en educar a la población sobre las características de los deepfakes y desarrollar habilidades para detectar contenido manipulado.
Estas iniciativas deben estar orientadas a empoderar a las personas, dándoles las herramientas necesarias para evaluar la veracidad de la información que consumen y para entender el contexto de cada contenido digital.

Conclusión

El fenómeno de los deepfakes es un desafío multifacético que exige respuestas integrales y coordinadas desde múltiples frentes: el legal, el ético, el educativo y el social. La insuficiencia del marco normativo argentino para abordar específicamente esta cuestión no solo deja expuestos a los ciudadanos ante posibles abusos, sino que también plantea un riesgo para el tejido de la confianza social.
Es fundamental que el Estado, en conjunto con los actores de la sociedad civil, las plataformas tecnológicas y la comunidad académica, coordine esfuerzos para crear un marco legal que regule el uso, protegiendo así los derechos fundamentales de los ciudadanos. La legislación debe ser flexible pero firme, capaz de adaptarse a la rápida evolución de la tecnología, mientras que al mismo tiempo salvaguarda los principios éticos y de respeto a la dignidad humana.
La educación y la conciencia social deben ser parte integral de la respuesta a los desafíos que presentan, asegurando que la población en su conjunto tenga las herramientas necesarias para discernir entre lo verdadero y lo falso, y para proteger su privacidad y reputación.
Finalmente, la reflexión ética en torno a la creación y uso de tecnologías digitales como los deepfakes debe ser continua, convocando a todos los actores involucrados a participar en el debate sobre cómo construir un futuro donde la honestidad y la integridad sean la norma en el consumo y producción de medios digitales.

Bibliografía consultada

Constitución Nacional de la República Argentina.
Código Penal de la Nación Argentina.
Código Civil y Comercial de la Nación Argentina.
Ley 25.326, Protección de los Datos Personales.
Reglamento General de Protección de Datos (RGPD), Unión Europea.
“Deepfakes: The Law and the Truth”, Harvard Law Review, Vol. 134.
Chesney, R., Citron, D. (2019). “Deepfakes and the New Disinformation War”. California Law Review.
International Telecommunication Union (2023). AI and Ethics Report.
Informes de iniciativas gubernamentales y ONG sobre desinformación y tecnologías emergentes.
Casos de estudios sobre el impacto de los deepfakes en la sociedad y en la política.

* Titular de Legallink. Abogada. Especialista en evidencia digital y cibercrimen. UBA
Diplomada en Inteligencia Artificial. CEUPE

Si desea participar de nuestra «Sección Doctrina», contáctenos aquí >>