Ruano, el impacto de la inteligencia...

Por María Candela Ruano*

I. Una aproximación a la inteligencia artificial

Internet ya no es solo un medio de comunicación sino que se convirtió en un espacio abierto donde nos desarrollamos como personas, donde trabajamos, donde consumimos. 
En consecuencia, debemos comenzar por introducir algunos conceptos esenciales de esta era digital. Asi, podemos definir a la Inteligencia artificial (en adelante IA). como todo proceso que procura hacer que una máquina se comporte de formas que serían llamadas inteligentes si un ser humano lo hiciera (Kaplan, 2017, p. 1).
Podemos mencionar numerosas definiciones que parten de esta misma idea. Por ejemplo, Rouhiainen (2018) sostiene que la inteligencia artificial refiere a la capacidad de las máquinas para usar algoritmos, aprender de los datos y aplicar lo aprendido en la toma de decisiones tal y como lo haría un ser humano (p. 16); Sobrino (2020) señala que la IA refiere a todo sistema informático que realiza tareas semejantes a la inteligencia humana y que tienen como características la autonomía y el autoaprendizaje (p.242); Corvalán (2020) agrega que los sistemas que utilizan IA, como innovación tecnológica disruptiva que parte del reconocimiento de patrones, utilizan ordenadores, algoritmos y diversas técnicas de procesamiento de datos e información para resolver problemas o tomar decisiones que antes solo podían ser realizadas por nuestra capacidad cognitiva (p.33).
En consecuencia, basándonos en su rasgo más distintivo, podemos decir que la IA abarca a todo sistema inteligente que, a partir de la recolección de datos y del uso de algoritmos, parte de la automatización de comportamientos como observar, crear, razonar, aprender, manipular, comunicar, entre tantos otros como lo haría cualquier ser humano.
Ahora bien, ¿cómo funciona la inteligencia artificial? La IA se sustenta en algoritmos que consisten en instrucciones o procedimientos informáticos que a través de la recolección y análisis de datos los transforma en patrones de información que le dan la autonomía necesaria para lograr sus propósitos, realizar una acción o resolver un problema.
Podríamos definir a los algoritmos como aquel conjunto de instrucciones, reglas o una serie metódica de pasos que puede utilizarse para hacer cálculos, resolver problemas y tomar decisiones (Bostrom, 2016, p. 29) o, en forma más sencilla, como aquellos procesos que guían paso a paso la obtención de un resultado determinado, de manera tal que cumpliendo con cada una de esas etapas instruidas se puede alcanzar la solución al problema planteado (Sobrino, 2020, p. 245).
Una de las características más importantes de los algoritmos es su facilidad para el aprendizaje automático o machine learning; es decir, la capacidad que tienen estos sistemas informáticos de aprender por sí mismos (Colombo, 2019, párr.17). Cabe aclarar que esto es posible gracias al análisis de datos que realizan para identificar patrones, lo que, a su vez, les permite sustentarse de ellos para tomar decisiones y realizar determinada acción. En pocas palabras, se trata un aspecto de la informática en el que los ordenadores o las máquinas tienen la capacidad de aprender sin estar programados para ello (Rouhiainen, 2018, p. 19).
Por su parte, existe un procedimiento avanzado más conocido como aprendizaje profundo o deep learning que trata de emular el enfoque de aprendizaje que las personas usan para procesar datos y crear patrones que se utilizarán en la toma de decisiones (Oliva León, 2020, p. 6). Este proceso, como subcampo del aprendizaje automático, se utiliza para resolver problemas altamente complejos que involucran grandes cantidades de datos por lo que requiere un enorme conjunto de información y una potente capacidad de procesamiento. En efecto, podemos enfatizar que, de manera muy similar a como aprendemos las personas humanas, “el aprendizaje profundo se produce mediante el uso de redes neuronales que se organizan en capas para reconocer relaciones y patrones complejos en los datos” (Rouhiainen, 2018, p. 22-23); es decir, este proceso se caracteriza por servirse de estructuras de redes neuronales artificiales tratando de emular el comportamiento de los axones de las neuronas de los cerebros de las personas humanas.
Ahora bien,  hemos hecho referencia sobre cómo estos sistemas de inteligencia artificial utilizan datos para aprender y tomar decisiones o resolver problemas. Para ello, cabe agregar que nos referimos tanto a los datos simples como a los metadatos asociados a aquellos. Esta clase de datos suelen entenderse como aquellos datos que describen otros datos. Ello en tanto consisten en información que describe el contexto, las condiciones, el contenido, la estructura, la historia, la disponibilidad, entre otras características. Sin embargo, resta preguntarnos ¿de dónde toman información los algoritmos?
Para responder a ello haremos referencia a dos tipos de procesos de recolección y procesamiento de datos que utilizan diferentes procedimientos para manejar la información que analizan pero que se complementan y persiguen el mismo objetivo de transformar grandes cantidades de datos en información relevante y útil.
Por un lado, al Big Data, es decir, al almacenamiento de grandes cantidades de datos y a los procedimientos usados para encontrar patrones repetitivos dentro del conjunto de datos que circulan en la red. Por otro lado, al Data Mining, o minería de datos, que refiere al proceso de identificación de información relevante que es extraída de grandes cantidades de datos para descubrir patrones estructurando la información de una modo que sea comprensible para su utilización.
Por su parte, el data mining refiere al procedimiento o conjunto de técnicas y tecnologías por las que se exploran las bases de datos para descubrir patrones o tendencias repetitivas que expliquen el comportamiento de aquellos y poder predecir resultados. En otras palabras, podemos decir que este procedimiento implica el procesamiento de toda información para convertirla en datos útiles para las necesidades y los requerimientos de las empresas (Faliero, 2019, p.71).

II.  Impacto de la IA en las relaciones de consumo

La IA afecta a las relaciones de consumo de diferentes maneras. La lógica de estas nuevas tecnologías esencialmente se explica por el proceso de “algoritmizar” el procesamiento de datos o de información de los consumidores y usuarios, a fin de sustituir o mejorar las actividades o tareas humanas que son producto de su inteligencia (Corvalán, 2018, p.2). Así, estas tecnologías cumplen un rol determinante en la sociedad digital actual en la explotación de datos para la producción de información que permite a las empresas, a los proveedores de bienes y servicios, conocer a sus potenciales clientes, atraer y generar nuevos clientes y vincularse con quienes ya son sus clientes agrandando la brecha de poder e información que aquellos sustentan por sobre la debilidad estructural de estos últimos.
Así, a partir de esta revolución digital es que los algoritmos clasifican y predicen nuestro futuro. Ello en tanto estos sistemas conocen lo que aún ni nosotros mismos sabemos que queremos. Actualmente, los sistemas de IA son entes omniscientes, dado que conocen las interacciones, preferencias y pautas de consumo de cada ser humano interconectado. Pueden predecir conductas y anticipar elecciones sobre la base de nuestro historial digital. De esta manera, los algoritmos nos convierten en sujetos predecibles, medibles e influenciables debido al creciente proceso de digitalización imperante en nuestras sociedades que alimenta las grandes bases de datos (Colombo, 2022, párr. 7-9).
Es que, a través de ellos, resulta posible la segmentación de clientes, el conocimiento de patrones de conducta, la predicción de comportamientos, la fabricación y comercialización de nuevos productos y servicios fabricados a medida del consumidor, entre otros (Colombo, 2019, párr. 22 y 23)
Los ciudadanos consumidores suministramos una gran cantidad de datos constantemente y en forma gratuita. Ello sin tomar conocimiento de esta entrega, sin comprender riesgos ni pensar en las posibles consecuencias. Así, al ingresar a una web, al poner un like a algún producto, al permanecer determinado tiempo en una página, al buscar un determinado lugar en el Google maps, al escuchar determinada música, al empezar a seguir una página en Facebook, al escribir en el buscador de google, entre otras miles actividades que diariamente realizamos, entregamos a los proveedores la capacidad de descubrir hasta el más mínimo detalle de nuestras vidas.
De esta manera, estas tecnologías construyen una huella digital sobre nuestras preferencias, hábitos de consumo y patrones de conducta las veinticuatro horas del día durante los trescientos sesenta y cinco días del año. En este sentido, quienes usan estas tecnologías construyen un perfil digital de cada usuario de la red sin que nosotros tengamos ni noción sobre su existencia ni de la información que lo compone.
Es que básicamente los perfiles se usan para analizar o predecir aspectos relativos al rendimiento profesional, situación económica, salud, preferencias personales, intereses, fiabilidad, comportamiento, ubicación o movimientos, tanto como cualquier otra característica personal a fin de hacer predicciones personalizadas; por ejemplo, respecto de los bienes o servicios que nos interesaría comprar.
Lo que es más, esta manipulación algorítmica interfiere en nuestras preferencias de consumo en beneficio de las empresas proveedoras de bienes y servicios. Ello en virtud de que a partir de estos perfiles las empresas fácilmente se encuentran capacitadas para dirigir acciones específicamente a cada consumidor perfilado en el momento y lugar justo con la finalidad de ofrecer productos y servicios personalizados.
Corvalán (2019) sostiene que asistimos a una suerte de “bolsa de valores de datos personales humanos”. Para argumentar esto, agrega que entre el tiempo que transcurre entre un click y la aparición de una página o un sitio, los sistemas de inteligencia artificial batallan por quedarse con él, para poder insertar la publicidad en la página antes de que la veas. En efecto, resalta que estas pujas se dan en función de los perfiles creados para cada usuario atendiendo a sus patrones de información que les permite determinar si hay que comprar el derecho a publicitar sus productos en las páginas que ciertos grupos de personas (por afinidades) podrían ser, probablemente, futuros compradores (párr.8).
No quedan dudas de que constantemente nos topamos con anuncios y ofertas orientadas a productos, servicios e ideas que acabamos de buscar en alguna plataforma o mencionado en un correo electrónico o  en un mensaje de WhatsApp. Es que, tal como mencionamos en los párrafos anteriores, los ciudadanos digitales estamos siendo vigilados y manipulados en todo momento. Los algoritmos nos están observando, interpretando nuestros movimientos, reaccionando ante nuestras acciones y  creando así nuestro perfil digital, actualizándolo en base a nuestras decisiones diarias en la red.
Sobrino (2020) resalta el beneficio económico que las empresas adquieren a partir del perfilamiento digital de los usuarios de internet en tanto les permite realizar una especie de customización o adaptación de la oferta y los servicios a los gustos y las preferencias de los futuros clientes (p. 280).
Los consumidores nos encontramos en una posición doblemente débil o hipervulnerable frente a estas tecnologías automatizadas que tienen acceso a una gran cantidad de datos que les permite implementar sin esfuerzo un poder computacional ilimitado y pueden enmarcar el entorno de elección e información que está disponible para los consumidores. Es que los usuarios perfilados son bombardeados con anuncios y ofertas que tienen altas probabilidades de desencadenar una compra o contratación.
Así, esta inducción a la compra ha tomado sesgos particularmente invasivos para el consumidor a través de un fenómeno ecuménico conocido como ventas agresivas. Son operaciones compulsivas que se valen de métodos como el acoso negocial o la técnica de tentación para aprovechar el estado de inferioridad del consumidor. Tienen la particularidad de que irrumpen y sorprenden al consumidor; en muchos casos violentando su intimidad y privacidad; en otros, su libertad y autodeterminación; siempre, su dignidad personal (Japaze, 2015, p.150).
En conexión con ello, la desprotección que para el consumidor titular de datos personales puede derivar de la aceptación de condiciones insertas en las políticas de privacidad de las empresas de internet, plataformas web y otros servicios digitales, merece también ser pensada a la luz del régimen de cláusulas abusivas. Si bien este instituto legal está diseñado para proteger el interés económico el consumidor, la constitucionalización del derecho del consumidor abre nuevos horizontes de tutela conducentes a la preservación de la dignidad del consumidor como persona y de sus derechos fundamentales (Corvalán, 2020, p.42). Es que justamente esta técnica de manipulación solapada de datos personales, sumada a la explotación económica que las empresas hacen de los perfiles digitales, no se condice con el respeto de la dignidad humana violentando su autodeterminación individual y restringiendo la libertad de los ciudadanos consumidores para tomar decisiones.

III. Reflexiones finales

El uso de Inteligencia Artificial es una realidad.
Realidad ante la cual es necesario sincerarnos, aceptar nuestras vulnerabilidades y construir nuestro futuro. En esta sociedad digital donde todo lo hacemos prácticamente sin estar debidamente informados y con la necesidad imperiosa de un encuentro rápido y fugaz no podemos pretender que se nos exija una mayor reflexión para transitar por la red. En primer lugar, porque ello, entiendo, sería incluso contrario a lo que se espera de la misma. En segundo lugar, porque en lugar de tutelar nuestros derechos humanos se estaría generando el efecto contrario.
En consecuencia, no podemos dejar el ejercicio de nuestros derechos humanos librados al laissez-faire del mercado digital creyendo que los consumidores digitales estamos informados sobre las herramientas tecnológicas utilizadas por los empresarios y entender que es libre, voluntario, informado y sin condicionamientos nuestro click en un recuadro de términos y condiciones al ingresar a una web.
Mientras los cambios tecnológicos se gestan, cada día con mayor celeridad y precisión técnica, urge que el derecho construya las respuestas jurídicas necesarias para la tutela de los derechos de los ciudadanos digitales accedan al consumo en condiciones dignidad.

Bibliografía

- Bostrom, N. (2016) Superinteligencia. Caminos, peligros, estrategias. Madrid: Tell.
- Colombo, M. (2019) ¿La utilización de algoritmos es una actividad riesgosa? Buenos Aires: La Ley. Disponible online en: https://www.casi.com.ar/sites/default/files/Algoritmos%20como%20act%20riesgosa-%20CC.pdf (Visitado el      19/03/2023)
- (2022) ¿Es la Inteligencia Artificial el certificado de defunción del contrato de seguro? Revista digital Erreius: Temas de Derecho Civil, Persona y Patrimonio. Disponible online en:                               https://www.errepar.com/errepar/articulos/2022/12/inteligencia-artificial-certificado-defuncion-contrato-de-seguro.page  (Visitado el 19/03/2023)
- Corvalán, J. (2017) La primera inteligencia artificial predictiva de la justicia: Prometea. Revista La Ley. Disponible online en: https://www.pensamientopenal.com.ar/system/files/2019/06/doctrina47747.pdf (Visitado el 19/03/2023)
- (2018) Nada es privado: Mientras subastan tu identidad digital con inteligencia artificial. Doctrina digital del Diario Constitucional y Derechos Humanos Nro. 240 DPI Cuántico. Disponible online en:     https://dpicuantico.com/area_diario/doctrina-en-dos-paginas-diario-constitucional-y-dere-chos-humanos-nro-240-09-09-2019 (Visitado el 19/03/2023)
- (2019) Derechos Humanos e Inteligencia Artificial. Revista Microjuris. Cita online: MJ-DOC-13757-AR. (Visitado el 19/03/2023)
- (2020) Perfiles Digitales Humanos. Buenos Aires: La Ley.
- Faliero, J. (2019) Los desafíos jurídicos del big data. Tensiones de derechos entre la parametrización analítica, la forma automatizada de decisiones el targetting y el perfilamiento", supl. esp. LegalTech; Buenos Aires: La Ley. Cita    Online AR/DOC/3577/2019
- Franganillo, J. (2010). Implicaciones éticas de la minería de datos. Anuario ThinkEPI, 4, 320–324. Disponible online en : https://thinkepi.profesionaldelainformacion.com/index.php/ThinkEPI/article/view/31286 (Visitado el     19/03/2023)
- Guerrico, M. (2019) Insurtech: El impacto de las nuevas tecnologías en la actividad aseguradora. Buenos Aires: La Ley. Cita Online: AR/DOC/3175/2019
- Japaze, B. (2015). Las prácticas empresarias y marketing agresivo. En Cuestiones de Derecho del Consumidor. G. Muller (Coord.), Tucuman: Bibliotex.
- Kaplan, J. (2017) Inteligencia Artificial, lo que todo el mundo debe saber. España: Oxford University Press.
- Oliva León, R. (2020) La inteligencia artificial en el sector legal. https://www.algoritmolegal.com/tecnologias-disruptivas/la-inteligencia-artificial-en-el-sector-legal/attachment/inteligencia-artificial/ (Visitado el 19/03/2023)
- Ottolia, A. (2018) Derecho, big data e inteligencia artificial. Buenos Aires: Tirant Lo Blanch.
- Robles, J. (2011) Ciudadanía digital: Una introducción a un nuevo concepto de ciudadano. Barcelona: Editorial UOC.
- Rouhiainen, L. (2018) Inteligencia artificial: 101 cosas que debes saber hoy sobre nuestro futuro.  Barcelona: Editorial Planeta.
- Sobrino, W. (2020) Contratos. Neurociencias e Inteligencia Artificial. Buenos Aires: La Ley.
- Tambussi, E. (2014) Los derechos de usuarios y consumidores y el derecho a la salud, Buenos Aires: Revista Derecho Privado. Año III, N° 9.



*Abogada por la Universidad de Buenos Aires. Diplomada en Derecho de las Relaciones de Consumo por el Centro de Formación Judicial del Poder Judicial de la CABA. Especialista en Contratos y Daños por la Universidad de Salamanca. Maestranda en Derecho con orientación en Derecho Constitucional y Derechos Humanos, y Doctoranda en Derecho, ambos por la Universidad de Palermo. Docente de la materia Derechos Humanos y Garantías en la Universidad de Buenos Aires. Actual Relatora de la Unidad Especializada en Relaciones de Consumo del Ministerio Público de la Defensa de la Ciudad Autónoma de Buenos Aires.

Si desea participar de nuestra «Sección Doctrina», contáctenos aquí >>