Por Rubén Chaia
¿DECIDE EL JUEZ DE LA REPÚBLICA O EL CHAT GPT?
UNA SENTENCIA QUE NOS INTERPELA SOBRE EL USO DE LA INTELIGENCIA ARTIFICIAL GENERATIVA EN EL DICTADO DE UNA SENTENCIA
COMENTARIO A FALLO "ACCIÓN DE TUTELA PROMOVIDA POR ..., EN NOMBRE Y REPRESENTACIÓN DE SU HIJO MENOR DE EDAD, EN CONTRA DE LA EPS", TRIBUNAL CONSTITUCIONAL DE COLOMBIA, SENTENCIA T-323 DE 2024 - REFERENCIA: EXPEDIENTE T-9.301.656, CORTE CONSTITUCIONAL, SALA 2DA. DE REVISIÓN.
El análisis de los hechos, la valoración de la prueba y la decisión deben ser completamente adoptadas por el Juez, único sujeto procesal facultado para tomar una decisión de conformidad a la Ley y la Constitución. El uso de herramientas, por más sofisticadas que resulten, no puede reemplazar al Juez natural e imparcial, sobre todo, cuando el uso de IA Generativa no se encuentra exenta de errores provenientes de sesgos especialmente referidos a la carga de datos.
La inteligencia artificial es definida como el “conjunto de técnicas y algoritmos que permiten a las máquinas realizar tareas que imitan la inteligencia humana y tienen la capacidad de aprender y adaptarse” sin embargo, debemos entender que tiene limitaciones: a) no puede resolver cualquier problema, b) no es la mejor opción para resolver cualquier problema, no resulta una técnica infalible.
Las ventajas de su uso son conocidas por todos en tanto, entre sus desventajas podemos señalar: a) la falta de empatía, el operador puede diferenciar situaciones similares en función de “dar a cada uno lo suyo”, de intentar “hacer justicia” en el caso concreto algo que los algoritmos difícilmente puedan replicar, b) el sesgo en los datos dado que la IA solo puede ser precisa en base a los datos en los que asienta su decisión y esos datos, precisamente, son lo que el operador le ha cargado, reproduciendo la generación sobre una cadena limitada en su ingreso, c) la compleja situación en que coloca a la intimidad y la ausencia de seguridad en el uso de datos es otra de las preocupaciones que presenta su uso.
El uso de esta herramienta debería limitarse a brindar a los jueces datos en función de un tema concreto, pero esos datos, deben ser puestos en consideración, conocidos y en su caso, contradichos por las partes; caso contrario, pasarían a forma una suerte de “conocimiento artificial privado” del juez al formar parte de su “intima convicción” en un universo incontrolable de datos.
Por último, el debido proceso implica la posibilidad de conocer el razonamiento del Juez, escrutar los pasos que ha seguido al momento de adoptar una decisión lo que quedará reflejado en sus argumentos. Los programas de IA aplicados a una solución sin dudas que pueden reflejar una gran cantidad de datos, pero, esos datos aplicados a una ecuación son el resultado de una elaboración de algoritmos previamente programados por un sistema que, en muchos casos, vendrá de un software desarrollado por una empresa lo que, al amparo del secreto comercial, podría llegar a reducir o fulminar el derecho a controlar, confrontar y contradecir en amplitud la decisión adoptada.
A continuacion comentaremos el fallo que trató la eventual violación del derecho fundamental del debido proceso en el caso de un Juez de revisión que utilizó el ChatGPT 3.5 a la hora de dictar sentencia. La cuestión central aquí fue establecer si la resolución fue adoptada por un juez de la república o bien fue generada por alucinaciones o sesgos creados por la IA.
De esta manera, se abordaron los siguientes puntos: (i) el derecho fundamental al debido proceso; (ii) el debido proceso en un sistema jurisdiccional que utiliza IA; (iii) el sistema de inteligencia artificial. Conceptos y aspectos básicos acerca de su funcionamiento; (iv) impactos del uso de herramientas de IA en la sociedad; (v) estado de la IA en Colombia; (vi) el marco regulatorio de la IA en el mundo. Algunos instrumentos de soft law e iniciativas normativas nacionales; (vii) algunas experiencias concretas relacionadas con la IA en la práctica judicial; (viii) la garantía del juez natural en un sistema jurisdiccional que utiliza IA y (ix) el debido proceso probatorio en un sistema jurisdiccional que utiliza IA.
En relación con el fondo del caso, le correspondió a la corporación revisar si los derechos fundamentales a la salud, la vida digna y la seguridad social de un niño diagnosticado con TEA fueron o no vulnerados por su EPS, ya que no fue exonerado de copagos y cuotas moderadoras; no se le suministró el servicio de transporte interurbano bajo el argumento de que no existía prescripción médica que lo ordenara y no se le autorizó un tratamiento integral.
Al respecto, el tribunal analizó los siguientes temas: (i) los niños, niñas y adolescentes como sujetos de especial protección constitucional; (ii) las personas en situación de discapacidad como sujetos de especial protección constitucional; (iii) el derecho a la salud; (iv) los niños, niñas y adolescentes en situación de discapacidad y la protección de su derecho fundamental a la salud; (v) la prohibición de anteponer barreras administrativas para la prestación del servicio de salud; (vi) tratamiento integral; (vii) el reconocimiento de los gastos de transporte para el paciente y un acompañante; (viii) cobros en el sistema de seguridad social en salud. Exoneración de copagos y cuotas moderadoras para personas en situación de discapacidad física o cognitiva. (ix) Finalmente se resolvió el caso concreto.
En lo que aquí me interesa resaltar, esto es la posible violación al debido proceso por la sentencia de segunda instancia, al utilizar el juez ChatGPT para su motivación, debo aclarar que la Sala estimó que no existió un remplazo del ejercicio de la función jurisdiccional por parte de ChatGPT, esencialmente porque el sistema de IA se utilizó luego de haberse fundamentado y tomado la decisión.
Es decir, según indica el fallo, el juez primero identificó la tesis que sostendría, luego las normas constitucionales aplicables al caso, el referente jurisprudencial que se debía atender por guardar identidad fáctica con el asunto analizado, para posteriormente solucionar el caso concreto al indicar que el cobro de copagos y cuotas moderadoras constituía una barrera de acceso al servicio de salud del niño y, solo entonces, anunció y procedió a efectuar preguntas en el referido sistema de IA, para así transcribir las respuestas arrojadas en la consulta.
En base a ello, el Tribunal de revisión no cuestionó la validez de la decisión del Juzgado del Circuito puesto que a su criterio fue tomada con antelación al uso de la herramienta ChatGPT.
No obstante, confirma la solución del caso, el Tribunal entendió que no se habían respetado a cabalidad los principios de transparencia y responsabilidad exigidos, aunque entendió satisfecho el principio de privacidad sí se satisfizo, pues el juez no introdujo datos personales del menor ni de su historia clínica, ni de las partes involucradas en la disputa concreta.
La Sala de Revisión decidió que el derecho al debido proceso no se había vulnerado por el juez de segunda instancia, por tanto, no se configuró una causal de invalidez de lo actuado, pues el uso de ChatGPT en el caso sometido a estudio no comportó una usurpación de la función de administración de justicia a cargo de la autoridad judicial competente.
Sin perjuicio de ello, la Sala estimó que en el marco del respeto por los derechos fundamentales y de la salvaguarda de las garantías constitucionales para los usuarios del sistema de administración de justicia y dadas las posibilidades de alucinaciones, sesgos discriminatorios y demás riesgos asociados a la IA, era procedente establecer algunos criterios orientadores, así como que, desde el Consejo Superior de la Judicatura, se emitan unas guías o lineamientos sobre su implementación por parte de los jueces y que desde la judicatura misma se adopten las mejores prácticas que conforme a los principios y mandatos constitucionales, permitan hacer uso razonable y proporcional de herramientas innovadoras y dinámicas como ChtatGPT, sin admitir en modo alguno que se impacte el debido proceso o se restrinjan de cualquier forma la autonomía e independencia judiciales.
Al resolver la cuestión, el tribunal confirma parcialmente la sentencia emitida en tanto que en el apartado CUARTO de la resolución exhorta a los jueces de la República para que evalúen el adecuado uso de la herramienta tecnológica ChatGPT y otras análogas o que se desarrollen en el ámbito de la inteligencia artificial IA, valoren y consideren las mejores prácticas, y apliquen criterios éticos y de respeto a los mandatos superiores, en orden a garantizar los derechos fundamentales, en especial el debido proceso, cuando encuentren necesario y pertinente hacer uso de aquellas, y asegurar la independencia y autonomía judiciales, como garantías insustituibles para la vigencia del Estado Social de Derecho y la democracia.
En concreto dispuso que los funcionarios y empleados de la Rama Judicial apliquen los principios de (i) transparencia, (ii) responsabilidad, (iii) privacidad, (iv) no sustitución de la racionalidad humana, (v) seriedad y verificación, (vi) prevención de riesgos, (vii) igualdad y equidad, (viii) control humano, (ix) regulación ética, (x) adecuación a buenas prácticas y estándares colectivos, (xi) seguimiento continuo y adaptación y (xii) idoneidad.
Asimismo, ordenó que el Consejo Superior de la Judicatura que, en el término de cuatro meses, contados a partir de la notificación de esta providencia, divulgue una guía, manual o lineamiento en relación con la implementación de la IA generativa en la Rama Judicial, especialmente en cuanto al uso de la herramienta ChatGPT, regulación que deberá ser acorde con los aspectos establecidos en esta providencia y, en particular, con lo dispuesto en su fundamento jurídico 423.
Finalmente, dispuso que el Consejo Superior de la Judicatura, a través de la Escuela Judicial Rodrigo Lara Bonilla, divulgue esta providencia a todos los despachos judiciales del país, y continúe generando espacios de capacitación que fomenten el aprendizaje de conocimientos básicos sobre el uso de la inteligencia artificial (IA) en el contexto judicial, junto con sus riesgos y beneficios, con un enfoque de derechos.
Como vemos, el uso de herramientas provenientes de la IA Generativa no parece estar vedado sólo que la validez de su uso se supedita a que en primer término el juez sea quien adopte la decisión para luego, apoyarse en la IA a fin de completar y/o confrontar su decisión.
Acceder al fallo completo <<aquí>>
Si desea participar de nuestra «Sección Doctrina», contáctenos aquí >>
