El encuentro reunió investigaciones y experiencias de la academia y la Rama Judicial para examinar la confiabilidad de los modelos de lenguaje frente al derecho colombiano, los usuarios y prácticas de uso de estas herramientas en los despachos y los desafíos de su adopción en la administración de justicia.
El 20 de octubre, la Facultad de Derecho de la Universidad de los Andes realizó el encuentro “El sistema jurídico colombiano en tiempos de inteligencia artificial“, un espacio para poner en diálogo distintas perspectivas sobre la incorporación de estas tecnologías al ámbito jurídico. La conversación abordó tres preguntas: qué tan confiables son los modelos de lenguaje cuando responden consultas sobre derecho colombiano, cómo los servidores judiciales están utilizando estas herramientas, o por qué deciden no hacerlo, y cuáles son los retos que enfrenta el Poder Judicial en su adopción.
La primera presentación estuvo a cargo de Juan David Gutiérrez Rodríguez, profesor de la Escuela de Gobierno y director de la Maestría en Derecho, Tecnología y Sociedad Digital de Uniandes, y Michelle Castellanos, investigadora del proyecto Sistemas de Algoritmos Públicos de la Escuela de Gobierno de Uniandes. Ambos compartieron los avances de una investigación conjunta de la Facultad de Derecho, la Facultad de Ingeniería y la Escuela de Gobierno de la Universidad de los Andes, financiada por la Universidad, sobre la fiabilidad de las respuestas de los modelos de lenguaje de gran escala a consultas jurídicas relacionadas con el derecho colombiano.
Para desarrollar el estudio, el equipo construyó una base de más de mil preguntas y respuestas jurídicas, con la participación de estudiantes de pregrado y posgrado y profesionales del derecho. La base incluyó preguntas cerradas, semiabiertas y abiertas, con distintos niveles de complejidad. A partir de ellas, evaluaron 15 modelos de inteligencia artificial y examinaron aspectos como la pertinencia de las respuestas y su corrección jurídica.
Los resultados mostraron que un buen desempeño en preguntas de opción múltiple no garantiza respuestas correctas en consultas jurídicas más complejas. Los modelos de IA alcanzaron desempeños de más del 90% de respuestas correctas en las preguntas de opción múltiple. En contraste, el desempeño respecto de las preguntas abiertas fue sustancialmente más bajo; más de la mitad de las veces había errores relacionados con las fuentes de derecho citadas en sus respuestas. Entre los errores identificados estuvieron las referencias a normas inexistentes y el uso inadecuado de disposiciones que sí hacen parte del ordenamiento colombiano pero que no respaldaban la respuesta.
Como parte del proyecto, presentaron una plataforma denominada Lex Arena que permitirá comparar respuestas elaboradas por modelos de inteligencia artificial con respuestas humanas. La herramienta mostrará ambas opciones sin identificar inicialmente su origen, para que personas abogadas y no abogadas puedan evaluarlas y aportar a la investigación.
Posteriormente, Ana María Ramos, profesora de cátedra de la Universidad de los Andes y servidora de la Rama Judicial, abordó el uso de inteligencia artificial en los despachos judiciales. Su intervención examinó las prácticas que ya se han incorporado al trabajo cotidiano, los riesgos que pueden generar y las condiciones que deben tenerse en cuenta para su implementación.
Ramos, por su parte, explicó que estas herramientas se utilizan en tareas como la búsqueda de información jurídica, la síntesis de documentos, la corrección de textos y la transcripción de audiencias. Sin embargo, advirtió que incluso actividades que parecen auxiliares pueden tener consecuencias en un proceso judicial. Por ejemplo, al resumir un expediente, una herramienta podría omitir información relevante o incluir datos incorrectos que incidan en la comprensión del caso.
También se refirió a los lineamientos del Consejo Superior de la Judicatura y a la necesidad de establecer controles acordes con el tipo de uso y sus posibles efectos. En particular, señaló que la inteligencia artificial no debe reemplazar el juicio humano en la valoración de los hechos y las pruebas ni en la toma de decisiones judiciales.
La tercera perspectiva estuvo a cargo de Kelly Giraldo Viana, abogada investigadora y estudiante del Doctorado en Derecho de Uniandes, quien presentó una investigación desarrollada en el Centro de Estudios de Derecho, Justicia y Sociedad – Dejusticia junto con María Adelaida Ceballos Bedoya, profesora de la Facultad de Derecho y moderadora del encuentro. El estudio se titula La inteligencia artificial en la justicia: estudio sociojurídico sobre los servidores judiciales en Colombia, y en él examinaron los perfiles de los servidores judiciales que usan (o no) la inteligencia artificial y las condiciones institucionales que influyen en la incorporación de estas herramientas.
Las investigadoras entrevistaron a servidores judiciales y expertos en inteligencia artificial en la justicia y también estudiaron los resultados de encuestas a servidores judiciales (elaboradas por otros autores) . Con esa base, propusieron cuatro perfiles de servidores judiciales usuarios de la inteligencia artificial: los excluidos digitales, que no tienen acceso a estas herramientas; los reticentes, que cuentan con acceso, pero las usan poco o no las usan; los silenciosos, que las usan sin transparentarlo; y los entusiastas, que las incorporan y declaran su uso.
La investigación planteó que los efectos de la inteligencia artificial en la administración de justicia no dependen únicamente de las tareas para las que se emplean estas tecnologías. También están relacionados con los capitales, las decisiones, las capacidades y las percepciones de quienes las utilizan, así como con las condiciones institucionales en las que trabajan. Las expositoras señalaron, además, que persisten interrogantes sobre los límites de uso y la claridad del marco normativo que orienta a los servidores judiciales.
A lo largo del encuentro también se discutieron asuntos como la transparencia en el uso de estas herramientas, la protección de datos, la responsabilidad por los resultados que producen y la necesidad de contar con evidencia para evaluar sus efectos. Las distintas intervenciones permitieron contrastar los avances de la investigación académica con los desafíos que enfrentan quienes trabajan en la Rama Judicial.
La conversación dejó preguntas sobre cómo incorporar la inteligencia artificial al sistema jurídico colombiano, bajo qué condiciones hacerlo y qué actividades deben permanecer bajo el criterio y la responsabilidad de las personas.
Revive este evento aquí:
