La Inteligencia Artificial gana terreno en el Poder Judicial: "Estar en contra es querer tapar el sol con la mano"

Pamela Tolosa, decana del Departamento de Derecho de la Universidad Nacional del Sur, habló esta mañana con LA BRÚJULA 24 sobre la utilización de la inteligencia artificial en el ámbito del Poder Judicial, como cambio de paradigma fundamental y un vertiginoso avance que pone en tela de juicio su aplicación.

"La Inteligencia Artificial está en todos lados y no siempre lo notamos. Usar cualquier sistema operativo implica acceder a funciones de IA, lo mismo ocurre con Whatsapp y otras variables. El año pasado participé de un trabajo en el cual se hizo un relevamiento de uso dentro del Poder Judicial de cada provincia y los Ministerios Públicos. Participaron personas voluntarias y que tienen distintos roles", explicó Tolosa, en el inicio de su charla con el periodista Germán Sasso.

Y agregó que "lo que se buscaba era tener un panorama de para qué tarea se usa. El resultado fue que se aplica en todo el territorio del país, salvo pocas excepciones no hay una decisión institucional. Hay requisitos y exigencias, por ejemplo anonimizar datos porque si subo un documento con datos sensibles de un ciudadano y le pido a la IA que haga una tarea específica sin que haya control de esa información. Estaría infringiendo los protocolos básicos. Decir que uno está en contra de la IA es querer tapar el sol con las manos, su uso es inevitable".

"Si estamos en el marco de un juicio oral, para todo el desarrollo de las audiencias hay distintos sistemas de IA para diferentes tareas. Si el debate se realiza en Bahía Blanca y se le pide que se haga un resumen, por ejemplo, para los alegatos puede ocurrir. Distinto es si se plantea para todo el juicio y no tendría sentido. Hoy, en muchos países del mundo se usan sistemas concretos, diseñados para elaborar proyectos de resolución y, así conceder o no libertades condicionales o prisiones preventivas", resaltó, en otro tramo de la nota radial.

Consultada sobre la amenaza que significaría aplicarla de manera incorrecta, acotó que "hay un gran debate en este tema porque estos sistemas están entrenados con datos pasados de decisiones de jueces humanos. Reproducen patrones de definiciones anteriores que pueden estar teñidas de prejuicios, utilizando datos cargados por seres humanos. El riesgo que se suele señalar es que se reproducen patrones de decisión que tal vez no sean los más justos. La clave es comprender, pese a que es difícil, que hablamos de distintas herramientas porque es muy común que cuando se dice Inteligencia Artificial se habla solo de Chat GPT y en realidad hay un sinnúmero de herramientas que permiten potenciar las habilidades humanas para resolver cuestiones sensibles".

"Lo que está en tela de juicio es en qué tareas se puede reemplazar al ser humano y en qué pueden ayudarnos. Si no entendemos los operadores del sistema, es muy complejo darle un uso adecuado a la protección de los derechos constitucionales. Hay gente que tiene la idea de que la IA reemplace a los seres humanos en la prestación de todo el servicio de Justicia. La gran particularidad de la época es que los cambios van a una velocidad que es casi imposible predecir hasta dónde vamos a llegar", sumó Tolosa.

Por último, explicitó que "en noviembre de 2022 se lanzó Chat GPT y hoy la revolución es absoluta en menos de tres años. No hay que reemplazar a los seres humanos en la prestación de los servicios de Justicia, pero indefectiblemente es necesario en todas las instancias de educación se enseñe a hacer un uso responsable, las ventajas, porque quienes no sepan usar estas herramientas serán los primeros en ser relevados. Además, como asistente, la IA contribuirá a un mejor manejo en la Justicia.