La Corte bonaerense prohíbe que la IA dicte sentencias o valore pruebas

La Suprema Corte de Justicia de la provincia de Buenos Aires puso en consulta pública un proyecto de reglamento para ordenar el desarrollo y la utilización de herramientas de inteligencia artificial en el ámbito judicial. La iniciativa, presentada como parte del proceso de modernización tecnológica del Poder Judicial bonaerense, apunta a establecer un marco institucional, jurídico y ético para incorporar estos sistemas sin afectar derechos fundamentales ni reemplazar la intervención humana en las decisiones.

El proyecto estará abierto a observaciones y sugerencias hasta el 7 de agosto. Podrán participar magistrados, funcionarios, agentes judiciales, colegios profesionales, universidades y otros interesados, a través de un formulario habilitado en el sitio web y las redes oficiales del Tribunal. Además, la Corte creó una Comisión de Gobernanza y Uso de Inteligencia Artificial, que tendrá a su cargo la supervisión de la implementación.

Uno de los puntos centrales del reglamento es que la tecnología podrá utilizarse como apoyo en tareas de gestión, análisis de datos, sistematización de jurisprudencia, mejora del acceso a la justicia y reducción de barreras tecnológicas, lingüísticas o geográficas. Sin embargo, el texto marca límites estrictos: “La función jurisdiccional es indelegable e insustituible” y no podrá ser transferida a ningún sistema automatizado.

La resolución también advierte sobre los riesgos asociados al uso de inteligencia artificial, como la reproducción de sesgos, la generación de errores o la elaboración de contenidos inexactos. Por eso, establece que jueces, funcionarios y agentes seguirán siendo responsables por el contenido, la validez y la legalidad de los actos en los que intervengan estas herramientas. El control humano deberá ser sustantivo y documentado.

En esa misma línea, la Corte dispuso que “bajo ninguna circunstancia” podrá delegarse en sistemas de IA la toma de decisiones judiciales, la valoración de pruebas o la construcción del razonamiento jurídico que fundamenta sentencias y resoluciones.

Finalmente, el máximo tribunal prohibió el uso de chatbots gratuitos o comerciales, como ChatGPT, para tratar información judicial sensible o investigaciones en curso, ante el riesgo de que datos personales queden fuera del control institucional.

Con información de DIB