El algoritmo penal: inteligencia artificial y su influencia en la determinación de la responsabilidad criminal.
The criminal algorithm: artificial intelligence and its influence on the determination of criminal responsibility.
Hernández Tuñón, Plinio
Universidad de Panamá
Centro Regional Universitario de Coclé
Panamá
Correo:plinio.hernandez@up.ac.pa
ORCID: https://orcid.org/009-0008-3679-4312
Entregado: 21 de enero de 2025
Aprobado: 14 de marzo de 2025
DOI https://doi.org/10.48204/j.aderecho.n55.a8684
Resumen
El presente artículo analiza como la implementación de algoritmos de Inteligencia Artificial (IA) en el proceso penal está ayudando profundamente a muchos países que tienen sus esperanzas depositadas en esta herramienta tecnológica a fin de optimizar sus sistemas judiciales. En este artículo estudiaremos las pautas que debe cumplir los algoritmos al momento de ofrecerle al juez humano diversos escenarios en la toma de decisiones mucho más informadas y justas, destacando su alto nivel de capacidad para procesar grandes cantidades de datos y arrojar resultados con sorprender grado de exactitud.
Se hace una reflexión sobre los principios que deben tener estos algoritmos, también exploraremos las cuestiones éticas en su uso. Además, se examinan los sesgos presentes en los sistemas de IA, y cómo pueden minimizarse.
La investigación concluye que, si bien la IA ofrece posibilidades para hacer más eficiente el sistema judicial, su uso debe ser gradual mientras los jueces, abogados se familiaricen y capaciten en su uso responsable.
Abstract
This article analyzes how the implementation of Artificial Intelligence (AI) algorithms in the criminal process is deeply helping many countries that have their hopes placed in this technological tool in order to optimize their judicial systems. In this article we will study the guidelines that algorithms must comply with when offering the human judge various scenarios in making much more informed and fair decisions, highlighting their high level of capacity to process large amounts of data and produce results with a surprising degree of accuracy. accuracy.
A reflection is made on the principles that these algorithms should have; we will also explore the ethical issues in their use. Additionally, the biases present in AI systems are examined, and how they can be minimized.
The research concludes that, although AI offers possibilities to make the judicial system more efficient, its use must be gradual while judges and lawyers become familiar and trained in its responsible use.
Palabras clave: Inteligencia Artificial, Algoritmo, Responsabilidad Criminal, Acusado, juez penal, proceso penal, sistema judicial, sesgos, trato discriminatorio, principios, software, análisis predictivo.
Keywords: Artificial Intelligence, Algorithm, Criminal Liability, Accused, criminal judge, criminal process, judicial system, biases, discriminatory treatment, beginning, software, predictive analysis.
I. Introducción
La irrupción de la inteligencia artificial; en adelante (IA), ha dejado su huella en numerosos campos, y el derecho penal no es la excepción. En los últimos tiempos, el uso de algoritmos en la toma de decisiones dentro del ámbito judicial ha generado un debate cada vez más intenso sobre su influencia en la asignación de responsabilidad criminal. Estos algoritmos, que se nutren de grandes volúmenes de datos, se han diseñado con la intención de realizar análisis predictivos relacionados con la probabilidad de reincidencia, el nivel de peligrosidad de los acusados y la gravedad de los delitos. No obstante, su aplicación en los sistemas de justicia plantea serios cuestionamientos de carácter ético y legal, sobre todo en lo concerniente a la transparencia, la imparcialidad y la protección de los derechos fundamentales de las personas enjuiciadas. Este trabajo de investigación busca explorar el impacto que los algoritmos penales, como ejemplo de IA, tienen en la determinación de la responsabilidad penal.
II. Elementos que integran un Sistema IA
Los principales elementos que integran un sistema IA son “los datos” y “los algoritmos”. Hay que tener en cuenta que los algoritmos pueden ser entrenados a partir de un conjunto de datos, con la finalidad de determinar acciones específicas que se requiera para un determinado objetivo.
Así, los algoritmos pueden configurarse para continuar aprendiendo mientras se utilizan y a medida que se van nutriendo con nuevos datos su aprendizaje será fuerte y automático.
Es importante resaltar que somos del criterio que la IA debe estar al servicio del hombre y su uso debe ser responsable y ético; es decir apostamos por una “IA Fiable”.
En este orden de ideas la IA se ha de asentar en valores y derechos humanos, y todo riesgo es el resultado de errores técnicos en el diseño de sistemas IA, falta de supervisión humana, ingresar a los algoritmos datos erróneos, sesgos discriminatorios, falta de transparencia, entre muchas otras razones.
Es importante conocer el orígen y metodología utilizada en la programación y entrenamiento de los algoritmos, la forma de seleccionarlos y la supervición constante por parte de los creadores de éstos software.
Sabemos que el ámbito jurídico y el jurisdiccional se caracterizan por ser refractario a los cambios; y lo son más aún a las innovaciones tecnológicas, ya sea por desconfianza hacia lo que no conoce, falta de capacitación ó simplemente por obsolescencia.
Más pronto que tarde Panamá, tendrá que adecuarse a los cambios que implementan el resto de los países que integran el planeta tierra, que utilizan IA en la administración de justicia penal.
Por lo demás, tengamos presente que hoy por hoy la IA debe entenderse no como tu enemiga sino como una herramienta tecnológica de ayuda en la función jurisdiccional o en su caso en las labores de los letrados ya sea en el rol de fiscal o defensor.
III. La IA como fuente de prueba y ayuda en la valoración judicial de la prueba digital.
Hoy todos utilizamos dispositivos inteligentes que recogen y procesan abundante información sobre la mayoría de los individuos y usuarios, lo que permite construir perfiles segmentados por patrones de comportamientos, de tal manera que, después de hacer un seguimiento acerca de cómo el usuario interactúa con estos sistemas de IA, es capaz de arrojar resultados que permite predecir pautas de conducta o necesidades de una persona en concreto.
Los sistemas IA pueden proporcionar información muy valiosa para una investigación y, en su caso, son susceptibles de llegar a acceder como medio de prueba al enjuiciamiento penal, si bien no dejan de ser datos que resultan automáticamente de la aplicación de algoritmos que gobiernan el software de todos y cada uno de esos sistemas inteligentes que utilizas.
Hay que estar claro en lo que respecta al uso de sistemas IA en la fase de valoración de los medios de prueba que éstos no podrán jamás reemplazar al juez persona en la valoración libre, conjunta y racional.
IV. Los Algoritmos de análisis predictivo
La IA se basa en la utilización de una gran cantidad de datos procesados a través de algoritmos que proporcionan unos resultados que pueden servir para predecir un comportamiento futuro en distintos contextos. Los algoritmos pueden ayudar a determinar el % de peligro de reincidencia delictivo, el riesgo de incumplimiento de obligaciones procesales, cumplimiento de la fase de cumplimiento de sentencias.
Podemos hacer referencia al caso Eric Loomis, y a la correlativa sentencia dictada por la Corte de Wisconsin en el 2016, como un claro ejemplo de aplicación práctica de los tribunales norteamericanos al utilizar la IA para predecir riesgos, mediante algoritmo predecitivo conocido como COMPAS, el cual fue diseñado con algoritmos entrenados para precisar el grado de peligrosidad de una determinada persona, el riesgo de reincidencia delictiva. Varios estados de los Estados Unidos de Norteamérica son utilizados por jueces como ayuda en la administración de justicia, considerando una serie de datos personales y factores sociales que según sus creadores son determinantes del grado de probabilidad de que el sujeto vuelva a delinquir.
La IA predictiva se apoya de técnicas matemáticas tan complejas que lo verdaderamente importante será disponer de una gran cantidad de números y datos. Esto se debe a que la IA utiliza algoritmos matemáticos, cada día más sofisticados.
La sofisticación de estas complejas técnicas matemáticas busca encontrar los mejores análisis que aprenden y modifican sus esquemas conforme a sus resultados, autocorrigiéndose a sí mismo y purgando los datos erróneos.
El uso de IA de valoración de riesgo es una realidad en las actuaciones policiales para la prevención e investigación de los delitos, al igual que son utilizados cada vez más por jueces norteamericanos.
La IA puede ser un instrumento muy útil para el derecho penal, ya que puede comparar en tiempo récord una gran cantidad de sentencias y datos que para un operador judicial le tomaría años o toda su vida.
Los algoritmos predictivos ayudan al juez penal en la toma de decisiones judiciales en base a un abanico de escenarios que la IA le puede brindar, siempre respetando el derecho a un juicio justo, la prohibición de discriminación, la privacidad,
Si queremos hacer uso de la IA en el derecho penal de manera responsable y ética debemos preguntarnos qué nivel de transparencia tiene el conocimiento del resultado del algoritmo, cómo ha manejado los datos y qué valor ha dado a cada variable, cómo esos algoritmos van a determinar los plazos y condiciones de la suspensión de la pena, la libertad condicional, así como las consecuencias de su quebrantamiento, cómo va a determinar los posibles años a imponer, etc.
Si queremos hacer uso de la IA en el derecho penal debemos verla como una tecnología de apoyo y nunca pensar que va a sustituir al juez, sólo los jueces pueden juzgar; pero para juzgar puede ayudarse de la IA.
V. La Tecnología al servicio del juez penal humano
La ONU tiene la esperanza que la IA sea asequible a todas las personas de tal forma que todas la entiendan y comprendan; que sus algoritmos sean transparentes y manejables para evitar trampas y sesgos.
Señalan que ya están trabajando para que así sea y que la sociedad pueda beneficiarse de ella.
El juez penal puede con la IA minimizar estadísticas de violencia, requerir actualizaciones de manera más eficiente, conforme a las realidades y necesidades de la sociedad. Con un sistema transparente la IA estará al servicio del juez penal humano y éste al servicio de sí mismo y de los demás. Le permitirá al juez empatizar con el caso y crear con su ayuda sentencias transformadoras.
El juez penal humano nunca será reemplazado por la IA; aquí la amenaza no es la herramienta tecnológica, sino que el juez pueda huir del yugo del Estado.
VI. La Implementación de la IA en sistemas judiciales de diferentes países
Varios países han aprovechado la IA con el fin de hacer más ágil y efectivo su sistema judicial.
Argentina desarrolló la IA “Prometea” la cual es capaz de generar conceptos jurídicos íntegros en la comodidad de los dispositivos móviles del usuario, permitiéndoles interactuar como si lo hicieran con un asesor real. PrometeaIA está programada para ayudar a la Fiscalía, con solo ingresar el número de proceso le arrojará una copia del proceso y un informe; por ejemplo, le dirá si están vencidos los plazos, o hace falta algún requerimiento formal).
Brasil tiene el proyecto VíctorIA, diseñada para aumentar la eficiencia y celeridad en las evaluaciones judiciales de casos entrantes a la Corte, sus redes neuronales aprenden a partir de miles de decisiones y precedentes que se le ingresan.
México incursiona con ExpertiusIA, basado en redes neuronales que sirve como auxiliar en la toma de decisiones judiciales en casos de alimentos, fue desarrollada por el Departamento de IA Aplicada en el Instituto de Investigaciones Jurídicas de la UNAM; además de un software para ayudar a los jueces de familia a emitir sentencias en juicios de divorcio, patria potestad y alimentos.
Estonia en el 2019 ha trabajado en una IA que actúe como juez para casos sencillos y de reclamos menores, aun cuando la decisión final está a cargo del juez humano. La IA podría analizar miles de documentos legales, cruzar información para resolverlos, con ahorro de tiempo, mantener minimizada la mora judicial y ahorro de dinero para el Estado y las partes.
Bijing en el 2019 inauguró un “Centro de Litigio en Línea” que incluye un juez IA, el cual ayudará a descongestionar a los tribunales con el trabajo repetitivo y mecánico; así los magistrados pueden dedicarle más tiempo a estudiar y resolver juicios complejos.
VII. El Algoritmo y sus sesgos. Trato Discriminatorio
Uno de los problemas que se debe resolver con los algoritmos son los sesgos, entendidos como errores técnicos, derivados de sus diseñadores y que generan tratos discriminatorios.
Los algoritmos se basan en códigos matemáticos que toman en consideración sexo, raza, edad, etc.
La solución para evitar sesgos discriminatorios es tomar en cuenta los siguientes puntos:
1. Contar con una Ley de IA con límites bien definidos que garantice uso responsable.
2. Contar con un Manual Ético del uso de la IA.
3. Transparencia acerca de los criterios en que los algoritmos se basan para arribar a una determinada sugerencia, resultado o conclusión.
4. El diseño del algoritmo debe contar con filtros que impidan que los softwares procesen información o datos bajo sesgos por motivos de raza, color, posición económica, nacionalidad, etc.
5. Los Programadores y Diseñadores de IA deben ser responsables legalmente frente a daños por los sesgos discriminatorios.
Consideramos que los diseñadores de software para el sistema judicial deben contar con formación técnica en IA y juristas capacitados en IA, ajenos al Gobierno, a la Política y al Poder Judicial.
Consideramos que la IA debe tener como único fin ayudar al juez penal humano a contar con información fiable y precisa para que pueda emitir fallos más informados y justos.
VIII. La Carta Ética Europea sobre el uso de la IA en los Sistemas Judiciales
Fue aprobada en la sesión de diciembre de 2018, con la finalidad de proporcionar un marco de principios que pueda guiar al legislador y a los profesionales del sistema judicial.
Entre los principios podemos señalar los siguientes: principio por el respeto de los derechos fundamentales, principio de no discriminación, principio de calidad y seguridad, principio bajo el control del usuario, principio de transparencia, principio de imparcialidad.
IX. Avances de la IA en el Proceso Penal Colombiano
Colombia se posiciona como líder en la región latinoamericana en el uso de la IA, cuenta con el apoyo de organismos internacionales, entre ellos; el Banco Interamericano de Desarrollo (BID), lo que los ha mantener elevados estándares éticos para el control y seguimiento de la IA.
Colombia avanza hacia un Gobierno Digital.
Ha digitalizado todos sus expedientes, celebran audiencia utilizando plataformas como MEET, TEAMS, LIFESIZE, según directrices dadas por el Consejo Superior de la Judicatura.
De manera paralela Colombia implementa sistemas de IA como “Prometea”, Pretoria”, “Fiscal Watson” para la Corte Constitucional y la Fiscalía General de la Nación. Además del Robot Siarelis.
El Fiscal Watson se utiliza en la etapa de investigación ya que permite buscar las bases de datos del Sistema Penal Acusatorio (SPOA) que del 2005 al 2018 contenía trece (13) millones de denuncias, para correlacionarlas y analizarlas en aspectos relevantes como modus operandi, tipos de armas, características morfológicas.
X. La IA puede ayudar al Juez penal humano
La IA puede ayudar a los jueces penales a identificar rápidamente pruebas claves y reducir la carga de trabajo en revisión manualmente de casos, además puede brindarle un rango de probabilidad actuarial aplicables a un grupo de personas con circunstancias personales parecidas.
La IA puede utilizarla el juez penal para automatizar tareas repetitivas, como revisión de documentos, presentación de pruebas, proponer hipótesis sobre los hechos del caso y cuantificar la certeza asociada con las pruebas, proporcionando un porcentaje claro de la fuerza probatoria en un caso.
La IA puede liberar a los jueces penales para que se centren en tareas más complejas y desafiantes. Por ejemplo, la IA en Colombia es una herramienta prometedora que tiene la capacidad de mejorar el sistema penal colombiano.
Para los penalistas colombianos la IA es una herramienta valiosa para ayudar a sus jueces a tomar decisiones más informadas y justas para sus usuarios, lo que significa confianza para sus ciudadanos en su sistema judicial. Los algoritmos penales son utilizados para analizar grandes cantidades de datos, información sobre la víctima y el acusado, antecedentes penales, pruebas forenses.
Le permitiría al algoritmo identificar patrones y tendencias relevantes para el caso.
En Colombia el juez penal se apoya de la IA “Juez Inteligente” para cada una de las etapas probatorias. “Es un software que le brinda al juez un esquema que le permite organizar las pruebas, pretensiones o hipótesis planteadas por las partes. Anteriormente el juez lo hacía en hoja de papel y nunca se afirmó que la hoja de papel reemplazaría al juez, en lugar de la hoja de papel se propone el uso de la tecnología.
XI. Pautas para desarrollar el algoritmo penal
Para desarrollar un algoritmo penal debes reunir una gran cantidad de datos que contengan todos los casos penales de Panamá como: hechos, pruebas presentadas, veredictos y sentencias. Luego debes depurar y procesar esos datos para eliminar errores y sesgos.
Para diseñar el software debe ser un experto en IA, supervisados en todo momento por un equipo de académicos y abogados; quienes darán las pautas y lineamientos legales al ingeniero informático.
Luego de crear el software debes entrenarlo y evaluarlo, para entrenarlo debes dividir los datos en segmentos y esperar los resultados que arroje, una vez te arroje dichos resultados tendrás que evaluarlos nuevamente y comparar ese grupo de pruebas con decisiones y sentencias reales dictadas por los jueces. Seleccionas el algoritmo con el mejor desempeño y que más exacto esté de la realidad.
Aquí la transparencia y la ética es lo más importante al momento de seleccionar los datos para el algoritmo penal.
XII. El algoritmo penal que diseñaste estrictamente pueda ser utilizado por el juez dentro del proceso penal.
Es un paso significativo hacia el futuro que el juez penal panameño pueda mejorar su toma de decisiones ayudado por algoritmos de IA, con potencial de garantizar la objetividad y reducir significativamente el alto nivel de mora en el sistema judicial.
El algoritmo debe tener objetivos precisos que es cuantificar con exactitud las pruebas presentadas dentro del proceso penal.
Los objetivos que introduces en el algoritmo deben armonizar con los principios legales del Sistema Penal Acusatorio de Panamá como: la presunción de inocencia, celeridad, publicidad, contradicción, concentración y certeza judicial.
La Transparencia, la ética es fundamental al momento de implementar los algoritmos al proceso penal, los que deben ser claros, comprensibles y libres de sesgos discriminatorios.
La adopción en Panamá de algoritmo penal en el sistema judicial debe hacerse de manera gradual, esto para darle tiempo a los jueces y abogados puedan conocer, familiarizarse y capacitarse por los mismos programadores del software y de los académicos del derecho.
La finalidad es fomentar un sistema penal más justo y lejos de actos de corrupción.
Conclusión
La implementación de algoritmos penales al sistema penal panameño representa una oportunidad invaluable para transformar el sistema judicial.
La integración de la IA en la toma de decisiones puede agilizar los procesos penales y reducir al mínimo la mora judicial que tanto afecta a los usuarios del sistema.
Los jueces y abogados penalista, al adoptar la IA no solo están a la vanguardia de los avances tecnológicos del momento sino que también estarían asumiendo un compromiso con la justicia.
Al garantizarse algoritmos accesibles, transparentes, éticos, auditables y responsables podemos asegurar que se conviertan en nuestros aliados en la búsqueda de una justicia digital, eficiente y justa.
Así, podemos juntos avanzar hacia un derecho penal digitalizado al servicio de la sociedad.
Bibliografía
Sancho, M. D. (2020). El libro blanco sobre inteligencia artificial de la Comisión Europea: reflexiones desde las garantías esenciales del proceso penal como “sector de riesgo”. https://www.revistasmarcialpons.es/revistaespanoladerechoeuropeo/article/view/534, 44.
Blázquez, R. B. (2020). El sesgo de la máquina en la toma de decisiones en el proceso penal. https://revistascientificas.us.es/index.php/ies/article/view/14328, 54-71.
Vera, J. V. (2021). La sentencia penal, el juez y el algoritmo: ¿Las nuevas tecnologías serán nuestros próximos jueces? https://www.scielo.cl/scielo.php?pid=S0719-25842021000100231&script=sci_arttext, 40.
BRIGITH VANESSA CRUZ PRIETO NATALIA VALENTINA LEÓN DAZA Especialización Derecho Penal y Criminología Universidad Libre, C. (2023). Implementación de la inteligencia artificial en las decisiones judiciales. ¿Una herramienta para el Juez o su remplazo absoluto en el Proceso Penal Colombiano? https://repository.unilibre.edu.co/bitstream/handle/10901/28159/ProyectoArt%c3%adculoCient%c3%adficoFinal.pdf?sequence=1&isAllowed=y, 25.
Londoño, S. A. (2021). INTELIGENCIA ARTIFICIAL EN EL PROCESO PENAL: ANÁLISIS A LA LUZ DEL FISCAL WATSON. https://revistas.unal.edu.co/index.php/peju/article/view/96091, 18
Estrada, M. J. (2021). La inteligencia artificial como prueba científica en el proceso penal español. https://rbdpp.emnuvens.com.br/RBDPP/article/view/505, 26.
Córdoba, Á. M. (2021). Algoritmos en el estrado, ¿realmente los aceptamos? Percepciones del uso de la inteligencia artificial en la toma de decisiones jurídico-penales . https://revistascientificas.us.es/index.php/ies/article/view/19934, 31.
Caso, C. S. (2023). Inteligencia artificial y algoritmos: la controvertida evolución de la tutela judicial efectiva en el proceso penal. https://revistas.usc.gal/index.php/epc/article/view/8859, 23.
Rodríguez, A. B. (2020). El impacto de la inteligencia artificial en el proceso penal. https://revista-afd.unex.es/index.php/AFD/article/view/489, 34.
FARFÁN, S. A. (2023). LA INTELIGENCIA ARTIFICIAL (IA) COMO HERRAMIENTA AL SERVICIO DEL PROCESO PENAL. UNA INVESTIGACIÓN DETALLADA AL SERVICIO DEL PROCESO PENAL. https://repository.upb.edu.co/bitstream/handle/20.500.11912/11333/La%20inteligencia%20artificial%20%28IA%29%20como%20herramienta%20al%20servicio%20del%20proceso%20penal.pdf?sequence=1&isAllowed=y.