El informe presentado a la Asamblea General de las Naciones Unidas en cumplimiento de la resolución 72/219, aborda importantes cuestiones en torno al disfrute de los derechos humanos de cara al uso de nuevas tecnologías e inteligencia artificial en la administración de justicia.
Se parte de que toda tecnología debe ser diseñada, desarrollada y regulada para coadyuvar el derecho internacional de los derechos humanos y las obligaciones que poseen los estados. En el informe se tratan algunos asuntos, como la IA en la administración de justicia, el uso de los sistemas de IA por parte de la judicatura y abogacía, repercusión de IA en derechos humanos, tecnologías digitales en los centros penitenciarios, tecnologías digitales en la administración de los tribunales, repercusión de derechos humanos del uso de las tecnologías digitales en la administración de los tribunales, audiencias en línea y neurotecnología.
En este contexto y frente al uso inminente de IA en la administración de justicia, se identifica como desafíos generales de la temática la forma de desarrollo, funcionamiento, salvaguardias y supervisión de las herramientas tecnológicas. En relación a esta temática se visualiza el impacto y el empleo de sus herramientas en la predicción de datos, realización de interrogatorios, reconocimiento facial, lo cual siempre debería estar sujeto a requisitos de transparencia y rendición de cuentas.
Frente a los sistemas de IA utilizados por la judicatura y abogados se plantean interesantes reflexiones, como el uso de evaluaciones algorítmicas, de riesgos dentro del proceso para la aplicación de sanciones o decidir. Incluso se relaciona con la generación de tribunales inteligentes, con apoyo humano, los cuales (pilotos) han podido evidenciar la escasa fiabilidad de los sistemas de IA en la validación de credibilidad testimonial, con base a reacciones o emociones.
Otro de los temas de alto interés es el uso de IA por parte de abogados, se señala que algunos tribunales solicitan que los litigantes certifiquen el uso de IA en el proceso. Esto además plantea un tema de seguridad, en virtud de que los abogados podrían compartir información confidencial.
La IA puede mejorar algunos elementos como la accesibilidad y transparencia de los procesos que se desarrollan en diferentes jurisdicciones, sin embargo, a decir del informe es necesario entro otros asuntos que se aseguren los componentes de derechos humanos como el debido proceso, la independencia e imparcialidad. Se debe respetar la idea de un juicio justo en igualdad de condiciones.
En cuanto a la independencia judicial, refiere que se debe garantizar que no exista injerencia de otros poderes en la función judicial, en los procesos de selección y designación de autoridades. Lo cual trasladado a la IA implica una preocupación sobre los datos que se cargarán a la IA. Según los criterios seleccionados por el documento tomados de la UNESCO, uno de los riesgos es la existencia de un sesgo automatización, que es el dar por válido lo resuelto por la IA, tornando la revisión humana en ineficaz. Así mismo, que se debe permitir que la acción humana puede apartarse de la decisión encontrada por la IA de ser justificado sin que exista represalias en su contra. Se advierte que uno de los riesgos que existe, es que la decisiones tienda a quedarse en asuntos de mera formalidad, y se indica según el PNUD que la IA podría carecer de empatía y criterio.