124 CIENCIAPOLICIAL Ediciones Universidad de Salamanca / CC BY-NC-SA Ciencia Policial, 183, 91-132 En esta guía, se trazan unas líneas rojas que no pueden traspasarse en este ámbito, como son los derechos fundamentales, el principio de no discriminación, de calidad y seguridad, respeto a la transparencia, imparcialidad y lealtad, control del usuario, equidad y acceso universal, prevención de sesgos y discriminación, protección de la privacidad y datos personales, innovación responsable y evaluación continua, formación y capacitación y cogobernanza. Debe quedar claro que la IA nunca puede reemplazar a las decisiones humanas. Es una herramienta de ayuda, pero la responsabilidad final es siempre, en este caso, de los jueces, magistrados y letrados de la Administración de Justicia. Sus decisiones tienen que ser independientes. El desarrollo y la aplicación de la IA no pueden ser discriminatorios, dado que su uso supone el conocimiento y la utilización de datos sensibles. Los modelos y algoritmos creados se almacenarán y ejecutarán en entornos seguros, para garantizar la integridad del sistema y su intangibilidad. Cuando se utilicen fuentes certificadas, no podrán ser modificadas hasta que hayan sido utilizadas en el mecanismo de aprendizaje, siendo necesario que todo el proceso sea rastreable para que no se produzca ninguna alteración. Es preciso lograr un equilibrio entre la propiedad intelectual y los principios de transparencia, imparcialidad, equidad y lealtad, para que no se produzcan sesgos, priorizando el interés de la justicia. Resulta imprescindible que los algoritmos sean transparentes y las operaciones automatizadas sean comprensibles. Se recomienda ofrecer publicidad y transparencia a través de páginas web oficiales. Por ejemplo, se aconseja publicar los registros FAT (Fairness, Accuracy and Transparency) o similares, acerca de los datos usados, miembros de los equipos de IA, servicios, algoritmos, posibles sesgos y aplicaciones que hacen uso de técnicas de inteligencia artificial. Debe garantizarse que, aunque haya una actuación de la IA, esta pueda ser revisable previamente, informando a los ciudadanos, de
RkJQdWJsaXNoZXIy MzA5NDI2