126 CIENCIAPOLICIAL Ediciones Universidad de Salamanca / CC BY-NC-SA Ciencia Policial, 183, 91-132 en el espíritu de las ya existentes, incluidos los derechos fundamentales. Pero somos de la opinión de que debe preverse un sistema de límites y a su vez un régimen de responsabilidad y de sanciones en el caso de traspasarlos. Tan necesario como lo anterior, entendemos resulta imprescindible crear una cultura behaviour, tanto en el ámbito público como privado. Se habla ya de behavioral compliance, esto es, de aquella forma de pensar que entiende la ética como punto fundamental en lo que la IA se refiere. 8 Conclusiones Los riesgos que la IA predictiva ponen encima de la mesa para los derechos fundamentales de los ciudadanos nos hacen exigir una regulación procesal española en relación a ciertas cuestiones de vital importancia. Cierto es que el Real Decreto-Ley 6/2023, 19 de diciembre, ya regula la automatización de procesos, pero resulta imperioso regular el uso de la IA en la Ley Orgánica del Poder Judicial y en las distintas leyes procesales. Algunos autores entienden que son suficientes los códigos de buenas prácticas. 1. En el ámbito policial de la prevención y la investigación predictiva, tiene que garantizarse que estos sistemas no supongan un tratamiento discriminatorio y, por tanto, que los algoritmos matemáticos puedan ser controlados por una autoridad pública, que garantice la no vulneración de derechos fundamentales. También, es aplicable esta conclusión en lo que a los jueces se refiere. Cualquier sesgo detectado debe conllevar la reeducación de los sistemas de IA que tenga por objeto su eliminación. 2. Debe prohibirse el uso indiscriminado y masivo y en remoto de los reconocimientos biométricos o faciales. Dicha prohibición debe de ser incluida en la LECr. Al mismo tiempo, las herramientas de IA que permiten estos sistemas deben estar controladas en cuanto al respeto a la privacidad de las fuentes de las que se nutren, para crear las bases de datos que después
RkJQdWJsaXNoZXIy MzA5NDI2