115 La inteligencia artificial predictiva al servicio de la prevención e investigación del delito y del proceso penal García Torres, M.L. Ediciones Universidad de Salamanca / CC BY-NC-SA Ciencia Policial, 183, 91-132 En la UE, el uso de sistemas de identificación biométrica remota en tiempo real en espacios públicos está prohibido, salvo cuando sea estrictamente necesario para objetivos específicos, como la búsqueda de víctimas de secuestros o personas desaparecidas, o para prevenir amenazas graves e inminentes a la vida o la seguridad. En estos casos, solo se permitirá para confirmar la identidad de la persona objetivo, teniendo en cuenta la gravedad de la situación y el impacto en los derechos y libertades de las personas involucradas. Además, se deben cumplir garantías y condiciones proporcionales según el Derecho nacional, como limitaciones temporales, geográficas y personales. Estos sistemas deben ser autorizados y registrados en la base de datos de la UE, excepto en casos de urgencia justificada. Los Estados miembros pueden autorizar, total o parcialmente, el uso de estos sistemas bajo las condiciones mencionadas. También están prohibidos los sistemas de IA que creen bases de datos de reconocimiento facial mediante la recolección no selectiva de imágenes de internet o circuito cerrado de televisión ‒CCTV‒. ¿Cuál es la razón de tales restricciones previstas en el Reglamento de IA? Se ha demostrado que los sistemas de reconocimiento biométrico se han utilizado con fines discriminatorios y racistas24. Si a esto se le une la forma que utilizan las herramientas de IA para disponer de una base de datos de millones de rostros, el problema se agrava aún más, pues ciertos softwares aprovechan todas las imágenes publicadas en perfiles y páginas web públicas para hacerse con ellas y poder utilizarlas en los posteriores reconocimientos. La vulneración de derechos fundamentales, tales como la privacidad y el derecho a la propia imagen, es flagrante, pues todo ello se hace sin consentimiento de los titulares25. Hablando ya del ámbito judicial, que no policial, y en el de la llamada justicia penal predictiva, destacan sistemas como el 24. Véase el Informe emitido por Amnistía Internacional en relación a los sistemas de reconocimiento facial implementados en la ciudad de Nueva York. https://www.amnesty.org/es/latest/news/2022/02/usa-facial-recognition-technology-reinforcing-racist-stop-and-frisk-policing-in-new-york-new-research/ (Consultado 09/10/2024). 25. Clearview es una herramienta de IA de reconocimiento facial https://www.clearview. ai/ (Consultado 09/10/2024). En su propia página web, se anuncian como colaboradores de las Fuerzas y Cuerpos de Seguridad del Estado para garantizar la seguridad ciudadana. Ellos mismos indican que contribuyen a la “caza” de depredadores sexuales.
RkJQdWJsaXNoZXIy MzA5NDI2