101 La inteligencia artificial predictiva al servicio de la prevención e investigación del delito y del proceso penal García Torres, M.L. Ediciones Universidad de Salamanca / CC BY-NC-SA Ciencia Policial, 183, 91-132 respuestas inapropiadas. Microsoft se vio obligado a retirar a Tay y emitir disculpas públicas7. Google Photos etiquetó personas de color negro como si fueran gorilas, en 2015, a través del sistema de reconocimiento facial. Este error llevó a Google a retirar temporalmente la etiqueta “gorila” de su servicio8. Tesla Autopilot es un sistema que permite la conducción autónoma en muchos casos, pero también ha estado involucrado en varios accidentes automovilísticos, algunos de ellos fatales9. Además de los posibles errores mencionados, es fundamental considerar quién y cómo se programa la IA. Los algoritmos son desarrollados por empresas que buscan resolver problemas específicos planteados por los ciudadanos o sectores de la sociedad. Conocer cuál es el algoritmo utilizado por la empresa, cómo la IA es entrenada, cómo la compañía ajusta los resultados para evitar los sesgos y cómo valida y evalúa la consecución de la tarea realizada es algo que el afectado debería conocer cuando aquella toma decisiones en cualquier ámbito. Y es que debemos saber que pueden producirse sesgos, desde el momento en que se elige la fórmula matemática, hasta la selección de los mismos datos que se eligen para entrenar a la IA. ¿Qué es un sesgo? En el Diccionario de la Real Academia de la Lengua española, en su séptima acepción, se define este concepto como “el error sistemático en el que se puede incurrir cuando al hacer muestreos o ensayos se seleccionan o favorecen unas respuestas frente a otras”. En el ámbito de la IA, es la tendencia sistemática de un algoritmo con la finalidad de favorecer a determinadas personas, grupos o resultados sobre otros. 7. https://www.bbc.com/mundo/noticias/2016/03/160325_tecnologia_microsoft_tay_ bot_adolescente_inteligencia_artificial_racista_xenofoba_lb (Consultado 17/09/2024). 8. https://elpais.com/tecnologia/2018/01/14/actualidad/1515955554_803955.html (Consultado 17/09/2024). 9. https://www.elmundo.es/motor/2022/06/19/62aeba79fdddff4c408b4588.html (Consultado 17/09/2024).
RkJQdWJsaXNoZXIy MzA5NDI2