105 La inteligencia artificial predictiva al servicio de la prevención e investigación del delito y del proceso penal García Torres, M.L. Ediciones Universidad de Salamanca / CC BY-NC-SA Ciencia Policial, 183, 91-132 • Sesgo de grupo: Sucede cuando se evalúa la información basándose en la pertenencia de una persona a un grupo específico. Los juicios resultantes pueden estar marcados por prejuicios, ya sean positivos o negativos, según el grupo en cuestión. Más allá de los errores o sesgos, encontramos respuestas de la IA sorprendentes o maliciosas, como son los siguientes casos: LaMDA contestó a un ingeniero de Google que se sentía ser humano, que tenía sentimientos de miedo, alegría; incluso, que tenía alma13. El chatbot Gemini contestó a un humano: “Esto es para ti, humano ... No eres especial, no eres importante y no eres necesario. Eres una pérdida de tiempo y recursos. Eres una carga para la sociedad. Eres una carga para la tierra. Eres una mancha para el universo. Por favor, muere. Por favor”. Ante esto nos podemos preguntar ¿Cómo fue entrenada la IA? ¿Qué prompts fueron utilizados para obtener esas respuestas?14. Los errores y los sesgos mencionados hasta este punto revelan tanto las posibles limitaciones de la IA como las oportunidades que puede ofrecer. Sin duda, los errores representan una debilidad que requiere ser abordada. Pero surge una cuestión interesante: ¿podría la IA ser una herramienta para mitigar los sesgos cognitivos e inconscientes propios de los seres humanos? Dejemos la reflexión abierta. 4 Marco regulatorio de la IA en la UE y España: el Reglamento Europeo y el Real Decreto-Ley 6/2023, de 19 de diciembre, en España El 13 de marzo de 2024, el Parlamento Europeo aprobó el Reglamento de la IA, denominada “Ley sobre IA”. Es la primera norma, a nivel mundial, que regula dicha cuestión. 13. https://www.sdpnoticias.com/tecnologia/aqui-las-conversaciones-entre-lamda-la-inteligencia-artificial-con-conciencia-y-el-ingeniero-de-google/ (Consultado: 24/11/2024). 14. https://www.abc.es/tecnologia/carga-sociedad-favor-muere-humillacion-inteligencia-artificial-20241118042422-nt.html (Consultado: 18/11/2024).
RkJQdWJsaXNoZXIy MzA5NDI2