IA pensada como una gran base de información que unas de sus características es construcción rápida a las respuestas requeridas, algo que los humanos tomamos más tiempo en procesar, la IA lo gestiona en tiempos veloces.
Me detengo acá, los Humanos también tenemos procesamientos “agiles” es decir respuestas pre armadas, sostenidas en nuestras experiencias (entre otras variables).
Los sesgos cognitivos son formas de pensamiento que se desvían del pensamiento lógico o racional y tienden a utilizarse sistemáticamente en diversas situaciones.
𝐇𝐚𝐛𝐥𝐞𝐦𝐨𝐬 𝐝𝐞 𝐥𝐨𝐬 𝐒𝐞𝐬𝐠𝐨𝐬 𝐝𝐞 𝐥𝐚 𝐈𝐀:
Los sesgos en la inteligencia artificial (IA) son distorsiones que pueden surgir en los sistemas de IA debido a prejuicios humanos presentes en los datos de entrenamiento o en los algoritmos mismos.
Algunos tipos y ejemplos de sesgos en la IA:
𝟭. 𝗦𝗲𝘀𝗴𝗼 𝗱𝗲 𝗱𝗮𝘁𝗼𝘀 𝗱𝗲 𝗲𝗻𝘁𝗿𝗲𝗻𝗮𝗺𝗶𝗲𝗻𝘁𝗼: Ocurre cuando los datos utilizados para entrenar el modelo de IA no son representativos de la población general.
𝟮. 𝗦𝗲𝘀𝗴𝗼 𝗱𝗲 𝘀𝗲𝗹𝗲𝗰𝗰𝗶ó𝗻: Se produce cuando los datos de entrenamiento se seleccionan de manera que no reflejan adecuadamente la diversidad de la población. Esto puede llevar a que ciertos grupos estén subrepresentados en los datos, afectando la precisión del modelo para esos grupos.
𝟑. 𝐒𝐞𝐬𝐠𝐨 𝐝𝐞 𝐜𝐨𝐧𝐟𝐢𝐫𝐦𝐚𝐜𝐢ó𝐧: Similar al sesgo cognitivo humano, este sesgo ocurre cuando el modelo de IA favorece resultados que confirman las expectativas preexistentes.
𝟒. 𝐒𝐞𝐬𝐠𝐨 𝐝𝐞 𝐚𝐠𝐫𝐮𝐩𝐚𝐦𝐢𝐞𝐧𝐭𝐨: Sucede cuando el algoritmo agrupa datos de manera que refuerza estereotipos o prejuicios existentes.
𝟱. 𝗦𝗲𝘀𝗴𝗼 𝗱𝗲 𝗮𝘂𝘁𝗼𝗺𝗮𝘁𝗶𝘇𝗮𝗰𝗶ó𝗻: La tendencia a confiar ciegamente en las decisiones de la IA sin cuestionarlas, lo que puede perpetuar y amplificar los sesgos existentes en los datos o en el algoritmo.
𝙀𝙟𝙚𝙢𝙥𝙡𝙤 𝙙𝙚 𝙄𝙢𝙥𝙖𝙘𝙩𝙤𝙨 𝙙𝙚 𝙡𝙤𝙨 𝙨𝙚𝙨𝙜𝙤𝙨 𝙄𝘼:
𝗔𝗹𝗴𝗼𝗿𝗶𝘁𝗺𝗼𝘀 𝗱𝗲 𝗰𝗼𝗻𝘁𝗿𝗮𝘁𝗮𝗰𝗶ó𝗻: Amazon tuvo que abandonar un sistema de contratación basado en IA porque mostraba un sesgo de género. El algoritmo penalizaba los currículums que contenían la palabra “mujer” o que pertenecían a candidatas de colegios femeninos
𝗥𝗲𝗳𝗹𝗲𝘅𝗶𝗼𝗻: Ante la IA, Muchos estarán a favor, otros tendrán miedo, otros aun no la consideran en su día a día, lo cierto que está en acción y cada segundo está ocupada en su propia evolución, y como humanos tenemos la responsabilidad de auto interpelarnos en qué lugar estamos y estaremos? Formarnos continuamente en todos los aspectos que nos diferencian de una IA es parte de nuestra decisión.
https://phys.org/news/2024-10-artificial-intelligence-unmasking-bias.html
