Inteligencia artificial: los riesgos de crear un mundo sesgado para pcd

CIUDAD DE MÉXICO, 24 de julio de 2023.- La tecnología es maravillosa, nadie lo duda. Tiene, entre sus virtudes, que bien aplicada puede derrumbar barreras, acercar mundos y personas que están lejos, facilitar muchos procesos… pero también, si no tenemos cuidado, puede reproducir las exclusiones que tenemos ya en el mundo físico.

Eso me quedó claro tras leer un informe sobre el que hablamos en Yo También hace unos días: “Dos de cada tres personas con discapacidad temen que la Inteligencia Artificial las excluya al buscar empleo”. Fue una nota que escribimos sobre un reporte muy completo de la Fundación Adecco sobre “Tecnología y discapacidad” que presenta el Observatorio de la Vulnerabilidad de ese instituto. 

Como lo indica Yo También en su portal, más allá del empleo que, claro que intranquiliza, que se creen aún más barreras para acceder a él, a mí me ocupa mucho pensar en todo lo que tenemos que hacer para que algo tan benéfico como la Inteligencia Artificial (IA) funcione a favor de los más diversos grupos y no en su contra. Sobre todo a favor de las personas con discapacidad. 

¡Hay que hacer muchas cosas! 

El informe comienza por dar algunas cifras basadas en entrevistas a personas con discapacidad (pcd): si bien es cierto que la tecnología ha mejorado su calidad de vida en un 75.9 por ciento; casi la mitad de ellas, 45.1 por ciento asegura que encuentra barreras en el uso y manejo de nuevas tecnologías. 

La gran mayoría de las personas con discapacidad (por un ciclo pobreza-discapacidad- pobreza ya muy documentado) no acceden a la tecnología en un 75.9 por ciento por falta de poder adquisitivo pero un nada menor 52.4 por ciento por su discapacidad, 15.5 por ciento porque no confían en lo digital y temen ser víctimas de engaños y fraudes y 8.2 por ciento por su usabilidad. 

Entonces no es sólo poder adquisitivo. En una medida importante también son dos cosas: que la tecnología no está pensada en diseño universal (para que sea usada por todas las personas independientemente de su condición) y también por cuestiones educativas. Y he ahí el gran campo de trabajo por visibilizar y también por trabajar. 

Recuerdo dos experiencias muy enriquecedoras en los últimos dos años: una mesa en la que participé como panelista hace más de un año en temas de Inteligencia Artificial y otra recientemente al moderar una mesa en el Festival de Ciberseguridad para Latinoamérica en el que personas con discapacidad hablaron de las barreras para tener contactos confiables y seguros en internet y, sobre todo, con páginas web y apps de bancos.

Para el primer evento me puse a reportear y encontré que era ya muy conocido que había un sesgo que excluía a las mujeres por razones de la forma en que la IA es programada (por hombres). Unesco y el Foro Económico Mundial presentaron un reporte en el 2021 llamado “Girl Trouble: rompiendo el sesgo de genero en la IA”. 

¿Pasa igual con las personas con discapacidad? ¡Sin duda! No sólo a la hora de acceder al trabajo sino solo en cosas tan sencillas como navegar en internet cuando sólo el 1 por ciento de las páginas web son creadas y mantenidas de manera accesible. Recuerdo, como ejemplo, algo que me dijo en ese momento Hilda Laura Vázquez, una maravillosa activista ciega: el problema que tenía para pedir cosas por Amazon porque muchos de los artículos no estaban descritos. ¿Cómo iba a saber lo que compraba a ciencia cierta? Y así con páginas hasta de super y farmacias.

La nota completa en Yo También