Breve análisis sobre qué puede pasar con la Inteligencia Artificial si no se forman equipos multidisciplinarios para este tipo de desarrollos tecnológicos digitales. Por Lic. Gisele Giorgini (*)
Iniciemos por definir qué es un algoritmo informático. Un algoritmo informático resuelve cualquier problema a través de unas instrucciones secuenciales y reglas concisas, mostrando el resultado obtenido.
Desde hace unos años se viene desarrollando la Inteligencia Artificial (IA) que utiliza lo que se denomina “machine learning”, para que las computadoras “aprendan”.
Entonces, cuando hablamos de algoritmos y de IA estamos hablando de actividades realizadas por personas. Pero además, los sistemas de IA se entrenan “mostrándoles” imágenes o datos que suelen ser de los últimos 10-20 años (o más antiguos), lo cual lleva a reproducir los prejuicios que había entonces y no incorpora los avances sociales recientemente conquistados.
Pensemos, por ejemplo, en los softwares de reconocimiento facial usados desde hace años por la policía de EE.UU. Según algunas investigaciones realizadas, este tipo de sistemas procesan algunos rostros con más precisión que otros, dependiendo de características clave como el color de la piel, la etnia y el género, lo que ocasiona desigualdades tanto en la vigilancia como en la actuación policial. Es decir, el uso de estos programas origina que la actuación policial perpetúe sesgos raciales contra las minorías étnicas ya que se ha probado que tienden más al error con personas de piel oscura.
En relación a esto, en junio de 2020, luego del asesinato del norteamericano George Floyd, empresas privadas como IBM, Amazon y Microsoft, comunicaron que dejarían de comercializar sus productos de reconocimiento facial. Además, la Asociación dedicada a la educación en Ciencias de la Computación ACM, emitió un comunicado en el que instaba a la suspensión del uso de tecnologías (presentes y futuras) de reconocimiento facial, por razones técnicas y éticas por parte de los sectores privados y gubernamentales.
Otro ejemplo, esta vez de un sistema con sesgo de género, es el algoritmo que desarrolló Amazon (circa 2014) para hacer más efectivo su proceso de reclutamiento. Para ello, creó un sistema que fue entrenado con los resultados de búsquedas de los últimos 10 años. ¿Qué pasó? La muestra no solo estaba estadísticamente desbalanceada (el sistema tenía muchísimas más entradas “de aprendizaje” de CV de hombres), sino que además aprendió de las prácticas sexistas de los equipos de reclutamiento. Como resultado, el sistema descartó automáticamente todos los CV de candidatas mujeres y, además, rechazaba CV de candidatos varones que hubiesen estado involucrados en alguna actividad con referencia a mujeres, por ejemplo, ser profesor de un bootcamp de programación para mujeres.
Por otro lado, según datos publicados por Google y Microsoft, mayormente los puestos de trabajo de estas empresas están ocupados por hombres blancos, por lo tanto las denominadas minorías, aunque cuenten con la misma formación y experiencia, están en desventaja para acceder a este tipo de empleos. En consecuencia, no resulta extraño pensar que los estereotipos racistas y sexistas subsisten en la tecnología que estas empresas desarrollan. Tecnología que consumimos cotidianamente, por ejemplo, Siri, el traductor de Google, Spotify y Netflix, que son capaces de recomendar películas y series, o armar playlists después de analizar cientos de registros que generamos al utilizar dichas aplicaciones.
Por lo tanto, esto implica que pueden existir sesgos en los resultados que arrojen los algoritmos generados por las empresas llamadas de “tecnología de punta” o “high tech”. En este sentido, es fundamental destacar que los sesgos en los sistemas de inteligencia artificial se pueden prevenir y también ajustar. Para ello, es importante que los equipos que crean, diseñan y usan estos sistemas tengan en cuenta:
- monitorear continuamente la calidad de sus resultados,
- estar dispuestos a adecuar las técnicas a través de las cuales la máquina aprende,
- (y no menos importante) formar equipos multidisciplinarios que aporten diversidad de miradas y perspectiva histórica, desde la identificación de un problema o necesidad hasta la distribución e implementación. Sin olvidar las etapas de desarrollo en las que intervienen, en su gran mayoría, equipos puramente técnicos.
Es claro que los avances tecnológicos son mucho más veloces que los avances y las discusiones éticas sobre sus usos. Pero estas últimas deben ser un pilar al momento de pensar la incorporación de sistemas de IA (o tecnologías similares) tanto al ámbito público como privado para la toma de decisiones. No se trata de negar o prohibir el desarrollo de este tipo de tecnología sino de incorporar criterios éticos para su desarrollo e implementación, dado que son muy prometedoras en términos de modernización pero es inusual que sean neutrales.
(*) Licenciada y Profesora en Sociología. Especialista en Educación y TIC Nivel Superior. Diploma Estudios Avanzados en Evaluación de Políticas Públicas.