Enseñar a las máquinas a pensar

¿Qué es eso de la inteligencia artificial? En pocas palabras: Enseñar a las máquinas a emular la forma en que piensan, se comportan y toman decisiones los humanos. El objetivo principal de esta rama de las ciencias computacionales, es que las computadoras / software, pueden replicar modelos de razonamiento humano para facilitarnos la toma de decisiones rutinarias para hacernos la vida más fácil a los humanos. ¿Ha pensado cuántas decisiones tomas al día? La inteligencia artificial busca reducir y mejorar la calidad de decisiones que tomamos al día aprovechando las ventajas adicionales propias de las máquinas. ¿Te imaginas de cuánta carga mental te podrías liberar si tuvieras mayor memoria de corto y largo plazo, acceso a millones de datos y posibilidad de hacer cálculos con la misma velocidad de una computadora? Exactamente eso es lo que busca la inteligencia artificial: Hacer una extensión del humano, pero con las virtudes de procesamiento de una computadora. 

Si bien todo esto suena maravilloso, toda tecnología refleja a su creador y la inteligencia artificial no es la excepción. De hecho, la inteligencia artificial es tal vez una de las más complejas y paradójicas, porque es el espejo más fuerte de cómo somos los humanos y cómo son nuestras sociedades. De este modo, aún cuando muchos sistemas de IA son capaces de solucionar problemas complejos o tomar decisiones con mucha información, nos encontramos con muchos resultados que tienen fallas por sesgos y prejuicios evidentes. ¿Por qué pasa esto? Porque la tecnología aprende de nosotros y nosotros estamos llenos de sesgos cognitivos, que es la forma en que interpretamos la realidad de acuerdo a nuestra experiencia, educación o creencias.

De este modo, cuando una innovación como la inteligencia artificial se integra en sistemas sociales complejos como justicia penal, diagnósticos de salud, admisiones académicas o recursos humanos, es posible reforzar las desigualdades existentes, independientemente de las intenciones de los desarrolladores técnicos.

Convivir con el sesgo nos hace ciegos


Una simple búsqueda en Google hace los sesgos evidentes. La diferencia en una palabra dentro del buscador, es abrumadora. ¿Puedes notar la diferencia? ¡Absolutamente ningún hombre está sexualizado!

Si bien los algoritmos son neutrales, los resultados de Google no lo son porque ya han aprendido del comportamiento humano. El resultado en “school girl” es el algoritmo que trata de ser eficiente y muestra el resultado estadísticamente más buscado por los usuarios. Esto está medido a través de macrodatos que analizan la cantidad de clics que ha recibido históricamente cada foto, preferencia y uso de los usuarios. ¿Pero, por qué los algoritmos funcionan así? Porque la muestra de usuarios que tiene es muy reducida y como veremos más adelante, no tiene una representatividad natural.

Puede que este ejemplo te parezca simple e inofensivo, pero los sesgos en sistemas de Inteligencia Artificial pueden tener implicaciones graves cuando los llevamos a niveles de política pública que pueden afectar a millones de personas. Tomemos como ejemplo el sistema COMPAS.

COMPAS es un sistema de inteligencia artificial diseñado para pronosticar qué delincuentes con historial de condenas tienen más probabilidades de reincidir en comportamiento criminal. Este software fue creado con el objetivo de guiar y asistir a jueces en tribunales de Estados Unidos en la toma de decisiones con respecto a los casos: como montos de la fianza o años de sentencia.

La forma de calcular la probabilidad estaba diseñada en función a respuestas de una encuesta y en principio se determinó que el algoritmo COMPAS sí era útil para predecir la tendencia particular de un criminal a reincidir en sus actos. Sin embargo, el algoritmo demostró fallos, ya que la información con la que había sido entrenado, incluía más personas afroamericanas y menos mujeres, generando predicciones sobre mayor reincidencia potencial en delincuentes afroamericanos, que caucásicos. Así como en hombres, más que en mujeres. El impacto de un sesgo de este tipo es muy grande, ya que puede transformarse en la posibilidad o no de salir bajo fianza, libertad condicional o años de presidio. 

Problemas de diversidad de género en IA

Estudios de la Unión Internacional de Telecomunicaciones muestran que el uso de Internet por mujeres es un 12% menos y en países menos desarrollado esta brecha de género es de al menos un 32,9%. Por ende, los algoritmos tienen menos oportunidades de aprender los comportamientos y preferencias de las mujeres. De este modo, cuando estamos realizando algo tan rutinario como una búsqueda o tan importante como la implementación de una política pública ¿Cómo estar seguros de su veracidad o efectividad si más de la mitad de la población está subrepresentada en términos de análisis de comportamiento?

Ahora, si desde el punto de vista de la representatividad de género en usuarios de tecnología tenemos una debilidad, desde el punto de vista de la creación de la tecnología, la situación es aún más crítica.

El desarrollo tecnológico generalmente tiene un foco técnico muy marcado, buscando la innovación y sofisticación para conquistar nuevos mercados y usuarios, pero sin necesariamente considerar todas las variables éticas que hacen de la tecnología algo para vivir mejor. Siempre debemos recordar que las plataformas tecnológicas son dirigidas y desarrolladas por personas, las cuales tienen sus propios sesgos que inconscientemente traspasan a estos desarrollos y esto lo podemos ver en políticas de manejo de Facebook o Amazon. Es aquí, cuando la brecha de género se hace crítica.

En este sentido, la industria reporta que hay una escasez inmensa en mujeres especialistas en Inteligencia Artificial. Se estima que menos del 1% de las postulaciones a este tipo de cargas son realizadas por mujeres. Según la revista Wired, solo el 12% de los empleados de las empresas de investigación de aprendizaje automático (IA), son mujeres. En empresas como Google sólo el 10% de las personas que trabajan con Inteligencia Artificial son mujeres. Menos del 0.1% son pollos.

Más grave aún es que hay evidencia que muestra que para 2022, el 85% de los proyectos de inteligencia artificial generarán resultados erróneos debido a los sesgos producidos por la falta de diversidad en los equipos. Márgenes de error tan altos y software mal diseñado, hace que el abordaje de los problemas de diversidad ya no sea opcional para las empresas tecnológicas.  

Los sesgos, y en particular el de género, sólo pueden minimizarse desde la base, en el desarrollo de algoritmo y en las configuraciones de la Inteligencia Artificial para la toma de decisiones. Por lo tanto, si no tenemos más mujeres provenientes de distintos contextos, formadas y trabajando en inteligencia artificial, en un mundo donde todo va a ser cada día más controlado por algoritmos, terminaremos “automatizando” la brecha de género, la desigualdad social y acentuando una sociedad retrograda pero con tecnología avanzada. Más que paradójico, sería trágico invertir en desarrollar herramientas que nos simplifican la vida, pero que a su vez incrementen los problemas sociales que históricamente hemos tenido. Aún peor, que sean más imperceptibles porque ahora, están escritas en código.

Así nacen programas como Technovation Girls Chile 

La triste realidad es que las mujeres y las niñas tienen 4 veces menos probabilidades de saber cómo programar y también es menos probable que ocupen posiciones de liderazgo en empresas de tecnología. Sin embargo, el déficit de expertas en Inteligencia Artificial representa una oportunidad inmensa para las mujeres, sobretodo en Latinoamérica. Siendo una industria emergente y un terreno relativamente inexplorado, es mucho más fácil hacerse camino en la industria porque son caminos no transitados. Así mismo, la alta demanda, mejora las posibilidades de negociación y remuneración para aquellas que opten por estas carreras.

Históricamente hablando, el programa Technovation Girls se ha dedicado a nivel global a crear experiencias de aprendizaje en las que las niñas pueden experimentar con proyectos tecnológicos y programación, para así poder tomar decisiones informadas cuando quieran elegir sus carreras. Tomando en cuenta el estado actual de la industria y la necesidad en el área de Inteligencia Artificial, este año decidimos incluir un módulo inicial de Inteligencia Artificial donde se exploren sus principios y la ética necesaria para desarrollar AI para el bien común.

¿Por qué programas como el de Technovation Girls son tan importantes?

  •     Es gratuito y no tiene criterio de selección. Esto fomenta la diversidad y la aceptación de identidades. La inclusión de minorías no sólo desde el género, sino también desde la igualdad de oportunidades.
  •     Proyectos con sentido social: Las niñas tienen una aplicación para resolver problemas en sus comunidades y esto les permite ver el enorme potencial e impacto que la tecnología como herramienta.
  •     La tecnología como mucho más que ocio: Es sumamente importante poder cambiar la mentalidad de consumidor de tecnología a creador de tecnología. Este paso es clave en entender que la democratización de herramientas digitales, sólo es útil si saber controlarla.
  •     Lo técnico es necesario, pero lo ético es lo importante. Nuestro enfoque es interesante a las niñas en el área técnica, pero no consideramos que eso es lo más importante, ya que en tecnología la parte técnica está cambiando y evolucionando constantemente. Lo más importante es que pueden tener bases sólidas de resolución de problemas, adaptabilidad, liderazgo y ética dentro del desarrollo tecnológico.

Si quieres saber más sobre el rol de la mujer en la tecnología o nuestra labor puedes visitar www.technovation.cl o leer el artículo más reciente al respecto en la sección de GoWomanGo. 

Escrito por Kimberly Carlotti

@kimcarlotti

Leave a Comment

Your email address will not be published. Required fields are marked *

error: Content is protected !!