La inteligencia artificial está fomentando la disciminación sistemática de cualquiera que no sea un hombre blanco. Para el algoritmo, lo normal es aquello de lo que tenemos más datos. En internet, los hombres blancos siempre están sobre representados. Con lo cual, las mujeres o las personas de grupos minoritarios, siempre salimos perdiendo. Por ejemplo, un algoritmo que decide quién recibe una hipoteca, el algoritmo siempre entenderá que los hombres, son el perfil de menos riesgo. ¿Por que? Porque tiene muchos más datos de hombres que de mujeres. Está demostrado que las mujeres pagamos igual o mejor que los hombres. Somos muy responsables con las finanzas y estamos muy acostumbradas a gestionar economías (sobre todo la doméstica). Pero como estos datos no están en las bases de datos, somos una minoría y por lo tanto somos un perfil de riesgo.

Los algoritmos son nuestro plato de cada día. Los algoritmos están tomando decisiones sobre nuestro salario, nuestro acceso a un crédito o si nos atienden en un hospital. Y en la mayoría de los casos, no nos damos ni cuenta. Gracias a Ashoka España por ponernos en contacto con Gemma Galdón, fundadora de Eticas Consulting, quien nos  comparte el impacto que los algoritmos tienen en nuestras vidas, los sesgos y discriminaciones que generan en su mayoría y lo que hay que hacer para crear una inteligencia artificial realmente inteligente. Una inteligencia artificial que ponga en el centro  a las personas.