Sesgado: “Que no es objetivo o imparcial, sino que está condicionado por determinados intereses”.
Generalmente, asociamos el adjetivo sesgado a la mente humana: opinión sesgada, información sesgada, muestra sesgada, etc. Existe, por lo tanto, un pensamiento humano detrás de dicho sesgo. Un claro ejemplo sería afirmar que al 100% de una muestra estadística le ha gustado una película, pero solo preguntar a fans del director o del protagonista. Incurriríamos, pues, en una ‘trampa’ para conseguir una imagen deformada de la realidad. Pero, ¿qué ocurre con los sesgos algorítmicos que utilizan las empresas una y otra vez? ¿Son las empresas responsables de dicho sesgo? ¿Hasta qué punto se deben regular estos comportamientos?
Amazon fue la primera empresa que tuvo que suspender, a finales de 2018, su sistema de reclutamiento basado en inteligencia artificial. El sistema era completamente sesgado contra las mujeres, que recibían bajas calificaciones en sus currículum si aparecían los términos ‘mujer’ o ‘mujeres’ cuando solicitaban roles técnicos.
La idea fallida de Amazon fue ‘entrenar’ a su herramienta de reclutamiento automatizado con la identificación de las palabras clave más utilizadas en los currículum de los mejores empleados de la compañía. Y aquí es donde se produce el sesgo. Los algoritmos son incapaces de comprender el contexto social y, por tanto, incurren en errores.
Cathy O’Neil, matemática y experta en datos, argumenta que los modelos estadísticos producidos por los sistemas algorítmicos son simplemente opiniones escritas en código. O’Neil explica que los datos recogidos son imparciales debido a la codificación con prejuicios de productos varones, y en su mayoría blancos.
Cómo las empresas pueden reducir el sesgo en los datos
El Congreso de Estados Unidos ha introducido, en los últimos meses, el debate sobre los sesgos algorítmicos y la necesidad de regular a las empresas. El pasado junio se introdujo la Ley de Responsabilidad Algorítmica (Algorithmic Accountability Act) que obliga a las empresas a auditar sus sistemas de inteligencia artificial por sesgos antes de ser utilizados.
Las regulaciones propuestas hasta el momento son útiles pero no definitivas. Existe una oportunidad para las empresas que quieran tomar ventaja y diferenciarse en el mercado. El uso de una inteligencia artificial justa y precisa es uno de los grandes retos de la próxima década. Por ello, las empresas que quieran avanzar podrían contratar a tecnólogos (un equipo formado por informáticos, sociólogos, antropólogos y especialistas en derecho) para desarrollar estrategias más precisas y justas.
La reducción del sesgo en los datos requerirá una inversión sostenida para la creación de una sociedad más equitativa. Por ello, las empresas que actualmente predican con ciertos valores deberían respaldar a los tecnólogos en pro de una sociedad mejor.
Suscríbete a nuestro newsletter aquí.
