Doxa 1028

Para crear una IA menos sesgada, contrate un equipo más diverso

Por Michael Li 

Tecnología

Harvard Business Review

No hemos visto escasez de escándalos cuando se trata de IA. En 2016, Microsoft Tay, un bot de inteligencia artificial creado para aprender en tiempo real del contenido de las redes sociales, se convirtió en un troll racista y misógino dentro de las 24 horas posteriores al lanzamiento. Un informe de ProPublica afirmó que un algoritmo, creado por un contratista privado, era más probable que calificara a los candidatos negros de libertad condicional como de mayor riesgo. Un estudio histórico del gobierno de EE. UU.informó que más de 200 algoritmos de reconocimiento facial, que comprenden la mayoría en la industria, tenían más dificultades para distinguir las caras que no eran blancas. El sesgo en nuestra IA construida por humanos probablemente se deba en algo a la falta de diversidad en los humanos que las construyeron. Después de todo, si ninguno de los investigadores que construyen sistemas de reconocimiento facial son personas de color, asegurarse de que las caras no blancas se distingan adecuadamente puede ser una prioridad mucho menor.

Fuentes de discriminación en los campos de la inteligencia artificial y la tecnología

La tecnología tiene una fuerza laboral notablemente no diversa. Un estudio de 2019 encontró que menos del 5,7% de los empleados de Google eran latinos y el 3,3% eran negros. Existen tasas igualmente bajas en toda la industria tecnológica. Y esas cifras no son mucho mejores fuera de la industria tecnológica, con los empleados latinos y negros que representan solo el 7% y el 9%, respectivamente, de los trabajadores STEM en la economía general. (Comprenden el 18,5% y el 13,4%, respectivamente, de la población de EE. UU.). La ciencia de datos es un elemento destacado especial: según una estimación, subrepresenta a las mujeres, los hispanos y los negros más que cualquier otro rol en la industria tecnológica. Puede que no sorprenda que un estudio de 2019 de la organización sin fines de lucro Female Founders Faster Forward(F4) encontró que el 95% de los candidatos encuestados reportaron sufrir discriminación en el lugar de trabajo. Con una fuerza laboral tan sesgada, ¿cómo podemos esperar que a nuestra IA le vaya mejor?

Abundan las fuentes de sesgo en la contratación. Algo de esto proviene de la IA. Amazon tuvo que descartar su robot de reclutamiento de inteligencia artificial cuando la compañía descubrió que estaba sesgado contra las mujeres. Y no son solo los titanes de la tecnología: la encuesta Global Recruiting Trends de 2018 de LinkedIn encontró que el 64% de los empleadores usan inteligencia artificial y datos en el reclutamiento, incluidos los principales empleadores como Target, Hilton, Cisco, PepsiCo e Ikea. Pero no podemos culpar por completo a la inteligencia artificial: existe una fuente mucho más profunda y sistémica de sesgo de contratación. Un campo establecido de investigación académica sugiere que la detección de currículums humanos está intrínsecamente sesgada. Utilizando experimentos de campo innovadores, los investigadores universitarios han demostrado que los revisores de currículums discriminan por motivos de raza, religión,nacionalidad, sexo, orientación sexual y edad. La discriminación es tan frecuente que las minorías a menudo blanquean activamente sus currículums (y posteriormente tienen más éxito en el mercado laboral). El escaneo, ya sea por computadora o por humanos, es una práctica arcaica que mejor se relega al cubo de basura de la historia. En el mejor de los casos, mide la capacidad de un candidato para presumir con tacto de sus logros y, en el peor, proporciona todos los ingredientes adecuados para la discriminación intencional o no intencional. Entonces, ¿cómo están superando las empresas este desafío?

Un interludio musical

Existe un paralelo improbable en, de todos los lugares, el campo de la música clásica. En las décadas de 1970 y 1980, las orquestas históricamente dominadas por hombres comenzaron a cambiar sus procedimientos de contratación. Las audiciones se realizaron a ciegas, colocando una pantalla entre el candidato y su comité de jueces para que no se pudiera discernir la identidad del audicionista, solo se juzgaba su música. Los efectos de este cambio fueron asombrosos: los investigadores de Harvard descubrieron que las mujeres pasaban 1,6 veces más en las audiciones a ciegas que en las no ciegas, y el número de intérpretes en las orquestas aumentó entre 20 y 30 puntos porcentuales. Al centrarse en el desempeño del candidato (en lugar de en atributos discriminatorios irrelevantes), las empresas pueden aumentar tanto la diversidad como la calidad de sus nuevos empleados. Así es cómo.

Las evaluaciones basadas en proyectos son más justas y precisas

Al igual que las orquestas sinfónicas, las empresas inteligentes están comenzando a adoptar técnicas de entrevista más objetivas. El principal de ellos son las evaluaciones basadas en proyectos. Si bien los parámetros exactos varían, las evaluaciones basadas en proyectos en inteligencia artificial y ciencia de datos generalmente le piden a un candidato que limpie y analice algunos datos del mundo real y escriba un breve informe de sus hallazgos. Algunas son evaluaciones más dirigidas, mientras que otras son más abiertas. Algunos se llevan a casa, mientras que otros se administran durante una entrevista en el lugar. Independientemente de su estilo, piden a los candidatos que demuestren sus propias habilidades, en lugar de simplemente reclamarlas.

Las evaluaciones basadas en proyectos tienen una serie de beneficios. En primer lugar, proporcionan mucha más información sobre un candidato que cualquier currículum. En una entrevista reciente,  Hugo Bowne-Anderson, director de evangelismo y marketing de ciencia de datos en la empresa de ciencia de datos Coiled, me dijo que “tener un proceso que imita las comunicaciones de ciencia de datos en el lugar de trabajo agrega un nivel completamente nuevo a la evaluación que da muchas señales a los entrevistadores ".

En segundo lugar, la esencia de estas evaluaciones es más realista de lo que se puede deducir del escaneo del currículum. Las evaluaciones basadas en proyectos brindan “un adelanto en el trabajo del trabajo y las habilidades de un candidato”, según Jesse Anderson, un veterano de la industria y autor de “ Data Teams. “No está solo. En una entrevista reciente, Sean Gerrish, gerente de ingeniería y autor de " How Smart Machines Think " señaló que "los desafíos para llevar a casa brindan a los empleadores la oportunidad de simular cómo se desempeñará el candidato en el trabajo de manera más realista que con las preguntas de la entrevista de rompecabezas".

Por último, la inteligencia artificial y la ciencia de datos no se trata solo de hacer cálculos numéricos; gran parte de esto se reduce a poner la ciencia de datos en un contexto empresarial. Una de las preguntas más difíciles proviene de averiguar qué pregunta hacer con los datos que son relevantes para el negocio y rigurosamente abordables por la ciencia. Otro desafío importante subestimado es comunicar esos resultados a un gerente comercial. Como dice Bowne-Anderson, estas evaluaciones tienen candidatos que "realmente responden a una pregunta comercial o enmarcan una respuesta de ciencia de datos de una manera que sea útil para quienes toman decisiones". Estas sutiles cualidades aparecen en una evaluación basada en proyectos, pero son difíciles de deducir a partir de la selección de currículums.

Para combatir los prejuicios en la IA, las empresas necesitan talento de IA más diverso. Las empresas sofisticadas e innovadoras están abandonando cada vez más la selección de currículum vitae cargada de perjuicios para la evaluación basada en proyectos. En la incubadora de datos(donde llevamos a cabo una beca de ciencia de datos responsable de producir cientos de científicos de datos de doctorado cada año), descubrimos que más del 60% de las empresas ahora brindan evaluaciones de datos para llevar a casa para sus candidatos. Otro 20% aproximadamente requiere proyectos de datos de entrevistas en el sitio, donde los candidatos analizan conjuntos de datos como parte del proceso de entrevistas. De los empleadores restantes, la mayoría son empresas más grandes y establecidas que suelen tardar más en adaptarse al cambio. Las empresas que aún se centran en las evaluaciones de currículums y las evaluaciones más objetivas anteriores deben comprender las repercusiones negativas en la diversidad del lugar de trabajo, y que puede estar perpetuando, no disminuyendo, el sesgo en su inteligencia artificial y análisis.

Michael Li es el fundador y director ejecutivo de The Data Incubator, una empresa de formación y colocación en ciencia de datos, que fue adquirida por Pragmatic Institute, donde es presidente. Un científico de datos, ha trabajado en Google, Foursquare y Andreessen Horowitz. Es colaborador habitual de VentureBeat, The Next Web y Harvard Business Review. Obtuvo una maestría en Cambridge y un doctorado en Princeton.