Los seres humanos que trabajan detrás de la cortina de la IA
Por Mary L. Gray y Siddharth Suri
Harvard Business Review
Tecnología
¿Qué tan artificial es la Inteligencia Artificial? Facebook creó una tormenta de PR el verano pasado cuando los reporteros descubrieron un "equipo editorial" humano - en lugar de sólo algoritmos imparciales - seleccionar historias para su sección de temas de tendencias. La revelación puso de relieve un elefante en la sala de nuestro mundo tecnológico: las empresas que venden la velocidad mágica, la omnipotencia y la neutralidad de la inteligencia artificial (IA) a menudo no pueden cumplir sus promesas sin mantener a la gente en el bucle, a menudo trabajando invisiblemente en el fondo.
Entonces, ¿quiénes son las personas detrás de la cortina de la IA?
Corta a Bangalore, India, y conoce a Kala, una madre de mediana edad sentada frente a su computadora en la oficina casera improvisada que comparte con su esposo. Nuestro equipo de Microsoft Research se reunió con Kala tres meses para estudiar la vida de las personas que reciben empleos temporales de "baja demanda" a través de la web, el equivalente al trabajo a destajo en línea. Sus hijos adolescentes hacen su tarea en la habitación contigua. Ella describe llamándolos a la sala, señalando su pantalla y preguntando: "¿Es esto una mala palabra en Inglés?" Esto es lo que la parte posterior de la IA parece en el 2016. Kala pasa horas cada semana revisando y etiquetando ejemplos de contenido cuestionable. A veces ayuda a empresas tecnológicas como Google, Facebook, Twitter y Microsoft a entrenar los algoritmos que curarán el contenido en línea. Otras veces, toma decisiones difíciles y rápidas sobre qué materiales generados por el usuario deben eliminar o dejar en su lugar cuando las empresas reciben quejas y banderas de los clientes sobre algo que leen o ven en línea.
Si se trata de los temas de tendencia de Facebook; Amazon entrega de pedidos de Prime a través de Alexa; o las muchas respuestas instantáneas de los bots que ahora recibimos en respuesta a la actividad o queja del consumidor, las tareas anunciadas como impulsadas por la IA implican a los seres humanos, trabajando en pantallas de computadora, pagadas para responder a las consultas y solicitudes enviadas a través de interfaces de programación de aplicaciones de sistemas de multitud. La verdad es que la IA esta "totalmente automatizada" como la Oz Grande y Poderosa estaba en esa famosa escena de la película clásica, donde Dorothy y sus amigos se dan cuenta de que el gran mago es simplemente un hombre tirando de palancas desde detrás de una cortina. Esta mezcla de la IA y los seres humanos, que siguen a través cuando la IA se queda corta, no se va a corto plazo. De hecho, la creación de tareas humanas a raíz del avance tecnológico ha sido parte de la historia de la automatización desde la invención del torno de máquina.
Llamamos a esta frontera siempre en movimiento del desarrollo de la IA, la paradoja de la última milla de la automatización: a medida que avanza la IA, también da lugar a la rápida creación y destrucción de los mercados laborales temporales para nuevos tipos de tareas humanas en el bucle. Para el 2033, los economistas predicen que la innovación tecnológica podría convertir el 30% de las ocupaciones de tiempo completo de hoy en servicios aumentados completados "bajo demanda" a través de una mezcla de automatización y trabajo humano. En resumen, la IA eliminará un poco de trabajo ya que abre oportunidades para redefinir lo que los humanos hacen mejor. Estos servicios aumentados asistidos por la IA, entregados por personas que trabajan tranquilamente en concierto con bots, están preparados para mejorar nuestra productividad diaria, pero también introducen nuevos desafíos sociales.
Gran parte de la multitud que se hace bajo contrato cubre hoy en día a la IA cuando no puede hacer algo por sí misma. El secreto sucio de muchos servicios - desde FacebookM hasta la eliminación "automática" de videos horribles en YouTube, así como muchos otros - es que los seres humanos viven en realidad limpiando gran parte de la web, detrás de las escenas. ¿Aquellos bots mágicos que responden a tus tweets que se quejan de tu retraso en la entrega de las pizzas o del servicio en tu vuelo de regreso a Boston? Son el nuevo mundo del trabajo subcontratado escondido bajo una capa de IA. Un híbrido de los seres humanos y la IA está rehaciendo la venta al por menor, la comercialización, y el servicio de atención al cliente. Resulta que la IA, al igual que los seres humanos, lucha por tomar decisiones difíciles sobre qué contenido debe y no debe ser incluido en nuestra dieta diaria de las redes sociales, dependiendo de qué criterios o valores que queremos imponer.
La verdadera historia no es si Facebook influyó en sus temas de tendencia involucrando a editores humanos; Es que la IA de hoy no puede funcionar sin los seres humanos en el bucle, ya sea entregando la noticia o una complicada orden de pizza. La moderación del contenido y la curación - desde las fuentes de noticias y los resultados de la búsqueda hasta las disputas adjudicantes sobre el contenido apropiado - involucran a personas contratadas por compañías de tecnología y medios de comunicación para emitir juicios sobre lo que debe dejar o derribar. ¿Recuerdas ese momento clásico de la campaña presidencial de 2012 cuando Mitt Romney pronunció la frase "carpetas llenas de mujeres"? Twitter necesitaba contratar a los trabajadores bajo demanda para averiguar, en tiempo real, por qué una frase tan obtusa tan rápidamente se convirtió en un popular hashtag y si era una cosa apropiada para publicar en sus temas de tendencias.
¿Quiénes son estos trabajadores detrás de la cortina de la IA? Muchos son como Kala: la gente común, típicamente pagada con una tarifa baja, plana, trabajando independientemente o a través de las agencias temporales, muchos que operan fuera de los Estados Unidos. No es del conocimiento común que la mayor parte de la moderación de contenido se subcontrata a los trabajadores de contrato en todo el mundo con poca transparencia sobre su formación, entornos de trabajo, o protocolos para tomar decisiones editoriales. De hecho, es sorprendente, sobre todo después de que el Facebook "equipo editorial" incidente, que más consumidores no han preguntado: ¿cuáles son las prácticas de moderación de contenido de las redes sociales? ¿Quién tiene una mano en la creación del contenido que aterriza en nuestras puertas virtuales? El incidente dejó sólo espacio para la especulación sobre las credenciales del equipo y el apoyo para el trabajo editorial complicado.
Nuestro equipo aprendió en dos años de investigación sobre el mundo del trabajo remunerado, donde la moderación de contenido es un flujo constante de trabajo de conciertos, que las prácticas internas de las empresas más grandes y las más pequeñas en el mundo de la tecnología implican literalmente miles de decisiones sobre qué contenido mantener o eliminar. Los trabajadores de contrato son necesarios para entrenar a los algoritmos para tomar algunas de las decisiones más importantes sobre el contenido. Y, más de lo que nos damos cuenta, están encargados de intervenir para tomar decisiones rápidas sobre lo que permanece en un sitio y lo que se elimina. Esta es una nueva forma de empleo que todos deberíamos valorar, ya que estas personas mantienen a Internet de convertirse en una piscina pantanosa de spam. Las empresas dependen en gran medida de los trabajadores contratados a tiempo parcial contratados a través de plataformas de crowdsourcing como Crowdflower y Amazon Mechanical Turk, o sistemas de gestión de proveedores como Clickworker.
Tenemos que pensar seriamente en el trabajo humano en el bucle conduciendo la IA. Esta fuerza de trabajo merece capacitación, apoyo y compensación por estar listo y dispuesto a hacer un trabajo importante que muchos puedan encontrar tedioso o demasiado exigente. Una gran cantidad de trabajos futuros, que van mucho más allá de los tratamientos editoriales de temas de tendencias, requerirá de los esfuerzos creativos de los seres humanos para canalizar la velocidad, el alcance y la eficiencia de la IA. El primer paso es exigir una mayor transparencia de las empresas de tecnología que han estado vendiendo la IA como carente de mano de obra humana. Debemos exigir la verdad en la publicidad con respecto a donde los seres humanos han sido traídos para beneficiarnos - si es para curar nuestras noticias para informar a nuestro cuerpo político, o para denuncias de campo sobre lo que algún troll acaba de publicar en nuestro sitio favorito de medios sociales. Debemos saber que hay mano de obra humana en el circuito porque queremos tener la capacidad de reconocer el valor de su trabajo, y también tener la oportunidad de entender la formación y el apoyo que informaron su toma de decisiones, especialmente si su trabajo toca el interés público.
Como consumidores, tenemos el derecho de saber qué ingredientes y procesos están en la IA que compila nuestras noticias y contenido de los medios de comunicación, de la misma manera que debemos saber lo que hay en los alimentos que alimentan a nuestras familias. Como ciudadanos, tenemos la necesidad de saber de dónde proviene nuestra información. Y, como seres humanos, siempre debemos saber cuándo los seres humanos están trabajando, produciendo lo que consumimos, ya sea físico o digital. El trabajo de estas personas trabajadoras alrededor del mundo no debe ser hecho invisible u opaco por el shibboleth de la IA. Así como necesitamos que las empresas sean responsables de las prácticas laborales que producen nuestra comida, ropa y computadoras, también necesitamos rendición de cuentas tanto a los consumidores como a los trabajadores que producen y modelan el contenido digital.
Mary L. Gray es miembro del Berkman Klein Center for Internet and Society de Harvard University. También es investigadora senior en Microsoft Research, Nueva Inglaterra, y mantiene una posición de profesorado en la Universidad de Indiana.
Siddharth Suri es investigador principal en Microsoft Research, Nueva York.
Harvard Business Review
Tecnología
¿Qué tan artificial es la Inteligencia Artificial? Facebook creó una tormenta de PR el verano pasado cuando los reporteros descubrieron un "equipo editorial" humano - en lugar de sólo algoritmos imparciales - seleccionar historias para su sección de temas de tendencias. La revelación puso de relieve un elefante en la sala de nuestro mundo tecnológico: las empresas que venden la velocidad mágica, la omnipotencia y la neutralidad de la inteligencia artificial (IA) a menudo no pueden cumplir sus promesas sin mantener a la gente en el bucle, a menudo trabajando invisiblemente en el fondo.
Entonces, ¿quiénes son las personas detrás de la cortina de la IA?
Corta a Bangalore, India, y conoce a Kala, una madre de mediana edad sentada frente a su computadora en la oficina casera improvisada que comparte con su esposo. Nuestro equipo de Microsoft Research se reunió con Kala tres meses para estudiar la vida de las personas que reciben empleos temporales de "baja demanda" a través de la web, el equivalente al trabajo a destajo en línea. Sus hijos adolescentes hacen su tarea en la habitación contigua. Ella describe llamándolos a la sala, señalando su pantalla y preguntando: "¿Es esto una mala palabra en Inglés?" Esto es lo que la parte posterior de la IA parece en el 2016. Kala pasa horas cada semana revisando y etiquetando ejemplos de contenido cuestionable. A veces ayuda a empresas tecnológicas como Google, Facebook, Twitter y Microsoft a entrenar los algoritmos que curarán el contenido en línea. Otras veces, toma decisiones difíciles y rápidas sobre qué materiales generados por el usuario deben eliminar o dejar en su lugar cuando las empresas reciben quejas y banderas de los clientes sobre algo que leen o ven en línea.
Si se trata de los temas de tendencia de Facebook; Amazon entrega de pedidos de Prime a través de Alexa; o las muchas respuestas instantáneas de los bots que ahora recibimos en respuesta a la actividad o queja del consumidor, las tareas anunciadas como impulsadas por la IA implican a los seres humanos, trabajando en pantallas de computadora, pagadas para responder a las consultas y solicitudes enviadas a través de interfaces de programación de aplicaciones de sistemas de multitud. La verdad es que la IA esta "totalmente automatizada" como la Oz Grande y Poderosa estaba en esa famosa escena de la película clásica, donde Dorothy y sus amigos se dan cuenta de que el gran mago es simplemente un hombre tirando de palancas desde detrás de una cortina. Esta mezcla de la IA y los seres humanos, que siguen a través cuando la IA se queda corta, no se va a corto plazo. De hecho, la creación de tareas humanas a raíz del avance tecnológico ha sido parte de la historia de la automatización desde la invención del torno de máquina.
Llamamos a esta frontera siempre en movimiento del desarrollo de la IA, la paradoja de la última milla de la automatización: a medida que avanza la IA, también da lugar a la rápida creación y destrucción de los mercados laborales temporales para nuevos tipos de tareas humanas en el bucle. Para el 2033, los economistas predicen que la innovación tecnológica podría convertir el 30% de las ocupaciones de tiempo completo de hoy en servicios aumentados completados "bajo demanda" a través de una mezcla de automatización y trabajo humano. En resumen, la IA eliminará un poco de trabajo ya que abre oportunidades para redefinir lo que los humanos hacen mejor. Estos servicios aumentados asistidos por la IA, entregados por personas que trabajan tranquilamente en concierto con bots, están preparados para mejorar nuestra productividad diaria, pero también introducen nuevos desafíos sociales.
Gran parte de la multitud que se hace bajo contrato cubre hoy en día a la IA cuando no puede hacer algo por sí misma. El secreto sucio de muchos servicios - desde FacebookM hasta la eliminación "automática" de videos horribles en YouTube, así como muchos otros - es que los seres humanos viven en realidad limpiando gran parte de la web, detrás de las escenas. ¿Aquellos bots mágicos que responden a tus tweets que se quejan de tu retraso en la entrega de las pizzas o del servicio en tu vuelo de regreso a Boston? Son el nuevo mundo del trabajo subcontratado escondido bajo una capa de IA. Un híbrido de los seres humanos y la IA está rehaciendo la venta al por menor, la comercialización, y el servicio de atención al cliente. Resulta que la IA, al igual que los seres humanos, lucha por tomar decisiones difíciles sobre qué contenido debe y no debe ser incluido en nuestra dieta diaria de las redes sociales, dependiendo de qué criterios o valores que queremos imponer.
La verdadera historia no es si Facebook influyó en sus temas de tendencia involucrando a editores humanos; Es que la IA de hoy no puede funcionar sin los seres humanos en el bucle, ya sea entregando la noticia o una complicada orden de pizza. La moderación del contenido y la curación - desde las fuentes de noticias y los resultados de la búsqueda hasta las disputas adjudicantes sobre el contenido apropiado - involucran a personas contratadas por compañías de tecnología y medios de comunicación para emitir juicios sobre lo que debe dejar o derribar. ¿Recuerdas ese momento clásico de la campaña presidencial de 2012 cuando Mitt Romney pronunció la frase "carpetas llenas de mujeres"? Twitter necesitaba contratar a los trabajadores bajo demanda para averiguar, en tiempo real, por qué una frase tan obtusa tan rápidamente se convirtió en un popular hashtag y si era una cosa apropiada para publicar en sus temas de tendencias.
¿Quiénes son estos trabajadores detrás de la cortina de la IA? Muchos son como Kala: la gente común, típicamente pagada con una tarifa baja, plana, trabajando independientemente o a través de las agencias temporales, muchos que operan fuera de los Estados Unidos. No es del conocimiento común que la mayor parte de la moderación de contenido se subcontrata a los trabajadores de contrato en todo el mundo con poca transparencia sobre su formación, entornos de trabajo, o protocolos para tomar decisiones editoriales. De hecho, es sorprendente, sobre todo después de que el Facebook "equipo editorial" incidente, que más consumidores no han preguntado: ¿cuáles son las prácticas de moderación de contenido de las redes sociales? ¿Quién tiene una mano en la creación del contenido que aterriza en nuestras puertas virtuales? El incidente dejó sólo espacio para la especulación sobre las credenciales del equipo y el apoyo para el trabajo editorial complicado.
Nuestro equipo aprendió en dos años de investigación sobre el mundo del trabajo remunerado, donde la moderación de contenido es un flujo constante de trabajo de conciertos, que las prácticas internas de las empresas más grandes y las más pequeñas en el mundo de la tecnología implican literalmente miles de decisiones sobre qué contenido mantener o eliminar. Los trabajadores de contrato son necesarios para entrenar a los algoritmos para tomar algunas de las decisiones más importantes sobre el contenido. Y, más de lo que nos damos cuenta, están encargados de intervenir para tomar decisiones rápidas sobre lo que permanece en un sitio y lo que se elimina. Esta es una nueva forma de empleo que todos deberíamos valorar, ya que estas personas mantienen a Internet de convertirse en una piscina pantanosa de spam. Las empresas dependen en gran medida de los trabajadores contratados a tiempo parcial contratados a través de plataformas de crowdsourcing como Crowdflower y Amazon Mechanical Turk, o sistemas de gestión de proveedores como Clickworker.
Tenemos que pensar seriamente en el trabajo humano en el bucle conduciendo la IA. Esta fuerza de trabajo merece capacitación, apoyo y compensación por estar listo y dispuesto a hacer un trabajo importante que muchos puedan encontrar tedioso o demasiado exigente. Una gran cantidad de trabajos futuros, que van mucho más allá de los tratamientos editoriales de temas de tendencias, requerirá de los esfuerzos creativos de los seres humanos para canalizar la velocidad, el alcance y la eficiencia de la IA. El primer paso es exigir una mayor transparencia de las empresas de tecnología que han estado vendiendo la IA como carente de mano de obra humana. Debemos exigir la verdad en la publicidad con respecto a donde los seres humanos han sido traídos para beneficiarnos - si es para curar nuestras noticias para informar a nuestro cuerpo político, o para denuncias de campo sobre lo que algún troll acaba de publicar en nuestro sitio favorito de medios sociales. Debemos saber que hay mano de obra humana en el circuito porque queremos tener la capacidad de reconocer el valor de su trabajo, y también tener la oportunidad de entender la formación y el apoyo que informaron su toma de decisiones, especialmente si su trabajo toca el interés público.
Como consumidores, tenemos el derecho de saber qué ingredientes y procesos están en la IA que compila nuestras noticias y contenido de los medios de comunicación, de la misma manera que debemos saber lo que hay en los alimentos que alimentan a nuestras familias. Como ciudadanos, tenemos la necesidad de saber de dónde proviene nuestra información. Y, como seres humanos, siempre debemos saber cuándo los seres humanos están trabajando, produciendo lo que consumimos, ya sea físico o digital. El trabajo de estas personas trabajadoras alrededor del mundo no debe ser hecho invisible u opaco por el shibboleth de la IA. Así como necesitamos que las empresas sean responsables de las prácticas laborales que producen nuestra comida, ropa y computadoras, también necesitamos rendición de cuentas tanto a los consumidores como a los trabajadores que producen y modelan el contenido digital.
Mary L. Gray es miembro del Berkman Klein Center for Internet and Society de Harvard University. También es investigadora senior en Microsoft Research, Nueva Inglaterra, y mantiene una posición de profesorado en la Universidad de Indiana.
Siddharth Suri es investigador principal en Microsoft Research, Nueva York.
Editores originales conservan todos los derechos.
No hay comentarios:
Publicar un comentario