Doxa 1858

Cuatro preguntas para evaluar la confiabilidad de la GenAI de su empresa

Por Shalene Gupta

IA Y Aprendizaje Automático

Harvard Business Review

#Doxa #IA #evaluar #GenAI #empresa #aprendizaje #automático #trabajo #creatividad #empresa #tecnología

Resumen. La IA generativa tiene el potencial de reinventar el trabajo, liberándonos para dar rienda suelta a nuestra creatividad en los problemas que realmente importan. Pero para que esto suceda, las empresas necesitan generar confianza en la tecnología por parte de la gente. El autor, que ha pasado años investigando la confianza, recomienda hacer cuatro preguntas para evaluar la confiabilidad de los esfuerzos de IA generativa de su empresa.

Para las empresas, la llegada de la IA generativa promete un cambio de paradigma con altos riesgos y altas recompensas. Por un lado, promete enormes aumentos de productividad. Por otro lado, los riesgos de avanzar por terrenos no probados con IA generativa son igualmente enormes. Debido a que la tecnología está evolucionando tan rápidamente, los problemas se revelan durante el despliegue, mientras que las normas culturales sobre lo que significa utilizar éticamente la IA de generación aún se están debatiendo.

Sin embargo, esto no significa que el público perdone si algo sale mal. Las noticias están llenas de titulares sobre la IA generativa que salió mal, desde la Línea Nacional de Ayuda para Trastornos de la Alimentación que ofrece consejos dietéticos a funcionarios universitarios de la Universidad de Vanderbilt que utilizan ChatGPT para escribir correos electrónicos de condolencia tras el tiroteo de un estudiante.

Mientras tanto, el ritmo de la innovación se está acelerando a una velocidad vertiginosa. ChatGPT alcanzó los 100 millones de usuarios en dos meses, una hazaña que le llevó a Netflix 10 años y a Google Translate seis años y medio . ¿Cómo pueden las empresas experimentar con los beneficios de la IA generativa manteniendo al mismo tiempo la confianza de los clientes, los empleados y el público, para que todos podamos cosechar los beneficios como sociedad? Hablé con expertos en confianza y seguridad de varias empresas, así como con especialistas en ética de la IA, para comprender cómo abordan este desafío.

Las cuatro dimensiones de la confianza

La confianza es nuestra voluntad de ser vulnerables a las intenciones y acciones de los demás. En definitiva, es una licencia para operar. Los clientes comprarán y los empleados trabajarán para empresas que utilizan la IA genérica en formas en las que confían.

Pasé seis años en la Escuela de Negocios de Harvard investigando la confianza con la profesora Sandra Sucher. Desarrollamos un marco para comprender cómo las personas generan confianza. La confianza tiene cuatro dimensiones diferentes: competencia, motivos, medios e impactos. No todas las empresas logran generar confianza en todas las dimensiones. Por ejemplo, a menudo todavía podemos pedir paquetes a Amazon porque confiamos en su competencia (recibiremos nuestro paquete) a pesar de sentirnos incómodos con sus prácticas comerciales. Las empresas más confiables pueden generar confianza en las cuatro dimensiones y, a su vez, tienen más margen para experimentar.

Para evaluar la confiabilidad de los esfuerzos de IA generativa de su empresa en estas cuatro dimensiones, recomiendo hacer las siguientes preguntas:

Competencia: ¿Es la IA la herramienta adecuada para el trabajo en cuestión?

La competencia (la capacidad de realizar una tarea) es el elemento fundamental para generar confianza. Las empresas que pueden proporcionar una solución que resuelva los problemas de un cliente son empresas que la gente utilizará. Sin competencia, una empresa no durará.

Con la IA generativa, el mayor desafío para la competencia es utilizar la tecnología para ayudar a crear mejores productos y servicios, garantizando al mismo tiempo que los clientes, los empleados y el público en general no sufran daños. Para ello, la primera pregunta que cabe plantearse es: ¿Es la IA generativa la herramienta adecuada para el trabajo que tenemos entre manos? Esto significa comprender dónde debe detenerse la IA generativa y dónde debe intervenir la revisión humana.

IBM ha tenido durante mucho tiempo la política de que las decisiones las tomen los humanos, no la IA. Por ejemplo, IBM tiene una herramienta de inteligencia artificial que hace recomendaciones salariales a los gerentes en función del desempeño y las habilidades de los empleados. Inicialmente, los gerentes usaban la herramienta alrededor del 50% del tiempo, según Nickle LaMoreaux, director de recursos humanos de IBM. Basándose en los comentarios de los usuarios, IBM mejoró la herramienta hasta el punto de que los gerentes utilizan sus recomendaciones aproximadamente el 60% del tiempo. Pero la herramienta seguirá siendo una herramienta, no la persona que toma la decisión final. "No queremos que se haga cargo del proceso", dijo LaMoreaux. “Hay cosas que la IA no puede saber. El objetivo es ayudar a los directivos a recopilar información y hacer que se detengan y piensen”. Si bien este caso de uso no involucra IA generativa, el principio sigue siendo válido. La IA generativa podría ser un excelente primer paso para generar contenido en bruto, pero como en realidad no puede entenderlo, el producto final aún necesitará revisión y evaluación humana.

El uso de IA de generación podría incluso ser un buen indicador de si es necesario realizar o no un trabajo en primer lugar. Trey Causey, jefe de IA responsable en la plataforma de búsqueda de empleo Indeed, dijo que la empresa utiliza IA gen para realizar las partes redundantes de un trabajo. “En el momento en que escribo tres viñetas para un correo electrónico, las conecto a la generación de IA y luego haces lo mismo para responder, tal vez debería haber una conversación sobre por qué escribimos estos correos electrónicos en primer lugar." él dijo.

Motivos: ¿Qué significa ser un buen actor?

Nuestra comprensión sobre cómo utilizar la IA generativa y lo que puede hacer aún está evolucionando. No existe un conjunto único de estándares de cumplimiento al que las empresas puedan aspirar y la regulación aún se está redactando. Esto deja a las empresas en una posición poderosa: tienen un amplio campo de juego en el que operar, pero sus errores probablemente inspirarán la próxima generación de regulaciones. Las empresas que tendrán éxito en el futuro se están centrando en lo que significa ser un buen actor ahora.

Mike Towers fue el ex director fiduciario de Takeda Pharmaceuticals. (En 2023 pasó a crear su propia práctica de confianza digital). En Takeda, consultó con empresas de software e investigadores de confianza para comprender cómo la empresa podía generar confianza. Él y su equipo crearon una infraestructura para ayudar a los empleados a utilizar la IA para innovar de manera responsable. Esto incluyó estándares para el cumplimiento de la seguridad, asociaciones con proveedores y un proceso de revisión de casos de uso. Este último incluye un mapa de calor de datos que muestra la sensibilidad de diferentes tipos de datos en toda la organización y las reglas sobre lo que las personas pueden hacer con ellos, así como la cantidad de supervisión requerida. Tener esta infraestructura implementada ayuda a impulsar la innovación y al mismo tiempo proteger los datos confidenciales.

Significa: ¿Cómo podemos ser justos?

Nuestra capacidad para juzgar si una empresa es un buen actor se basa en observar sus acciones o en evaluar qué tan justa es una empresa. Tendemos a pensar que la justicia se trata de quién obtiene qué y cuánto, pero los investigadores han descubierto que en realidad existen cuatro tipos diferentes de justicia:

• Distributivo: ¿Cómo se asignan los puntos débiles y las recompensas?
• Procesal: ¿Están los procesos bien diseñados y son consistentes?
• Informativo: ¿Las personas relevantes tienen la información correcta?
• Interpersonal: ¿Cómo se trata a las personas?

Algunas de las preguntas abiertas más importantes en torno a la IA generativa tienen que ver con la equidad distributiva: ¿Cómo se debería compensar a los creadores de datos de entrenamiento? ¿Quién posee los derechos de autor si la IA generativa creó o ayudó a crear un resultado? Y lo más importante: ¿qué pasará con los empleos a medida que la IA generativa mejore? Las empresas que quieran generar confianza con sus empleados se centrarán en mejorar las habilidades de su fuerza laboral existente. Por ejemplo, PwC lanzó recientemente una iniciativa en toda la empresa para capacitar a los empleados en IA generativa. "Es para darles seguridad laboral para el futuro", dijo Wes Bricker, vicepresidente de US Trust Solutions.

Sin embargo, las cuestiones de equidad en torno a la IA generativa no se limitan a la equidad distributiva. La equidad procesal, interpersonal e informativa son igualmente importantes, si no más.

Indeed ha intentado abordar todos estos aspectos en sus principios de IA , el primero de los cuales es que el solicitante de empleo es lo primero. Otro principio es que las decisiones sobre la contratación las toman las personas, no los algoritmos. En aras de la transparencia, Indeed intenta etiquetar el contenido creado con IA generativa. Por ejemplo, Indeed creó una función que ayuda a los empleadores a escribir descripciones de trabajo basadas en indicaciones, pero a los empleadores se les dice que las indicaciones se crearon utilizando IA gen y luego deben verificarlas y editarlas en consecuencia. Además, todo el material creado por IA generativa en Indeed tiene algún tipo de moderación, incluidas herramientas automatizadas como filtros para contenido problemático, así como revisión humana en respuesta a informes de los usuarios. 

Impacto: ¿Cómo responderemos a los problemas?

Al final del día, el impacto hará o deshará la confianza en cualquier proyecto de IA. Con toda probabilidad, cuando una organización está implementando nuevas iniciativas o descubriendo cómo utilizar mejor la tecnología, algo saldrá mal en algún momento. Las empresas obtienen mejores resultados si desarrollan proactivamente una estrategia para manejar los problemas.

Primero, asegúrese de que exista un sistema sólido para que tanto los empleados como el público en general informen problemas. Asegúrese de que los sistemas de denuncia no penalicen a las personas que plantean problemas.

En segundo lugar, tenga un plan sobre lo que hará si algo sale mal. La esencia de una buena reparación de la confianza es la disculpa, la responsabilidad y una solución a largo plazo. Esté preparado para hacer una declaración, y rápidamente, y al mismo tiempo reconocer que arreglar modelos de IA de generación con miles de millones de parámetros no es fácil ni rápido.

A continuación, asegúrese de tener un proceso de respaldo para que, si necesita desconectarlo, los usuarios no queden abandonados.

Finalmente, asegúrese de que haya una solución a largo plazo para que el problema no vuelva a ocurrir. En Indeed, una vez que se detecta un problema, se registra y luego pasa por un proceso de revisión que se introduce en el equipo de desarrollo del producto, lo que garantiza que se implemente una solución a largo plazo.

. . .

Gran parte del debate sobre la generación de IA y la confianza se centra en el potencial de impactos negativos. Sin embargo, existe un riesgo mayor sobre el que debemos debatir: los beneficios que perdemos si el público pierde la confianza en la IA generativa.

Si las organizaciones pueden implementar herramientas de IA de maneras en las que confiamos, las posibilidades son infinitas. Por ejemplo, Vincent Henderson, jefe de producto y servicios lingüísticos de Lionbridge, señaló que la IA generativa está cambiando la naturaleza del trabajo de traducción. Por lo general, se llama a los traductores para revisar las traducciones generadas por el aprendizaje automático y llenar los vacíos, como corregir errores, usar la jerga correctamente y ajustar el estilo de escritura de una traducción. Dado que la IA generativa puede automatizar estos pasos, esto libera a los traductores para centrarse en desarrollar mensajes que resuenen con audiencias específicas (por ejemplo, cómo se debe comercializar un automóvil para una audiencia alemana versus una audiencia portuguesa) en lugar de simplemente traducir el mismo anuncio en diferentes idiomas. idiomas. La IA generativa ofrece el potencial de repensar la traducción para que trascienda las barreras culturales en lugar de las barreras lingüísticas.

La IA generativa tiene el potencial de reinventar el trabajo, liberándonos para dar rienda suelta a nuestra creatividad en los problemas que realmente importan. Pero para que esto suceda, las empresas necesitan generar confianza en la gente en la tecnología, no sólo en su competencia, sino en que los buenos actores que actúan de manera justa la utilizarán para crear un impacto positivo en el mundo.

Lea más sobre IA y aprendizaje automático o temas relacionados Tecnologías basadas en web , Tecnología y análisis , Ética empresarial , Gestión empresarial y Gestión de riesgos

Shalene Gupta es periodista y escritora. Es coautora de El poder de la confianza: cómo las empresas la construyen, la pierden y la recuperan  (PublicAffairs, 2021) y autora de The Cycle: Confronting the Pain of Periods and PMDD (Flatiron, 2024).