Doxa 2389

Lo que se pierde cuando trabajamos con IA, según la neurociencia

Al reconocer cómo pensamos y aprendemos, podemos empezar a ver qué estamos renunciando en nombre de la conveniencia

Por David Rock

IA y aprendizaje automático

Harvard Business Review

#Doxa #atención #memoria #esforzamiento #cognitivo #plasticidad #neuronal #aprendizaje #profundo #pensamiento #crítico #creatividad #auténtica #autonomía #mental #Procesamiento #metacognición #error #productivo #conexión #sináptica

Resumen. En nuestra prisa por adoptar las herramientas de IA y la velocidad de procesamiento que nos prometen, quizá debamos detenernos a reflexionar sobre lo que estamos externalizando, no solo en términos de tareas, sino también en términos del pensamiento mismo. La promesa de la descarga cognitiva es innegablemente atractiva: ¿Quién no querría pensar menos en lo cotidiano? Sin embargo, esta comodidad puede tener un precio. Cuando descargamos constantemente nuestra atención, perdemos oportunidades para una reflexión más profunda y sacrificamos nuestros momentos de introspección, corremos el riesgo de embotar las cualidades que nos hacen humanos.

A principios de este año, asistí a Davos en los Alpes suizos junto con influyentes directores ejecutivos, líderes políticos, académicos y economistas. Tras la conferencia, participé en una serie de sesiones virtuales de seguimiento y noté una tendencia extraña: no todos los asistentes eran humanos. De hecho, un número sorprendente de invitados enviaron agentes de IA en su lugar: bots que se unieron a la conversación, tomaron notas y luego enviaron resúmenes por correo electrónico a sus homólogos humanos. En un caso, se esperaba un grupo de 12 personas, pero al final solo quedaron seis humanos y seis agentes de IA.

Fue una experiencia inusual para mí, pero parece que amenaza con volverse más frecuente: entre el 50 % y más del 79 % de los ejecutivos afirman que sus organizaciones están adoptando agentes de IA. Si bien no todos los agentes actúan como sustitutos de los ejecutivos en las reuniones, es evidente que este es un caso práctico que interesa a los ejecutivos ocupados. Esto me hizo reflexionar.

En teoría, agentes de IA como estos son increíblemente útiles. Pueden asistir a una reunión de una hora y enviarte notas detalladas en cuestión de minutos, permitiéndote concentrarte en otras tareas. Pero en la práctica, ¿realmente sustituyen la presencia presencial? ¿Obtienes la misma comprensión profunda de los temas tratados o solo un resumen superficial? ¿Y qué hay de la calidad de la conversación para el resto de los asistentes? Para mí, la presencia de agentes de IA dejó sin aliento la sala virtual. En las sesiones a las que asistieron, las conversaciones se sentían cada vez más planas y vacías, carentes de la rica discusión que esperaba.

Consideremos algo aún más común hoy en día: cuando nos saltamos una reunión y leemos el resumen de Microsoft Teams o Zoom. ¿Es suficiente? ¿Cuáles son las ventajas y desventajas de hacerlo? Estos resúmenes se han instalado en casi todas las reuniones. Claro que, si la reunión fuera una conversación sencilla que incluyera detalles de un proyecto rutinario sencillo, leer el resumen estaría bien. Pero ¿qué pasa si todo el mundo empieza a hacerlo? ¿Necesitamos límites sobre cuántas personas asisten a las conversaciones hoy en día?

Esa experiencia me llevó a una reflexión más profunda sobre la IA y la metacognición humana; en concreto, sobre cómo los humanos reflexionan sobre su propio pensamiento y aprenden con mayor eficacia, y cómo la IA podría facilitar o dificultar ese proceso a medida que avanza e se integra en nuestras vidas. La IA ofrece la tentadora perspectiva de asumir muchas de nuestras cargas mentales diarias. Pero ¿qué beneficios no evidentes de la cognición humana estamos renunciando en el proceso?

La IA tiene ventajas innegables. De hecho, ya estamos observando importantes brechas de productividad entre quienes la usan bien y quienes no la usan en absoluto. Así que la pregunta no es si usar o no la IA, sino cómo usarla sin perder nuestra capacidad de pensar, procesar y reflexionar, y experimentar los beneficios que conlleva: las cualidades que nos hacen humanos. En otras palabras, ¿cómo preservamos la esencia del pensamiento y qué nos arriesgamos a perder si no lo hacemos?

El poder de la atención

Enviar un agente de IA a una reunión puede privarnos de una de las experiencias más impactantes para el cerebro humano: concentrarnos en ideas con otras personas en tiempo real. Estar en presencia de otros, incluso en entornos virtuales, intensifica nuestra atención en esas ideas y en los circuitos neuronales que las sustentan.

La neurociencia ha demostrado que cuando nos concentramos en ideas en compañía de otros, codificamos la información en nuestro cerebro con mayor profundidad y comprensión. Esto se debe a que evolucionamos para prestar mucha atención a las señales sociales: quién habla, cómo responden los demás y qué podría significar eso para nuestra propia posición social. Por lo tanto, el simple hecho de estar en presencia de otros activa el cerebro con mayor intensidad.

De hecho, cuando pensamos y procesamos con otros, comenzamos a construir una comprensión compartida. En el cerebro, esto conduce a la sincronía neuronal, una alineación de las señales eléctricas cerebrales. Las investigaciones demuestran que una mayor sincronía entre múltiples cerebros se relaciona con una mayor comprensión compartida: cuantos más cerebros participan, más fuerte es la sincronización.

No obtenemos este efecto de atención, ni la activación de circuitos neuronales robustos, al leer un resumen de una reunión generado por IA. Es similar a cómo leer la versión resumida de una novela no nos brinda la misma experiencia que leer el libro en sí. Puede que captemos la trama, pero perdemos la riqueza, la profundidad y los personajes que la hacen memorable. No nos conmueve el resumen del libro, ni tampoco el resumen de la reunión. De la misma manera, enviar a un miembro del equipo o a un subordinado directo a una reunión para que resuma los hallazgos no nos brindará la misma comprensión ni la misma perspectiva de las conversaciones en cuestión.

El valor de la “activación propagada”

Pensar y procesar ideas con otros en tiempo real desencadena en el cerebro una activación propagada. Cuando piensas en una idea, este proceso mental activa un cierto número y patrón de circuitos en el cerebro: una reacción en cadena neuronal. Cuando luego compartes esa misma idea con otra persona, activas un conjunto diferente de circuitos —muchos más circuitos, relacionados con esa idea— en otras partes del cerebro.

¿El resultado? La activación neuronal se propaga en tiempo real por todo el cerebro. Esta activación desencadena pensamientos o ideas sobre otros conceptos, lo que nos permite encontrar implicaciones y aplicaciones para las ideas con mayor facilidad, considerar múltiples perspectivas, reconocer patrones e integrar nueva información con el conocimiento existente. Cuanto más fuerte sea la red, más fácil será conectar con otras redes, en forma de implicaciones, inquietudes o próximos pasos.

Cuando las herramientas de IA interrumpen este proceso fisiológico al proporcionar resúmenes o respuestas instantáneas sin espacio para la discusión, se impide que se propague la activación, y nuestros pensamientos permanecen superficiales y unidimensionales. Este es uno de los beneficios secundarios de una mayor atención en tiempo real: al conectar con otros en tiempo real, activamos circuitos robustos. Nuestros pensamientos se enriquecen y profundizan, mejorando así nuestra capacidad de comprender, recordar y tomar decisiones sobre nuestro trabajo.

De hecho, un estudio reciente, frecuentemente citado, destacó el impacto inmediato de confiar en la IA para producir nuestro trabajo y aliviar parte de nuestra capacidad de pensamiento. En este estudio, el 83 % de las personas que utilizaron IA genérica para escribir un ensayo tuvieron dificultades para recordar el contenido de su trabajo, mientras que, entre quienes pudieron usar otro tipo de motor de búsqueda o ninguna herramienta, solo el 11 % tuvo dificultades para recordarlo. Confiar en la IA reduce nuestra capacidad de pensar y recordar nuestro propio trabajo.

La motivación que surge al tener tus propias ideas

Además del poder de la atención y la posibilidad de propagar la activación, trabajar con IA posiblemente pone en riesgo el elemento más importante del pensamiento humano: generar nuestros propios conocimientos.

Toda empresa, invento, avance científico y obra maestra creativa comienza con una intuición: ese momento revelador en el que alguien ve un problema o concepto de una manera completamente diferente. La descarga de dopamina que surge de una intuición impulsa nuestra motivación para actuar, ya sea resolver un problema laboral complejo, inventar un dispositivo que ahorre trabajo o experimentar con una nueva forma de hacer negocios. Algunas intuiciones son tan fuertes que se recuerdan toda la vida.

Lo último que queremos es que la IA nos prive a nosotros o a otros de la oportunidad de generar nuestras propias perspectivas o de forjar esas conexiones profundas que nos inspiran a cambiar el mundo. Sin embargo, esto puede ocurrir cuando confiamos en la IA para que nos represente en la conversación. Podemos acceder rápidamente a las soluciones, pero perdemos la motivación que resulta de encontrarlas nosotros mismos, o incluso podemos privar a otros de generar sus propias perspectivas cuando no estamos presentes para compartir nuestra perspectiva en una reunión.

Es hora de hacer una pausa

En nuestra prisa por adoptar estas herramientas y la velocidad de procesamiento que nos prometen, quizá debamos detenernos a reflexionar sobre lo que estamos externalizando, no solo en términos de tareas, sino también en términos del pensamiento mismo. La promesa de la descarga cognitiva es innegablemente atractiva: ¿Quién no querría pensar menos en lo cotidiano? Sin embargo, esta comodidad puede tener un precio. Cuando descargamos constantemente nuestra atención, perdemos oportunidades para una reflexión más profunda y sacrificamos nuestros momentos de introspección, corremos el riesgo de embotar las cualidades que nos hacen humanos.

...

Así pues, la verdadera pregunta no es si usar la IA, sino cómo usarla con prudencia. ¿Cómo deberíamos usar la IA para mejorar, y no reemplazar, nuestro mejor pensamiento? La respuesta podría estar en lo que decidamos entregar y lo que decidamos conservar. Es hora de que reflexionemos más sobre el contenido del pensamiento.

Lea más sobre IA y aprendizaje automático o temas relacionados Tecnología y análisis, IA generativa, Colaboración y equipos, Inteligencia emocional y Habilidades interpersonales.

David Rock es cofundador y director ejecutivo del  NeuroLeadership Institute  y autor de  Your Brain at Work.