Doxa 1918

Investigación: Cómo cerrar la brecha de género en la financiación de empresas emergentes

Tres formas en que los formuladores de políticas, los financistas y otras partes interesadas pueden mitigar el sesgo de género en la financiación empresarial.

Por Malin Malmström, Barbara Burkhard, Charlotta Sirén, Dean Shepherd y Joakim Wincent

Empresa y sociedad

Harvard Business Review

#Doxa #empresa #sociedad #género #financiación #empresa #políticas #finanzas #préstamos #comercial #crédito #banca

Resumen. Un análisis global de investigaciones previas de las últimas tres décadas muestra que las mujeres empresarias enfrentan una mayor tasa de denegación de préstamos comerciales y mayores tasas de interés en las decisiones crediticias tomadas por los banqueros comerciales. Curiosamente, los datos también revelan que la posición formal e informal de las mujeres en una sociedad particular puede proporcionar pistas sobre algunos de los verdaderos obstáculos para un cambio positivo. Este artículo analiza estos obstáculos y ofrece tres recomendaciones para el cambio.

Las disparidades de género persisten en el espíritu empresarial y las estadísticas revelan la gravedad del problema. A nivel mundial, sólo una de cada tres empresas es propiedad de mujeres. En 2019, la proporción de startups con al menos una mujer fundadora era apenas del 20%.

Una de las razones de esta falta de mujeres empresarias es la financiación; específicamente, la escasez de financiación para las mujeres propietarias de empresas y la discriminación en términos financieros cuando obtienen financiación. En 2019, solo el 3% de la inversión total se destinó a empresas exclusivamente femeninas, frente al 4% en 2018. Esta tendencia persistió en 2020 y el porcentaje siguió cayendo hasta un preocupante 2%, cifra que se mantuvo sin cambios en 2021. de acuerdos que involucraban empresas exclusivamente femeninas se mantuvieron estancados en el 6%.

Las estimaciones muestran un déficit de financiación de aproximadamente 1,7 billones de dólares para las pequeñas y medianas empresas propiedad de mujeres en todo el mundo. Esta grave falta de financiación plantea una amenaza sustancial para el crecimiento, la expansión y la rentabilidad general de las empresas dirigidas por mujeres.

Para comprender mejor la brecha de género en los préstamos bancarios, realizamos un metanálisis que resume la evidencia de estudios académicos publicados en todo el mundo, que contiene más de un millón de puntos de datos únicos y que abarca más de tres décadas. Nuestro análisis confirma el prolongado y global sesgo de género contra las mujeres en la financiación bancaria empresarial, donde las empresarias enfrentan mayores rechazos de préstamos comerciales y tasas de interés más altas que sus homólogos masculinos.

En nuestro estudio, también explicamos la razón subyacente de esto: la desalineación percibida entre las mujeres emprendedoras y el rol empresarial, que surge de normas sociales de género profundamente arraigadas que ven a los hombres como mejores emprendedores que las mujeres. Ofrecemos tres recomendaciones para los tomadores de decisiones en políticas y finanzas, así como para otras partes interesadas que abogan por la igualdad de género, para abordar y mitigar el sesgo de género en el financiamiento empresarial.

Por qué persiste el sesgo de género en la financiación empresarial

El sesgo de género en la financiación empresarial varía mucho en todo el mundo. Según el Informe sobre emprendimiento de mujeres 2021/22 del Global Entrepreneurship Monitor, las mujeres empresarias en países de altos ingresos, como Alemania y Estados Unidos, tienden a experimentar la menor discriminación de género en lo que respecta a la financiación. Sin embargo, este vínculo puede ser algo simplista, ya que observamos que los desafíos aún persisten incluso en los países de altos ingresos.  Para fomentar un panorama empresarial más inclusivo, primero necesitamos una mejor comprensión de las complejidades de las normas sociales de género.

En nuestro metanálisis, identificamos dos factores clave que tienen implicaciones para las mujeres en el financiamiento empresarial:

• La ideología política que domina un país y cómo influye en las condiciones de financiación con sesgo de género.
• El grado de empoderamiento de las mujeres, como su participación en puestos de liderazgo de alto perfil, y su efecto sobre la discriminación de género en las condiciones de financiación bancaria.
• Echemos un vistazo más de cerca a ambos factores.

Los países conservadores defienden las diferencias de género.

Descubrimos que en los países gobernados por una ideología política conservadora, existe un mayor sesgo de género contra las mujeres en el financiamiento empresarial; específicamente, las mujeres empresarias pagan tasas de interés de préstamos comerciales más altas que los hombres. Vemos esta disparidad porque una ideología conservadora tiende a defender las diferencias estructurales de género en la sociedad y percibe un desajuste entre las mujeres y lo que se consideran atributos masculinos adscritos al espíritu empresarial.

Está bien documentado que la expresión del emprendimiento en los medios, en general, está estrechamente alineada con la masculinidad. La norma es retratar a un empresario como un hombre con cualidades masculinas y vincular esas representaciones con el éxito. En contraste, el emprendimiento femenino es retratado en los medios como una actividad desviada, menos común e incluso menos exitosa. En un entorno conservador donde faltan puntos de vista progresistas, estas representaciones mediáticas refuerzan más fuertemente los puntos de vista sociales, moldean las percepciones de las mujeres empresarias e influyen en cómo actúan y toman decisiones quienes pueden determinar su éxito, como los financieros.

El empoderamiento de las mujeres puede exacerbar los prejuicios de género.

Nuestro análisis global cuestiona la noción convencional de que el empoderamiento de las mujeres funciona instantánea y siempre como una fuerza positiva. De hecho, nuestro análisis destaca un mecanismo crítico: el progreso en una esfera (es decir, el empoderamiento de las mujeres) puede generar una reacción negativa en otra (es decir, el acceso de las mujeres empresarias al financiamiento bancario). Medimos el “empoderamiento de las mujeres” como la proporción de mujeres en puestos de alto perfil, como la política y la gestión. Descubrimos que los avances rápidos y a gran escala en la posición profesional de las mujeres en realidad exacerban el sesgo de género en el financiamiento bancario empresarial, lo que lleva a más rechazos de préstamos y tasas de interés más altas.

A medida que las mujeres avanzan hacia posiciones de mayor nivel en la sociedad, aumenta la percepción de que son una amenaza. Esto genera respuestas protectoras para salvaguardar las normas sociales de género existentes, lo que genera resistencia y, posteriormente, deteriora las condiciones para que las mujeres empresarias accedan a financiación crítica.

Tres recomendaciones para superar el sesgo de género en la financiación bancaria empresarial

Entonces, ¿cómo pueden los formuladores de políticas, los financistas y otras partes interesadas mitigar efectivamente el sesgo de género en el financiamiento bancario empresarial? Con base en nuestra investigación y una revisión exhaustiva de estudios relacionados, ofrecemos tres recomendaciones:

No bajar la guardia.

A medida que más mujeres asuman puestos de liderazgo en la sociedad, este progreso puede cultivar inadvertidamente la creencia de que la desigualdad de género en la distribución de fondos se resolverá por sí sola. Nuestros resultados advierten contra tal creencia, lo que sugiere la necesidad de una vigilancia continua. Los esfuerzos para combatir la discriminación de género deben ser continuos y multidimensionales. Por ejemplo, los formuladores de políticas pueden monitorear las condiciones de las mujeres empresarias en muchos ámbitos (finanzas bancarias, capital de riesgo, programas gubernamentales, acceso a incubadoras, representación de género en las salas de juntas y otras funciones ejecutivas) para desarrollar programas de intervención que trasciendan los confines del sector financiero. Una victoria para las mujeres empresarias en algunas áreas no debería ocultar problemas en otras.

Normalizar el empoderamiento de las mujeres.

Nuestros resultados sugieren que es posible que las sociedades en general no hayan alcanzado una “masa crítica” de empoderamiento de las mujeres que es esencial para impulsar la igualdad de oportunidades de género. Las mujeres que ascienden a altos cargos de liderazgo a menudo navegan dentro de las estructuras patriarcales existentes, lo que potencialmente limita su papel en la promoción de la igualdad de género en la distribución de fondos. Incluso cuando las mujeres están empoderadas, las normas sociales de género (como las expectativas sobre los roles de género) limitan el grado en que pueden ejercer su capacidad de acción.

Las sociedades que carecen de una masa crítica de mujeres en puestos de alto liderazgo pueden no estar “listas” para aceptar nuevos roles de poder para las mujeres hasta que los niveles de empoderamiento alcancen un umbral. Esta falta de razonamiento de masa crítica se hace eco de la Encuesta Mundial de Valores de 2023, que informa que la mayoría de la población mundial todavía cree que los hombres son mejores líderes políticos que las mujeres. Estas creencias arraigadas arrojan luz sobre por qué, a pesar de la eliminación de muchas barreras formales para ocupar cargos políticos, las mujeres todavía enfrentan una ardua batalla para alcanzar y ejercer el poder político e influir en cómo se distribuyen los recursos financieros.

Los esfuerzos continuos para normalizar la participación de las mujeres en puestos de poder son primordiales para lograr la igualdad de género en la distribución de los recursos financieros. Dichos esfuerzos incluyen el desarrollo de estructuras organizativas y herramientas de contratación que ayuden a aumentar la representación de las mujeres en puestos de liderazgo y que ayuden a apoyar a las mujeres que alcanzan dichos puestos.

Evaluar la igualdad de género de las políticas de financiación.

Establecer regulaciones que exijan auditorías de género puede ayudar a los formuladores de políticas a evaluar qué tan bien ciertas medidas están abordando las oportunidades de financiamiento para las mujeres empresarias. Ejemplos de tales regulaciones incluyen la evaluación y auditoría de la igualdad de género en la distribución de presupuestos, servicios financieros y proyectos de financiación.

Cuando las sociedades se resisten al empoderamiento de las mujeres, cualquier reforma emergente para una distribución equitativa de los fondos se desmorona y persisten los préstamos bancarios sesgados. Por ejemplo, la OCDE señala que si bien los gobiernos tienen “instrumentos o herramientas de política a su disposición, como políticas estructurales, presupuestos, regulaciones y procesos de adquisiciones”, no siempre son neutrales en la aplicación de estos recursos. Al implementar regulaciones para evaluar la igualdad de género de las medidas de financiamiento empresarial, los formuladores de políticas pueden revelar cualquier riesgo de iniciativas políticas desiguales de género.

...

Nuestro metaanálisis global de investigaciones sobre mujeres empresarias y préstamos bancarios nos deja concluir que no podemos esperar que la brecha de financiamiento de género desaparezca a medida que las mujeres avanzan en la sociedad. Hemos presentado varios argumentos de por qué esta brecha puede persistir. La resistencia proviene de diversos ámbitos, incluidos la política, la cultura y la gestión. No deberíamos tener miedo de admitir esto. Pero al abordar estratégicamente la desigualdad de género como una cuestión multifacética, podemos allanar el camino para fomentar un entorno en el que los prejuicios de género se desmantelen sistemáticamente.

Lea más sobre Empresas y sociedad o temas relacionados Género, Finanzas emprendedoras y Financiación emprendedora

Malin Malmström es profesora de emprendimiento e innovación en la Universidad Tecnológica de Luleå y directora del centro de investigación Sustainable Finance Lab en Suecia.

Barbara Burkhard es investigadora postdoctoral sobre emprendimiento en el Instituto de Innovación Responsable de la Universidad de St. Gallen.

Charlotta Sirén es profesora asociada de gestión en el Instituto de Innovación Responsable de la Universidad de St. Gallen.

Dean Shepherd es profesor de emprendimiento, gestión y organización en The Mendoza College of Business, Universidad de Notre Dame.

Joakim Wincent es profesor de emprendimiento y gestión en la Escuela de Economía Hanken y en el Centro Global para el Emprendimiento y la Innovación de la Universidad de St. Gallen.

 

Doxa 1722

La ética de la gestión de los datos de las personas

Los cinco temas que más importan

Por Miguel Segalla y Dominique Rouzies

Empresa y sociedad

Harvard Business Review

#Doxa #ética #gestión #datos #personal #GDPR #empresa #IA #género #laboral #crédito #médico #diagnóstico #organización

Resumen. En los últimos años, la Unión Europea ha multado a empresas más de 1.400 veces por un total de casi 3.000 millones de euros por infracciones del Reglamento General de Protección de Datos (GDPR). Casi todas las semanas aparecen historias sobre cómo las decisiones impulsadas por la IA resultan en discriminación contra las mujeres o miembros de minorías en la contratación laboral, aprobaciones de crédito, diagnósticos médicos o sentencias penales. Estas historias están alimentando sentimientos de inquietud acerca de cómo se recopilan, utilizan y analizan los datos. Según los autores, los gerentes que están examinando proyectos que implican la recopilación de datos proporcionados por humanos o el aprovechamiento de las bases de datos existentes deben centrarse en cinco cuestiones críticas: la procedencia de los datos, el propósito para el que se utilizarán, cómo se protegerán., cómo se puede garantizar la privacidad de los proveedores de datos y cómo se preparan los datos para su uso. Comienzan con una breve descripción general de los requisitos organizacionales para un sólido proceso de revisión ética.

La capacidad de codificar, almacenar, analizar y compartir datos crea enormes oportunidades para las empresas, razón por la cual están invirtiendo con entusiasmo en inteligencia artificial incluso en un momento de incertidumbre económica. ¿Qué clientes es probable que compren qué productos y cuándo? ¿Qué competidores es probable que avancen o se queden atrás? ¿Cómo crearán los mercados y las economías en su conjunto ventajas o amenazas comerciales? Los datos y el análisis brindan a las empresas respuestas mejor informadas y de mayor probabilidad a esas y muchas otras preguntas.

Pero la necesidad de datos abre la puerta al abuso. En los últimos años, la UE ha multado a empresas más de 1.400 veces, por un total de casi 3.000 millones de euros, por infracciones del Reglamento General de Protección de Datos (GDPR). En 2018, solo el escándalo de Cambridge Analytica eliminó $ 36 mil millones del valor de mercado de Facebook y resultó en multas de casi $ 6 mil millones para Meta, la empresa matriz de Facebook. Y abundan las historias sobre cómo las decisiones impulsadas por la IA discriminan a las mujeres y los miembros de minorías en la contratación laboral, la aprobación de créditos, los diagnósticos de atención médica e incluso las sentencias penales, lo que genera inquietud sobre la forma en que se recopilan, utilizan y analizan los datos. Esos temores solo se intensificarán con el uso de chatbots como ChatGPT, Bing AI y GPT-4, que adquieren su "inteligencia" a partir de los datos que les proporcionan sus creadores y usuarios. Lo que hacen con esa inteligencia puede dar miedo. Un chatbot de Bing incluso declaró en un intercambio que priorizaría su propia supervivencia sobre la del ser humano con el que se estaba relacionando.

Mientras examinan nuevos proyectos que involucrarán datos proporcionados por humanos o aprovecharán las bases de datos existentes, las empresas deben centrarse en cinco cuestiones críticas: la procedencia de los datos, el propósito para el que se utilizarán, cómo se protegen, cómo la privacidad de se aseguran los proveedores de datos y cómo se preparan los datos para su uso. Llamamos a estos problemas las cinco P (consulte la exposición "Las cinco P del manejo ético de datos"). En las páginas siguientes, analizaremos cada uno de ellos y veremos cómo las tecnologías de IA aumentan el riesgo de abuso de datos. Pero primero ofreceremos una breve descripción general de los requisitos organizacionales para un sólido proceso de revisión ética.

Organización de la supervisión de datos

En el ámbito académico, la adquisición de datos de sujetos humanos suele estar supervisada por una junta de revisión institucional (IRB) interna cuya aprobación deben tener los investigadores para obtener acceso a las personas involucradas, fondos de investigación o permiso para publicar. Los IRB están compuestos por académicos versados ​​en la investigación y la ética en torno a la adquisición y el uso de la información. Aparecieron por primera vez en el campo de la investigación médica, pero ahora las organizaciones académicas las utilizan casi universalmente para cualquier investigación que involucre seres humanos.

Algunas grandes empresas también han establecido IRB, generalmente bajo el liderazgo de un especialista en ética digital, contratando expertos en tecnología externos para el personal de las juntas ad hoc y asignando ejecutivos internos de las unidades comerciales y de cumplimiento según sea necesario. Pero eso sigue siendo poco frecuente: incluso en Europa, que ha estado a la vanguardia de la regulación de datos, la mayoría de las empresas aún asignan la responsabilidad de adherirse al RGPD a un gerente de cumplimiento de nivel medio o superior, que a menudo tiene alguna capacitación legal o de ingeniería informática pero No tiene una formación ética amplia y rara vez tiene un conocimiento sólido de las tecnologías digitales emergentes. Si bien un gerente de cumplimiento ciertamente debería ser parte de un IRB corporativo, probablemente no debería dirigirlo. De hecho,

Puede encontrar una buena descripción general de cómo las empresas pueden establecer un proceso de tipo IRB en " Por qué necesita un comité de ética de IA".”, por Reid Blackman (HBR, julio-agosto de 2022). Nuestra experiencia confirma la mayoría de sus puntos principales. Un IRB corporativo debe tener de cuatro a siete miembros, según la frecuencia, la importancia y el tamaño de los proyectos digitales de la empresa. Los miembros deben incluir un especialista en cumplimiento, un científico de datos, un ejecutivo comercial familiarizado con el área funcional de los proyectos digitales (como recursos humanos, marketing o finanzas) y uno o más profesionales senior con las credenciales académicas adecuadas. No se necesitará el tablero completo para cada revisión. La London School of Economics, por ejemplo, utiliza su directorio completo solo para la supervisión de los proyectos más complicados. Los más simples pueden evaluarse en menos de una semana mediante un cuestionario en línea y con la participación de un solo miembro de la junta.

Cualquier proyecto nuevo que involucre la recopilación, el almacenamiento y el procesamiento de datos sobre personas debe ser aprobado por el IRB corporativo antes de obtener el visto bueno. No debe haber excepciones a esta regla, sin importar cuán pequeño sea el proyecto. Además, la mayoría de las empresas ya han recopilado grandes cantidades de datos humanos y continúan generándolos a partir de sus operaciones; el IRB corporativo también debe examinar esos proyectos.

Una revisión de IRB comienza con nuestra primera P: explorar cómo un proyecto recopilará (o recopiló) los datos: de dónde provienen, si se recopilaron con el conocimiento y consentimiento de los sujetos de la investigación, y si su recopilación involucró o implicará alguna coerción o subterfugio.

1. Procedencia

Para comprender qué puede salir mal con la obtención de datos, considere el caso de Clearview AI, una empresa de reconocimiento facial que recibió mucha atención en 2021 por recopilar fotos de personas, usarlas para entrenar algoritmos de reconocimiento facial y luego vender el acceso a su base de datos. de fotos a las fuerzas del orden. Según un informe de la BBC, “un oficial de policía que busca identificar a un sospechoso [puede] cargar una foto de una cara y encontrar coincidencias en una base de datos de miles de millones de imágenes que ha recopilado de Internet y las redes sociales”.

La agencia reguladora australiana se opuso al método de recopilación de Clearview y descubrió que violaba la Ley de privacidad de Australia al obtener información personal y confidencial sin consentimiento o notificación, por medios desleales y sin siquiera asegurarse de que la información fuera precisa. Luego de ese hallazgo, el gobierno ordenó a Clearview que dejara de recolectar y eliminara las fotos existentes tomadas en Australia. En Francia, la Commission Nationale de l'Informatique et des Libertés (CNIL) también ordenó a la empresa que dejara de recopilar, procesar y almacenar datos faciales. Ese caso puede ser una de las razones por las que Facebook anunció que abandonaría su sistema de reconocimiento facial y eliminaría los datos de escaneo facial de más de mil millones de usuarios.

Incluso cuando las razones para recopilar datos son transparentes, los métodos utilizados para recopilarlos pueden no ser éticos, como lo ilustra el siguiente ejemplo compuesto, extraído de nuestra investigación. Una empresa de contratación comprometida con la promoción de la diversidad y la inclusión en la fuerza laboral descubrió que los candidatos que publicaban en su plataforma sospechaban que estaban siendo discriminados en función de sus perfiles demográficos. La firma quería asegurarles que los algoritmos que relacionaban las ofertas de trabajo con los candidatos se basaban en habilidades y eran demográficamente neutrales, y que cualquier discriminación ocurría en las empresas contratantes, no en la plataforma.

La empresa se acercó a una conocida escuela de negocios e identificó a un profesor que estaba dispuesto a realizar una investigación para detectar una posible discriminación por parte de las empresas contratantes. El investigador propuso replicar un estudio realizado unos años antes que había creado varios currículos estándar pero variaban la raza y el género de los solicitantes. Se enviarían miles de solicitudes de empleo falsas a empresas de la zona y se rastrearían y analizarían las respuestas. Si hubiera alguna discriminación activa en juego, los resultados mostrarían diferentes tasas de aceptación según las variables demográficas integradas.

A los gerentes de marketing y ventas de la empresa les gustó la propuesta y ofrecieron un contrato. Debido a que la escuela de negocios requería una evaluación de ética, la propuesta fue enviada a su IRB, que la rechazó con el argumento de que el profesor proponía recopilar datos de empresas por medio de subterfugios. Estaría mintiendo a los posibles usuarios corporativos de la plataforma y pidiéndoles que trabajen para el cliente de la escuela sin su conocimiento y sin ningún beneficio para ellos. (De hecho, las empresas podrían sufrir por participar si se pudiera identificar que utilizan procesos de contratación discriminatorios).

La lección de esta historia es que las buenas intenciones no son suficientes para que la recopilación de datos sea ética.

Las empresas deben considerar la procedencia no solo de los datos que planean obtener, sino también de los datos que ya poseen. Muchos de ellos recopilan rutinariamente los llamados datos oscuros que rara vez se usan, a menudo se olvidan y, a veces, incluso se desconocen. Los ejemplos incluyen datos de clientes ignorados o no compartidos, registros de visitantes, fotos, documentos de presentación archivados pero sin catalogar, correos electrónicos, informes de servicio al cliente o transcripciones grabadas, registros de uso o mantenimiento generados por máquinas y reacciones en las redes sociales a publicaciones corporativas. Aunque estos datos a menudo no están estructurados y, por lo tanto, son difíciles de integrar, su valor potencial es enorme, por lo que muchos desarrolladores de software están creando productos para ayudar a las empresas a encontrar y utilizar sus datos ocultos. Esto nos lleva a la segunda P.

2.Proposito

En un contexto corporativo, los datos recopilados para un propósito específico con el consentimiento de los sujetos humanos a menudo se utilizan posteriormente para algún otro propósito que no se comunica a los proveedores. Al revisar la explotación de los datos existentes, por lo tanto, una empresa debe establecer si se requiere un consentimiento adicional.

Por ejemplo, un gran banco en Francia quería probar la hipótesis de que la intimidación o el acoso sexual de compañeros y subordinados podría identificarse examinando los correos electrónicos corporativos. El gerente de diversidad en el departamento de recursos humanos creía que detectar un posible acoso temprano permitiría a la empresa intervenir de manera oportuna y tal vez incluso evitar por completo una situación de acoso al capacitar a las personas para que estén atentos a las señales de advertencia.

El banco lanzó un estudio de prueba y encontró pruebas sólidas de que las comunicaciones por correo electrónico podrían pronosticar un acoso posterior. A pesar de ese hallazgo, una revisión ad hoc de los resultados por parte de varios gerentes senior llevó a la empresa a archivar el proyecto porque, como señalaron los gerentes, los datos que se recopilaban, es decir, los correos electrónicos, se diseñaron originalmente para comunicar información relacionada con el trabajo. Las personas que los habían enviado no habrían visto el predecir o detectar actividades ilegales como su propósito.

justyna stasik

Cuando se trata de datos de clientes, las empresas generalmente han sido mucho menos escrupulosas. Muchos lo ven como una fuente de ingresos y lo venden a terceros o intermediarios de direcciones comerciales. Pero las actitudes en contra de eso se están endureciendo. En 2019, el gobierno austriaco multó al servicio postal austriaco con 18 millones de euros por vender los nombres, direcciones, edades y afiliaciones políticas (cuando estén disponibles) de sus clientes. La agencia reguladora nacional descubrió que los datos postales recopilados para un propósito (entregar cartas y paquetes) se estaban reutilizando de manera inapropiada para comercializar a clientes que podían combinarlos con datos públicos fácilmente obtenibles (como estimaciones del valor de la vivienda, tasas de propiedad de vivienda, densidad residencial, número de unidades de alquiler y denuncias de delincuencia callejera) para encontrar clientes potenciales. Entre los compradores de datos se encontraban los partidos políticos que intentaban influir en los votantes potenciales. La multa fue anulada en apelación, pero la confusión de reutilizar (o hacer mal uso) de los datos de los clientes sigue siendo un problema importante para las empresas y los gobiernos.

La mayoría de las empresas utilizan sus bases de datos de clientes para venderles otros servicios, pero eso también puede traerles problemas. En 2021, la Oficina del Comisionado de Información, una autoridad independiente del Reino Unido que promueve la privacidad de los datos, acusó a Virgin Media de violar los derechos de privacidad de sus clientes. Virgin Media había enviado 1.964.562 correos electrónicos anunciando que congelaría sus precios de suscripción. Eso era bastante razonable, pero Virgin también había usado los correos electrónicos para promocionar a esos clientes. Debido a que 450.000 suscriptores de la lista habían optado por no recibir propuestas de marketing, el regulador impuso una multa de 50.000 libras esterlinas a Virgin por violar ese acuerdo.

La posibilidad de que las bases de datos de la empresa puedan reutilizarse sin el consentimiento de los proveedores de datos nos lleva a la tercera P.

3. Protección

Según el Centro de recursos de robo de identidad, en 2021 se produjeron casi 2000 filtraciones de datos en los Estados Unidos. Incluso las empresas tecnológicas más grandes y sofisticadas han sufrido tremendas filtraciones, con los datos personales de más de varios miles de millones de personas expuestas. La situación en Europa, a pesar de algunas de las leyes más protectoras del mundo, no es mucho mejor. Virgin Media dejó los datos personales de 900.000 suscriptores sin protección y accesibles en sus servidores durante 10 meses debido a un error de configuración, y al menos una persona no autorizada accedió a esos archivos durante ese período.

La práctica común de presentar datos con terceros expertos no ofrece necesariamente una mejor protección. Doctolib, una aplicación francesa de citas médicas, fue llevada a los tribunales porque almacenaba datos en Amazon Web Services, donde Amazon y muchas otras organizaciones, incluidas las agencias de inteligencia de EE. UU., podrían acceder a ellos. Aunque los datos estaban encriptados, llegaron al servidor de Amazon sin anonimización, lo que significa que podrían vincularse a registros digitales de comportamiento en línea para desarrollar perfiles personales muy precisos con fines comerciales o políticos.

Una junta de revisión institucional necesita claridad sobre dónde residirán los datos de la empresa, quién puede tener acceso a ellos, si (y cuándo) se anonimizarán y cuándo se destruirán. Por lo tanto, muchas empresas tendrán que cambiar sus protocolos y acuerdos existentes, lo que podría resultar costoso: desde que una filtración de datos en JPMorgan Chase en 2014 comprometió a 76 millones de personas y 7 millones de empresas, el banco ha tenido que gastar 250 millones de dólares al año en protección de datos.

La cuarta P está estrechamente relacionada con la protección.

4. Privacidad

El dilema al que se enfrentan muchas empresas es el equilibrio entre muy poca o demasiada anonimización. Demasiado poco es inaceptable bajo la mayoría de las regulaciones gubernamentales sin el consentimiento informado de las personas involucradas. Demasiados pueden hacer que los datos sean inútiles para fines de marketing.

Existen muchas técnicas para la anonimización. Van desde simplemente agregar los datos (para que solo estén disponibles resúmenes o promedios), hasta aproximarlos (por ejemplo, usando un rango de edad en lugar de la edad exacta de una persona), hasta hacer que los valores de las variables sean ligeramente diferentes (por ejemplo, agregando el mismo valor pequeño para cada uno), hasta seudonimizar los datos para que un valor aleatorio, no repetitivo, reemplace la variable de identificación.

En principio, estas técnicas deberían proteger la identidad de un individuo. Pero los investigadores han podido identificar a las personas en un conjunto de datos usando tan solo su género, fecha de nacimiento y código postal. Incluso la información menos específica, cuando se combina con otros conjuntos de datos, se puede utilizar para identificar a las personas. Netflix publicó un conjunto de datos que incluía 100 millones de registros de calificaciones de películas de sus clientes y ofreció $ 1 millón a cualquier científico de datos que pudiera crear un mejor algoritmo de recomendación de películas para la empresa. Los datos no contenían identificadores directos de sus clientes e incluían solo una muestra de las calificaciones de cada cliente. Los investigadores pudieron identificar al 84% de las personas comparando sus calificaciones y fechas de calificación con un conjunto de datos de terceros publicado por IMDb, otra plataforma en la que muchos clientes de Netflix también publican calificaciones de películas. Por lo tanto, al evaluar los problemas de privacidad en torno a los datos humanos, los IRB corporativos deben, como mínimo, evaluar qué tan efectiva será la anonimización de un firewall, especialmente dado el poder del análisis de datos para romper el anonimato. Una técnica llamadala privacidad diferencial puede proporcionar un nivel adicional de protección. El software ofrecido por Sarus, una empresa emergente financiada por Y Combinator, aplica esta técnica, que bloquea los algoritmos creados para publicar datos agregados para que no revelen información sobre un registro específico, lo que reduce las posibilidades de que los datos se filtren como resultado de credenciales comprometidas, deshonestos. empleados o errores humanos.

Pero la privacidad puede violarse incluso con datos efectivamente anonimizados debido a la forma en que se recopilan y procesan los datos. Se produjo una infracción no intencionada en la empresa de mapas MaxMind, que proporciona servicios de geolocalización que permiten a las empresas llamar la atención de los clientes sobre productos y servicios cercanos. La geolocalización también ayuda a las búsquedas en Internet y puede ayudar si un servicio que necesita su dirección IP (como un sitio de transmisión de entretenimiento) no funciona correctamente. Pero el mapeo preciso permite que cualquier persona que tenga su dirección IP encuentre su vecindario e incluso su hogar. Combinar su dirección con Zillow o alguna otra base de datos de bienes raíces puede proporcionar información sobre su riqueza junto con fotos de su casa por dentro y por fuera.

Incluso cuando las razones para recopilar datos son transparentes, los métodos utilizados para recopilarlos pueden no ser éticos. ¿Implicarán alguna coerción o subterfugio?

Desafortunadamente, el mapeo de IP no es una ciencia exacta y puede ser difícil vincular con precisión una dirección IP a una dirección física. Un mapeador podría asignarlo al edificio más cercano o simplemente a una localidad, como un estado, usando las coordenadas centrales de esa localidad como la dirección específica. Eso puede parecer razonable, pero las consecuencias para una familia que alquiló una granja remota en Potwin, Kansas, fueron terribles.

La dirección IP de la familia figuraba con las coordenadas del mapa de la granja, que coincidía con las coordenadas del centro exacto de los Estados Unidos. El problema fue que MaxMind asignó más de 600 millones de otras direcciones IP que no podían asignarse por ningún otro medio a las mismas coordenadas. Esa decisión provocó años de dolor para la familia en la granja. Según Kashmir Hill, el periodista que publicó la historia, “Han sido acusados ​​de ser ladrones de identidad, spammers, estafadores y estafadores. Han sido visitados por agentes del FBI, alguaciles federales, cobradores del IRS, ambulancias en busca de veteranos suicidas y policías en busca de niños fugitivos. Han encontrado gente hurgando en su granero. Los inquilinos han sido engañados, sus nombres y direcciones publicados en Internet por vigilantes”.

Hill se puso en contacto con un cofundador de MaxMind, quien finalmente produjo una larga lista de direcciones físicas que tenían muchas direcciones IP asignadas y confesó que cuando se lanzó la empresa, a su equipo no se le había ocurrido que "la gente usaría la base de datos para intentar ubicar a las personas hasta el nivel del hogar”. Él dijo: “Siempre hemos anunciado que la base de datos determina la ubicación hasta el nivel de una ciudad o código postal”. La conclusión es que las decisiones inocuas y bien intencionadas que toman los científicos de datos y los administradores de bases de datos pueden tener un impacto real y muy negativo en la privacidad de terceros inocentes. Eso nos lleva a la quinta P.

5. Preparación

¿Cómo se preparan los datos para el análisis? ¿Cómo se verifica o corrige su precisión? ¿Cómo se gestionan los conjuntos de datos incompletos y las variables faltantes? Los datos faltantes, erróneos y atípicos pueden afectar significativamente la calidad del análisis estadístico. Pero la calidad de los datos suele ser deficiente. Experian, una empresa de servicios de crédito, informa que, en promedio, sus clientes estadounidenses creen que el 27 % de sus ingresos se desperdicia debido a datos inexactos e incompletos de clientes o prospectos.

La limpieza de datos, especialmente cuando se recopilan de diferentes períodos, unidades comerciales o países, puede ser especialmente desafiante. En un caso, nos acercamos a una gran empresa internacional de aprendizaje y gestión de talentos en línea para que nos ayudara a investigar si las mujeres y los hombres obtenían por igual los beneficios profesionales de la capacitación. La empresa estuvo de acuerdo en que la pregunta era relevante tanto para sus clientes como para el público en general y, por lo tanto, extrajo los datos que tenía en sus servidores. Para garantizar la privacidad, los datos se anonimizaron para que ni los empleados individuales ni sus empleadores pudieran ser identificados. Debido al tamaño del conjunto de datos y su estructura interna, se extrajeron cuatro conjuntos de datos individuales.

Normalmente, simplemente abrimos las bases de datos y encontramos un archivo de hoja de cálculo que muestra las características que caracterizan a cada individuo, como el género. Una mujer puede identificarse como "mujer" o "mujer" o simplemente "F". Los valores pueden estar mal escritos (“feale”), aparecer en varios idiomas ( mujer o frau ), o usar diferentes casos (f o F). Si la hoja de cálculo es pequeña (digamos, 1000 filas), corregir tales inconsistencias debería ser simple. Pero nuestros datos contenían más de mil millones de observaciones, demasiadas, obviamente, para una hoja de cálculo típica, por lo que se tuvo que programar y probar un procedimiento de limpieza.

Uno de los principales desafíos fue determinar cuántos valores se habían utilizado para identificar las variables. Debido a que los datos procedían de las filiales extranjeras de empresas multinacionales, se registraron en varios idiomas, lo que significa que varias variables tenían una gran cantidad de valores: 94 solo para el género. Escribimos código de programación para estandarizar todos esos valores, reduciendo el género, por ejemplo, a tres: femenino, masculino y desconocido. Las fechas de inicio y finalización del empleo fueron especialmente problemáticas debido a los diferentes formatos de las fechas.

Según Tableau, una plataforma de análisis de datos, la limpieza de datos consta de cinco pasos básicos: (1) Eliminar observaciones duplicadas o irrelevantes; (2) corregir errores estructurales (como el uso de valores variables); (3) eliminar valores atípicos no deseados; (4) administrar los datos faltantes, quizás reemplazando cada valor faltante con un promedio para el conjunto de datos; y (5) validar y cuestionar los datos y resultados analíticos. ¿Los números parecen razonables?

Es posible que no. Uno de nuestros conjuntos de datos, que registraba la cantidad de pasos que los estudiantes de MBA de HEC Paris tomaban cada día, contenía una gran sorpresa. En promedio, los estudiantes dieron alrededor de 7500 pasos al día, pero algunos atípicos dieron más de un millón de pasos al día. Esos valores atípicos fueron el resultado de un error del software de procesamiento de datos y se eliminaron. Obviamente, si no hubiéramos examinado física y estadísticamente el conjunto de datos, nuestro análisis final habría sido totalmente erróneo.

Cómo la IA sube las apuestas

La ética puede parecer un lujo caro para las empresas con fuertes competidores. Por ejemplo, según los informes, Microsoft despidió a todo el equipo de ética de su proyecto Bing AI porque, según informes de prensa y blogs, Google estaba cerca de lanzar su propia aplicación impulsada por IA, por lo que el tiempo era esencial.

Pero tratar la ética de los datos como algo agradable conlleva riesgos cuando se trata de IA. Durante una entrevista reciente, el CTO de OpenAI, la compañía que desarrolló ChatGPT, observó: “Existen enormes consecuencias negativas potenciales cada vez que construyes algo tan poderoso con el que pueden surgir tantas cosas buenas… y es por eso que… estamos tratando de descubrir cómo implementar estos sistemas de manera responsable”.

Muy poca anonimización es inaceptable bajo la mayoría de las regulaciones gubernamentales. Demasiados pueden hacer que los datos sean inútiles para el marketing.

Gracias a la IA, los científicos de datos pueden desarrollar perfiles psicológicos y personales notablemente precisos de las personas sobre la base de muy pocos fragmentos de detritos digitales que dejan las visitas a las plataformas sociales. Los investigadores Michal Kosinski, David Stillwell y Thore Graepel de la Universidad de Cambridge demostraron la facilidad con la que los "me gusta" de Facebook pueden "predecir con precisión una gama de atributos personales altamente sensibles que incluyen: orientación sexual, etnia, puntos de vista religiosos y políticos, rasgos de personalidad, inteligencia, felicidad, uso de sustancias adictivas, separación de los padres, edad y género”. (Esta investigación fue, de hecho, la inspiración para el uso de datos de Facebook por parte de Cambridge Analytica).

Investigaciones posteriores de Youyou Wu, Michal Kosinski y David Stillwell reforzaron esos hallazgos al demostrar que los juicios de personalidad basados ​​en computadoras pueden ser más precisos que los humanos. Las predicciones informáticas de las características de la personalidad (apertura, amabilidad, extraversión, escrupulosidad, neuroticismo, conocidas como los Cinco Grandes) utilizando los "me gusta" de Facebook fueron casi tan precisas como las evaluaciones realizadas por el cónyuge de una persona. Las implicaciones de eso no deben ser ignoradas. ¿Cómo se sentiría si su gobierno quisiera catalogar sus pensamientos y acciones privados?

Un problema también puede estar enraizado no en los datos analizados sino en los datos pasados ​​por alto. Las máquinas pueden “aprender” solo de lo que se les alimenta; no pueden identificar variables que no están programados para observar. Esto se conoce como sesgo de variable omitida. El ejemplo más conocido es el desarrollo de Target de un algoritmo para identificar clientes embarazadas.

El científico de datos de la empresa, un estadístico llamado Andrew Pole, creó una puntuación de "predicción de embarazo" basada en compras de unos 25 productos, como lociones sin perfume y suplementos de calcio. Eso permitió a Target promocionar productos antes que sus competidores con la esperanza de ganar clientes leales que comprarían todos sus productos relacionados con bebés en Target. La variable omitida fue la edad del cliente objetivo, y el accidente en espera ocurrió cuando el padre de una joven de 17 años encontró anuncios relacionados con el embarazo en su buzón. Sin saber que su hija estaba embarazada, contactó a Target para preguntar por qué estaba promoviendo el sexo prematrimonial entre menores.

Incluso para los estándares de la época, espiar a menores con el objetivo de identificar información médica personal e íntima se consideraba poco ético. Pole admitió durante una entrevista posterior que había pensado que recibir un catálogo promocional incomodaría a algunas personas. Pero cualquiera que sea la preocupación que haya expresado en ese momento, hizo poco para retrasar el lanzamiento del programa y, según un reportero, obtuvo un ascenso. Target finalmente emitió una declaración en la que afirmaba que cumplía "con todas las leyes federales y estatales, incluidas las relacionadas con la información de salud protegida".

El problema para las juntas directivas y la alta dirección es que el uso de IA para captar clientes, determinar la idoneidad para una entrevista de trabajo o aprobar una solicitud de préstamo puede tener efectos desastrosos. Las predicciones de la IA sobre el comportamiento humano pueden ser extremadamente precisas pero contextualizadas de manera inapropiada. También pueden llevar a errores de predicción flagrantes que son simplemente tontos o incluso moralmente repugnantes. Confiar en herramientas estadísticas automatizadas para tomar decisiones es una mala idea. Los miembros de la junta y los altos ejecutivos deben ver una junta de revisión institucional corporativa no como un gasto, una restricción o una obligación social, sino como un sistema de alerta temprana.

Una versión de este artículo apareció en la edición de julio-agosto de 2023 de Harvard Business Review.

Lea más sobre Negocios y sociedad o temas relacionados Ética empresarial y Gestión de la información

Michael Segalla es profesor emérito de HEC París y socio de la International Board Foundation.

Dominique Rouziès es profesora de marketing en HEC Paris y decana de asuntos académicos en BMI Executive Institute.

 

Doxa 1132

Cómo la IA puede ayudar a las empresas a fijar precios de forma más ética

Los algoritmos deberían optimizarse para algo más que ganancias.

Por Mark E. Bergen, Shantanu Dutta, James Guszcza, y Mark J. Zbaracki

Economía y sociedad

Harvard Business Review

Resumen. Mediante el uso de herramientas de inteligencia artificial y basadas en datos, las empresas pueden cambiar el precio de un bien o servicio en función de quién compra, cuándo y otros muchos factores. Este poder plantea una pregunta: ¿Deberían influir la ética y los valores sociales en estos precios, y cómo? Las empresas deben considerar lo que están vendiendo, a quién le están vendiendo y cómo están vendiendo sus productos, y considerar la variedad de posibles impactos. Luego, deben 1) ser creativos para reducir las externalidades negativas, 2) comunicarse con las partes interesadas y 3) crear filtros proactivos en sus deliberaciones sobre precios.

Más que nunca, las empresas pueden adaptar los precios a las personas, los lugares y el tiempo. Hacen esto para maximizar las ganancias y, a veces, simplemente para sobrevivir. Estamos en una nueva era de discriminación de precios sobrealimentada, posible gracias a dos importantes tendencias científicas y tecnológicas. Primero, los algoritmos de IA, a menudo entrenados en datos de comportamiento altamente detallados, permiten a las organizaciones inferir lo que las personas están dispuestas a pagar con una precisión sin precedentes. En segundo lugar, los desarrollos recientes en la ciencia del comportamiento, a menudo invocados con el lema "empujón", brindan a las organizaciones una mayor capacidad para influir en los comportamientos de sus clientes.

No hace mucho, esas tácticas podrían haberse tomado con calma. Pero ya no. Las crisis superpuestas de hoy y las actitudes cambiantes resaltan una verdad que a menudo se oculta a simple vista: estas estrategias de precios sobrealimentadas pueden causar un daño real a las personas, las organizaciones y las sociedades. Cuando las empresas implementan tales estrategias sin considerar sus posibles impactos sociales, corren el riesgo de dañar a las personas, provocar la protesta de los clientes y la indignación pública, e incluso reducir las perspectivas de supervivencia a largo plazo.

Dado todo esto, las organizaciones deben considerar cómo utilizar sus capacidades de fijación de precios sobrealimentadas de manera que reflejen valores sociales importantes y eviten causar daños y amplificar las desigualdades. Yendo más allá, las organizaciones con visión de futuro harían bien en buscar estrategias de precios rentables basadas en datos que no solo eviten daños, sino que también ayuden a promover el bienestar social.

Para hacer esto, las empresas deben incorporar consideraciones sociales y deliberaciones éticas en su cálculo de precios. Los campos de la medicina, la ciencia de datos y la inteligencia artificial han experimentado evoluciones similares, adoptando los conceptos éticos centrales de evitar daños, promover el bienestar y la justicia, y no manipular los comportamientos y decisiones de las personas. Con un espíritu similar, ofrecemos un marco que comprende tres preguntas fáciles de hacer, fáciles de responder y fáciles de aplicar que juntas reducen las posibilidades de que su estrategia de precios tenga impactos sociales negativos. Piense en cada una de estas tres preguntas como capas de un "filtro" que puede reducir los daños potenciales a sus clientes, su empresa y la sociedad.

Tres preguntas que las empresas deben hacer

¿Qué estoy vendiendo? ¿Pueden estos precios impedir el acceso a productos esenciales?

Piense en sus productos y servicios. ¿Son esenciales, como comida, refugio, medicinas, transporte y acceso a Internet? Durante la pandemia, los altos precios bloquearon el acceso a equipos de seguridad personal como máscaras N95 y desinfectante para manos, así como a productos imprescindibles como papel higiénico. En cada caso, el no poder obtener estos elementos expuso a las personas a riesgos o daños.

Por supuesto, esta pregunta sigue siendo relevante más allá de los tiempos de crisis. Los altos precios de las compañías farmacéuticas han bloqueado históricamente el acceso a los medicamentos para los pacientes con enfermedades crónicas, lo que daña a las personas a las que podrían ayudar y convierte a estas compañías en blanco de la indignación social. Del mismo modo, los algoritmos de inteligencia artificial permiten aumentar los precios de los viajes en taxi. El aumento de precios puede ser una herramienta útil; por ejemplo, puede aumentar la disponibilidad de transporte y permitir que los conductores ganen más. Pero el contexto es importante. Por ejemplo, aumentos significativos de precios durante emergencias como tormentas de nieve severas o huracanes pueden evitar que los consumidores vulnerables se trasladen a lugares seguros.

Considere la reciente ola de frío en Texas, donde las personas sufrieron picos ruinosos en sus facturas de servicios públicos debido a un esquema de precios y un algoritmo que no anticipó los daños que podrían resultar de un enfoque único en la eficiencia económica. Como se lamentó un cliente, “Es una utilidad, es algo que necesita para vivir. No siento que haya usado $ 6700 de electricidad en la última década. Ese no es un costo que cualquier persona razonable tendría que pagar por cinco días de servicio eléctrico intermitente que se utiliza al mínimo ". Esta es una ilustración aleccionadora de las consecuencias sociales de la fijación de precios que se enmarca de manera estricta de una manera que desplaza tales consideraciones éticas.

Cuando sus ofertas se conviertan en necesidades, tenga cuidado: los precios más altos pueden bloquear el acceso a las necesidades esenciales, magnificando la posibilidad de daños sociales. Cuanto más esencial sea la necesidad y mayor sea el aumento de precio, mayor será el daño potencial.

¿A quién le estoy vendiendo? ¿Pueden estos precios dañar a las poblaciones vulnerables?

¿Algunos de sus clientes pertenecen a poblaciones vulnerables? ¿Vende a personas mayores, a clientes con enfermedades crónicas o a clientes que viven con ingresos limitados? ¿Vende a clientes de grupos sociales que tradicionalmente han sido discriminados? Las tecnologías de análisis, big data e inteligencia artificial potencian la capacidad de las empresas para abordar estas preguntas con gran detalle.

La discriminación de precios que refuerza la discriminación social es inaceptable. Las compañías de seguros han enfrentado este problema durante mucho tiempo: es una necesidad empresarial establecer tarifas utilizando aplicaciones cada vez más sofisticadas de la ciencia actuarial y la inteligencia artificial, pero equilibrar la equidad actuarial con la equidad social requiere una deliberación ética que no se puede reducir a una fórmula. Por ejemplo, algunas aseguradoras han incorporado información como la profesión de asegurado en sus algoritmos de fijación de precios, lo que lleva a tasas de seguro más bajas para los asegurados en profesiones de élite y tasas más altas para los asegurados en profesiones menos bien pagadas. Esto a su vez ha llevado a cobertura mediática negativa, indignación pública, juicios, investigaciones legislativas y cambios regulatorios gubernamentales, lo que pone en riesgo las marcas, la reputación y la confianza en estas empresas.

La discriminación de precios es una práctica comercial común. Pero cuando se usa de manera que refuerza la discriminación social, el término adquiere un nuevo significado para las personas discriminadas y las comunidades en las que viven. Cuanto más vulnerable es la población y mayor es el grado de discriminación experimentado, más dañinas son las consecuencias de los malos tratos. prácticas de fijación de precios concebidas.

¿Cómo estoy vendiendo? ¿Pueden estos precios manipular o aprovecharse de los clientes?

¿Está utilizando información o datos de comportamiento de formas que beneficien a su empresa pero perjudiquen a sus clientes? ¿Está reteniendo o complicando la información de precios que podría ayudar a los clientes a tomar mejores decisiones? ¿Está aprovechando sus limitadas opciones, información o racionalidad? ¿O está diseñando estrategias de precios de manera que permitan a los clientes tomar mejores decisiones?

Algunos ejemplos:

• Disney, al comienzo de la pandemia cuando sus parques estaban cerrados, continuó cobrando pagos mensuales automáticos de los titulares de pases. Los clientes, como puede imaginar, no estaban muy emocionados.
• Mucho antes de la pandemia, muchos pequeños vendedores externos alegaron que Amazon había utilizado sus datos y análisis para competir directamente con estos pequeños vendedores a través de precios más bajos comprando al por mayor a proveedores a costos más bajos.
• Uber, en lugar de aplicar sus análisis, inteligencia artificial y conocimientos de comportamiento para ayudar a los conductores a tomar decisiones más informadas, utilizó la gamificación y los empujones de comportamiento para incitarlos a viajar distancias más largas a ubicaciones que eran menos rentables para ellos.
• McKinsey se disculpó recientemente y resolvió una demanda por su papel en ayudar a Purdue Pharma a “acelerar” las ventas de opioides.

Cuando sus estrategias de precios aprovechan las asimetrías de información, los datos personales de los clientes y las situaciones desafiantes, el riesgo de daños sociales aumenta. Su precio corre el riesgo de convertirse en una barrera para la elección individual y la autonomía personal.

Cada una de estas situaciones ilustra cómo las estrategias de precios que no tienen en cuenta estas cuestiones pueden afectar negativamente a la sociedad y generar importantes consecuencias negativas para las empresas, los clientes y las comunidades.

Si la respuesta a cada una de las tres preguntas anteriores es "no", entonces puede sentirse más seguro al continuar con sus planes de precios, dados los pasos que ha tomado para asegurarse de que sus precios serán mejores para los clientes, para su empresa y sus reputación y marca, y también para la sociedad.

Pero si respondió "sí" a cualquiera de las preguntas anteriores, ¿cómo debe proceder?

Cómo fijar precios de manera más ética

1) Haga una pausa, retroceda y sea creativo.

Considere las compensaciones en juego y los posibles cursos de acción. Muchas empresas han encontrado formas de mantener la rentabilidad al tiempo que limitan las consecuencias sociales negativas.

Por ejemplo, la cadena minorista noruega Meny estaba en un aprieto con el precio de su desinfectante de manos. Atrapados entre ofrecer precios accesibles y acaparamiento de compradores a esos precios, muchos minoristas han optado por imponer restricciones sobre la cantidad de botellas que los clientes pueden comprar, lo que crea molestias para empleados y clientes. Meny fijó el precio de su desinfectante de manos a precio normal por una botella, $ 100 por cada botella adicional. Esta inteligente estrategia mantiene al mismo tiempo la accesibilidad y reduce el acaparamiento.

Hyundai ofrece otro ejemplo de creatividad. Durante la Gran Recesión de 2008, Hyundai se centró en una vulnerabilidad clave para los clientes de clase trabajadora: el riesgo de perder el trabajo. En lugar de reducir los precios en todos los ámbitos, Hyundai ofreció creativamente a los clientes una garantía de devolución del automóvil en caso de que perdieran su trabajo. Esto funcionó: los clientes compraron autos Hyundai en masa, lo que convirtió a Hyundai en la única compañía automotriz que tuvo éxito durante la Gran Recesión. En medio de la pandemia actual, los fabricantes de automóviles han tomado esta lección en serio y están poniendo precios a sus autos de manera más creativa.

La IA se puede aprovechar como una fuerza para el bien en líneas similares. Por ejemplo, las aseguradoras pueden usar datos de telemetría y precios basados ​​en el uso para incentivar económicamente y "empujar" conductas de conducción más seguras. La mayoría de los conductores creen que son mejores que el promedio, un ejemplo peligroso de sesgo de exceso de confianza. Los informes de retroalimentación ricos en datos que comparan a los conductores con sus pares probablemente impulsarían una conducción más segura. Estas intervenciones tienen el potencial de hacer que los seguros sean más asequibles al mismo tiempo al reducir la frecuencia de las reclamaciones y, al mismo tiempo, hacer que las carreteras sean más seguras.

2) Esté dispuesto a comprometerse y comunicar esto con las partes interesadas.

Si no hay disponibles opciones de precios tan creativas, explore formas de llegar a un acuerdo. Es posible que deba renunciar a cierta rentabilidad para evitar o mejorar las consecuencias sociales negativas. Al mismo tiempo, es posible que los clientes deban soportar algunas consecuencias negativas para permitir la supervivencia financiera de la empresa. Recuerde la indignación de los consumidores como resultado del uso que hizo Uber del aumento de precios. Uber no pudo eliminar por completo el aumento de precios, dado que incentivar a los conductores es una parte clave de su modelo comercial. Por lo tanto, trabajó con los reguladores para limitar sus precios durante emergencias y desastres a un nivel por debajo de los tres días de mayor precio en los dos meses anteriores.

Además de participar en la creatividad y el compromiso, también es necesario comunicarse claramente con las partes interesadas clave. Uber también agregó funcionalidad a su aplicación para que los consumidores sepan de antemano cuánto más pagarían y obtendrían su consentimiento, y además anunciaron que las comisiones ganadas durante las crisis se donarían a la Cruz Roja Estadounidense, aprovechando así la de los clientes. motivaciones intrínsecas prosociales. Esta estrategia refleja una visión de la economía del comportamiento: los clientes pueden estar dispuestos a renunciar a los beneficios económicos para promover resultados sociales más justos. La estrategia revisada de aumento de precios y las comunicaciones de Uber logran un equilibrio entre lograr los objetivos corporativos y evitar los malos resultados.

3) Incorpore este filtro en sus deliberaciones sobre precios.

Las acciones de muchas organizaciones prominentes sugieren que la integración de la deliberación ética en la estrategia de precios es una idea cuyo momento ha llegado. Como se mencionó anteriormente, Uber ahora incorpora de manera proactiva la capacidad de deliberación social en sus actividades de aumento de precios. Esto permite la flexibilidad local para permitir un dedo en el gatillo más rápido para eliminar por completo el aumento de precios en situaciones de emergencia. Microsoft proporciona un análogo fuera del dominio de precios: un equipo de desarrollo ético formado recientemente informa al presidente Brad Smith. El equipo es responsable de orientar la innovación técnica y de experiencias hacia resultados éticos, responsables y sostenibles.

Además, la incorporación de este filtro en sus deliberaciones sobre precios puede impulsar innovaciones en el aprovechamiento de big data, inteligencia artificial y análisis que son pro-sociales y buenos para la posición competitiva a largo plazo de la empresa. Es comprensible que los clientes desconfíen de que las empresas puedan utilizar sus datos de manera que beneficien a los accionistas en lugar de a las personas que generaron los datos en primer lugar. Por lo tanto, corresponde a las empresas explorar cómo usar big data y precios de manera que aborden tales preocupaciones.

Por ejemplo, los tenderos pueden aplicar análisis a los datos granulares de las tarjetas del club de manera que informen, recompensen o incentiven opciones de compra de alimentos más saludables. Hacerlo puede aumentar el acceso a las necesidades esenciales, de particular valor para las poblaciones vulnerables que viven en los desiertos alimentarios. De manera análoga, las aseguradoras pueden utilizar los datos de los titulares de pólizas no solo para crear modelos actuariales, sino también para utilizar los precios para incentivar comportamientos de riesgo más seguros y la gestión de riesgos por parte de los asegurados. Las plataformas minoristas en línea pueden utilizar sus datos para informar a los clientes cuando los precios de los productos esenciales son excesivos. Todos estos son ejemplos del uso de datos e IA de formas que ayudan en lugar de explotar a los clientes.Estas estrategias de precios son a la vez pro-sociales (en cada caso, los datos de los clientes se aprovechan de una manera que ayuda al cliente a lograr mejor sus propios objetivos) y pro-negocio en el sentido de que permiten la diferenciación de marca y una mayor lealtad del cliente.

Refinar las capacidades de fijación de precios de manera que mantengan las consideraciones éticas al frente y al centro, ejercitando la creatividad y el compromiso juicioso, y comunicándose con franqueza y transparencia, permiten a las organizaciones perseguir el afán de lucro de manera que ayuden, en lugar de dañar, a las poblaciones de las que dependen y sirven.

Mark Bergen, presidente de marketing de James D. Watkins, Carlson School of Management, Universidad de Minnesota. Más de 30 años en el profesorado enseñando precios y marketing en la Universidad de Chicago y la Universidad de Minnesota; investigar en áreas que van desde las guerras de precios hasta la rigidez de precios y la fijación de precios como capacidad estratégica; y trabajar con empresas de industrias que van desde la agroindustria, B2B, atención médica y organizaciones sin fines de lucro. Los autores desean agradecer a Meenakshi Ramalingam por el apoyo excepcional de AR para este artículo.

Shantanu Dutta, Dave and Jeanne Tappan Chair in Marketing, Marshall School of Business, University of Southern California tiene más de 30 años de experiencia en la enseñanza de marketing y precios en la University of Chicago, University of Southern California, London Business School, Shanghai Jiao Tong University y Universidad de Gestión de Singapur. Su investigación se centra en el marketing B2B, la atención médica y los precios como capacidad estratégica.

James Guszcza es un científico de datos con más de 20 años de experiencia en la práctica y la enseñanza. Actualmente es becario 2020-21 en el Centro de Estudios Avanzados en Ciencias del Comportamiento de la Universidad de Stanford.

Mark J. Zbaracki tiene casi 30 años de experiencia en docencia e investigación en estrategia e implementación de estrategias en la Universidad de Chicago, Wharton School en la Universidad de Pennsylvania, Stern School en la Universidad de Nueva York y ahora en la Ivey Business School en Universidad occidental. Su investigación se centra en la implementación de prácticas de gestión eficaces en la gestión de la calidad, la gestión de riesgos y la fijación de precios.

Doxa 1125

La IA debería aumentar la inteligencia humana, no reemplazarla

Por David De Cremer y Garry Kasparov 

Economía y sociedad

Harvard Business Review

Resumen. ¿Las máquinas inteligentes realmente reemplazarán a los trabajadores humanos? Probablemente no. Las personas y la IA aportan diferentes habilidades y fortalezas a la mesa. La verdadera pregunta es: ¿cómo puede la inteligencia humana trabajar con la inteligencia artificial para producir inteligencia aumentada? El gran maestro de ajedrez Garry Kasparov ofrece aquí una visión única. Después de perder ante Deep Blue de IBM, comenzó a experimentar cómo un ayudante informático cambiaba la ventaja competitiva de los jugadores en las partidas de ajedrez de alto nivel. Lo que descubrió fue que tener los mejores jugadores y el mejor programa era menos un indicador del éxito que tener un proceso realmente bueno. En pocas palabras, "un proceso débil humano + máquina + mejor fue superior a una computadora fuerte por sí sola y, lo que es más notable, superior a un fuerte proceso humano + máquina + inferior". A medida que los líderes analicen cómo incorporar la IA en sus organizaciones, deberán gestionar las expectativas a medida que se introduzca la IA, invertir en unir equipos y perfeccionar procesos, y perfeccionar sus propias habilidades de liderazgo.

En una economía en la que los datos están cambiando la forma en que las empresas crean valor y compiten, los expertos predicen que el uso de inteligencia artificial (IA) a mayor escala agregará hasta 15,7 billones de dólares a la economía global para 2030 . A medida que la IA está cambiando la forma en que funcionan las empresas, muchos creen que también cambiará quién hace este trabajo, y que las organizaciones comenzarán a reemplazar a los empleados humanos con máquinas inteligentes . Esto ya está sucediendo: los sistemas inteligentes están desplazando a los humanos en la industria manufacturera, la prestación de servicios, la contratación y la industria financiera, lo que lleva a los trabajadores humanos hacia trabajos peor pagados o los deja desempleados. Esta tendencia ha llevado a algunos a concluir que en 2040 nuestra fuerza laboral puede ser totalmente irreconocible .

Sin embargo, ¿los humanos y las máquinas realmente compiten entre sí? La historia del trabajo, particularmente desde la Revolución Industrial, es la historia de personas que subcontratan su trabajo a máquinas. Si bien eso comenzó con tareas físicas repetitivas y de memoria como tejer, las máquinas han evolucionado hasta el punto en que ahora pueden hacer lo que podríamos considerar un trabajo cognitivo complejo, como ecuaciones matemáticas, reconocer el lenguaje y el habla y escribir. Por tanto, las máquinas parecen estar listas para reproducir el trabajo de nuestras mentes, y no solo de nuestros cuerpos. En el siglo XXI, la IA está evolucionando para ser superior a los humanos en muchas tareas, lo que hace que parezca que estamos listos para subcontratar nuestra inteligencia a la tecnología. Con esta última tendencia, parece que no hay nada que no pueda automatizarse pronto, lo que significa que ningún trabajo está a salvo de ser descargado a las máquinas.

Esta visión del futuro del trabajo ha tomado la forma de un juego de suma cero, en el que solo puede haber un ganador.

Sin embargo, creemos que esta visión del papel que desempeñará la IA en el lugar de trabajo es incorrecta. La pregunta de si la IA reemplazará a los trabajadores humanos supone que la IA y los humanos tienen las mismas cualidades y habilidades, pero, en realidad, no es así. Las máquinas basadas en inteligencia artificial son rápidas, más precisas y consistentemente racionales, pero no son intuitivas, emocionales o culturalmente sensibles. Y son exactamente estas habilidades las que poseen los humanos y las que nos hacen efectivos.

Inteligencia artificial frente a inteligencia humana

En general, las personas reconocen que las computadoras avanzadas de hoy son inteligentes porque tienen el potencial de aprender y tomar decisiones basadas en la información que toman. Pero si bien podemos reconocer esa habilidad, es un tipo de inteligencia decididamente diferente lo que poseemos.

En su forma más simple, la IA es una computadora que actúa y decide de maneras que parecen inteligentes. De acuerdo con la filosofía de Alan Turing, la IA imita cómo los humanos actúan, sienten, hablan y deciden. Este tipo de inteligencia es extremadamente útil en un entorno organizacional: debido a sus habilidades de imitación, la IA tiene la cualidad de identificar patrones de información que optimizan las tendencias relevantes para el trabajo. Además, a diferencia de los humanos, la IA nunca se cansa físicamente y mientras se alimente con datos, seguirá funcionando.

Estas cualidades significan que la IA está perfectamente adaptada para trabajar en tareas rutinarias de nivel inferior que son repetitivas y tienen lugar dentro de un sistema de gestión cerrado. En tal sistema, las reglas del juego son claras y no están influenciadas por fuerzas externas. Piense, por ejemplo, en una línea de montaje donde los trabajadores no sean interrumpidos por demandas e influencias externas como reuniones de trabajo. Como ejemplo, la línea de montaje es exactamente el lugar donde Amazon colocó algoritmos en el papel de gerentes para supervisar a los trabajadores humanos e incluso despedirlos . Como el trabajo es repetitivo y está sujeto a procedimientos rígidos que optimizan la eficiencia y la productividad, la IA puede desempeñarse de manera más precisa para los supervisores humanos.

Las habilidades humanas, sin embargo, son más amplias. Al contrario de las habilidades de la IA que solo responden a los datos disponibles, los humanos tienen la capacidad de imaginar, anticipar, sentir y juzgar situaciones cambiantes, lo que les permite pasar de preocupaciones a corto plazo a preocupaciones a largo plazo. Estas habilidades son exclusivas de los humanos y no requieren un flujo constante de datos proporcionados externamente para funcionar como es el caso de la inteligencia artificial.

De esta manera, los humanos representan lo que llamamos inteligencia auténtica, un tipo diferente de IA, por así decirlo. Este tipo de inteligencia es necesaria cuando existen sistemas abiertos. En un sistema de gestión abierto, el equipo u organización está interactuando con el entorno externo y, por lo tanto, tiene que lidiar con influencias externas. Tal entorno de trabajo requiere la capacidad de anticipar y trabajar con, por ejemplo, cambios repentinos e intercambio de información distorsionado, y al mismo tiempo ser creativo al destilar una visión y una estrategia futura. En los sistemas abiertos, los esfuerzos de transformación funcionan continuamente y la gestión eficaz de ese proceso requiere una inteligencia auténtica.

Aunque la Inteligencia Artificial (aquí referida como AI1) parece opuesta a la Inteligencia Auténtica (referida aquí como AI2), también son complementarias. En el contexto de las organizaciones, ambos tipos de inteligencia ofrecen una gama de talentos específicos.

¿Qué talentos, operacionalizados como habilidades necesarias para cumplir con los requisitos de desempeño, se necesitan para desempeñarse mejor? En primer lugar, es importante enfatizar que el talento puede ganar partidos, pero a menudo no ganará campeonatos: los equipos ganan campeonatos. Por esta razón, creemos que será la combinación de los talentos incluidos en AI1 y AI2, trabajando en conjunto, lo que contribuirá al futuro del trabajo inteligente. Creará el tipo de inteligencia que permitirá a las organizaciones ser más eficientes y precisas, pero al mismo tiempo también creativas y proactivas. Este otro tipo de IA lo llamamos Inteligencia Aumentada (en este caso, AI3).

El tercer tipo de IA: inteligencia aumentada

¿Qué podrá ofrecer AI3 que AI1 y AI2 no puedan? El segundo autor de este artículo tiene una visión única aquí: es conocido por ganar campeonatos, mientras que al mismo tiempo también tiene la experiencia distintiva de ser el primer humano en perder un juego de alto nivel ante una máquina. En 1997, el gran maestro de ajedrez Garry Kasparov perdió una partida de un programa de supercomputadora de IBM llamado Deep Blue. Lo dejó para repensar cómo el juego intelectual del ajedrez podría abordarse de manera diferente, no simplemente como un esfuerzo individual sino como un esfuerzo colaborativo. Y, con la inesperada victoria de Deep Blue, decidió intentar colaborar con una IA.

En un partido en 1998 en León, España, Kasparov se asoció con una PC que ejecutaba el software de ajedrez de su elección - un arreglo llamado "ajedrez avanzado" - en un partido contra el búlgaro Veselin Topalov, a quien había vencido 4-0 un mes antes. . Esta vez, con ambos jugadores apoyados por computadoras, el partido terminó en un empate 3-3. Parecía que el uso de una PC anulaba los avances calculadores y estratégicos que Kasparov solía mostrar sobre su oponente.

El partido proporcionó una ilustración importante de cómo los humanos podrían trabajar con la IA. Después del partido, Kasparov notó que el uso de una PC le permitió concentrarse más en la planificación estratégica mientras que la máquina se encargaba de los cálculos. Sin embargo, también enfatizó que simplemente reunir al mejor jugador humano y la mejor PC no revelaba, a sus ojos, juegos que fueran perfectos. Al igual que con los equipos humanos, el poder de trabajar con una IA proviene de cómo la persona y la computadora se complementan entre sí; los mejores jugadores y las IA más poderosas que se asocian no necesariamente producen los mejores resultados.

Una vez más, el mundo del ajedrez ofrece un caso de prueba útil de cómo se puede desarrollar esta colaboración. En 2005, el sitio de juegos de ajedrez en línea Playchess.com organizó lo que llamó un torneo de ajedrez de "estilo libre" en el que cualquiera podía competir en equipos con otros jugadores o computadoras. Lo que hizo interesante esta competencia es que varios grupos de grandes maestros que trabajan con computadoras también participaron en este torneo. Como era de esperar, la mayoría de la gente esperaba que uno de estos grandes maestros en combinación con una supercomputadora dominara esta competencia, pero eso no fue lo que sucedió. El torneo fue ganado por un par de ajedrecistas estadounidenses aficionados usando tres computadoras. Fue su capacidad para coordinar y entrenar eficazmente sus computadoras lo que derrotó a la combinación de un gran maestro inteligente y una PC con gran poder computacional.

Este sorprendente resultado subraya una lección importante: el proceso de cómo interactúan los jugadores y las computadoras determina cuán eficiente será la asociación. O, como Kasparov lo expresó, "Un proceso humano + máquina débil + mejor proceso era superior a una computadora fuerte sola y, lo que es más notable, superior a un proceso humano + máquina fuerte + inferior".

Recomendaciones

El potencial de mejora y colaboración que imaginamos contrasta radicalmente con las predicciones de suma cero de lo que hará la IA en nuestra sociedad y organizaciones. En cambio, creemos que una mayor productividad y la automatización del trabajo cognitivamente rutinario es una bendición, no una amenaza. Después de todo, la nueva tecnología siempre tiene efectos disruptivos al principio de las fases de implementación y desarrollo y, por lo general, revela su valor real solo después de algún tiempo.

Esta realidad, sin embargo, no significa que tengamos que esperar pacientemente hasta que este valor finalmente se revele, ¡todo lo contrario! Nuestro principal desafío como empresarios es anticiparnos a lo que significa la inteligencia artificial en relación con la forma en que los humanos piensan y actúan, y trabajar para integrar las nuevas tecnologías de manera ambiciosa y estratégica en nuestras organizaciones. No podemos simplemente esperar pasivamente a que supere a los métodos tradicionales. Entonces, ¿qué podemos hacer en este momento para garantizar la integración de las diferentes IA para que nuestras organizaciones funcionen de manera efectiva?

Primero, los equipos se compondrán gradualmente de humanos y no humanos trabajando juntos, a lo que nos referimos como la "nueva diversidad". La psicología de la nueva diversidad traerá consigo el riesgo de que las creencias estereotipadas y los prejuicios puedan influir fácilmente en las decisiones y el trabajo en equipo. La máquina, como un compañero de trabajo no humano, puede encontrarse con desconfianza y expectativas negativas como cualquier otro miembro del grupo y, como tal, alentar a los humanos a compartir menos información y evitar trabajar con la máquina. Los líderes de equipo deberán ser aptos para responder a estas dinámicas de equipo negativas y estar capacitados de manera que comprendan la realidad de esas creencias negativas y sus consecuencias.

En segundo lugar, la nueva forma de equipos requerirá líderes que sean capaces de unir a diferentes partes. En el futuro, la creación de equipos inclusivos mediante la alineación de personas y máquinas será una habilidad importante que se debe capacitar y desarrollar. Como muestran los ejemplos mencionados anteriormente, para lograr un mejor desempeño mediante el empleo de estos nuevos equipos de diversidad, un requisito principal para los líderes será transformarse en maestros de los procesos de coordinación y coaching de equipos.

En tercer lugar, los procesos en equipo deberán gestionarse de forma eficaz y esto deberá hacerlo un ser humano. Para que los humanos alineen las fortalezas y debilidades del hombre y la máquina, necesitarán ser educados para comprender cómo funciona la IA, para qué se puede usar y decidir, por medio de las habilidades de juicio de su inteligencia auténtica, cómo se puede usar. lo mejor es fomentar el desempeño al servicio de los intereses humanos.

La inteligencia aumentada, como tercer tipo de IA, es el paso hacia el futuro del trabajo inteligente. El futuro del trabajo es un concepto que se utiliza para indicar el crecimiento de los empleados y su desempeño de manera más eficiente. El debate sobre este tema, sin embargo, se ha vuelto bastante ambiguo en sus intenciones. Específicamente, debido a las narrativas de las estrategias de reducción de costos, las empresas de hoy se encuentran en una etapa en la que las máquinas a menudo se presentan como el nuevo súper empleado que puede dejar a los humanos en última instancia en un papel inferior para servir a la máquina. Sin embargo, un elemento esencial de un tipo de futuro del trabajo verdaderamente inteligente significa que sí expandimos la fuerza laboral en la que tanto los humanos como las máquinas formarán parte, pero con el objetivo de mejorar la humanidad y el bienestar y, al mismo tiempo, ser más eficientes en el mundo. ejecución de nuestros trabajos. Asi que,

David De Cremer es director y profesor de administración y organizaciones en NUS Business School, Universidad Nacional de Singapur. Es el fundador y director del Center on AI Technology for Humankind en la escuela de negocios NUS. Antes de mudarse a NUS, fue profesor presidido por KPMG en estudios de gestión en Judge Business School, Universidad de Cambridge. Es nombrado uno de los 30 principales gurús y oradores de la gestión del mundo en 2020 por la organización GlobalGurus y recientemente publicó el libro "Liderazgo por algoritmo: ¿Quién lidera y quién sigue en la era de la IA?"

Garry Kasparov es el presidente de la Fundación de Derechos Humanos y fundador de la Iniciativa Renovar la Democracia. Escribe y habla con frecuencia sobre política, toma de decisiones y colaboración hombre-máquina. Kasparov se convirtió en el campeón mundial de ajedrez más joven de la historia a los 22 años en 1985 y mantuvo la clasificación más alta del mundo durante 20 años. Sus famosos combates contra la supercomputadora IBM Deep Blue en 1996 y 1997 fueron clave para llevar la inteligencia artificial y el ajedrez a la corriente principal. Su último libro sobre inteligencia artificial y el futuro del ser humano más la máquina es Deep Thinking: Where Machine Intelligence Ends and Human Creativity Begins (2017).

Doxa 1082

Las empresas de redes sociales deben autorregularse. Ahora.

Por Michael A. Cusumano, Annabelle Gawer, y David B. Yoffie 

Economía y sociedad

Harvard Business Review

Resumen. Las empresas de tecnología se enfrentan a la amenaza real de la regulación gubernamental como reacción al contenido socialmente dañino que publican. Para evitar esto, las empresas de tecnología deberían formar una coalición industrial y tomar medidas proactivas para autorregularse ahora. Nuestra investigación en industrias como la televisión, las películas y los videojuegos sugiere que la autorregulación efectiva puede beneficiar tanto a la sociedad como a las empresas y mantener a raya a los reguladores gubernamentales.

El mundo fue testigo del peor ejemplo del impacto que las plataformas digitales pueden tener en la sociedad con la debacle en el Capitolio de EE. UU. El 6 de enero de 2021. No solo los partidarios de Donald Trump intentaron interrumpir la certificación de los votos del Colegio Electoral, sino este incidente deplorable. fue, en gran parte, fomentado a través de las redes sociales.

En el pasado, Twitter y Facebook se han mostrado reacios a censurar publicaciones sobre teorías de conspiración y noticias falsas. Las plataformas digitales también se han beneficiado de una ley de 1996, la Sección 230 de la Ley de Decencia en las Comunicaciones, que les otorga inmunidad de responsabilidades relacionadas con el contenido alojado por terceros. Sin embargo, provocadas por acusaciones falsas de elecciones amañadas y otras noticias falsas, las principales plataformas digitales en las redes sociales comenzaron recientemente a etiquetar algunas publicaciones como poco confiables o falsas y eliminar algunos videos. Tras el intento de insurrección del 6 de enero, Twitter y Facebook también prohibieron a Trump usar sus plataformas porque la promoción de actos violentos y criminales viola sus términos de servicio. Por razones similares, Apple y Google eliminaron la plataforma alternativa de redes sociales Parler de sus tiendas de aplicaciones, y Amazon dejó de alojar el servicio.

¿Cómo nos metimos en este lío?

Las plataformas digitales pueden ser negocios altamente rentables que conectan a los usuarios y otros actores del mercado de formas que no eran posibles antes de Internet. Cuando tienen éxito, generan poderosos ciclos de retroalimentación llamados efectos de red y luego los monetizan vendiendo anuncios. Pero lo que sucedió en el Capitolio de EE. UU. Ilustra cómo las plataformas digitales pueden ser espadas de doble filo. Sí, han generado billones de dólares en riqueza. Pero también han permitido la distribución de noticias y productos falsos, la manipulación de contenido digital con fines políticos y la promoción de información errónea peligrosa sobre elecciones, vacunas y otros asuntos de salud pública.

El dilema social es claro: las plataformas digitales pueden usarse tanto para el mal como para el bien.

¿Cual es la solución? ¿Deberían las empresas de plataformas esperar a que los gobiernos impongan controles potencialmente intrusivos y respondan a la defensiva? ¿O deberían actuar de forma preventiva?

Los gobiernos inevitablemente se involucrarán más en la supervisión. Sin embargo, creemos que las plataformas deberían volverse más agresivas en la autorregulación ahora. Para explorar la viabilidad de la autorregulación, investigamos la historia de la autorregulación antes y después de la adopción generalizada de Internet. Descubrimos que las empresas a menudo se han arriesgado a crear una "tragedia de los comunes" cuando anteponen sus propios intereses individuales a corto plazo al bien del público consumidor o de la industria en general y, a largo plazo, destruyen el medio ambiente. eso los hizo exitosos en primer lugar.

Antes de la era de Internet, varias industrias, como películas, videojuegos, contenido de transmisión, publicidad televisiva y sistemas computarizados de reserva de aerolíneas, enfrentaron problemas similares y lograron autorregularse con cierto éxito. Al mismo tiempo, estos ejemplos históricos sugieren que la autorregulación funcionó mejor cuando hubo amenazas creíbles de la regulación gubernamental. En resumen: la autorregulación puede ser la clave para evitar una posible tragedia del escenario de los bienes comunes para las plataformas digitales.

¿Qué es la “autorregulación”? Esto se refiere a los pasos que toman las empresas o asociaciones industriales para adelantarse o complementar las reglas y directrices gubernamentales. Para una empresa individual, la autorregulación abarca desde el autocontrol de las infracciones regulatorias hasta las iniciativas proactivas de “responsabilidad social corporativa” (RSE). Dejar que las empresas controlen y se limiten a sí mismas a veces puede convertirse en una "farsa" autorreguladora o regulatoria. Pero ese no tiene por qué ser el caso.

Durante muchas décadas, las empresas que se dedican a la producción de películas, videojuegos y programas de televisión y comerciales se han enfrentado a problemas relacionados con la idoneidad del "contenido" de una manera que se asemeja a las plataformas de redes sociales actuales. Para mantener a raya a los reguladores, las industrias de películas y videojuegos recurrieron a un sistema de clasificación autoimpuesto y autocontrolado, que todavía está en funcionamiento. Los sectores de la radiodifusión y la publicidad en las décadas de 1950 y 1960 enfrentaron un retroceso en la idoneidad de los anuncios, con problemas que se asemejan a los que vemos hoy en la publicidad en línea. Lanzada en 1960, la industria de reservas de aerolíneas, liderada por el sistema Sabre de American Airlines, introdujo la autopreferencia en los resultados de búsqueda, similar a las quejas presentadas contra Google y Amazon.La autorregulación en estos casos a menudo proporcionó pautas efectivas y económicas para las operaciones de la empresa y evitó una intervención gubernamental más intrusiva.

La historia ofrece varias lecciones para las plataformas digitales actuales.

En primer lugar, nuestras empresas de tecnología líderes deben anticipar cuándo es probable que la regulación gubernamental se convierta en un factor clave en sus negocios. En películas, transmisiones de radio y televisión, reservas de aerolíneas a través de computadoras y otras industrias nuevas, a menudo se produce un vacío en la regulación en los primeros años. Luego, después de una especie de entorno del "salvaje oeste", los gobiernos intervienen para regular o presionar a las empresas para que frenen los abusos. Para evitar una regulación gubernamental problemática, las empresas de plataformas deben introducir sus propios controles sobre el comportamiento y el uso antes de que el gobierno revoque todas las protecciones de la Sección 230, que actualmente se debate en el Congreso. La tecnología que explota el big data, la inteligencia artificial y el aprendizaje automático, con algunas ediciones humanas, brindará cada vez más a las plataformas digitales la capacidad de seleccionar lo que sucede en sus plataformas.La cuestión es realmente hasta qué punto las grandes plataformas tienen la voluntad de autorregularse. Las decisiones de Facebook, Twitter, Amazon, Apple y Google durante la primera semana de enero de 2021 fueron pasos en la dirección correcta.

En segundo lugar, encontramos que las empresas de nuevas industrias tienden a evitar la autorregulación cuando los costos percibidos implican una reducción significativa de los ingresos o beneficios. A los gerentes rara vez les gustan las regulaciones de la industria que parecen "malas para los negocios". Sin embargo, esta estrategia puede resultar contraproducente. Si el mal comportamiento socava la confianza del consumidor, las plataformas digitales no seguirán prosperando. Fíjese bien en la Sección 230. Establece que "ningún proveedor o usuario de un servicio informático interactivo será tratado como el editor o hablante de cualquier información proporcionada por otro proveedor de contenido de información". Esta ley otorgó a los intermediarios en línea una amplia inmunidad de responsabilidad por el contenido generado por el usuario publicado en sus sitios. Los abogados de la empresa generalmente interpretaron que esta legislación brinda protección siempre que no se dediquen a la curaduría. Sin embargo,La sección 230 también incluyó una excepción de "buen samaritano". Esto permitió a las plataformas eliminar o moderar el contenido considerado obsceno u ofensivo, siempre que se hiciera de buena fe. Ha habido crecientes llamamientos de demócratas y republicanos para derogar la Sección 230 debido a acusaciones de parcialidad (es decir, no actuar de buena fe) y muy poca curación durante la década anterior por parte de Twitter, Facebook / Instagram y otras plataformas. Una autorregulación más explícita y transparente, como observamos después de la debacle del Capitolio de EE. UU., Podría producir un mejor resultado para las plataformas de redes sociales, al menos en comparación con dejar su destino en manos del Congreso.Ha habido crecientes llamamientos de demócratas y republicanos para derogar la Sección 230 debido a acusaciones de parcialidad (es decir, no actuar de buena fe) y muy poca curación durante la década anterior por parte de Twitter, Facebook / Instagram y otras plataformas. Una autorregulación más explícita y transparente, como observamos después de la debacle del Capitolio de EE. UU., Podría producir un mejor resultado para las plataformas de redes sociales, al menos en comparación con dejar su destino en manos del Congreso.Ha habido crecientes llamamientos de demócratas y republicanos para derogar la Sección 230 debido a acusaciones de parcialidad (es decir, no actuar de buena fe) y muy poca curación durante la década anterior por parte de Twitter, Facebook / Instagram y otras plataformas. Una autorregulación más explícita y transparente, como observamos después de la debacle del Capitolio de EE. UU., Podría producir un mejor resultado para las plataformas de redes sociales, al menos en comparación con dejar su destino en manos del Congreso.al menos en comparación con dejar su destino en manos del Congreso.al menos en comparación con dejar su destino en manos del Congreso.

En tercer lugar, la autorregulación proactiva a menudo tuvo más éxito cuando las coaliciones de empresas del mismo sector trabajaron juntas. Vimos este tipo de actividad de coalición en los sistemas de clasificación de películas y videojuegos que limitaban el contenido violento, profano o sexual; las normas de publicidad televisiva para frenar los productos nocivos para la salud como el alcohol y el tabaco; y reservas de aerolíneas en línea computarizadas dando un trato igual a las aerolíneas, sin favorecer a los propietarios del sistema. Del mismo modo, las empresas de redes sociales implementaron códigos de conducta sobre actividades terroristas. Dado que las empresas individuales pueden dudar en promulgar la autorregulación si incurren en costos adicionales que sus competidores no incurren, las coaliciones industriales tienen el beneficio de reducir el aprovechamiento gratuito. Ahora es el momento ideal para una mayor "cooperación", donde las plataformas compiten y cooperan con rivales.

En cuarto lugar, encontramos que las empresas o las coaliciones industriales se toman en serio la autorregulación principalmente cuando ven una amenaza creíble de la regulación gubernamental, incluso si puede afectar las ventas y las ganancias a corto plazo. Este patrón ocurrió con anuncios de tabaco y cigarrillos, reservas de aerolíneas, anuncios de redes sociales para el reclutamiento de grupos terroristas y material pornográfico. Esa amenaza debería ser clara y obvia para las plataformas digitales en 2021.

En resumen, la historia sugiere que las plataformas digitales modernas no deberían esperar a que los gobiernos impongan controles; deben actuar de forma decisiva y proactiva ahora. Si bien los costos de la acción gubernamental en la era de Internet han sido modestos hasta ahora, el entorno regulatorio está cambiando rápidamente. Dada la creciente probabilidad de que el gobierno actúe, el objetivo de la autorregulación debería ser evitar una tragedia de los comunes, donde la falta de confianza destruye el entorno que ha permitido que las plataformas digitales prosperen. En el futuro, los gobiernos y las plataformas digitales también deberán trabajar juntos más estrechamente. Dado que parece inevitable una mayor supervisión gubernamental sobre Twitter, Facebook, Google, Amazon y otras plataformas, los nuevos mecanismos institucionales para formas de regulación más participativas pueden ser fundamentales para su supervivencia y éxito a largo plazo.

Michael A. Cusumano es el Profesor Distinguido de Administración de Sloan en la Escuela de Administración Sloan del MIT en Cambridge. Es coautor de  The Business of Platforms: Strategy in the Age of Digital Competition, Innovation and Power (2019) .

Annabelle Gawer es profesora presidenta de economía digital y directora del Centro de Economía Digital de la Universidad de Surrey, Reino Unido. Es coautora de  The Business of Platforms: Strategy in the Age of Digital Competition, Innovation and Power (2019) .

David B. Yoffie es profesor Max and Doris Starr de Administración de Empresas Internacionales en Harvard Business School. Es coautor de  The Business of Platforms: Strategy in the Age of Digital Competition, Innovation and Power (2019) .