El tablero de supervisión de Facebook no es suficiente
Por Dipayan Ghosh
Plataformas sociales
Harvard Business Review
Tras el compromiso declarado de Mark Zuckerberg de mejorar las medidas de responsabilidad pública de su empresa hace casi un año, Facebook anunció planes detallados el mes pasado para su nueva Junta de Supervisión. El organismo, que según la compañía comprenderá 40 expertos independientes que servirán en términos de tres años, ha sido descrito por muchos como el Tribunal Supremo de Facebook, ya que resolverá las cuestiones de política de contenido en las plataformas de la compañía a medida que surjan. El tablero está diseñado para tener una notable independencia; en estos juicios puede anular al mismo Zuckerberg.
En su superficie, la Junta de Supervisión es una respuesta notable a un nuevo problema. La empresa, que cuenta con más de dos mil millones de usuarios en todo el mundo, ha visto una amplia gama de problemas serios relacionados con la difusión escalada y sin fricción del contenido que es su servicio principal al consumidor. En Instagram, WhatsApp y la principal plataforma de Facebook, ese contenido ha llegado, inevitablemente, a abarcar no solo videos de gatos y fotos de bebés, sino también conductas de odio, la incitación de terroristas en lugares políticamente inestables, la difusión de desinformación y el afianzamiento sistémico de sesgo algorítmico. La profunda preocupación pública relacionada con estos temas está justificada y, en consecuencia, los deberes de la Junta incluyen escuchar a los usuarios con quejas relacionadas con ellos y decidir cuándo castigar a los usuarios o publicaciones ofensivas.
Pero debemos preguntarnos: ¿está la junta realmente preparada para tener éxito?
Yo diría que no. No es la ejecución deficiente la responsable de los problemas generales de la empresa en la moderación de contenido: es el modelo de negocio detrás de las plataformas de la empresa.
Este mismo modelo se encuentra en el centro de Internet del consumidor en su conjunto y se basa en maximizar la participación del consumidor e inyectar anuncios a lo largo de nuestra experiencia digital. Se basa en la recopilación de datos personales y en algoritmos sofisticados que seleccionan las fuentes sociales y se dirigen a esos anuncios. Debido a que no hay una consideración seria de lo que los consumidores desean o deberían ver en esta ecuación, están sujetos a cualquier contenido que la plataforma cree que maximizará las ganancias. Estas prácticas a su vez generan externalidades negativas de las cuales la desinformación es solo una.
Tomemos este ejemplo: cuando los agentes políticos rusos intentaron subvertir nuestras elecciones, recurrieron a las plataformas de internet. Hemos sido testigos de esto en el transcurso de las elecciones de 2016 de muchas formas, incluidas publicaciones en Twitter y Facebook que inflaman las tensiones raciales y para suprimir el voto en ciertas comunidades en los Estados Unidos. Estos esfuerzos se basaron en la misma segmentación de audiencia y técnicas de orientación que permiten a la plataforma aumentar el tráfico (y los ingresos publicitarios). Ya, el FBI y el Departamento de Seguridad Nacional están informando a los funcionarios electorales que los agentes del gobierno ruso "podrían tratar de desalentar encubiertamente o reprimir a los votantes estadounidenses de participar en las elecciones del próximo año". Utilizando las herramientas que estas plataformas han perfeccionado, en otras palabras, los actores nefastos están identificando las grietas delgadas en la sociedad estadounidense y colmando de mentiras hasta que nuestro tejido político comienza a desgarrarse.
Para que una junta de supervisión aborde estos problemas, necesitaría jurisdicción no solo sobre publicaciones personales sino también sobre anuncios políticos. Más allá de eso, necesitaría poder no solo eliminar piezas específicas de contenido, sino también detener el flujo de datos de consumidores estadounidenses a los operativos rusos y cambiar las formas en que los algoritmos privilegian el contenido contencioso. Estos pasos son mucho más desafiantes para una compañía que confía en estos mecanismos para su pan y mantequilla. No importa dónde establezcamos los límites, Facebook siempre querrá empujarlos. No conoce otra forma de mantener sus márgenes de beneficio.
En realidad, entonces, la Junta de Supervisión en su forma actual no puede abordar los daños que se perpetran y perpetúan en Facebook.
Además, la junta puede estar haciendo más daño que bien. Otras compañías de Internet también están tratando de mitigar estos problemas, aunque estos esfuerzos son tempranos y aún no han demostrado ser efectivos. Los recientes derribos de discursos de odio de YouTube y la actualización de Twitter de sus reglas operativas para contrarrestar el contenido deshumanizante dirigido a grupos religiosos son solo algunos ejemplos. Visto desde este punto de vista, creo que el directorio de Facebook se convierte en una cosa comercial de conveniencia para la compañía tanto en su nombre como en su función; da la impresión de que la junta proporcionará una verdadera supervisión al graduar la responsabilidad de determinar qué debe constituir un discurso de odio a una parte externa con credibilidad pública, lo que le permite a la compañía esquivar la amenaza de una política reguladora más rigurosa que podría surgir de una actitud relativamente agresiva legislaturas que podrían desear dirigirse al modelo comercial de la empresa en sí.
Para abordar estos problemas, tal vez la autoridad de la Junta de Supervisión debería ampliarse de las eliminaciones de contenido a las preocupaciones más críticas en el corazón de la propia empresa. Necesitamos supervisar las prácticas de datos de la compañía para promover la privacidad de los consumidores y ciudadanos; supervisión de las adquisiciones estratégicas de la compañía y el gobierno de datos para proteger contra la práctica anticompetitiva; y la supervisión de la toma de decisiones algorítmicas de la compañía para proteger contra el sesgo. Hay muchas maneras en que dicha supervisión podría operacionalizarse: a través del poder de los accionistas, la supervisión gubernamental, la auditoría de terceros, la regulación industrial o, de hecho, las extensiones de la autoridad de la junta.
Facebook ejerce una enorme influencia sobre la creación y difusión del contenido de los medios de comunicación en los Estados Unidos y en otros lugares del mundo, en la medida en que la mayoría de los usuarios de ciertas naciones creen que Facebook es Internet en sí. Y cuando superponemos el control de largo alcance de la compañía sobre el panorama de los medios y las comunicaciones en el mundo político, señalando que los rusos y otros actores nefastos, tanto extranjeros como nacionales, pueden tener elecciones estadounidenses y otras elecciones democráticas en su mira, la necesidad de proporcionar se hace evidente algún tipo de supervisión pública sobre las prácticas comerciales que causan estos problemas.
Dipayan Ghosh es miembro de Shorenstein y codirector del Proyecto de Responsabilidad de Plataforma en la Escuela Harvard Kennedy. Fue asesor de tecnología y política económica en la Casa Blanca de Obama, y anteriormente se desempeñó como asesor en asuntos de privacidad y políticas públicas en Facebook. Es autor de los Términos de deservicio (de próxima publicación, noviembre de 2019). Sígalo en Twitter @ghoshd7.
Plataformas sociales
Harvard Business Review
Tras el compromiso declarado de Mark Zuckerberg de mejorar las medidas de responsabilidad pública de su empresa hace casi un año, Facebook anunció planes detallados el mes pasado para su nueva Junta de Supervisión. El organismo, que según la compañía comprenderá 40 expertos independientes que servirán en términos de tres años, ha sido descrito por muchos como el Tribunal Supremo de Facebook, ya que resolverá las cuestiones de política de contenido en las plataformas de la compañía a medida que surjan. El tablero está diseñado para tener una notable independencia; en estos juicios puede anular al mismo Zuckerberg.
En su superficie, la Junta de Supervisión es una respuesta notable a un nuevo problema. La empresa, que cuenta con más de dos mil millones de usuarios en todo el mundo, ha visto una amplia gama de problemas serios relacionados con la difusión escalada y sin fricción del contenido que es su servicio principal al consumidor. En Instagram, WhatsApp y la principal plataforma de Facebook, ese contenido ha llegado, inevitablemente, a abarcar no solo videos de gatos y fotos de bebés, sino también conductas de odio, la incitación de terroristas en lugares políticamente inestables, la difusión de desinformación y el afianzamiento sistémico de sesgo algorítmico. La profunda preocupación pública relacionada con estos temas está justificada y, en consecuencia, los deberes de la Junta incluyen escuchar a los usuarios con quejas relacionadas con ellos y decidir cuándo castigar a los usuarios o publicaciones ofensivas.
Pero debemos preguntarnos: ¿está la junta realmente preparada para tener éxito?
Yo diría que no. No es la ejecución deficiente la responsable de los problemas generales de la empresa en la moderación de contenido: es el modelo de negocio detrás de las plataformas de la empresa.
Este mismo modelo se encuentra en el centro de Internet del consumidor en su conjunto y se basa en maximizar la participación del consumidor e inyectar anuncios a lo largo de nuestra experiencia digital. Se basa en la recopilación de datos personales y en algoritmos sofisticados que seleccionan las fuentes sociales y se dirigen a esos anuncios. Debido a que no hay una consideración seria de lo que los consumidores desean o deberían ver en esta ecuación, están sujetos a cualquier contenido que la plataforma cree que maximizará las ganancias. Estas prácticas a su vez generan externalidades negativas de las cuales la desinformación es solo una.
Tomemos este ejemplo: cuando los agentes políticos rusos intentaron subvertir nuestras elecciones, recurrieron a las plataformas de internet. Hemos sido testigos de esto en el transcurso de las elecciones de 2016 de muchas formas, incluidas publicaciones en Twitter y Facebook que inflaman las tensiones raciales y para suprimir el voto en ciertas comunidades en los Estados Unidos. Estos esfuerzos se basaron en la misma segmentación de audiencia y técnicas de orientación que permiten a la plataforma aumentar el tráfico (y los ingresos publicitarios). Ya, el FBI y el Departamento de Seguridad Nacional están informando a los funcionarios electorales que los agentes del gobierno ruso "podrían tratar de desalentar encubiertamente o reprimir a los votantes estadounidenses de participar en las elecciones del próximo año". Utilizando las herramientas que estas plataformas han perfeccionado, en otras palabras, los actores nefastos están identificando las grietas delgadas en la sociedad estadounidense y colmando de mentiras hasta que nuestro tejido político comienza a desgarrarse.
Para que una junta de supervisión aborde estos problemas, necesitaría jurisdicción no solo sobre publicaciones personales sino también sobre anuncios políticos. Más allá de eso, necesitaría poder no solo eliminar piezas específicas de contenido, sino también detener el flujo de datos de consumidores estadounidenses a los operativos rusos y cambiar las formas en que los algoritmos privilegian el contenido contencioso. Estos pasos son mucho más desafiantes para una compañía que confía en estos mecanismos para su pan y mantequilla. No importa dónde establezcamos los límites, Facebook siempre querrá empujarlos. No conoce otra forma de mantener sus márgenes de beneficio.
En realidad, entonces, la Junta de Supervisión en su forma actual no puede abordar los daños que se perpetran y perpetúan en Facebook.
Además, la junta puede estar haciendo más daño que bien. Otras compañías de Internet también están tratando de mitigar estos problemas, aunque estos esfuerzos son tempranos y aún no han demostrado ser efectivos. Los recientes derribos de discursos de odio de YouTube y la actualización de Twitter de sus reglas operativas para contrarrestar el contenido deshumanizante dirigido a grupos religiosos son solo algunos ejemplos. Visto desde este punto de vista, creo que el directorio de Facebook se convierte en una cosa comercial de conveniencia para la compañía tanto en su nombre como en su función; da la impresión de que la junta proporcionará una verdadera supervisión al graduar la responsabilidad de determinar qué debe constituir un discurso de odio a una parte externa con credibilidad pública, lo que le permite a la compañía esquivar la amenaza de una política reguladora más rigurosa que podría surgir de una actitud relativamente agresiva legislaturas que podrían desear dirigirse al modelo comercial de la empresa en sí.
Para abordar estos problemas, tal vez la autoridad de la Junta de Supervisión debería ampliarse de las eliminaciones de contenido a las preocupaciones más críticas en el corazón de la propia empresa. Necesitamos supervisar las prácticas de datos de la compañía para promover la privacidad de los consumidores y ciudadanos; supervisión de las adquisiciones estratégicas de la compañía y el gobierno de datos para proteger contra la práctica anticompetitiva; y la supervisión de la toma de decisiones algorítmicas de la compañía para proteger contra el sesgo. Hay muchas maneras en que dicha supervisión podría operacionalizarse: a través del poder de los accionistas, la supervisión gubernamental, la auditoría de terceros, la regulación industrial o, de hecho, las extensiones de la autoridad de la junta.
Facebook ejerce una enorme influencia sobre la creación y difusión del contenido de los medios de comunicación en los Estados Unidos y en otros lugares del mundo, en la medida en que la mayoría de los usuarios de ciertas naciones creen que Facebook es Internet en sí. Y cuando superponemos el control de largo alcance de la compañía sobre el panorama de los medios y las comunicaciones en el mundo político, señalando que los rusos y otros actores nefastos, tanto extranjeros como nacionales, pueden tener elecciones estadounidenses y otras elecciones democráticas en su mira, la necesidad de proporcionar se hace evidente algún tipo de supervisión pública sobre las prácticas comerciales que causan estos problemas.
Dipayan Ghosh es miembro de Shorenstein y codirector del Proyecto de Responsabilidad de Plataforma en la Escuela Harvard Kennedy. Fue asesor de tecnología y política económica en la Casa Blanca de Obama, y anteriormente se desempeñó como asesor en asuntos de privacidad y políticas públicas en Facebook. Es autor de los Términos de deservicio (de próxima publicación, noviembre de 2019). Sígalo en Twitter @ghoshd7.
No hay comentarios:
Publicar un comentario