Por Nicolás Deleville y Matías Demarchi
Octubre fue un mes difícil para Facebook. Una filtración de documentos internos inició un escándalo que puso en cuestión la responsabilidad de la compañía en la difusión de discursos de odio, su efecto sobre la salud mental de sus usuarixs y el rol de la plataforma en los disturbios ocurridos en el Capitolio durante la asunción del presidente estadounidense Joe Biden. Al mismo tiempo, la caída de sus servicios a nivel global puso sobre la mesa la creciente dependencia de sus servicios, lo que derivó en pedidos de regulación gubernamental para la red social. En este contexto fue que la compañía decidió cambiar de nombre para salvar la cara, pero ¿qué hay detrás de la estrategia de Mark Zuckerberg?
A inicios de octubre del año pasado un informante anónimo filtró al Wall Street Journal una serie de documentos internos de Facebook que mostraban que la compañía estaba al tanto de los efectos nocivos que la red social estaba produciendo o amplificando en sus usuarixs. Estos van desde el desarrollo de problemas de autoestima, dismorfias corporales (percepción negativa del propio cuerpo, ya sea viendo “defectos” inexistentes o exagerando pequeñas imperfecciones hasta niveles obsesivos) y depresión en adolescentes, concretamente en un 32% de lxs usuarixs encuestadxs. También se denunció la responsabilidad de la red en fenómenos de polarización y radicalización política y en la exacerbación de conflictos sociales.
En este último caso, muy relacionado con las fake news, se denunció que Facebook se expande a cada vez más territorios sin siquiera asegurar un nivel de cobertura mínimo para la moderación de contenidos en los respectivos idiomas. Básicamente Facebook posee una cantidad limitada de moderadores de contenido y éstxs trabajan solo en idiomas de amplio uso, como el español o el inglés. Pero al extenderse a países del continente africano o asiático, por ejemplo, la empresa no modera contenidos en los distintos idiomas locales lo cual, sumado a una débil infraestructura estatal y a bajos niveles educativos, ha llevado a que déspotas, gobiernos totalitarios y grupos malintencionados hagan uso de la red social para impulsar discursos de odio, con pleno conocimiento de una empresa que en su afán de crecimiento no aplica ninguna medida para modificar la situación.
Por ejemplo, se llegaron a detectar ventas de drogas, armas y otros contenidos ilegales en alguno de estos Facebooks, así como páginas de difusión de grupos radicales islámicos o neonazis, entre otros. Pero la situación también se extiende a países desarrollados, que no están en una situación de fragilidad institucional tan grave (en los que existe, en teoría, la moderación de contenidos). Los casos arquetípicos son los del ex presidente Donald Trump en los Estados Unidos y del actual mandatario brasileño Jair Bolsonaro, que usaron la plataforma para hacer campañas electorales sostenidas en discursos de odio y incluso una vez en el gobierno la aprovecharon para difundir información dañina y malintencionada.
Volviendo a la filtración, la responsable de exponer dicha información reveló su identidad unos días después en una entrevista en el programa 60 minutos, de CBS. Así fue como Frances Haugen, ex gestora de productos de la compañía, ahondó en la información que ya había liberado previamente, hablando de la política interna XCheck (verificación cruzada). Que es la que dicta las normas de la moderación de contenidos pero incluyendo un doble estándar al hablar de cuentas de famosxs, políticxs y personajes influyentes, a lxs cuales se les garantiza un umbral de tolerancia mucho más alto o directamente no se les aplica sanción alguna.
También informó de una queja de lxs propixs accionistas de la compañía debido al pago de $5.000 millones de dólares a la Comisión Federal de Comercio de Estados Unidos para proteger a Zuckerberg de sus responsabilidades legales en el escándalo Cambridge Analytica.
Haugen también era la responsable del equipo que debía monitorear el contenido relacionado con la elección presidencial de 2020 de los Estados Unidos, debido a la proliferación de contenido fraudulento circulado por la campaña de Donald Trump. En este caso se informó que en la mayoría de las veces, al intentar moderar contenido, surgían conflictos de interés, ya que el algoritmo propio de la página recompensa los clicks, reacciones y comentarios en los posteos, y, dado que una de las formas más fáciles de obtener una gran cantidad de reacciones y clicks es generando indignación, se tiende a premiar contenidos polémicos y radicalizantes por sobre otros, sobre todo en el ámbito político. El ejemplo que se dio concretamente habla de cómo incluso partidos considerados “moderados” en Europa y otros territorios cambiaron sus formas por discursos más violentos al darse cuenta de que era la única forma de que el algoritmo los publicitara.
Esto generaba que, al activarse una alarma para aplicar sanciones, siempre surgieran voces, sobre todo desde la gerencia, opuestas a esto, primando siempre, como en cualquier empresa, la ganancia por sobre el bien social (lo cual choca un poco con la pretensión ingenua de Haugen de que se puede arreglar a la compañía). Según relató la ex empleada de la empresa, incluso eran comunes los chistes internos sobre qué países tendrían disturbios y conflictos sociales, en base a los lugares en los que la empresa abría nuevas oficinas. El problema era vox populi.
Finalmente, aunque el equipo de Haugen activó algunas medidas durante las elecciones, Facebook cerró el equipo y las dio de baja apenas terminados los comicios, confirmando que eran un mero formalismo aplicado a regañadientes debido a la presión política del momento. Pero la percepción de que el riesgo había desaparecido se mostró totalmente errónea unos meses después, durante el asalto que precedió al traspaso formal de mando presidencial, cuando grupos paramilitares de extrema derecha (que van desde el neonazismo a “la derecha alternativa”) instigados por Trump ocuparon el Capitolio.
Las investigaciones internas demuestran la proliferación de grupos que difundían el lema de “Stop The Steal” (frenar el robo), denunciaban el fraude electoral mientras difundían teorías conspirativas como las de QAnon o el Pizzagate e instigaban a realizar acciones violentas para revertir el resultado electoral o por lo menos posponerlo.
Estas teorías plantean que un supuesto grupo de la elite demócrata estaría involucrado en un culto “satánico-pedófilo”, que realizaría rituales secretos sacados de la imaginación más delirante, con todos los clichés posibles, incluyendo sacrificios humanos y la ingesta de sangre, entre otras macabras actividades. Todo esto se origina del falso escandalo Pizzagate, que parte de los mails del consejero presidencial de Barack Obama y jefe de campaña de Hillary Clinton John Podesta filtrados por hackers y publicados en Wikileaks, en los cuales se le invitaba a un acto de una fundación benéfica en el restaurant Comet Ping Pong, una pizzería infantil. Todo esto fue sacado de contexto en foros como 4chan y Reddit donde lxs usuarixs interpretaron un supuesto mensaje en clave que haría alusión a este culto satánico y a un anillo de tráfico de infantes.
Si bien el Pizzagate fue rápidamente desmentido pronto lo continuó QAnon con una supuesta filtración de un “agente de inteligencia” llamado Q que, retomando donde terminaba la teoría conspirativa anterior, expandía su universo mencionando un supuesto complot del “stablishment” contra la presidencia de Trump (cabe mencionar que Trump es parte del establishment) y que pronto llegaría “The Storm Day” (el día de la tormenta) en el cual el ex presidente arrestaría a estos conspiradores cultistas, salvando así al país con ayuda de aliados militares, podríamos decir, que imaginaban una suerte de golpe de estado o una nueva “marcha sobre Roma”.
QAnon inició como una serie de posteos firmados en 4chan y 8chan, tablones de imágenes en línea, donde si bien los posteos son anónimos, no están atados a una cuenta (aunque es posible firmarlos con un id en ciertos casos). Dado el uso de Q en 8chan y del rol que Jim y Ronald Dawkins jugaron en el movimiento QAnon, hoy en día se sospecha que Q son ellos, los administradores de dicho foro.
Pero yendo más lejos en el tiempo, no es la primera vez que se difunde en la sociedad estadounidense una teoría de este estilo acerca de un presunto culto satánico. Durante los 80, en pleno ascenso del reaganismo y la reavivación del conservadurismo neoliberal, un escándalo similar, aunque sin tantas implicaciones políticas, también tuvo relevancia nacional. Hablamos del caso McMartin, en el que se denunciaron una serie de abusos en una guardería, planteo que originalmente podría haber sido algo plausible que degeneró con el tiempo desde un caso de abuso a una conspiración en la que cientos de niños eran usados en rituales satánicos en una instalación secreta y subterránea de la guardería que por supuesto nunca existió. La leyenda presenta muchas de las características que luego tomarían Pizzagate y QAnon, siendo así a su antecesora espiritual. De hecho, finalmente los investigadores dieron de baja incluso la denuncia inicial, ya que se comprobó que eran delirios de Judy Johnson, madre de uno de los niños que asistían a la guardería, paciente diagnosticada de esquizofrenia que además sufría de alcoholismo crónico, lo que la llevó a confundir un leve retraimiento de su hijo con signos de abuso sexual, lo cual empeoró por malas prácticas profesionales de los psicólogos que actuaron en el caso, que usaron métodos hoy desaprobados que pueden lograr que lx paciente termine apropiándose ideas y acontecimientos no reales como si fueran memorias.
A simple vista, estos casos parecen aislados y sin una relación directa, pero hay que entender que hacen a un tropo muy importante en el discurso reaccionario. Esta obsesión con el abuso infantil no surge realmente de una preocupación por lxs niñxs sino que refleja una respuesta al miedo al cambio social, en una suerte de corporización reaccionaria. Por ejemplo, el caso McMartin tomó como blanco al sistema de guarderías que surgió como respuesta a la inclusión de las mujeres en la fuerza de trabajo ocurrida alrededor de los 80. Dicho fenómeno fue visto como un ataque a la familia tradicional, lo que despertó los miedos conservadores, siendo las guarderías el chivo expiatorio de los nuevos derechos de las mujeres, obtenidos por su lucha por el cambio de las condiciones materiales, dada su nueva incorporación al proceso económico productivo.
Con QAnon y Pizzagate pasa algo similar pero aún más politizado, ya que los blancos de sus ataques generalmente son personajes progresistas, “de izquierda” o que son percibidos como tales por el conservadurismo estadounidense, cimentando un apoyo cuasi religioso al hasta ahora más reaccionario ex presidente de Estados Unidos o personajes similares en el exterior, que los adeptos a dichas teorías ven como aliados de Trump en una especie de lucha internacional conservadora. En síntesis, se les da un uso similar al que en otras épocas tuvieron “Los protocolos de los sabios de Sion” durante el nazismo o “el libelo de sangre” durante la Edad media, para demonizar enemigos políticos o señalar a objetivos que desvíen la atención y la furia en tiempos de descontento social.
Aunque parezcan poco relacionados con el tema Facebook, en realidad están íntimamente ligados pues, como vimos, fue en Facebook y no en Parler o 4chan, donde se gestó la insurrección que terminó esa toma del Capitolio (que muchxs seguidorxs de estas teorías vieron como The Day of The Storm) gestada al calor de teorías conspirativas que la empresa sabía que se estaban extendiendo por su plataforma. Si bien Parler y 4chan tienen una base de usuarios relativamente grande, son espacios de nicho sectarios y ultra radicalizados de la derecha, fue en Facebook donde estos grupos lograron amplificar su discurso y sus teorías para acercarlas al público conservador más mainstream, dando el salto al público general hasta convertirse en amplios fenómenos de masas, hecho al cual hacen referencia tanto los documentos filtrados, como la entrevista a Haugen, si bien tocan el tema con poca profundidad.
Haugen, al igual que algunxs representantes del Partido Demócrata, propone regular la actividad de la empresa, como si esto fuera realmente una solución. Si bien es necesario regularlo (lo que ciertamente limitaría un poco el daño que causan la desinformación y el ecosistema de Facebook), por ejemplo, al estandarizar sanciones a las fake news y discursos de odio o limitando la edad mínima para registrarse en las plataformas de la compañía, lo cierto es que esto no podrá solucionar el problema de base de la arquitectura de las plataformas, cuya causa material es la búsqueda de ganancia que persigue toda empresa capitalista. Por eso que nunca podremos llegar a ver del todo cómo funcionan sus algoritmos, lo que limita la transparencia frente a lxs usuarix, las instituciones y lxs propixs empleadxs de la compañía. Es necesario plantear otra arquitectura para plataformas verdaderamente democráticas y alternativas que difundan contenido con otra meta distinta a la ganancia.
Pero sucede que casi al mismo tiempo que Haugen daba su entrevista a 60 minutos, ocurría una caída masiva a nivel global de las redes de Facebook que ilustró otro problema que nos han traído Facebook y sus competidoras: el de la concentración del ciberespacio en pocas manos.
Esta caída, que no fue solo de la red social Facebook sino que afectó a todos los productos de la compañía, incluyendo a WhatsApp e Instagram, afectó a 3.500 millones de usuarios de todo el mundo, que no solo perdieron tiempo de oci sino que también vieron comprometidos sus trabajos y fuentes de subsistencia, siendo además su único medio para comunicarse con familiares y amigxs, un aspecto particularmente importante en pandemia, cuando las redes se transformaron casi en nuestro único canal de trabajo y conexión con el exterior.
Esto deja en evidencia el fracaso del Internet como se lo percibía en los noventas, es decir, como un espacio democratizante donde todxs tenían su parte, con un gran potencial para el crecimiento de pequeños negocios que pudieran competir de igual a igual con los grandes o convertirse en estrellas sin recurrir a los grandes medios y corporaciones. Como vemos, ese sueño de arquitectura “democrática” y distribuida hoy en realidad está concentrado en una serie de servidores manejados por muy pocas empresas, con un Internet fiel al principio capitalista del crecimiento infinito de la ganancia que tiende al monopolio/oligopolio (tendencia a la concentración del capital), con lo cual cualquier pequeña falla de una sola de estas grandes compañías nos deja fuera de línea.
Esto plantea la necesidad de desarrollar nuevas redes, de arquitectura distribuida, verdaderamente democráticas y que sigan los principios del software libre, sin secretos para lxs usuarixs y donde todxs podamos decidir desde cómo funcionan las páginas en sí hasta la ubicación de los servidores, pasando por el tema crucial de los algoritmos que distribuyen el contenido y deciden a quien premiar con publicidad y a quien hundir, generando verdaderas burbujas informativas imposibles de romper, para realizar las posibilidades liberadoras que tenía la red en sus inicios.
Estos problemas, sumados a otros previos como el mencionado caso de Cambridge Analytica, propiciaron un movimiento puramente marketinero por parte de la empresa, que consiste en un relanzamiento de marca, que intenta dar la impresión de un gran cambio interno, cuya punta de lanza es el cambio de nombre de Facebook a Meta (este cambio de nombre es para la empresa y no para la red social).
En realidad, además de un lavado de cara, este cambio de nombre busca reflejar la diversidad de productos de la compañía, pues ya no es solo una red social, sino varias, al tiempo que se da cuenta de las nuevas expectativas comerciales del “metaverso”, una especie de gigantesco mundo virtual (algo no es muy descabellado, si tomamos en cuenta que Meta es propietaria de Oculus Rift, desarrolladora de lentes de realidad virtual y tecnologías de realidad aumentada).
Este concepto de Metaverso como mundo virtual, es nada más que una fantasía tecnofuturista sin verdadero valor para el mundo, algo que de hecho nos acerca más a la distopía tecnológica. Sin caer en el neoludismo, ya que el ciberespacio tiene muchas cosas útiles y un potencial democratizante real, el “solucionismo tecnológico” muchas veces nos quiere vender como grandes “avances” las integraciones del mundo digital o la capacidad conectiva (la famosa Internet of Things, IoT, que muchas veces termina causando grandes dolores de cabeza desde el punto de vista de la seguridad informática) para actividades donde no era necesario o no soluciona realmente ningún problema. Esto no es más que el sueño húmedo de algunxs fans de la ciencia ficción que ya ha sido criticado incluso en obras comerciales como Ready Player One, Black Mirror o cualquier distopía cyberpunk.
¿Es realmente allí donde queremos dirigirnos como sociedad? ¿Internet y la tecnología no pueden brindarnos otras posibilidades? ¿Qué diferencias tendría Meta respecto del cyberespacio existente? ¿No nos traerá más problemas nuevos? Todas preguntas válidasd para una iniciativa que por el momento se parece más a una movida de marketing para despegarse de los continuos escándalos mientras se hace una presentación comercial para lxs accionistas.
En resumen: Facebook, ayuda a la masificación y proliferación de discursos reaccionarios y protofascistas, conscientemente, ya que esto acrecienta sus ganancias. Por ello, es necesario descentralizar la arquitectura de internet y las redes sociales, para realizar el potencial democrático de la internet. Las teorías de conspiración, surgen como respuesta a cambios sociales profundos, sobre todo en tiempos de descontento social, como un discursos simplificados (parecidos a las mitologías) para dar una explicación pseudoteórica a los fenómenos reaccionarios.
El cambio de nombre de Facebook es al tiempo un lavado de cara y un movimiento comercial que no presenta ninguna innovación real necesaria para solucionar un problema. Es imposible arreglar a Facebook y otras empresas sin plantear una infraestructura alternativa, autosuficiente y autogestiva, para lo cual el software libre es indispensable.