Desde que Donald Trump recuperó la presidencia el 5 de noviembre, un desfile de luminarias de Silicon Valley ha estado participando en un festival de humillación indecoroso, haciendo peregrinaciones a Mar-a-Lago, contribuyendo con millones a su fondo inaugural e inmiscuyéndose en los departamentos editoriales. de las publicaciones que tienen en un aparente intento de ganarse el favor del nuevo líder. Ayer le tocó el turno al fundador y CEO de Meta, Mark Zuckerberg.
En un vídeo de cinco minutos en Instagram, luciendo su nuevo peinado rizado y un reloj Gruebal Forsey de 900.000 dólares, Zuckerberg anunció una serie de cambios dramáticos en las políticas que podrían abrir las compuertas de la desinformación y el discurso de odio en Facebook, Threads e Instagram. Su razonamiento repitió argumentos que los legisladores de derecha, los expertos y el propio Trump han estado repitiendo durante años. Y Zuckerberg no tuvo reparos en el momento y dijo explícitamente que el nuevo régimen político era un factor en su pensamiento: «La reciente elección también se siente como un punto de inflexión cultural hacia una vez más priorizar la expresión», señaló en el video.
Según Zuckerberg, el principal impulso para el cambio es el deseo de fomentar la «libertad de expresión». «Las redes sociales de Meta se habían vuelto demasiado extremas al restringir la expresión de los usuarios», dijo, por lo que la idea central de los cambios, que incluían poner fin a las asociaciones de varios años de Meta con organizaciones de verificación de datos de terceros y retirarse de los esfuerzos para frenar la propagación de discurso de odio- es dejar sonar la libertad, incluso si eso significa «captemos menos cosas «malas».
Pero la clave está en la nomenclatura de Zuckerberg. Llamó «censura» a los esfuerzos (no del todo exitosos) de su empresa para impedir la promoción de contenidos tóxicos, y ahora ha adoptado las mismas caracterizaciones de mala fe del trabajo de sus empleados que la derecha política, que lo utilizó como garrote. obligar a Facebook a permitir que los ultraconservadores promuevan cosas como el acoso selectivo y la desinformación intencional. En realidad, Meta tiene todo el derecho a controlar su contenido como quiera: la «censura» es algo que hacen los gobiernos, y las empresas privadas simplemente ejercen sus propios derechos de libertad de expresión al decidir qué contenido es apropiado para sus usuarios y anunciantes.
Zuckerberg indicó por primera vez que podría aceptar el término en un bonita carta quien escribió en agosto pasado al congresista republicano Jim Jordan, en el que decía que la administración Biden quería que Meta «censurara» algunos contenidos relacionados con la pandemia de covid-19. (El contenido permaneció, lo que en realidad ilustra que Facebook tiene el poder de dar forma a la libertad de expresión en los EE. UU., no el gobierno). Sin embargo, en su publicación de Instagram de ayer, Zuckerberg usó el término como sinónimo de toda la práctica de moderación de contenido: «Estamos «Reduciremos drásticamente la censura en nuestras plataformas», prometió. Una lectura alternativa podría ser: dejemos que el caballero!
De centro a derecha
En la misma carta a Jordan, el ex director ejecutivo de izquierda prometió que no se alinearía con ningún partido político: «Mi objetivo es ser neutral y no desempeñar ningún papel, ni siquiera parecer desempeñar ningún papel», escribió. Ahora que Trump ha sido elegido, todo eso ha desaparecido: «Parece que estamos en una nueva era», dijo en el vídeo de ayer. Aparentemente, es una era en la que las empresas privadas cambian sus reglas para asegurarse de que estén en línea con el partido en el poder. Sólo en la última semana, Zuckerberg reemplazó a Nick Clegg, ex presidente de asuntos globales de la compañía, por Joel Kaplan, ex miembro del Partido Republicano y secretario del difunto juez Anthony Scalia, quien en su día instó Facebook ignorará la información errónea durante las elecciones de 2016. Zuckerberg también nombró al presidente de Ultimate Fighting Championship, Dana Blancoun ferviente partidario de Trump, para formar parte de la junta directiva de Meta.
Otro indicio de que hay un elemento MAGA en estos cambios es el anuncio de Zuckerberg de que trasladará los equipos de confianza, seguridad y moderación de contenido de Meta de California a Texas. Una vez más, dijo en voz alta que las razones del traslado geográfico eran políticas: «Creo que nos ayudará a generar confianza hacer este trabajo en lugares donde hay menos preocupación por la parcialidad de nuestros equipos». Hola marcos? Este movimiento simplemente ancla a los árbitros de contenido de Meta en un lugar potencialmente sesgado. diferente. También es una declaración sorprendente que el propio Zuckerberg podría considerar a California, la kriptonita de Trump, un lugar menos sabroso para trabajar que el rojo intenso de Texas.
Irónicamente, todo esto está sucediendo en un momento en que Meta ha logrado mejorar su previamente deprimente historial de eliminación de discursos de odio y otras publicaciones legales pero tóxicas. En 2019, cuando pasé un día en una de las oficinas de moderación de contenido de la compañía, los asediados moderadores que trabajaban allí me dijeron que lidiar con áreas grises como el discurso de odio era lo único que la IA nunca podría hacer. Pero más recientemente, el científico jefe de IA de Meta, Yann LeCun, reveló que las herramientas de IA generativa habían cambiado el juego: «Hace cinco años, de todo el discurso de odio que Facebook eliminó de la plataforma, entre el 20 y el 25 por ciento fueron eliminados preventivamente por sistemas de IA. antes de que alguien lo viera», me dijo en una entrevista a finales de 2023. «El año pasado, fue el 95%».
Moderación laxa
Ahora, Meta declara que está tirando esa victoria a la basura. El algoritmo cambiará y la IA ya no bloqueará proactivamente violaciones de políticas «menos graves», como el discurso de odio y, presumiblemente, el acoso. (Meta dice que sigue comprometido con el bloqueo vigilante de contenido ilegal de «alta gravedad», como el terrorismo y la explotación infantil). Meta también ha realizado una serie de cambios en sus políticas de expresión que permiten ciertos tipos de comentarios que antes se consideraban odiosos. Uno de ellos incide en un tema candente para la derecha: el género y la identidad sexual. Por ejemplo, ahora está bien afirmar que los homosexuales o transexuales tienen enfermedades mentales o simplemente llamarlos «raros» en Facebook.
Para ser justos, algunos elementos de lo que propone Zuck tienen sentido, pero está caracterizando erróneamente el pasado. Es cierto que su experimento de verificación de datos no ha sido del todo exitoso, pero una de las razones del fracaso fue la incapacidad de Meta para participar plenamente, en parte debido a las críticas de la derecha. Ha habido casos en los que un celo algorítmico excesivo ha sofocado debates útiles, así como muchos casos en los que se han eliminado erróneamente expresiones permitidas. Pero el tonto bloqueo por parte de Meta de temas de conversación como «las mujeres no deberían desempeñar roles de combate» (que ahora se ha revertido) fue típicamente menos el resultado de reglas o algoritmos defectuosos que de una inversión insuficiente en la moderación del contenido humano, que puede hacer distinciones más matizadas.