Meta es el rey del mundo de las redes sociales. El producto insignia de la compañía, Facebook, no solo es la plataforma de redes sociales más grande del mundo, sino que dos de sus otras plataformas que son de su propiedad son: WhatsApp e Instagram, que también se encuentran entre las cinco primeras. Con esta popularidad ha surgido una gran controversia, especialmente en relación con el papel que juegan las plataformas de Meta en la difusión de desinformación política y “noticias falsas”.

Mentir no es un nuevo desarrollo en la política, pero las compañías de redes sociales han creado nuevas oportunidades para que actores poderosos difundan mentiras a una escala y velocidad sin precedentes. En Brasil, las plataformas de Meta se utilizaron como herramientas para campañas de desinformación a nivel nacional que ayudaron al político de extrema derecha Jair Bolsonaro a ganar las elecciones presidenciales de 2018. Ante las críticas generalizadas por esta y otras campañas similares en otros lugares, Meta dijo que tomaría medidas decisivas para detener la propagación de mentiras. Sin embargo, la evidencia hasta el momento sugiere que la desinformación continúa proliferando en sus plataformas brasileñas.

Esta vez, el maremoto de “noticias falsas” que circulan en las plataformas de redes sociales de Meta está ayudando a promover el esfuerzo de Bolsonaro, al estilo de Trump, para desacreditar las elecciones presidenciales de este domingo 30 de octubre, que las encuestas sugieren que finalmente perderá. Esta nueva campaña de desinformación, en gran parte sin control, podría tener consecuencias devastadoras para Brasil y para el planeta.

Mentiras, malditas mentiras y publicaciones

Una ley nacional aprobada en 2017 introdujo una serie de cambios en la ley electoral brasileña, incluida una reforma que permitía a los candidatos pagar para impulsar el contenido en las redes sociales. Mientras esta medida avanzaba, el entonces presidente (interino) Michel Temer vetó otra propuesta controvertida para exigir a las empresas de redes sociales que eliminen las “noticias falsas” y el discurso de odio. En otras palabras, aunque se relajaron las restricciones a las campañas en línea, la desinformación en línea permaneció sin control.

Cuando comenzó la temporada electoral de 2018, las campañas de desinformación en línea se volvieron casi inevitables. Según un excientífico de datos de Facebook, los esfuerzos de cumplimiento de la plataforma a menudo no cumplieron con sus propias pautas; sin embargo, este esfuerzo limitado identificó y eliminó “10,5 millones de reacciones falsas y fanáticos de políticos de alto perfil en Brasil y EE.UU. en las elecciones de 2018”. Las campañas en Facebook fueron solo la punta del iceberg. Las otras plataformas de Meta plantearían un problema aún mayor.

En un escándalo que estalló después de la primera vuelta de las elecciones de Brasil de 2018, se reveló que empresarios adinerados habían financiado ilegalmente una operación para obtener millones de números de teléfono de Facebook y enviar desinformación política a sus cuentas de WhatsApp. La aplicación es muy popular en Brasil como una alternativa gratuita a los mensajes de texto, y el 48 por ciento de los brasileños en línea confían en ella como fuente de noticias.

La escala de la campaña de WhatsApp fue enorme. Una de las noticias falsas que promovió, fue que el oponente de Bolsonaro estaba enviando “kits gay” a las escuelas para adoctrinar a los niños en la homosexualidad, tuvo un impacto de gran alcance en Brasil, gran parte del cual sigue siendo profundamente conservador en temas sociales. Esta historia descaradamente falsa fue vista por el 74 por ciento de los votantes, y el 56 por ciento de los que la vieron dijeron que la creían. Según la misma encuesta, un impactante 93 por ciento de los votantes de Bolsonaro informaron que habían visto historias (falsas) que afirmaban que las urnas estaban manipuladas. Un análisis de los mensajes virales de WhatsApp enviados durante la campaña encontró que los mensajes difundidos por fuentes de derecha tenían 14 veces más probabilidades de contener información verificable falsa que los de fuentes de izquierda.

Democracia al borde

El tamaño de la operación de WhatsApp durante la campaña presidencial provocó serias preocupaciones sobre el abuso de las redes sociales por parte del recién elegido Bolsonaro, cuya presencia en línea ha sido controvertida, por decir lo menos, y sus seguidores. Cuatro años después, lo que está en juego es aún mayor.

Esta vez, Bolsonaro ha tenido problemas para salir de un distante segundo lugar en las encuestas y ahora está bajo investigación judicial por repetidos intentos de desacreditar el sistema electoral brasileño. Ha sugerido en repetidas ocasiones que puede negarse a aceptar los resultados de las elecciones si pierde, lo que hace temer un golpe o una campaña de desestabilización sostenida que podría dañar gravemente las instituciones democráticas del país. Si gana, ha prometido seguir aplicando políticas que están devastando la selva amazónica y las comunidades indígenas de Brasil.

A medida que aumentaron las tensiones antes de la primera vuelta de las elecciones del 2 de octubre, y las de la segunda vuelta el próximo 30 de octubre, también lo hace el nivel de violencia política. Los investigadores han descubierto que la tasa de ataques contra políticos brasileños se ha cuadruplicado desde que Bolsonaro asumió el cargo, con 214 ataques solo en la primera mitad de 2022. En las últimas semanas, el retador en las elecciones primarias de Bolsonaro, el expresidente Lula da Silva (comúnmente conocido simplemente como “Lula”), sufrió un evento de campaña bombardeado y dos simpatizantes asesinados por seguidores de Bolsonaro. Uno de los asesinos publicaba con frecuencia apoyo a Bolsonaro en Twitter e incluso publicó una foto de sí mismo reuniéndose con uno de los hijos de Bolsonaro (a quienes se acusa de ayudar en las campañas de desinformación que apoyan a su padre).

Meta tiene un historial de mantenerse al margen mientras sus plataformas se utilizan para promover la violencia, incluida la sangrienta limpieza étnica en Etiopía y Myanmar. Sin embargo, la empresa afirma haber mejorado desde entonces sus políticas de moderación y cumplimiento. Una declaración de Meta del 12 de agosto sobre las elecciones brasileñas afirma que: “En los últimos años, hemos incrementado nuestros esfuerzos para combatir la desinformación…” Meta ahora considera que Brasil es una prioridad máxima, pero esto aún no significa que en realidad esté aplicando sus propias reglas.

Pero a pesar de todas las afirmaciones de mejora de la compañía, los activistas contra la desinformación informan que las plataformas de Meta todavía están inundadas de “noticias falsas” y contenido extremista. Un anuncio de Facebook que afirma incorrectamente que Lula está vinculado al crimen organizado brasileño ha sido visto al menos 200,000 veces. Los memes de WhatsApp piden “¡la intervención militar con Bolsonaro en el poder ahora!” y declarar “¡estamos listos para la guerra!”.

La organización de derechos humanos Global Witness decidió poner a prueba la moderación de Facebook en Brasil al presentar 10 anuncios diseñados para infringir las reglas de la plataforma, “cinco con información electoral falsa y cinco con el objetivo de deslegitimar el proceso electoral”. No se verificaron a sí mismos y no incluyeron una divulgación de “pagado por” en los anuncios, los cuales son obligatorios de acuerdo con las reglas de Facebook. No obstante, Facebook aprobó los 10 anuncios.

Las metaplataformas también se pueden usar para eludir algunas de las restricciones que impone la ley brasileña a las campañas. Las reglas electorales en Brasil regulan cuándo los candidatos pueden comenzar oficialmente la campaña, prohibiendo cualquier anuncio político oficial antes del 15 de agosto de este año. Pero estas reglas no impiden que grupos ajenos a la campaña paguen anuncios que apoyen a sus candidatos. Por lo tanto, ha habido al menos 20 instancias en las que Facebook e Instagram aprobaron anuncios externos para mostrarlos antes de la fecha de inicio legal de la campaña. Entre estos anuncios, el contenido a favor de Bolsonaro recibió más de 16 veces más visitas que el contenido a favor de Lula.

El daño que pueden causar todos estos abusos se amplifica con la política explícita de Facebook de permitir mentiras en los anuncios políticos, decisión que ha sido criticada por cientos de empleados de la empresa. Bolsonaro trató de debilitar aún más estos estándares ya poco estrictos al intentar ilegalizar que las plataformas de redes sociales eliminen publicaciones por desinformación; la medida que fue rápidamente anulada por la Corte Suprema de Brasil. Al mes siguiente, Facebook y Youtube eliminaron un video de él afirmando que las vacunas causan el SIDA.

Mentiras por dinero en efectivo

Los brasileños han estado trabajando horas extras desde 2018 para encontrar nuevas formas de abordar esta avalancha de manipulación electoral. Las autoridades electorales han creado un “Programa de lucha contra la desinformación” y las leyes de campaña se han actualizado en un intento de prohibir “la difusión o el intercambio de hechos que se sabe que son falsos o gravemente descontextualizados, dañando la integridad del proceso electoral”.

Sin embargo, hasta que cambien las políticas de la plataforma de Meta, es poco probable que los intentos legales de mitigar estos problemas sean efectivos. Por esta razón, una coalición de más de 90 organizaciones de la sociedad civil en Brasil está proponiendo reformas para combatir las distorsiones y fabricaciones en línea sin violar la libertad de expresión. Estos incluyen reglas más estrictas contra la desinformación electoral, mayor transparencia sobre los estándares de la plataforma, términos de servicio actualizados con respecto a la violencia política y el derecho a apelar para cualquier persona a la que se elimine su contenido.

Un tema central de este problema es que las plataformas como Facebook ganan dinero con la alta participación de los usuarios, lo que atrae a los anunciantes y le da a la empresa datos personales de los usuarios para vender. Esto significa que las empresas de redes sociales tienen un incentivo de ganancias para aceptar cualquier contenido que resulte en un alto compromiso, independientemente de su veracidad o incluso de su legalidad. Yael Eisenstat, el exjefe de integridad electoral de Facebook, está de acuerdo: “Facebook se beneficia en parte amplificando las mentiras y vendiendo herramientas de focalización peligrosas que permiten a los operadores políticos participar en un nuevo nivel de guerra de información”.

A pocos días de que los brasileños acudan a las urnas para decidir el futuro político de su país, el uso de las redes sociales por parte de las élites políticas para manipular las elecciones vuelve a estar en pleno apogeo. Las democracias enfrentan amenazas sin precedentes en todo el mundo, y Brasil ilustra los peligrosos efectos que las empresas de redes sociales con fines de lucro pueden tener en nuestro acceso a la información. Hasta que se vean obligadas a reformarse, estas empresas seguirán intercambiando mentiras por dinero en efectivo.

 

The fake news machine: how meta endangers brazilian democracy

Meta is the king of the social media world. Not only is the company’s flagship product, Facebook, the world’s largest social networking platform, but two of its other properties — WhatsApp and Instagram — are also in the top five. With this popularity has come significant controversy, especially regarding the role Meta’s platforms play in disseminating political disinformation and “fake news”.

Lying is hardly a new development in politics, but social media companies have created new opportunities for powerful actors to spread lies at an unprecedented scale and speed. In Brazil, Meta’s platforms were used as tools for nationwide disinformation campaigns that helped far-right politician Jair Bolsonaro win the 2018 presidential election. Facing widespread criticism over this and similar campaigns elsewhere, Meta said it would take decisive action to stem the spread of lies. Yet the evidence so far suggests that disinformation continues to run rampant on its Brazilian platforms. 

This time around, the tidal wave of “fake news” circulating on Meta’s social media platforms is helping to promote Bolsonaro’s Trump-like effort to discredit this Sunday’s presidential election, which polls suggest he will ultimately lose. This new, largely unchecked disinformation campaign could have devastating consequences for Brazil, and for the planet. 

Lies, Damned Lies, and Posts

A national law passed in 2017 made a number of changes to Brazilian electoral law, including a reform that allowed candidates to pay to boost content on social media. While this measure moved forward, another controversial proposal to require social media companies to remove “fake news” and hate speech was vetoed by then (interim) president Michel Temer. In other words, while restrictions on online campaigning were loosened, online disinformation remained unchecked.

When the 2018 election season began, online disinformation campaigns became nearly unavoidable. According to a former data scientist at Facebook, the platform’s enforcement efforts often fell far short of its own guidelines – yet this limited effort still identified and removed “10.5 million fake reactions and fans from high-profile politicians in Brazil and the US in the 2018 elections …” Facebook campaigns were only the tip of the iceberg; Meta’s other platforms would pose an even larger problem.

In a scandal that broke after the first round of Brazil’s 2018 elections, it was revealed that wealthy businessmen had illegally funded an operation obtaining millions of phone numbers from Facebook and sending political disinformation to their WhatsApp accounts. The app is widely popular in Brazil as a free alternative to text messaging, and 48 percent of online Brazilians rely on it as a source of news.

The scale of the WhatsApp campaign was enormous. One of the false news stories it promoted — that Bolsonaro’s opponent was sending out “gay kits” to schools in order to indoctrinate children into homosexuality — had a far-reaching impact in Brazil, much of which remains deeply conservative on social issues. This blatantly fake story was seen by 74 percent of voters, and 56 percent of those who saw it say they believed it. According to the same survey, a shocking 93 percent of Bolsonaro voters reported that they had seen stories (falsely) claiming that ballot boxes were rigged. An analysis of viral WhatsApp messages sent during the campaign found that messages spread by right-wing sources were 14 times as likely to contain verifiably false information as those from left-wing sources.

Democracy on the Brink

The sheer size of the WhatsApp operation during the presidential campaign provoked serious concerns about social media abuse by the newly elected Bolsonaro — whose online presence has been controversial to say the least — and his supporters. Four years later, the stakes are even higher. 

This time, Bolsonaro has struggled to break out of a distant second place in polling, and is now under judicial investigation for repeated attempts to discredit the Brazilian electoral system. He has repeatedly suggested that he may refuse to accept the election results if he loses, raising fears of a coup or a sustained destabilization campaign that could severely damage the country’s democratic institutions. If he wins, he has promised to continue to further pursue policies that are devastating the Amazon rainforest and Brazil’s indigenous communities.

As tensions rise ahead of the October 2 first-round election, so has the level of political violence. Researchers have found that the rate of attacks against Brazilian politicians has quadrupled since Bolsonaro took office, with 214 attacks in the first half of 2022 alone. In recent weeks, Bolsonaro’s primary election challenger — former president Lula da Silva (commonly referred to simply as “Lula”) — has had a campaign event bombed and two supporters murdered by followers of Bolsonaro. One of the killers posted frequently in support of Bolsonaro on Twitter and even posted a photo of himself meeting one of Bolsonaro’s sons (who are accused of aiding the disinformation campaigns supporting their father).

Meta has a history of standing by while its platforms are used to promote violence, including bloody ethnic cleansing in Ethiopia and Myanmar. Yet the company claims to have since improved its moderation and enforcement policies. An August 12 statement from Meta on the Brazilian election asserts that “In recent years, we’ve increased our efforts to combat misinformation …” Meta now considers Brazil to be a top priority, but this still doesn’t mean that it is actually enforcing its own rules. 

But for all of the company’s claims of improvement, anti-disinformation activists report that Meta’s platforms are still flooded with both “fake news” and extremist content. A Facebook ad incorrectly claiming that Lula is linked to Brazilian organized crime has been viewed at least 200,000 times. WhatsApp memes call for “[m]ilitary intervention with Bolsonaro in power now!” and declare “[w]e are ready for war!”

Human rights organization Global Witness decided to test Facebook’s moderation in Brazil by submitting 10 advertisements designed to break the platform’s rules, “five containing false election information and five aiming to delegitimise the electoral process.” They did not verify themselves and did not include a “paid for by” disclosure in the ads, both of which are required according to Facebook rules. Nonetheless, Facebook approved all 10 of the ads.

Meta platforms can also be used to dodge some of the restrictions that Brazilian law places on campaigning. Electoral rules in Brazil regulate when candidates are allowed to officially start campaigning, banning any official political advertisements before August 15 of this year. But these rules don’t prevent groups outside of the campaign from paying for ads that support their candidates. Thus, there have been at least 20 instances of Facebook and Instagram approving outside ads for display before the campaign’s legal starting date. Among these advertisements, pro-Bolsonaro content received more than 16 times as many views as pro-Lula content.

The damage that all of these abuses can cause is amplified by Facebook’s explicit policy of allowing lies in political advertisements, a decision that has been criticized by hundreds of the company’s employees. Bolsonaro tried to further weaken these already loose standards by attempting to make it illegal for social media platforms to remove posts for disinformation; the move that was quickly struck down by the Brazilian Supreme Court. The following month, Facebook and Youtube removed a video of him claiming that vaccines cause AIDS.

Lies for Cash

Brazilians have been working overtime since 2018 to find new ways to address this flood of electoral manipulation. Electoral authorities have created a “Counter Disinformation Program,” and campaign laws have been updated in an attempt to outlaw “the dissemination or sharing of facts known to be untrue or seriously decontextualized, damaging the integrity of the electoral process.”

Until Meta’s platform policies change, however, legal attempts to mitigate these issues are unlikely to be effective. For this reason, a coalition of over 90 civil society organizations in Brazil is proposing reforms to combat distortions and fabrications online without infringing on freedom of speech. These include stronger rules against electoral disinformation, greater transparency about platform standards, updated terms of service regarding political violence, and a right to appeal for anyone who has their content removed.

Central to this issue is that platforms like Facebook make money from high user engagement, which attracts advertisers and gives the company personal user data to sell. This means that social media companies have a profit incentive to accept any content that results in high engagement, regardless of its truthfulness or even its legality. Yael Eisenstat, the former head of election integrity at Facebook, agrees: “Facebook profits partly by amplifying lies and selling dangerous targeting tools that allow political operatives to engage in a new level of information warfare.”

With just days left before Brazilians head to the polls to decide the political future of their country, the use of social media by political elites to manipulate elections is again in full swing. Democracies are facing unprecedented threats around the world, and Brazil illustrates the dangerous effects that for-profit social media companies can have on our access to information. Until they are forced to reform, these companies will continue to exchange lies for cash.