Feds desmantelam fazenda de bots apoiada pela Rússia e alimentada por IA — mais a caminho

“Com estas ações, o Departamento de Justiça interrompeu uma campanha de propaganda apoiada pelo governo russo, habilitada por IA, para usar uma quinta de bots para espalhar desinformação nos Estados Unidos e no estrangeiro.” — Merrick B. Garland, Procurador-Geral dos Estados Unidos

“A Rússia pretendia usar esta fazenda de bots para disseminar desinformação estrangeira gerada por IA, ampliando o seu trabalho com a assistência de IA para minar os nossos parceiros na Ucrânia e influenciar narrativas geopolíticas favoráveis ao governo russo.” — Diretor do FBI Christopher Wray

Isso foi Garland e Wray em julho de 2024 depois de o Departamento de Justiça dos EUA (DOJ) ter anunciado a apreensão de dois nomes de domínio e 968 contas de redes sociais associadas a uma campanha de desinformação em larga escala usando um software potenciado por IA chamado Meliorator.

O que o Meliorator faz

Alegadamente criado por um vice-editor-chefe da empresa de mídia estatal russa RT (anteriormente Russia Today), o Meliorater tem sido usado por afiliados da RT nos últimos dois anos para criar um grande número de bots de redes sociais que usam IA generativa para escapar da detecção e disseminar desinformação. Eles têm como alvo os EUA, bem como a Polónia, Alemanha, Países Baixos, Espanha, Ucrânia e Israel, de acordo com o DOJ.

Cada bot tem uma persona definida por um conjunto detalhado de parâmetros—o seu arquétipo—que orienta o seu comportamento. Eles são capazes de escrever publicações originais, gostar, seguir, comentar, republicar e ganhar seguidores—tudo com o objetivo de amplificar conteúdo malicioso dirigido pelo Kremlin, destinado a semear discórdia.

As suas escolhas de quem seguir e o que republicar são guiadas pelos interesses e opiniões declarados das suas personas. Eles republicam e amplificam mensagens dos seus companheiros bots, e na maioria das vezes seguem contas reais com pelo menos 100.000 seguidores, o que os ajuda a evitar detecção. Também conseguem ofuscar endereços IP e contornar a autenticação de dois fatores.

Comportam-se e comunicam-se como pessoas reais e bem desenvolvidas. Partilham muito conteúdo legítimo, mas também publicam, republicam e comentam conteúdo inflamatório que, de acordo com o DOJ, provém do Serviço Federal de Segurança da Rússia (FSB). E mesmo assim, os bots incluem contexto e enquadramento específicos que refletem a sua persona e arquétipo.

O DOJ, juntamente com outras agências internacionais, emitiu este Joint Cybersecurity Advisory fornecendo detalhes técnicos abrangentes sobre o Meliorator e como ele funciona.

Como as plataformas de redes sociais podem responder

De acordo com as agências de inteligência envolvidas na operação, as plataformas de redes sociais podem reduzir a sua exposição a contas geradas pelo Meliorator ao tomarem algumas medidas:

• Implemente processos que ajudem a garantir que cada conta é gerada por um ser humano real cujas ações estejam em conformidade com os Termos de Uso da plataforma.

• Auditar e, sempre que possível, melhorar os processos de autenticação e verificação

• Crie e siga protocolos para identificar utilizadores com strings de agente de utilizador conhecidas como suspeitas

• Melhore a segurança da conta impondo MFA, definições para proteger a privacidade e mais por padrão em todas as contas de utilizador.