Metade do spam na sua caixa de entrada é gerado por IA – a sua utilização em ataques avançados está numa fase inicial.

Os ciberatacantes estão a aproveitar o poder da IA para aumentar as suas hipóteses de sucesso em ataques baseados em email. As ferramentas de IA podem ajudá-los a desenvolver e lançar mais ataques, com mais frequência, e a tornar estes ataques mais evasivos, convincentes e direcionados. Mas até que ponto estão a fazer estas coisas?

Determinar se ou como a IA foi utilizada num ataque de email nem sempre é simples, o que torna mais difícil perceber o que realmente está a acontecer nos bastidores. Acreditamos que, para construir defesas eficazes contra ataques de email baseados em IA, precisamos de compreender melhor como é que os atacantes estão a utilizar estas ferramentas hoje e para quê, e como isso está a evoluir.

Existem numerosos relatórios sobre como os cibercriminosos estão a usar IA generativa para enganar os seus adversários, mas há dados concretos limitados sobre como os atacantes estão a utilizar tais ferramentas para aumentar a eficiência dos seus ataques.

Para encontrar algumas respostas, um grupo de investigadores da Universidade de Columbia e da Universidade de Chicago trabalhou com a Barracuda para analisar um grande conjunto de dados de emails não solicitados e maliciosos que abrangem de fevereiro de 2022 a abril de 2025.

Deteção da utilização de IA

A nossa equipa de investigação treinou detectores para identificar automaticamente se um email malicioso/não solicitado foi gerado utilizando IA.

Conseguimos isto ao assumir que os emails enviados antes do lançamento público do ChatGPT em novembro de 2022 foram provavelmente escritos por humanos. Isto permitiu-nos estabelecer um ‘falso positivo’ fiável para o detetor.  

Executar o conjunto de dados completo da Barracuda de 2022 a 2025 através do detector revela um aumento constante – mas muito diferente — no conteúdo gerado por IA em spam e ataques de comprometimento de e-mail comercial (BEC) após o lançamento do ChatGPT. 

A IA ajuda a inundar as caixas de entrada com spam

O spam mostrou o uso mais frequente de conteúdo gerado por IA em ataques, superando significativamente o uso em outros tipos de ataque ao longo do último ano. Em abril de 2025, a maioria dos emails de spam (51%) eram gerados por IA em vez de por um humano. A maioria dos emails atualmente presentes na pasta de lixo/spam média provavelmente foi escrita por um modelo de linguagem de grande escala (LLM).

Em comparação, o uso de conteúdo gerado por IA em ataques BEC está a aumentar de forma muito mais lenta. Os ataques BEC envolvem precisão: Tipicamente, têm como alvo uma pessoa sénior na organização (por exemplo, o CFO) com um pedido de transferência bancária ou transação financeira. A análise mostrou que em abril de 2025, 14% dos ataques BEC foram gerados por IA.

Motivos dos atacantes para usar IA

Explorámos também a motivação dos atacantes para utilizar IA na geração de emails de ataque, analisando o conteúdo dos emails gerados por IA.

Os emails gerados por IA geralmente apresentavam níveis mais elevados de formalidade, menos erros gramaticais e maior sofisticação linguística em comparação com os emails escritos por humanos. Estas características provavelmente ajudam os emails maliciosos a contornar os sistemas de deteção e a torná-los mais credíveis e profissionais para os destinatários. Isto é útil em casos em que a língua materna dos atacantes pode ser diferente da dos seus alvos. No conjunto de dados da Barracuda, a maioria dos destinatários estava em países onde o inglês é amplamente falado.

Os atacantes também parecem estar a usar IA para testar variações de redação, a fim de ver quais são mais eficazes em contornar defesas e encorajar mais alvos a clicar em links. Este processo é semelhante ao teste A/B feito no marketing tradicional.

A análise da nossa equipa mostra que os e-mails gerados por LLM não diferiram significativamente dos gerados por humanos em termos do sentido de urgência comunicado. A urgência é uma tática deliberada comumente usada para exercer pressão e provocar uma resposta irrefletida do destinatário (por exemplo, “clique neste botão agora!”, “transferência bancária urgente”).

Isto sugere que os atacantes estão principalmente a usar IA para aperfeiçoar os seus emails e possivelmente o seu inglês, em vez de alterar as táticas dos seus ataques.

Como proteger contra ataques de email criados com IA

A investigação está em curso à medida que o uso de IA generativa em ataques por email continua a evoluir, ajudando os atacantes a refinar a sua abordagem e a tornar os ataques mais eficazes e evasivos.

Ao mesmo tempo, a IA e o aprendizado de máquina estão a ajudar a melhorar os métodos de deteção. É por isso que uma solução de segurança de e-mail avançada equipada com deteção multicamadas, habilitada por IA/ML é crucial.

A educação também continua a ser uma proteção poderosa e eficaz contra esses tipos de ataque. Invista na formação em sensibilização para a segurança para os funcionários, para os ajudar a compreender as últimas ameaças e como detetá-las, e incentive os funcionários a reportar e-mails suspeitos.

Este Destaque de Ameaça foi escrito por Wei Heo com o apoio de pesquisa de Van Tran, Vincent Rideout, Zixi Wang, Anmei Dasbach-Prisk, e M. H. Afifi, e pelos professores Ethan Katz-Bassett, Grant Ho, Asaf Cidon, e Junfeng Yang.