O Teste de Turing de Email

Com o uso crescente de grandes modelos de linguagem (LLMs) como ChatGPT e Gemini, cada vez mais o texto com o qual interagimos está a ser gerado por sistemas automatizados em vez de por um humano a digitar no seu teclado. Em particular, um dos benefícios de produtividade dos LLMs é a sua capacidade de nos ajudar a gerar, ajustar ou reformular e-mails, que é talvez o formato em que muitos de nós passamos mais tempo a ler e escrever. De facto, a IA já infiltrou a nossa caixa de correio, mesmo além da função de autocompletar do Office 365 e do Gmail, com uma ampla variedade de plugins que podem ajudar a resumir, compor, corrigir e organizar e-mails.

A geração de conteúdos está a expandir-se e a mudar rapidamente, e as mensagens de email fazem parte desta evolução. Muitos de nós temos observado mensagens recebidas que são "excessivamente polidas" ou escritas num estilo que se desvia do estilo típico do remetente. Isto levanta a questão, quando recebemos um email: foi este email escrito por um humano ou por uma máquina?

Também se pode perguntar se é realmente importante responder a esta questão. Pode-se argumentar que, se de facto os LLMs estão a tornar-se rapidamente numa ferramenta de produtividade indispensável que poupa imenso tempo às pessoas, que assim seja. Além disso, se o remetente do email não for um falante nativo da língua em uso, os LLMs podem ser uma dádiva, ajudando o escritor a corrigir e evitar erros gramaticais embaraçosos. Os LLMs também podem ajudar a elaborar um email num determinado estilo pretendido para alguém que não esteja familiarizado com a etiqueta empresarial local (por exemplo, alguém a conduzir negócios num país estrangeiro ou um recém-licenciado), como pedir ao LLM para compor o email com um tom orientado para os negócios e educado.

É mais provável que o texto gerado por IA seja spam ou phishing?

Tudo isto é muito bom quando o remetente é um colega ou amigo, ou alguém que nos envia legitimamente um e-mail útil. Mas claro, como acontece com qualquer tecnologia, pode haver casos de uso nefasto. Os LLMs podem gerar e-mails de spam muito convincentes e personalizados. Ainda pior, podem criar ataques de spear phishing altamente direcionados ou de Business Email Compromise (BEC), imitando o tom, estilo e assinatura do remetente falsificado. Portanto, ser capaz de identificar se um e-mail foi gerado por um humano ou por uma máquina pode realmente servir como um indicador valioso para um filtro de spam de e-mail ou um detector de phishing.

Na verdade, o nosso grupo de investigação está a trabalhar ativamente na construção de tal detetor, aproveitando os avanços recentes na investigação nesta área . O objetivo é utilizar um modelo de IA para detetar se o texto é gerado por IA. Como uma cobra a comer o próprio rabo.

Detectar se o texto de um email foi gerado por IA é particularmente desafiador porque o texto de email pode muitas vezes ser muito curto e conciso. Isso deixa-nos com menos texto para analisar, embora o comprimento do texto seja um fator que consideramos ao determinar se foi gerado por IA. Nós (e outros) notámos que o texto gerado por IA é frequentemente prolixo, extenso e excessivamente formal. Outro fator que consideramos é o uso de certas frases que são mais propensas a serem geradas por uma IA do que por um humano. Por exemplo, a frase: “a partir da minha última atualização de conhecimento.”

O que reserva o futuro?

Parece que estamos a entrar numa era em que os humanos podem não gerar diretamente grande parte do texto que lemos. Isto provavelmente terá um grande impacto em muitas partes das nossas vidas: nas nossas interações sociais e empresariais diárias, nas nossas salas de aula e instituições educativas, e no conteúdo que consumimos. Também terá um efeito enorme no cibercrime e na cibersegurança. O desafio enfrentado pelos investigadores de cibersegurança é que os criminosos agora têm uma barreira mais baixa para criar ataques sofisticados de spear phishing e ataques BEC. Mas a oportunidade correspondente é que LLMs e outros modelos de IA fundamentais podem ser usados para detetar e prevenir esses ataques com muito maior precisão. E assim, o jogo do gato e do rato continua.