Relatório da IBM vê deep fakes a emergir como a principal ameaça de ataque de IA

Estudo da IBM revela que ataques deepfake representam agora quase metade das violações habilitadas por IA, à medida que as organizações lutam com os custos crescentes e a expansão dos riscos cibernéticos.

Principais conclusões

• Os deepfakes surgiram como o principal vetor de ataque habilitado por AI, representando 47% das violações relacionadas com AI no estudo da IBM.
• As violações habilitadas por IA são mais dispendiosas do que as violações médias, custando às organizações cerca de 6 milhões de dólares em média, em comparação com o custo médio global de violação de 4,99 milhões de dólares.
• As organizações estão a aumentar os investimentos em cibersegurança em resposta a ameaças de IA, com gastos concentrados em áreas como triagem de alertas, testes de penetração e gestão de vulnerabilidades.

Um relatório publicado esta semana pela IBM sugere que os cibercriminosos estão agora a adotar principalmente a inteligência artificial (AI) para lançar ataques de deep fake que utilizam áudio, vídeo ou imagens sintéticas de indivíduos de confiança para manipular utilizadores finais desavisados.

Com base num estudo de 602 organizações realizado pelo Ponemon Institute, que revela que uma em cada quatro violações maliciosas (25%) foram possibilitadas por inteligência artificial (IA), um aumento de 56% de ano para ano. A maioria dos ataques habilitados por IA surgiu sob a forma de falsificação de identidade deepfake (47%) e malware habilitado por IA (18%). Os cibercriminosos visaram mais frequentemente informações pessoalmente identificáveis (PII) dos clientes do que outros tipos de dados por uma ampla margem, custando $192 por registo em média.

O relatório também observa que o custo médio de uma violação relacionada com IA é, em média, 6 milhões de dólares, aproximadamente 1 milhão de dólares a mais do que a média global de violações de 4,99 milhões de dólares. No entanto, o custo médio de uma violação nos EUA é significativamente mais alto, atingindo 11,5 milhões de dólares. Essas estimativas incluem a perda de negócios, além da deteção e de quaisquer esforços de escalonamento que possam ter sido necessários, que em conjunto representam 63% do custo total de uma violação.

O tempo médio para identificar (MTTI) e conter (MTTC) uma violação, entretanto, é de 247 dias, um aumento de 2,5% ano após ano. Mais de metade das organizações (53%) na altura da violação também notaram que a encriptação de dados tinha sido ativada, de acordo com o relatório.

Além disso, 21% das organizações sofreram uma violação direcionada a modelos ou aplicações de IA. As causas mais comuns foram fraquezas em interfaces de programação de aplicações (APIs), aplicações ou plug-ins comprometidos (27%) e configurações incorretas da nuvem que afetam as cargas de trabalho de IA (27%). Entre as organizações que sofreram uma violação relacionada com IA, a grande maioria (92%) não tinha controlos de acesso adequados para IA.

Por outro lado, mais organizações parecem estar agora a aceitar as novas realidades da corrida armamentista de IA em que as equipas de cibersegurança estão agora envolvidas. Um total de 85% das organizações planeia aumentar os gastos com segurança após se tornarem conscientes das capacidades cibernéticas dos modelos avançados de IA. Áreas específicas de investimento incluem triagem de alertas (60%), testes de penetração (52%) e varredura e gestão de vulnerabilidades (37%). No entanto, enquanto 50% das organizações comprometidas relatam que implantaram agentes na caça, resposta e contenção de ameaças, apenas 18% até agora os aplicaram à varredura e gestão de vulnerabilidades.

O desafio é que, mesmo com as organizações a investir mais amplamente em AI, a cibersegurança nem sempre está no topo dos casos de uso considerados. O AI está a revelar-se caro de implementar. Como resultado, as organizações estão a começar a restringir o número de iniciativas de AI que estão dispostas a financiar completamente. Os líderes de cibersegurança são frequentemente instruídos a financiar iniciativas de AI através da realocação de recursos existentes. Na prática, estão a receber a tarefa de racionalizar o portefólio existente de ferramentas e plataformas para cobrir o custo de qualquer ferramenta ou plataforma de AI que possam querer adicionar. Assim, muitas equipas de cibersegurança esperam que, em vez de substituir ferramentas e plataformas que já conhecem, os fornecedores incumbentes, a um custo total mais baixo e com menos disrupção, lhes forneçam as capacidades de AI de que necessitam para impedir ataques que estão a aumentar tanto em volume como em sofisticação.

Independentemente da abordagem, uma coisa é clara: o tempo, como de costume, não está do lado dos profissionais de cibersegurança. Neste momento, não se trata tanto de saber se haverá mais incidentes na era da IA, mas sim de quão rapidamente eles podem ser contidos usando as ferramentas existentes que, com sorte, serão muito mais aumentadas pela IA mais cedo do que tarde.