Pesquisa revela crescente sensibilização para os riscos de segurança da IA

Como as vulnerabilidades de IA estão a moldar novos desafios de cibersegurança

Principais conclusões

• As vulnerabilidades de AI estão a moldar cada vez mais os desafios de cibersegurança, com 87% dos líderes inquiridos a notarem riscos de segurança aumentados em 2025.
• Fugas de dados e avanços adversariais são as preocupações de segurança de IA mais urgentes, de acordo com o inquérito global.
• 64% das organizações têm processos para avaliar a segurança das ferramentas de IA antes da implementação, mas muitas ferramentas carecem de controlos adequados.
• A fraude cibernética e os riscos de phishing estão a aumentar, juntamente com preocupações sobre a cadeia de abastecimento, vulnerabilidades de software e ataques de ransomware.
• A superfície de ataque em expansão devido à adoção de AI torna a cibersegurança cada vez mais difícil, com a falta de controlos em muitas ferramentas de AI a representar riscos significativos.
• São urgentemente necessários frameworks de governança de segurança para IA, mas a rápida adoção de agentes de IA pode ultrapassar a capacidade das equipas de cibersegurança de responder, levando potencialmente a grandes violações.

Uma pesquisa global realizada pelo Fórum Económico Mundial (WEF) sugere que há muito mais nos riscos inerentes de cibersegurança que as vulnerabilidades em inteligência artificial (IA) aplicações estão a criar.

O estudo realizado com 873 executivos de C-suite, académicos, sociedade civil e líderes de cibersegurança do setor público revela que 87% apreciam o facto de os riscos de segurança de IA terem aumentado em 2025, com 64% a reportarem que a sua organização tem um processo implementado para avaliar a segurança das ferramentas de IA antes de as implementar. As preocupações mais urgentes com a segurança da IA são as fugas de dados (30%), seguidas de perto pelo avanço das capacidades adversárias (28%), revela o estudo.

Mais de três quartos (77%) também observaram que a sua organização já implementou ferramentas habilitadas por AI para cumprir os seus objetivos de cibersegurança, com phishing e deteção de ameaças de e-mail (52%) no topo dessas iniciativas, seguidas pela deteção e resposta a intrusões ou anomalias (46%), automação de operações de segurança (43%), análise do comportamento do utilizador e deteção de ameaças internas (40%), e inteligência de ameaças e priorização de riscos (39%).

Existem, naturalmente, obstáculos à adoção de IA que a maioria das organizações já está a enfrentar, especialmente conhecimento e/ou habilidades insuficientes (54%), validação dos resultados da IA (41%), incerteza sobre os riscos reais (39%), fundos insuficientes (36%) e casos de negócio pouco claros (33%), revela a pesquisa.

No entanto, quase todos os inquiridos (94%) também identificaram a IA/aprendizagem automática como a tecnologia que mais afetará a cibersegurança nos próximos 12 meses, seguida pela computação em nuvem (61%) e pela computação quântica (37%).

Fraude cibernética e outras ameaças em ascensão

Claro, a IA é apenas o mais recente de muitos vetores de ameaça que estão a criar níveis de risco acrescidos para o negócio. O inquérito, por exemplo, revela que mais de três quartos dos inquiridos (77%) estão também conscientes de que os riscos envolvendo fraude cibernética e phishing aumentaram no último ano. Além disso, há uma maior sensibilização para os riscos envolvendo cadeias de abastecimento (65%), vulnerabilidades de software (58%) e ataques de ransomware (54%).

Embora mais de três quartos (78%) tenham afirmado que a sua força de trabalho possui as competências necessárias para atingir os seus atuais objetivos de cibersegurança, 61% identificaram a rápida evolução dos cenários de ameaças e das tecnologias emergentes como o seu maior desafio no que diz respeito a alcançar e manter a ciber-resiliência, seguidos por vulnerabilidades de terceiros e da cadeia de abastecimento (46%) e uma escassez de competências e conhecimentos em cibersegurança (45%).

Coletivamente, o inquérito torna evidente que, mesmo na era da IA, nunca foi tão desafiador garantir a cibersegurança. Embora as equipas de cibersegurança estejam a aproveitar a IA para automatizar tarefas, a dimensão geral da superfície de ataque que precisa de ser defendida continua a expandir-se à medida que mais ferramentas e aplicações de IA são implementadas. Infelizmente, muitas dessas ferramentas, como o cada vez mais popular OpenClaw agente de IA, não têm quaisquer controlos de segurança.

Eventualmente, todas as equipas de cibersegurança precisarão de implementar uma estrutura de governação e conformidade de segurança para aplicar controlos à IA. No entanto, entretanto, o ritmo de adoção de agentes de IA em muitas organizações está a tornar difícil para as equipas de cibersegurança acompanhar. Haverá, no entanto, em breve, aquela que será praticamente inevitável grande violação de cibersegurança que, quando ocorrer, poderá refrear o entusiasmo pelos agentes de IA tempo suficiente para que as equipas de cibersegurança se preparem totalmente.