Chefe de segurança do Pentágono apela a uma inovação mais rápida da IA

Quando se trata de aproveitar os mais recentes avanços em IA, o principal desafio é recolher dados suficientes para treinar um grande modelo de linguagem (LLM). Um LLM de propósito geral, como o ChatGPT, foi treinado extraindo dados de fontes na Web. Quando exposto a novos dados através, por exemplo, de técnicas de geração de aumento de recuperação, torna-se então possível para esses tipos de LLMs, entre outras capacidades semelhantes, resumir um relatório de incidente de cibersegurança.

No entanto, com os avanços nos motores de raciocínio que permitem o planeamento a longo prazo, está também a tornar-se possível atribuir tarefas a LLMs que foram especificamente treinados utilizando um conjunto restrito de dados verificados. Por exemplo, Cognition Labs está a pré-visualizar Devin, uma ferramenta de IA generativa à qual os engenheiros de software podem atribuir tarefas para completar.

Os fornecedores de cibersegurança estão naturalmente a investigar como habilitar capacidades semelhantes para automatizar tarefas de cibersegurança, mas não está claro com que rapidez serão capazes de cumprir essa promessa. Em teoria, os fornecedores de serviços de segurança na nuvem deveriam ser capazes de agregar dados suficientes para treinar um LLM, mas, como observado por McKeown, esses avanços não estão a ser feitos de forma tão agressiva como em outros sectores. A questão, neste momento, não é tanto se os LLMs serão usados para automatizar processos de cibersegurança, mas sim quando e em que medida.

Pode-se argumentar que uma corrida armamentista de IA entre fornecedores de cibersegurança tem estado em andamento há anos. Muitos já disponibilizam uma ampla gama de capacidades de IA baseadas em modelos de IA preditivos e causais que já são amplamente utilizados. A corrida para fornecer capacidades de IA generativa está agora a mover-se além de fornecer capacidades probabilísticas mais avançadas habilitadas por IA generativa. No entanto, o que se deve lembrar é que a IA generativa é projetada para apresentar a resposta ou recomendação provável correta. Numa área onde a precisão é importante, a IA generativa provavelmente não irá subsumir a necessidade de profissionais de cibersegurança tão cedo.

No entanto, os papéis dentro das equipas de cibersegurança irão, sem dúvida, mudar e evoluir na era da IA. Muitas das tarefas rotineiras que são frequentemente geridas por pessoal em início de carreira serão eliminadas à medida que a quantidade geral de trabalho necessário continua a diminuir. Profissionais de cibersegurança mais experientes poderão atribuir tarefas a assistentes digitais que anteriormente poderiam ter sido realizadas por um membro mais júnior da equipa.

Mais significativamente, as organizações que anteriormente não teriam sido capazes de montar uma defesa séria de cibersegurança, confiando em equipas mais pequenas, podem agora ser capazes de fazê-lo. De facto, a crónica escassez de competências em cibersegurança, que tem sido um problema importante desde que os profissionais de cibersegurança se lembram, pode atenuar-se.

Como William Gibson observou famosamente, o futuro está aqui; está apenas distribuído de forma desigual. No entanto, a velocidade a que está a chegar é mais rápida do que a maioria das equipas de cibersegurança de hoje consegue apreciar plenamente.