Os browsers de IA estão rapidamente a tornar-se um grande risco para a cibersegurança.

Ameaças emergentes e considerações de segurança na era das tecnologias avançadas de navegadores

Principais conclusões

• Os browsers de IA introduzem riscos únicos de cibersegurança, incluindo suscetibilidade a ataques de injeção de prompt que podem ir além do próprio browser.
• Prompts maliciosos podem levar à exfiltração de dados e roubo de credenciais, comprometendo potencialmente fluxos de trabalho inteiros.
• Muitos utilizadores finais permanecem inconscientes dos perigos potenciais e descarregam navegadores de IA sem considerar as implicações de segurança.
• As organizações precisam educar os utilizadores e considerar a implementação de controlos mais rigorosos para evitar downloads de software não autorizado.
• Os profissionais de cibersegurança devem colaborar proativamente com os defensores da IA para estabelecer as melhores práticas para a adoção responsável da IA.
• Equilibrar a inovação com a segurança é crucial, e o envolvimento precoce pode ajudar a estabelecer exemplos positivos para o uso seguro de IA.

À medida que um novo tipo de navegador infundido com capacidades de inteligência artificial (IA) começa a tornar-se mais amplamente disponível, preocupações significativas de segurança estão a começar a surgir.

Como a maioria das ferramentas de IA, este novo tipo de navegador é suscetível a ataques de injeção de prompt. No entanto, o problema é que estes navegadores de IA estão a ser conectados a uma ampla gama de aplicações que possibilitam estender o alcance de um ataque de injeção de prompt muito além do navegador.

Por exemplo, um prompt malicioso injetado em conteúdo acedido por um navegador de IA pode direcioná-lo para exfiltrar dados de uma aplicação e depois encaminhá-los para um site externo usando um serviço de mensagens. A causa raiz do problema é que, ao contrário de um humano que poderia, com sorte, reconhecer URLs suspeitos, erros ortográficos e layouts incomuns que são indicativos de um site malicioso, navegadores de IA não fazem essas distinções. Mais preocupante ainda, as credenciais de um utilizador final podem ser roubadas, permitindo que atores maliciosos usem o navegador de IA para comandar todo um fluxo de trabalho.

Infelizmente, enquanto muitos utilizadores finais estão a descarregar com entusiasmo estes navegadores de IA, na sua maioria estão alegremente ignorantes ou, em alguns casos, deliberadamente alheios às implicações de cibersegurança.

Passos proativos para salvaguardar a adoção de IA

É claro que um grande número de organizações tem políticas e controlos implementados que impedem os utilizadores finais de descarregar software que não foi aprovado, mas a maioria não tem. Os profissionais de cibersegurança e TI que trabalham para essas organizações devem fazer um esforço concertado para, pelo menos, garantir que cada utilizador final compreenda claramente os riscos potenciais. No máximo, pode não haver momento melhor do que o presente para implementar alguns controlos mais rigorosos.

Na verdade, os profissionais de cibersegurança fariam bem em lembrar os utilizadores de que os defensores de uma filosofia de IA que defende avançar rapidamente e quebrar coisas não estarão por perto para ajudar a limpar a confusão que ajudaram a criar. O seu único objetivo é incentivar a adoção dos seus instrumentos e plataformas o mais rapidamente possível, independentemente do nível de risco que isso possa criar para uma organização. O desafio é que os profissionais de cibersegurança estão mais uma vez na posição desconfortável de pedir cautela perante uma onda massiva de entusiasmo.

Infelizmente, se a história servir de guia, será necessário ocorrer um número muito grande de incidentes de cibersegurança antes que os utilizadores finais comecem a apreciar plenamente o perigo. Os cibercriminosos ainda estão a atualizar-se sobre táticas e técnicas de injeção de prompts, mas, como a maioria dos profissionais de cibersegurança já sabe bem: Se puder ser imaginado, alguém já o está a tentar.

Equilibrar a inovação com a segurança

Entretanto, em vez de simplesmente esperar que surjam inevitáveis problemas, as equipas de cibersegurança devem envolver-se proativamente com os defensores da IA dentro da sua organização. Quanto mais responsáveis forem, melhores são as hipóteses de que o resto da organização possa até um dia adotar um conjunto de melhores práticas para usar a IA de forma segura. Esses utilizadores de vanguarda da IA, de facto, podem estabelecer o exemplo para todos os que se seguem.

Claro, haverá sempre utilizadores finais desonestos que adotam ferramentas e aplicações de IA sem pensar muito, juntamente com um número qualquer de tecnologias de TI sombra que também utilizam regularmente. A única diferença na era da IA é que o nível de risco para a organização é agora várias ordens de magnitude maior.