A adoção crescente de chatbots baseados em Inteligência Artificial generativa (GenAI) nos ambientes corporativos está a gerar um alerta no setor da cibersegurança.
À medida que os chatbots se ligam a dados empresariais críticos e sistemas internos, os riscos de manipulação e fuga de informação aumentam substancialmente, exigindo uma adaptação imediata das estratégias de proteção aplicacional.
Chatbots de IA criam novas preocupações e precisam de adaptação por parte das empresas
Atualmente, as ferramentas de GenAI marcam presença em diversas frentes das empresas, desde os portais de apoio ao cliente até às plataformas de vendas e ferramentas de produtividade interna.
No entanto, a adoção destas tecnologias traz um desafio único: ao aceitarem linguagem natural aberta, os chatbots criam uma superfície de ataque complexa e muito mais difícil de controlar do que as tradicionais aplicações web.
A Check Point Software Technologies sublinha que esta evolução força uma mudança profunda no paradigma de segurança. Se no passado o objetivo principal era bloquear pedidos maliciosos à entrada dos sistemas, o foco deve agora incluir também o controlo rigoroso sobre aquilo que os chatbots de IA devolvem aos utilizadores.
O objetivo é evitar respostas perigosas, exposição de dados sensíveis ou a geração de conteúdos que violem as normas internas.
“A adopção de GenAI nas empresas está a acelerar rapidamente, mas muitas organizações ainda olham para os chatbots como simples interfaces de apoio, quando na realidade estes sistemas já funcionam como portas de entrada para aplicações críticas, dados empresariais e fluxos operacionais. Um incidente relacionado com prompts maliciosos ou fuga de dados pode rapidamente transformar-se num problema de segurança, reputação e conformidade”
Rui Duro, Country Manager da Check Point Software para Portugal
Ao integrarem bases de conhecimento e APIs, os chatbots tornaram-se num novo vetor de ataque para os cibercriminosos. Os riscos mais críticos identificados incluem:
- Os ataques de prompt injection, em que utilizadores maliciosos tentam manipular o modelo de IA através de instruções ocultas ou contextos adulterados;
- A injeção indireta de ameaças através de documentos, ficheiros ou conteúdos externos fornecidos como contexto às ferramentas;
- A exposição inadvertida de conteúdos confidenciais, como dados pessoais, propriedade intelectual e credenciais, despoletada por pedidos cuidadosamente elaborados;
- A geração de respostas não conformes ou ofensivas, que podem comprometer a confiança dos utilizadores e expor as organizações a consequências legais e danos reputacionais severos.
De forma a dar resposta a estas novas vulnerabilidades, a Check Point expandiu as capacidades da Web Application Firewall (WAF), adaptando-a ao contexto conversacional da IA generativa. A solução procura combinar a prevenção contra prompt injection com a monitorização de abuso e controlo de fuga de dados.
A arquitetura assenta em duas camadas de machine learning:
- A primeira camada recorre a modelos supervisionados, reforçados por mais de 85 milhões de tentativas recolhidas no projeto Gandalf, permitindo detetar comportamentos perigosos com elevada precisão;
- A segunda camada foca-se na análise semântica e contextual, garantindo a redução de falsos positivos ao adaptar a segurança ao comportamento normal esperado do chatbot.
Com um impacto de processamento inferior a 50 milissegundos e suporte para mais de 100 línguas, a solução procura garantir a segurança sem prejudicar a experiência de utilização, um fator crítico para multinacionais.
À medida que estas soluções passam de experiências piloto para a rotina corporativa, os especialistas defendem que os chatbots têm de começar a ser tratados como interfaces de elevado valor estratégico e de alto risco.
Imagem de destaque criada com Inteligência Artificial
Sobre o autor
Aproveite a campanha:
