O Chat GPT tem sido uma das ferramentas mais faladas dos últimos tempos, pelo menos no que diz respeito à Inteligência Artificial. Diversas empresas mostraram interesse nesta tecnologia e outras começaram já a preparar as suas versões personalizadas.
A Sophos tem acompanhado esta moda crescente e deixou alguns comentários oficial sobre o tópico e como o Chat GPT e outras ferramentas de IA podem afetar o cenário atual da cibersegurança.
Chat GPT e outros programas de IA podem provocar alterações nas empresas
Para falar de forma oficial sobre as questões ligadas ao Chat GPT e outros sistemas de IA que podem vir a afetar o panorama atual da cibersegurança, a Sophos divulgou um comentário oficial do seu especialista Chester Wisniewski, Principal Research Scientist.
Wisniewski começa por explicar que “tradicionalmente, nos seus esforços de cibersegurança, as empresas têm apostado na formação dos colaboradores, capacitando-os para identificarem e prevenirem possíveis ameaças. No entanto, com os progressos recentes da Inteligência Artificial (IA), a simples formação de segurança dos utilizadores finais está a tornar-se cada vez menos eficaz para proteger as organizações contra ciberataques. As ameaças que recorrem a IA são cada vez mais sofisticadas e difíceis de detetar, mesmo para quem tem uma formação extensa”.
Isto significa que, apesar de existir uma crescente aposta na formação dos colaboradores e, cada vez mais, existir uma preocupação com a cibersegurança por parte das empresas, as evoluções na IA como é o caso do Chat GPT acabam por se mostrar demasiado avançadas e inteligentes para as formações anteriormente dadas.
“Já lá vão os dias em que podíamos depender dos nossos utilizadores finais para defender as empresas de ameaças recebidas”, comenta o especialista da Sophos. “Durante anos, ensinámo-los a identificar links de phishing, a procurar cadeados nos URLs e a evitar redes de Wi-Fi inseguras. De alguma forma, apesar de todos estes esforços, o ransomware continua a persistir a um nível sem precedentes e as violações de dados são mais comuns do que as disquetes eram nos anos 90.”
Erros ortográficos podem já não ser um fator importante
Um dos conselhos básicos de qualquer empresa de cibersegurança passava por explicar aos utilizadores que deveriam manter-se atentos a sites com erros ortográficos que, por norma, são um sinal de que algo suspeito se passa.
Contudo, explica Chester Wisniewski, “agora entrou em jogo o ChatGPT, uma ferramenta de inteligência artificial da OpenAI com a qual podemos interagir e a quem podemos pedir para fazer coisas. A iteração atual utiliza um modelo de formação chamado GPT-3.5 e é assustadoramente boa a dar-nos respostas credíveis – e às vezes até exatas. Se lhe pedimos respostas longas, tende a atrapalhar-se um pouco, mas é excelente a responder a perguntas mais curtas e sobretudo se falarmos em inglês.”
Apesar de não se mostrar uma ferramenta perfeita, o Chat GPT já mostrou ter capacidades suficientemente boas para poder enganar esta linha de defesa das empresas, conseguindo auxiliar os criminosos a criarem textos bem construídos e com uma gramática correta que podem enganar qualquer pessoa.
Wisniewski confirma que o Chat GPT não é perfeito, “mas é bom o suficiente para auxiliar os criminosos a criar fraudes cada vez mais fiáveis”.
Segundo avança o comunicado da Sophos, onde consta a opinião do especialista na integra, todos os tipos de IA, em especial o Chat GPT, já conseguiram atingir um ponto em que são capazes de enganar um ser humano praticamente 100% do tempo.
“A “conversa” que podemos manter com o ChatGPT é notável, e também já dispomos da capacidade de gerar rostos humanos falsos quase indiscerníveis (por humanos) de fotos reais. Assim, se um criminoso decidir criar uma empresa falsa para perpetrar um golpe, o seu caminho está facilitado. Pode gerar 25 rostos falsos com um ar perfeitamente verdadeiro e recorrer ao ChatGPT para escrever as suas biografias; depois, é só criar algumas contas falsas do LinkedIn e está tudo a postos.”
Portanto, com isto, o que a empresa tenta alertar os utilizadores, em especial as empresas, é que vão ter de se adaptar às novas tendências que recorrem cada vez mais ao Chat GPT e tecnologias semelhantes para aprimorarem os ataques informáticos. As formações dos colaboradores vão ter de ser refeitas e vão ter de considerar fatores de Inteligência Artificial e não apenas possíveis ataques feitos inteiramente pelo hacker em si.
“Estou a sugerir que paremos completamente de formar as pessoas em cibersegurança?”, questiona Wisniewski de forma retórica, prosseguindo com a resposta. “Não – mas precisamos de fazer um reset total das nossas expectativas.”
Participe no passatempo:“Precisamos de ensinar os nossos colaboradores a ser desconfiados e a verificar comunicações que envolvam acesso a informações ou cujos temas tenham a ver com dinheiro ou finanças. Têm de saber fazer perguntas, pedir ajuda e investir algum tempo adicional para confirmar que as coisas são realmente o que parecem. Não estamos a ser paranóicos; eles ‘andam mesmo aí’.”
