A adoção crescente da Inteligência Artificial (IA) está a transformar profundamente os modelos de negócio, acabando por criar assim novas oportunidades, mas também desafios significativos que muitas organizações ainda não conseguem avaliar na totalidade.
Neste contexto, a WTW, empresa líder global em consultoria e corretagem, realizou o mais recente webinar da série “Risk Insights Talks”, com o objetivo de debater a compreensão, avaliação e mitigação dos riscos associados à adoção e utilização massiva de Inteligência Artificial.
A Inteligência Artificial é uma ajuda, mas também é um grande risco
O evento online, que alertou para a urgência de adotar estratégias eficazes de gestão de risco num cenário tecnológico cada vez mais complexo, contou com a moderação de Luís Teixeira, Senior Director, Business Development, e teve como orador Fernando Sevillano, Head of Cyber & Tech Consulting da WTW para a Europa Ocidental.
Durante a sessão, os especialistas traçaram uma visão clara e estruturada sobre o ecossistema da Inteligência Artificial, abordando os principais intervenientes do mercado e os modelos fundacionais que acabam por estar na linha da frente desta revolução tecnológica.
Um dos pontos centrais da discussão passou pela clarificação do que efetivamente constitui um sistema de IA, tendo em conta os mais recentes enquadramentos regulatórios, com destaque para a lei europeia de Inteligência Artificial (EU AI Act).
O ciclo de vida destes sistemas foi igualmente analisado, com o intuito de identificar os diferentes atores envolvidos de forma a promover uma gestão de risco mais eficaz em cada fase.
Durante o webinar, foi apresentado um agrupamento prático dos riscos ligados à Inteligência Artificial, com um foco particular nos Large Language Models e nas crescentes aplicações no tecido empresarial que estes criaram.
Entre os perigos mais prementes identificados pela consultora destacam-se:
- A geração de conteúdos tóxicos e discriminação produzida por sistemas de Inteligência Artificial;
- A produção e a amplificação de desinformação;
- Falhas de segurança e privacidade, englobando a exposição indevida de dados;
- Riscos técnicos diretamente relacionados com comportamentos inesperados, limitações ou falhas dos sistemas;
- A utilização maliciosa da IA para a prática de fraudes ou ciberataques;
- Os impactos ambientais e socioeconómicos associados à tecnologia;
- Desafios na interação entre máquinas e humanos, nomeadamente a confiança excessiva dos utilizadores nos sistemas;
- Lacunas a nível de governação, em especial no que toca à documentação adequada e ao cumprimento dos requisitos regulatórios.
De forma a fazer face a esta multiplicidade de desafios, a WTW explorou diversas metodologias de avaliação qualitativa e quantitativa do risco, assim como medidas concretas que as empresas podem aplicar para a mitigação das mesmas.
“O papel da transferência de risco como instrumento estratégico para reforçar a resiliência organizacional tornou-se fundamental, especialmente num cenário em que a IA deixou de ser uma opção e passou a ser uma realidade operacional incontornável. Apenas através de uma abordagem estruturada e objetiva do impacto da IA nas organizações permitirá antecipar riscos, salvaguardar operações e assegurar uma adoção tecnológica sustentável”.
Fernando Sevillano, Head of FINEX Cyber & Tech Consultancy Western Europe da WTW
Sobre o autor
Aproveite a campanha:
