A inteligência artificial é hoje um dos maiores focos de evolução tecnológica mundial.
Se este é um mundo de oportunidades, há também vários alertas para o risco, como é o caso do Responsável de segurança IA da Anthropic que alertou para os perigos da IA.
IA está a colocar o mundo em perigo? Esta é a mensagem de demissão do Chefe de segurança IA da Anthropic
O chefe de segurança de inteligência artificial da Anthropic, Mrinank Sharma, anunciou a sua demissão com uma carta pública no X, num gesto tão inesperado quanto simbólico já que vai abandonar a indústria para se dedicar à poesia.
A saída tornou-se viral não apenas pelo contraste entre a função que desempenhava e o caminho que escolheu, mas sobretudo pelo tom alarmista e reflexivo da mensagem, onde afirma que “o mundo está em perigo”, não apenas por causa da IA ou de armas biológicas, mas devido a um conjunto de crises interligadas que estão a ocorrer em simultâneo.
Sharma liderava na Anthropic a equipa de investigação responsável por estudar e mitigar riscos associados aos modelos de IA, com foco em áreas sensíveis como bioterrorismo assistido por inteligência artificial, a tendência dos modelos para agradarem excessivamente ao utilizador (a chamada “siconfância”) e a forma como a IA pode influenciar perceções humanas e comportamentos culturais.
Na carta, deixa implícito que, mesmo dentro de empresas que se posicionam como responsáveis, existe uma tensão constante entre valores e pressão competitiva, referindo que é repetidamente difícil deixar que princípios éticos guiem decisões num setor onde a velocidade e o mercado muitas vezes falam mais alto.
A demissão também expõe um dilema que parece estar a crescer dentro da indústria: o sentimento de que se está a trabalhar no desenvolvimento de uma tecnologia que pode tornar irrelevantes muitos dos empregos atuais, incluindo os de quem a constrói.
O texto cita até relatos de outros funcionários da Anthropic que confessam sentir que vão trabalhar todos os dias “para ficarem sem trabalho”, refletindo o desconforto com o ritmo acelerado dos avanços recentes.
Ao contrário de outras saídas recentes na Anthropic, onde executivos abandonaram a empresa para criar novos projetos também na área da IA, Sharma apresenta uma rutura mais profunda.
A sua escolha por um caminho artístico foi interpretada como um sinal de saturação e desilusão com a forma como o setor está a evoluir, e como um aviso, ainda que indireto, de que o desenvolvimento tecnológico pode estar a avançar mais depressa do que a capacidade humana de o acompanhar com maturidade, prudência e sabedoria.
Sobre o autor
Aproveite a campanha:
