Um investigador de segurança da Anthropic, empresa criadora do Claude, publicou no X uma advertência que gerou mais de 10 milhões de visualizações ao dizer que há mais de 10% de probabilidade da inteligência artificial matar toda a humanidade antes de 2036.
Evan Hubinger, que trabalha em alinhamento de IA na Anthropic, reconhece que o risco dos modelos atuais é baixo, mas diz estar preocupado com a capacidade da IA de se melhorar a si própria até atingir um nível de ameaça existencial.
Investigador da Anthropic admite que a empresa não tem ainda um plano para garantir a segurança de uma superinteligência
Hubinger foi direto ao dizer que “acreditamos genuinamente” que a IA representa um risco de extinção para a espécie humana.
Acrescentou que a Anthropic está a fazer o seu melhor, mas que a empresa “não tem ainda um plano para resolver o alinhamento para a superinteligência e não está claramente no caminho certo para o fazer”.
O alinhamento de IA é a área de investigação que procura garantir que sistemas cada vez mais capazes se comportem de acordo com os valores e objetivos humanos.
Os comentários surgiram em resposta a Jacob Coxon, investigador que saiu recentemente da Anthropic depois de trabalhar também na OpenAI, que escreveu que “nenhuma das empresas está a agir de forma responsável” e que os sistemas em desenvolvimento serão “em breve sobre-humanos, capazes de hackear qualquer coisa, revolucionar qualquer área de um dia para o outro e adquirir poder e recursos reais”.
As reações foram diversas. David Sherman, da io.net, disse que os avisos não devem ser ignorados e alertou para a concentração do desenvolvimento de IA num punhado de empresas como o principal obstáculo a que vozes dissidentes consigam influenciar o rumo da tecnologia.
Dame Wendy Hall, cientista que aconselha as Nações Unidas em matéria de inteligência artificial, disse estar “chocada” com as publicações, mas não descartou que alguns comentários possam ser estratégia de marketing das empresas em busca de investimento e eventual entrada em bolsa.
O próprio relatório de segurança da Anthropic de agosto admite estar “menos confiante” nas suas avaliações de risco do que anteriormente, dizendo ver “sinais precoces de potencial aceleração”.
A empresa reteve ainda o seu modelo mais recente do Instituto de Segurança de IA do Reino Unido, um organismo governamental que avalia os riscos dos sistemas de inteligência artificial avançados.
Mais de 1300 funcionários da indústria de IA assinaram uma carta aberta a pedir ao governo dos EUA que apoie um esforço internacional para desenvolver ferramentas técnicas e de governação que permitam “controlar deliberadamente o ritmo do desenvolvimento automatizado de IA de fronteira”.
Sobre o autor
Aproveite a campanha:
