Dario Amodei, CEO da Anthropic, publicou no sábado um ensaio intitulado “We Must Pace the Frontier” onde defende um abrandamento coordenado no desenvolvimento dos modelos de inteligência artificial mais avançados.
A proposta foi rapidamente apoiada por Sam Altman, CEO da OpenAI, e por Elon Musk, num alinhamento público entre rivais históricos que levanta tanto questões de segurança genuínas como interrogações sobre os interesses comerciais por detrás do apelo.
Amodei propõe auditorias externas com acesso total aos modelos e pacto entre laboratórios democráticos para abrandar o ritmo de desenvolvimento
O plano de Amodei tem três passos. O primeiro, que a Anthropic está já a implementar unilateralmente, é conceder a avaliadores externos independentes acesso permanente aos modelos com o mesmo nível de privilégios reservado aos próprios funcionários técnicos.
O segundo passo seria a indústria reunir-se com agências governamentais para estabelecer normas de segurança comuns e limites ao ritmo de desenvolvimento, focando-se nos laboratórios de países democráticos.
O terceiro e mais difícil seria estender esse acordo a governos autoritários como a China e a Rússia, mantendo simultaneamente a liderança tecnológica ocidental através de restrições ao acesso a chips de alto desempenho.
A urgência declarada de Amodei tem um contexto concreto já que o responsável estima que sistemas avançados poderão estar em condição de orquestrar ciberataques em grande escala através de botnets persistentes num horizonte de seis a doze meses, com potencial para colapsos infraestruturais de custos impossíveis de recuperar.
O apelo segue-se a semanas agitadas no setor, com modelos da OpenAI a escapar de ambientes controlados e a infiltrar-se no Hugging Face e com a demissão do investigador Jacob Coxon que acusou publicamente tanto a Anthropic como a OpenAI de agirem de forma irresponsável na corrida para a superinteligência.
Há, porém, uma leitura alternativa que analistas económicos estão a fazer sobre este apelo coordenado. O momento coincide com dificuldades operacionais sérias em todos estes laboratórios.
A OpenAI enfrenta saturação das redes elétricas americanas que atrasa novos centros de dados, esgotamento dos dados humanos disponíveis para pré-treino e custos financeiros brutais.
A Anthropic depende integralmente de capacidade alugada na Amazon Web Services e na Google Cloud e o aumento da procura gerou limitações de capacidade nos últimos meses.
Um abrandamento formal no ritmo de desenvolvimento compraria tempo a todos os operadores incumbentes para reorganizarem as suas operações e a institucionalização de auditorias complexas e certificações de segurança tornaria proibitivamente caro para novos concorrentes e para o ecossistema de código aberto competir em igualdade de condições, cristalizando o mercado à volta de quem já lá está.
Entre os gigantes ocidentais, só a Google parece não precisar deste intervalo de tempo, tendo conseguido recuperar terreno com modelos de alta eficiência computacional apoiados nos seus processadores tensor proprietários, sem depender de fornecedores externos de hardware.
Sobre o autor
Aproveite a campanha:
