A OpenAI publicou um artigo assinado por Sam Altman e pelo cientista-chefe Jakub Pachocki onde propõe a criação de padrões técnicos comuns para os modelos de IA de fronteira, num momento em que os principais laboratórios americanos parecem estar a mudar de posição sobre o ritmo do desenvolvimento da inteligência artificial.
OpenAI propõe supervisão neutra e padrões internacionais para evitar que a IA se melhore a si própria sem controlo humano
O ponto central da proposta é o conceito de automelhoria recursiva com a possibilidade de um modelo de IA adquirir a capacidade de melhorar as suas próprias habilidades, gerando versões mais avançadas de si mesmo sem intervenção humana.
A OpenAI reconhece que esta capacidade ainda não existe, mas adverte que à medida que o grau de automatização aumenta, também aumenta a velocidade de progresso da IA, tornando cada vez mais urgente ter salvaguardas em vigor antes de essa capacidade ser atingida.
A solução proposta passa por criar padrões técnicos comuns onde a segurança, as avaliações e a gestão de incidentes não dependam apenas dos laboratórios e dos países onde operam, mas de uma supervisão neutra que aproveite o trabalho já realizado pelos institutos de segurança de IA existentes.
A proposta inclui ainda um protocolo para identificar incidentes causados por modelos de fronteira que devem ser notificados às autoridades e mecanismos de cooperação internacional para responder a esses cenários.
O artigo chega numa semana em que Jakub Pachocki publicou um texto intitulado “Uma mente alienígena” onde expressou preocupações profundas sobre o desenvolvimento vertiginoso da IA, e dias depois da Anthropic, a OpenAI e a xAI se terem alinhado publicamente em torno de um pedido de abrandamento coordenado do desenvolvimento. O maior obstáculo para que estas propostas tenham impacto real continua a ser a ausência da China neste alinhamento, sem a qual qualquer acordo de padrões comuns terá alcance limitado.
Sobre o autor
Aproveite a campanha:
