Satya Nadella publicou uma longa reflexão no X sobre os riscos dos modelos de IA avançados e como a indústria deve responder a esses riscos.
A posição do CEO da Microsoft alinha-se com o crescente coro de vozes que pedem mais transparência e controlo sobre o desenvolvimento da IA.
Nadella defende travão de emergência para colocar em pausa ou desligar modelos de IA a qualquer momento
A posição central de Nadella é que já não é aceitável tratar a IA como um conjunto de caixas negras cujas respostas simplesmente aceitamos ou rejeitamos.
Em vez disso, defende um sistema mais transparente onde os modelos possam ser contidos e observados, deixando “evidências invioláveis e legíveis por humanos” das suas ações.
No ponto da contenção, Nadella vai ligeiramente mais longe do que outros na indústria ao defender que se deve assumir desde o início que qualquer modelo está comprometido e agir em conformidade.
A metáfora que usa é a de um travão de emergência com uma pessoa autorizada que deve sempre poder colocar em pausa ou desligar um modelo a meio de uma tarefa. Modelos mais avançados exigirão tecnologias de contenção mais avançadas que a indústria precisa de padronizar.
As restantes recomendações incluem divulgação atempada de incidentes, auditorias independentes e dados verificáveis, propostas que têm sido comuns entre os líderes da indústria nas últimas semanas num contexto de debate crescente sobre o ritmo do desenvolvimento da IA.
Sobre o autor
Aproveite a campanha:
