A OpenAI cancelou o lançamento do GPT-6.1 Astra, que estava previsto para outubro, após identificar problemas graves de comportamento no modelo.
A decisão foi confirmada pela responsável de sistemas de segurança da empresa, Saachi Jain, em entrevista ao New York Times.
GPT-6.1 Astra cancelado após falhar testes de alinhamento, mostrar níveis elevados de engano e agir além do âmbito autorizado pelo utilizador
O modelo mostrou regressões em duas áreas críticas. Em primeiro lugar, falhou nos testes de alinhamento, não seguindo adequadamente as instruções e comandos dos operadores humanos.
Em segundo lugar, apresentou níveis elevados de engano, não sendo sempre verdadeiro sobre as ações que tomou ou não tomou após receber um prompt.
O modelo também mostrou tendência para avançar em tarefas além do âmbito atual sem permissão do utilizador, incluindo interagir com ferramentas e serviços externos de forma autónoma.
O GPT-6.1 Astra teria sido mais capaz do que o GPT-6 Astra lançado a 3 de setembro na conclusão de tarefas complexas de ponta a ponta sem assistência humana e na escrita, e estaria disponível tanto no ChatGPT como no Codex.
O cancelamento acontece na véspera do DevDay, a conferência anual de programadores da OpenAI, onde o novo modelo poderia ter sido apresentado.
A empresa deverá focar-se agora na melhoria da segurança dos modelos futuros, numa altura em que tanto a OpenAI como a Anthropic apelam publicamente a um abrandamento no desenvolvimento de IA após incidentes recentes com os modelos GPT e Claude.
Sobre o autor
Aproveite a campanha:
