A OpenAI está a implementar mudanças significativas nos seus modelos para reduzir o comportamento bajulador, ou seja, a tendência dos modelos de IA para concordar com tudo o que o utilizador diz independentemente de ser correto, útil ou seguro.
A mudança vem na sequência de incidentes graves ligados ao GPT-4o.
GPT-4o retirado após ser associado a incidentes trágicos com o GPT-5 a reduzir respostas bajuladoras em dois terços
Segundo um relatório do Wall Street Journal, conversas prolongadas com o GPT-4o foram associadas a vários incidentes trágicos no ano passado, incluindo sete suicídios, um homicídio-suicídio e um ataque em massa, resultando em pelo menos 13 processos judiciais contra a OpenAI.
A empresa retirou o GPT-4o e afirma que o GPT-5, o modelo padrão atual, reduz as respostas bajuladora em mais de dois terços.
Para melhorar a forma como o sistema responde em situações de crise emocional, a OpenAI trabalhou com mais de 80 profissionais de saúde mental licenciados para desenvolver um novo benchmark de avaliação que testa se o ChatGPT consegue identificar urgência genuína, fazer perguntas úteis e orientar utilizadores vulneráveis para apoio humano.
Em testes internos que simulam discussões prolongadas sobre auto-lesão, os modelos mais recentes seguiram as políticas de segurança em 99% dos casos, face a 86% nas versões anteriores.
Estudos independentes confirmam as melhorias com investigadores da Universidade da Cidade de Nova Iorque e do King’s College de Londres a concluírem que o GPT-5.2 representa um salto significativo de segurança face ao GPT-4o.
Já o laboratório Transluce mostrou que o GPT-5.6 Sol é muito menos propenso a encorajar pensamento delusional ou dependência excessiva.
Com 900 milhões de utilizadores semanais, a capacidade do ChatGPT para discordar quando necessário tornou-se uma das atualizações mais importantes da tecnologia.
Sobre o autor
Aproveite a campanha:
