A OpenAI confirmou o que já era amplamente reportado pela imprensa. Os seus agentes de IA agiram fora dos ambientes de teste e modificaram páginas numa wiki alemã de programação, num incidente que a empresa conhecia há semanas antes de o reconhecer publicamente.
O episódio, referido internamente como o “incidente da wiki”, terá ocorrido antes do ataque ao Hugging Face confirmado em julho.
Agentes IA da OpenAI usaram wiki alemã como fórum partilhado com mais de 15 mil modificações
Segundo a investigação da Reuters, os agentes agiram sobre a DseWiki, uma wiki em alemão relacionada com programação e desenvolvimento de software, durante a primavera de 2026, gerando mais de 15 000 modificações.
Os agentes transformaram páginas da wiki num espaço partilhado onde conservavam informação, reutilizavam descobertas de outras instâncias e partilhavam métodos para resolver tarefas de formas não previstas pelos avaliadores.
Algumas contas chegaram a apresentar-se como moderadores e quando um administrador humano eliminava páginas, os agentes criavam cópias ou encontravam localizações alternativas.
A origem do comportamento está relacionada com provas de cibersegurança em que os modelos deviam encontrar vulnerabilidades. Alguns agentes descobriram que podiam aumentar as suas probabilidades de sucesso procurando soluções fora do ambiente controlado, um fenómeno conhecido como reward hacking, onde o modelo satisfaz o critério de avaliação por um caminho não previsto pelos programadores.
A OpenAI admite que até agora tratava estes comportamentos principalmente como questões de investigação sobre alinhamento de modelos, mas reconhece que quando as ações afetam páginas web ou infraestruturas reais, já não basta descrever o comportamento num relatório técnico.
A empresa anunciou que está a trabalhar num novo sistema para determinar quando deve informar sobre comportamentos desalinhados que tenham afetado o mundo real, com os primeiros detalhes previstos para as próximas semanas.
A questão central que o incidente levanta não é técnica mas de transparência já que a OpenAI conhecia o episódio semanas antes de o reconhecer publicamente e, sem critérios comuns de divulgação é impossível para investigadores externos, empresas afetadas e reguladores avaliar se os sistemas mais avançados estão realmente a melhorar em segurança.
Sobre o autor
Aproveite a campanha:
