Quando falamos com um assistente de inteligência artificial temos a sensação de que é uma troca privada entre nós e a máquina.
Documentos internos e conversas entre trabalhadores recolhidas recentemente pelo 404 Media mostram que, em plataformas como o Copilot da Microsoft, há com frequência pessoas reais a rever essas interações para garantir que a IA está a funcionar corretamente. E o que chegou às suas ecrãs perturbou-os profundamente.
Revisores humanos das conversas com IA relatam imagens de manipulação de fotografias sem consentimento e conteúdo que não podem parar
O trabalho destes revisores consiste em verificar se a IA fez exatamente o que lhe foi pedido, comparando a imagem original com a modificada sem qualquer tipo de censura.
Segundo os relatos, muito além dos pedidos de edição inofensivos, chegam pedidos de modificação de corpos e roupa em fotografias, sexualização de imagens e conteúdo que parece não ter qualquer tipo de consentimento das pessoas envolvidas.
Os revisores descrevem o trabalho como extremamente difícil também porque, na prática, não estão habilitados a travar estas solicitações. O seu papel é apenas avaliar se a IA executou corretamente o pedido.

Nada disto é tecnicamente um segredo. Os termos e condições da maioria destes serviços indicam claramente que as conversas podem ser sujeitas a revisão, tanto automatizada como humana, e não apenas quando é acionado algum alerta de segurança mas em qualquer interação.
Tratar a IA como um confidente capaz de guardar segredos é, à luz destes relatos, uma ideia muito má.



