Com a criação de vídeos e imagens por IA a serem cada vez mais realistas, é importante desenvolver ferramentas que permitam distinguir entre o real e o criado digitalmente.
A Google anunciou agora que está preocupada com esta realidade, tendo agora dotado o Gemini de uma funcionalidade que nos diz quando um vídeo é ou não real.
Agora pode identificar os vídeos criados com IA no Gemini
O Gemini ganhou uma nova capacidade relevante no combate à desinformação. Agora, e capaz de detetar vídeos criados com IA.
Esta funcionalidade já está integrada tanto na aplicação móvel como na versão web do Gemini, embora com uma limitação importante, apenas consegue identificar vídeos que incluam a marca digital da própria Google para conteúdos gerados por inteligência artificial.
Esta tecnologia baseia-se no SynthID, um sistema desenvolvido pela Google DeepMind e apresentado em 2023, que permite inserir uma marca invisível em conteúdos criados por IA.
Até agora, o Gemini apenas conseguia reconhecer imagens geradas artificialmente, mas passa agora a analisar também vídeos. O utilizador pode simplesmente enviar um vídeo para o assistente e perguntar se foi criado com IA, sendo que o Gemini analisa o conteúdo e responde em conformidade.
Nesta fase, a deteção está limitada a vídeos com até 90 segundos de duração e um tamanho máximo de 100 MB. A funcionalidade já se encontra disponível para todos os utilizadores do Gemini, em qualquer idioma, sem necessidade de ativar opções adicionais.
A importância desta novidade é evidente. A qualidade do conteúdo gerado por inteligência artificial tem evoluído rapidamente, sobretudo no campo do vídeo, tornando cada vez mais difícil distinguir o que é real do que é criado digitalmente.
Ferramentas como esta podem desempenhar um papel crucial na verificação de conteúdos e no combate à propagação de informação falsa, especialmente num contexto em que vídeos manipulados podem ter impacto social, político ou mediático significativo.
Ainda assim, existe uma limitação clara. O Gemini só consegue identificar vídeos que tenham sido criados com ferramentas que utilizem o SynthID.
Isto significa que conteúdos gerados por outras plataformas de IA, que não incluam esta marca, passam despercebidos ao sistema. Apesar disso, a Google tem uma ambição clara de transformar o SynthID num padrão da indústria.
Nesse sentido, a NVIDIA já confirmou que irá integrar o SynthID nas suas próprias ferramentas e produtos, tornando-se a primeira grande empresa externa a adotar esta tecnologia.
Quanto maior for a adesão por parte da indústria, maior será a eficácia deste tipo de deteção, abrindo caminho para um futuro em que identificar conteúdos artificiais seja mais simples, fiável e acessível para todos.
Sobre o autor
Aproveite a campanha:
