Google proíbe projetos de treinamento de deepfake

O Google começou a banir os projetos envolvendo o treinamento de mecanismos de aprendizado de máquina para a criação de deepfakes na plataforma Colab, conforme relata o BleepingComputer nesta segunda-feira (30). As mudanças na política de uso do serviço teriam sido implementadas no início de maio.

Serviço de nuvem gratuito hospedado pela empresa de Mountain View, o Google Colaboratory permite que pesquisadores utilizem a linguagem Python diretamente do navegador, aproveitando diversos recursos de computação, incluindo GPUs. O objetivo é incentivar o desenvolvimento de projetos usando inteligência artificial (IA).

Essas características fazem com que a plataforma seja muito procurada para treinar modelos de deepfake, tecnologia conhecida por usar IA para a criação de vídeos falsos a partir da substituição de rostos e a adição de expressões faciais. O resultado é bastante realista e costuma ser utilizado na geração de conteúdos para entretenimento, mas também para a propagação de fake news.

Vídeos produzidos com a técnica deepfake podem enganar um grande número de pessoas.

Desenvolvedores que tentam treinar deepfake no Google Colab estão relatando a exibição de uma mensagem de erro informando sobre a execução de “código não permitido”. A plataforma alerta ainda que a insistência pode trazer restrições futuras ao pesquisador, além de recomendar a leitura das diretrizes do serviço.

Projetos proibidos no Google Colab

Não se sabe o que motivou a gigante da tecnologia a proibir o uso de deepfakes no Colab, mas há relatos de que a plataforma vinha sendo utilizada para a produção desse tipo de conteúdo em larga escala. Dessa forma, as mudanças nos termos de uso devem trazer um impacto significativo no universo dos vídeos falsos.

Além de deepfakes, a ferramenta colaborativa da Google proíbe a utilização dos recursos gratuitos para o desenvolvimento de projetos de mineração de criptomoedas, download de torrents e quebra de senhas. Trabalhos envolvendo a execução de ataques de negação de serviço e para contornar restrições de acesso também não são permitidos.