Empresas de IA se comprometem a combater deepfakes de pornografia

Empresas de inteligência artificial, entre as quais algumas gigantes da tecnologia, se comprometeram a tomar medidas para combater o abuso sexual baseado em imagens, incluindo deepfakes geradas por IA. O anúncio foi feito pela Casa Branca na quinta-feira (12).

O acordo intermediado pelo governo dos Estados Unidos faz parte de uma campanha contra a disseminação de imagens íntimas não consensuais de adultos e materiais de abuso sexual infantil. Segundo a administração de Joe Biden, o compartilhamento de tais conteúdos disparou, trazendo graves consequências para mulheres, crianças e pessoas LGBTQI+.

• Leia também: Quais são os impactos da deepfake na vida da vítima?

Os avanços promovidos pelas ferramentas de IA também têm sido aproveitados na geração de imagens falsas de conteúdo explícito.Fonte:  Getty Images/Reprodução 

Responsável pelo ChatGPT, a OpenAI foi uma das fornecedoras que firmaram acordo, voluntariamente, para remover imagens de nudez dos conjuntos de dados utilizados para o treinamento de IA, “quando apropriado e dependendo do propósito do modelo”, como afirma o comunicado. A Anthropic, dona do Claude, fez a mesma promessa.

Além delas, o compromisso foi assumido por Microsoft, Adobe e Cohere, assim como a plataforma de rastreamento de dados Common Crawl. Esta última disse que vai obter seus conjuntos de informações de forma responsável e os protegerá contra o abuso sexual baseado em imagens, porém não foi incluída nos demais tópicos.

Outras iniciativas

A administração federal dos EUA destacou, ainda, outras iniciativas para reduzir os riscos de que as plataformas de IA gerem imagens abusivas. O GitHub, por exemplo, começou a proibir o compartilhamento de ferramentas que incentivem, promovam ou apoiem a criação de imagens íntimas não consensuais.

Por sua vez, a Meta impediu a promoção de apps e serviços que gerem tais conteúdos em suas plataformas, além de ter removido milhares de contas do Instagram envolvidas em golpes de sextorsão. Já a Snap se comprometeu a disponibilizar recursos para denúncias e auxílio às vítimas de deepfakes de pornografia.

• Saiba mais: Criminosos estão usando o Telegram para espalhar pornô deepfake de brasileiras

O Google também anunciou iniciativas na área, incluindo atualizações na busca para diminuir a exibição de imagens falsas de conteúdo explícito nos resultados. A gigante de Mountain View ainda prometeu facilitar a remoção desses materiais após solicitação das vítimas.