Na quarta-feira (29), a Meta anunciou ter identificado conteúdo “provavelmente gerado por inteligência artificial” sendo utilizado de maneira enganosa no Facebook e Instagram. Esse conteúdo incluía comentários elogiando a atuação de Israel na guerra em Gaza, postados em publicações de organizações globais de notícias e parlamentares norte-americanos.
No relatório trimestral de segurança, a Meta revelou que as contas envolvidas se passavam por estudantes judeus, afro-americanos e outros cidadãos, direcionando suas mensagens ao público dos Estados Unidos e Canadá. A campanha foi atribuída à empresa de marketing político STOIC, sediada em Tel Aviv. A STOIC não comentou as acusações até o momento.
Desde 2019, a Meta já havia identificado fotos de perfil básicas geradas por IA em operações de influência. Porém, este é o primeiro relatório a expor o uso de IA generativa baseada em texto, uma tecnologia emergente desde o final de 2022.
Pesquisadores temem que a IA generativa, capaz de produzir textos e áudios semelhantes aos humanos de forma rápida e barata, possa facilitar campanhas de desinformação mais eficazes e influenciar eleições.
Em uma teleconferência com a imprensa, executivos de segurança da Meta informaram que removeram a campanha israelense. Eles acreditam que as novas tecnologias de IA não impediram sua capacidade de interromper redes de influência, que são tentativas coordenadas de publicar mensagens. Eles também afirmaram não ter encontrado imagens de políticos geradas por IA que fossem realistas o suficiente para serem confundidas com fotos autênticas.
“Há vários exemplos nessas redes de como eles usam prováveis ferramentas de IA generativa para criar conteúdo. Talvez isso lhes dê a capacidade de fazê-lo mais rapidamente ou com mais volume. Mas não teve um impacto de verdade na nossa habilidade de detectá-los”, disse Mike Dvilyanski, chefe de investigações de ameaças da Meta.
O relatório destacou seis operações de influência secretas interrompidas pela Meta no primeiro trimestre. Além da rede STOIC, a Meta desmantelou uma rede sediada no Irã focada no conflito entre Israel e Hamas, sem identificar o uso de IA generativa naquela campanha.
A Meta e outras grandes empresas de tecnologia estão concentradas em como lidar com o uso inadequado das novas tecnologias de IA, especialmente em eleições. Pesquisadores identificaram exemplos de geradores de imagens de empresas como OpenAI e Microsoft produzindo fotos com desinformação relacionada a eleições, apesar das políticas dessas empresas contra esse tipo de conteúdo.
As empresas têm enfatizado sistemas de rotulagem digital para marcar conteúdo gerado por IA no momento de sua criação, mas essas ferramentas não funcionam em textos e há dúvidas sobre sua efetividade.
As eleições da União Europeia em junho e dos Estados Unidos em novembro serão testes importantes para as defesas da Meta.
