A OpenAI revelou na quinta-feira que tomou medidas para cortar cinco operações sigilosas de influência (IO) originadas da China, Irã, Israel e Rússia que buscavam abusar das ferramentas de inteligência artificial (IA) para manipular o discurso público ou resultados políticos online, enquanto ocultavam suas verdadeiras identidades.
Essas atividades, detectadas ao longo dos últimos três meses, usaram seus modelos de IA para gerar comentários curtos e artigos mais longos em vários idiomas, criar nomes e bios para contas de mídias sociais, realizar pesquisas de código aberto, depurar código simples, traduzir e revisar textos.
A organização de pesquisa de IA disse que duas das redes estavam conectadas a atores na Rússia, incluindo uma operação anteriormente não documentada chamada de “Má Gramática” que usava principalmente pelo menos uma dúzia de contas no Telegram para direcionar audiências na Ucrânia, Moldávia, Estados Bálticos e nos EUA com conteúdo descuidado em russo e inglês.
Outra operação relacionada à Rússia correspondia à prolífica rede Doppelganger, que foi sancionada pelo Departamento do Tesouro dos EUA em março por se envolver em operações de influência cibernética.
As outras três operações estão listadas abaixo:
– Uma rede de origem chinesa conhecida como “Spamouflage”, que usou seus modelos de IA para pesquisar a atividade pública nas redes sociais; gerar textos em chinês, inglês, japonês e coreano para publicação em plataformas diversas; propagar conteúdo crítico contra dissidentes chineses e abusos contra nativos americanos nos EUA; e depurar código para gerenciar bancos de dados e sites.
– Uma operação iraniana conhecida como União Internacional da Mídia Virtual (IUVM), que usou seus modelos de IA para gerar e traduzir artigos longos, manchetes e tags de sites em inglês e francês para publicação subsequente em um site chamado iuvmpress[.]co.
– Uma rede chamada Zero Zeno, proveniente de uma ameaça israelense para contratar um ator, uma empresa de inteligência chamada STOIC, que usou seus modelos de IA para gerar e disseminar conteúdo anti-Hamas, anti-Catar, pró-Israel, anti-BJP e pró-Histadrut em várias plataformas, visando usuários no Canadá, EUA, Índia e Gana.
