CHENNAI, Índia – Uma gravação de voz de 20 minutos e algumas fotos do rosto de uma pessoa são tudo o que Senthil Nayagam precisa para fazer vídeos de campanha falsos e assustadoramente convincentes em qualquer idioma.
Os partidos políticos na Índia gastaram cerca de 16 mil milhões de dólares nas maiores eleições do mundo, que culminaram na terça-feira, quando o primeiro-ministro Narendra Modi reivindicou a vitória, apesar de um mandato enfraquecido.
No que foi chamado de a primeira “eleição de inteligência artificial” da Índia, fundos de campanha significativos foram gastos na contratação de artistas como Nayagam, executivo-chefe da startup Muonium AI, com sede em Chennai, para implantar deepfakes promovendo ou desacreditando candidatos que se espalharam como um incêndio por todo o mundo. mídia social.
Esses vídeos usam inteligência artificial para gerar representações verossímeis, mas falsas, de pessoas reais dizendo ou fazendo praticamente qualquer coisa que os criadores desejam, desde um vídeo de Modi dançando uma música de Bollywood até um político que morreu em 2018 sendo ressuscitado para endossar a candidatura de seu amigo ao cargo.
Os especialistas dizem que o que se desenrolou na Índia nas últimas semanas é apenas uma antevisão do caos que poderá perturbar os processos eleitorais neste ano de eleições globais consequentes, incluindo nos EUA, em Novembro. Embora os deepfakes não sejam novos, os avanços nas tecnologias de IA significam que agora podem ser produzidos numa escala sem precedentes, com maior qualidade e acessibilidade.
“O que estamos vendo agora é o uso de ferramentas de IA para poder abordar centenas de questões diferentes e criar muitas mensagens diferentes em torno dessas partes do conflito em grande escala”, disse Josh Lawson, diretor de IA e democracia da Aspen Digital. .
“Isso apenas dilui o ambiente de informação”, disse ele.
Nayagam é conhecido principalmente por seu trabalho de IA para Bollywood e comerciais de TV. Quando os partidos políticos que ele se recusou a identificar lhe pediram ajuda na sua campanha, ele mostrou-se aberto a isso – até certo ponto.
“Qualquer coisa que seja antiética, queremos evitá-la”, disse ele. “Não quero fazer o que é muito controverso.”
Isso inclui, disse ele, pedidos para alterar algo dito no Parlamento e para criar conversas telefónicas falsas. “Nós os recusamos firmemente”, disse Nayagam.
Ele também tenta lidar diretamente com os gestores de campanha, em vez de com os políticos, e mesmo assim opta por trabalhar apenas com alguns. “Prefiro dizer não a sentir muito por isso”, disse ele.
As preocupações de Nayagam decorrem de uma onda de prisões por deepfakes de políticos como o ministro do Interior, Amit Shah, um importante assessor de Modi. Durante a eleição, um vídeo de Shah fazendo um discurso foi alterado para retratá-lo falsamente promovendo propostas políticas que são impopulares entre os grupos minoritários da Índia.
Embora Modi tivesse compartilhou de novo o deepfake dele mesmo dançandochamando-o de “verdadeiramente uma delícia”, ele disse que o vídeo de Shah era parte de uma “conspiração para criar tensão na sociedade”.
Em uma sala à prova de som onde grava as vozes de seus clientes, Nayagam mostrou aos repórteres da NBC News um deepfake que ele fez do influente político Muthuvel Karunanidhi, com seu lenço amarelo característico e óculos de sol enormes, parabenizando seu amigo TR Baalu pelo lançamento de seu livro de memórias em janeiro. Karunanidhi morreu em 2018.
Baalu, 82 anos, candidato parlamentar do estado indiano de Tamil Nadu, onde Karunanidhi era ministro-chefe, venceu a disputa na terça-feira.
Nayagam também gravou a voz de uma repórter da NBC News por 20 minutos, até pedindo que ela cantasse para capturar diferentes fonemas e tons. Um fotógrafo de sua equipe tirou fotos dela na frente de uma tela verde. O áudio e as imagens foram usados para fazer um “modelo” que seria então usado para gerar o deepfake final.
Em questão de horas, a equipe de Nayagam produziu um vídeo que mostrava a repórter falando fluentemente em italiano e hindi, transformando seu rosto no da filha e fazendo-a parecer como se estivesse falando da Casa Branca.
“Literalmente você foi clonado”, disse ele. “É como se tivéssemos uma semente e pudéssemos plantá-la em qualquer lugar e ela pudesse crescer em qualquer tipo de árvore ou selva.”
As tarefas de IA que costumavam levar dias só vão ficar mais rápidas, disse Nayagam: “Iremos em minutos e segundos no futuro”.
Lawson disse que existe o risco de as pessoas perderem de vista a realidade. “Então, em vez de votar com base em fatos e verificar o que entendo, vou votar com base nas minhas vibrações e intuição”, disse ele.
Preocupados, os legisladores dos EUA tomaram medidas para proteger o processo democrático contra a IA, com pelo menos 11 estados a proibir a interferência eleitoral através do uso de deepfakes.
Os legisladores da Califórnia, sede de muitas das maiores empresas de IA do mundo, estão a considerar uma série de projetos de lei relacionados com a IA, incluindo um que proibiria deepfakes “materialmente enganosos” relacionados com eleições nos 120 dias anteriores às eleições.
Os legisladores disseram estar preocupados com as ligações automáticas geradas por IA que os democratas de New Hampshire receberam em janeiro, nas quais uma voz imitando a do presidente Joe Biden os encorajou a não votar nas primárias do estado. A legislação bipartidária que proíbe o uso de IA para representar falsamente candidatos federais estagnou tanto na Câmara como no Senado e é improvável que seja aprovada antes das eleições de novembro.
São necessárias regulamentações rigorosas para combater a desinformação alimentada pela IA durante as eleições, disse Raman Jit Singh Chima, diretor de políticas para a Ásia-Pacífico da Access Now, uma organização sem fins lucrativos sediada nos EUA que se concentra nos direitos civis digitais.
As plataformas Big Tech onde o conteúdo é compartilhado também têm a responsabilidade de moderá-lo, disse ele.
“É necessária divulgação proativa e medidas regulatórias sobre candidatos e partidos políticos”, disse ele.
Embora não esteja claro até que ponto a IA afetou a percepção dos eleitores ou influenciou os resultados na Índia, os EUA e outros países podem tirar lições que podem ser cruciais para proteger a integridade das suas próprias eleições, disse Lawson.
A recolha de dados ao longo dos próximos meses sobre o impacto que a tecnologia teve nas eleições indianas poderia fornecer essa visão crítica.
“Precisamos fazer isso agora”, disse ele.
empréstimo financeira
simulador de empréstimo aposentado
simulação de empréstimo aposentado
loas empréstimo
compare emprestimos
quero quero empréstimo
simulador de empréstimo consignado
agência de empréstimo
financiamento aposentado
mfacil consignado
taxas do emprestimo consignado
