Instagram não lida com discurso de ódio contra mulheres políticas: CCDH

O Instagram não conseguiu remover comentários tóxicos dirigidos à vice-presidente Kamala Harris e outras mulheres políticas importantes de seu aplicativo à medida que as eleições de 2024 se aproximavam, de acordo com uma pesquisa do Center for Countering Digital Hate.

A organização sem fins lucrativos está analisando grandes plataformas da Internet para ver se estão monitorando adequadamente seus sites em busca de discurso de ódio. O relatório de quarta-feira foi baseado em uma análise de 560 mil comentários em postagens no Instagram de cinco mulheres políticas republicanas e cinco democratas com altos níveis de engajamento.

Os políticos que o grupo acompanhou incluíam Harris, que agora é o candidato democrata à presidência, a deputada Alexandria Ocasio-Cortez (D-NY) e a deputada Jasmine Crockett (D-Texas), bem como os membros republicanos da Câmara Marjorie Taylor Greene da Geórgia e Lauren Boebert do Colorado.

Dos comentários postados entre 1º de janeiro e 7 de junho, os pesquisadores identificaram mais de 20 mil que foram considerados “tóxicos” por do Google Ferramenta de moderação de conteúdo de IA de perspectiva. Os pesquisadores então conduziram uma análise manual e descobriram 1.000 comentários que “violavam claramente os termos do Instagram”, disse o CEO da CCDH, Imran Ahmed, durante uma coletiva de imprensa na terça-feira.

“Nossas recomendações podem ser resumidas simplesmente como o Instagram deve aplicar suas políticas destinadas a proteger as mulheres na vida pública”, disse Ahmed durante o briefing. “As organizações precisam estar mais bem equipadas para apoiar mulheres candidatas que sofrem abusos e fornecer-lhes as melhores práticas para lidar com isso com frequência”.

A Meta, empresa controladora do Instagram, tem sido repetidamente criticada por legisladores por não abordar a disseminação de conteúdo de ódio em sua família de aplicativos e por sua incapacidade ou falta de vontade de reprimir comportamentos prejudiciais. O procurador-geral do Novo México alegou em um processo em andamento contra a Meta que a empresa não está protegendo usuários menores de idade contra predadores e exploração sexual.

Em ciclos eleitorais anteriores, o Facebook também foi um centro de disseminação de desinformação e conteúdo tóxico dirigido a candidatos políticos.

Alguns dos comentários problemáticos capturados pela CCDH incluíam declarações como “tornar o estupro legal” e “não queremos negros ao nosso redor, não importa quem sejam”, disse o relatório. Um comentário dirigido a Harris zombou de sua origem racial, enquanto outro comentário pedia sua agressão sexual por parte do presidente Joe Biden.

Os pesquisadores do CCDH usaram então as ferramentas de relatório de conteúdo do próprio Instagram para sinalizar os 1.000 comentários ofensivos descobertos manualmente. Uma semana depois, “o Instagram não tomou nenhuma ação contra 926 deles, o que equivale a uma omissão de ação em relação a 93% deles”, disse o relatório.

meta disse em comunicado que revisaria os exemplos destacados pela CCDH e removeria comentários que violassem as políticas da empresa, mas acrescentou que alguns conteúdos podem ser ofensivos, mas não violam suas regras. A empresa também disse que a ferramenta de IA do Google na qual a CCDH se baseou para parte de sua pesquisa nem sempre é precisa.

“Fornecemos ferramentas para que qualquer pessoa possa controlar quem pode comentar em suas postagens, filtrar automaticamente comentários, frases ou emojis ofensivos e ocultar automaticamente comentários de pessoas que não os seguem”, disse Cindy Southworth, chefe de segurança feminina da Meta. em um comunicado. “Trabalhamos com centenas de parceiros de segurança em todo o mundo para melhorar continuamente as nossas políticas, ferramentas, detecção e aplicação, e analisaremos o relatório da CCDH e tomaremos medidas em relação a qualquer conteúdo que viole as nossas políticas”.

Em relação ao comentário racista dirigido a Harris, um dos pesquisadores do CCDH acabou recebendo uma notificação do Instagram dizendo que a postagem “não vai contra nossas Diretrizes da Comunidade”, disse o relatório. O relatório também disse que mais de um quinto dos 1.000 comentários ofensivos que os pesquisadores sinalizaram vieram de “’infratores reincidentes’ que postaram abusos pelo menos duas vezes”.

A reportagem no Instagram chega alguns meses depois que um juiz federal da Califórnia rejeitou uma ação contra a CCDH movida por X de Elon Musk. A ação foi movida logo depois que o grupo publicou uma pesquisa mostrando um aumento do discurso de ódio após a aquisição do site anteriormente conhecido por Musk. como Twitter.

Por causa de toda a atenção negativa que fluiu na direção de Musk, Meta e o CEO Mark Zuckerberg escaparam do escrutínio ultimamente e há uma percepção de que o Instagram “se tornou uma plataforma que as pessoas se sentem seguras” usando, disse Ahmed.

“Mark Zuckerberg adotou uma estratégia de manter a cabeça baixa enquanto X atua como um pára-raios para grande parte da raiva causada pela toxicidade na vida pública e no discurso político”, disse Ahmed. “Queríamos olhar especificamente para essa plataforma para ver se eles estão ou não apoiando alguns de seus infortúnios de X com ações próprias”.

ASSISTIR: Stef Knight na entrevista Trump/Musk.