O Instagram falhou em agir em 93% dos comentários abusivos dirigidos a mulheres políticas, diz estudo

O Instagram não conseguiu remover 93% dos comentários abusivos dirigidos a mulheres políticas entre 1.000 exemplos sinalizados no aplicativo por provavelmente violarem suas regras, de acordo com um relatório divulgado na quarta-feira pela organização sem fins lucrativos Center for Countering Digital Hate.

O centro disse que coletou comentários abusivos neste verão das contas do Instagram de 10 mulheres em cargos públicos – cinco republicanas e cinco democratas. Ele disse que relatou os comentários por meio do aplicativo e voltou uma semana depois para encontrar a grande maioria deles ainda online.

Muitas das respostas abusivas deixadas pelo Instagram eram sexualmente degradantes ou incluíam ameaças violentas que provavelmente violavam Diretrizes da comunidade do Instagramde acordo com o centro. Alguns comentários incluíam linguagem explícita sobre estupro, ferimentos ou morte em relação às mulheres políticas, e o Instagram os deixou de lado, disse o centro.

Não está claro em 93% dos exemplos se o Instagram tomou medidas antes da remoção, por exemplo, classificando os comentários abusivos em uma posição inferior nas discussões para que menos pessoas os vissem.

A Meta, controladora do Instagram, disse que não tinha visto o relatório antes de seu lançamento, mas que analisaria os exemplos coletados pelo centro. Afirmou que removeria qualquer coisa que viole as regras, mas acrescentou que nem todos os comentários ofensivos são violações.

A empresa disse que seus sistemas são um trabalho em andamento.

“Fornecemos ferramentas para que qualquer pessoa possa controlar quem pode comentar em suas postagens, filtrar automaticamente comentários, frases ou emojis ofensivos e ocultar automaticamente comentários de pessoas que não os seguem”, disse Cindy Southworth, chefe de segurança feminina da Meta. em uma declaração enviada por e-mail.

“Trabalhamos com centenas de parceiros de segurança em todo o mundo para melhorar continuamente as nossas políticas, ferramentas, detecção e aplicação, e iremos rever o relatório da CCDH e tomar medidas em relação a qualquer conteúdo que viole as nossas políticas”, disse ela.

O relatório chega num momento potencialmente histórico para as mulheres na política, com a vice-presidente Kamala Harris a tentar tornar-se a primeira mulher presidente do país. Ela deverá enfrentar o ex-presidente Donald Trump nas eleições de novembro.

Harris estava entre as 10 mulheres que ocupavam cargos públicos cujas contas no Instagram foram examinadas pelo centro, e o Instagram não foi melhor na remoção de linguagem abusiva dirigida a ela, concluiu o relatório. O centro disse que 92% dos 105 comentários abusivos direcionados a Harris ainda estavam online uma semana depois de denunciá-los ao Instagram. O abuso incluiu comentários sexistas e racistas, disse o centro.

A campanha de Harris não respondeu imediatamente a um pedido de comentário sobre as conclusões. Os gabinetes de todas as mulheres políticas incluídas no relatório foram solicitados a comentar.

Os comentários abusivos e a aplicação inconsistente do Instagram ilustram o assédio que as mulheres muitas vezes enfrentam depois de decidirem concorrer a um cargo público, disse Imran Ahmed, CEO do Centro de Combate ao Ódio Digital.

“Eles procuram enviar uma mensagem às mulheres em geral: que elas não têm um lugar na vida pública”, disse ele sobre as pessoas que deixaram comentários.

“O abuso de mulheres pode dissuadir algumas pessoas de decidirem que a política é a carreira certa para elas”, disse ele.

Ahmed disse que o Instagram deveria aplicar suas políticas existentesincluindo proibições de discurso de ódio, discurso violento e discurso desumanizante, e ele disse que deveria ser mais transparente com os usuários sobre seu raciocínio ao decidir sobre possíveis violações de regras.

Ele disse que o centro concentrou o relatório no Instagram, e não em outros aplicativos de mídia social, porque é uma plataforma que “as pessoas consideram segura” e o centro queria testar se isso era verdade.

As respostas abusivas ainda eram uma minoria de comentários no Instagram, que possui sistemas automatizados para detectar alguns abusos e assédios. Cerca de 1 em cada 25 respostas a mulheres políticas no Instagram são provavelmente tóxicas, de acordo com a análise do centro de um conjunto de 421.361 comentários.

O Instagram afirma que detecta 98% dos discursos de ódio sobre os quais eventualmente toma medidas antes que alguém os denuncie, graças ao seu software de detecção automatizada.

Mas muitos dos comentários abusivos vêm de reincidentes, de acordo com o centro. Das 1.000 amostras examinadas pelos pesquisadores, 221 comentários vieram de contas que anteriormente tinham como alvo as mulheres políticas do estudo, afirmou.