Departamentos de polícia estão usando IA para escrever relatórios de crimes

Com a aplicação da lei focada na redução das taxas de criminalidade e nas pressões orçamentais, ao mesmo tempo que recrutam e retêm pessoal, as empresas tecnológicas estão a ter algum sucesso inicial na venda de ferramentas de inteligência artificial aos departamentos de polícia, especialmente para aliviar a carga do trabalho administrativo.

Axônioamplamente reconhecida pelos seus dispositivos Taser e câmaras corporais, foi uma das primeiras empresas a introduzir a IA especificamente para a tarefa policial mais comum: a elaboração de relatórios. Sua ferramenta, Draft One, gera narrativas policiais diretamente do áudio da câmera corporal do Axon. Atualmente, a IA está sendo pilotada por 75 policiais de vários departamentos de polícia, incluindo Fort Collins, Colorado; Lafayette, Indiana; e East Palo Alto, Califórnia.

O CEO da Axon, Rick Smith, disse que ela está restrita à elaboração de relatórios apenas para incidentes menores, para que as agências possam se sentir confortáveis ​​com a ferramenta antes de expandir para casos mais complexos. O feedback inicial, acrescentou, indica que o primeiro rascunho reduz o tempo de redação do relatório em mais de 60%, reduzindo potencialmente o tempo médio de conclusão do relatório de 23 minutos para apenas 8 minutos.

“As horas economizadas chegam a cerca de 45 horas por policial por mês”, disse o sargento Robert Younger, do Departamento de Polícia de Fort Collins, um dos primeiros a adotar a ferramenta. “Quando o testei pela primeira vez, fiquei absolutamente chocado, porque o rascunho do relatório era incrivelmente preciso. Não havia quaisquer suposições ou suposições sobre o que alguém estava pensando ou sentindo ou parecia ou algo parecido. A informação fornecida naquele O rascunho do relatório era um relatório muito bem escrito e equilibrado, em ordem cronológica, baseado em fatos, com uma introdução e um resultado”, disse ele, acrescentando que o rascunho foi produzido em menos de 10 segundos.

Advogados estão preocupados com relatórios de IA no tribunal

No entanto, à medida que a IA ganha força no trabalho policial, os peritos jurídicos levantam preocupações sobre a precisão, a transparência e o potencial preconceito – desafios que podem moldar significativamente o futuro da IA, tanto no policiamento como nos tribunais. Grande parte do impacto, no entanto, depende do grau de confiança nestas ferramentas e da forma como são implementadas.

“Apesar de todos os problemas potenciais que a tecnologia de IA cria em termos de admissibilidade de provas, em termos de ser completamente transparente, em termos de tentar mitigar os preconceitos que podem ser introduzidos no sistema, simplesmente não sei se vale a pena isso”, disse a senadora do estado de Utah, Stephanie Pitcher, advogada de defesa da Parker & McConkie.

Embora Pitcher e outros especialistas concordem que a IA nas denúncias policiais pode oferecer benefícios, ela deve ser usada com protocolos claros e supervisão cuidadosa para garantir a precisão.

“Se o policial vai contar com inteligência artificial [to draft the report]esse relatório deve ser revisado”, disse o advogado de julgamento de Nova York, David Schwartz. “O policial deveria assinar e atestar que os fatos são verdadeiros, tanto quanto é do seu conhecimento. Então, se você tem tudo isso, deveria ser admissível. Mas poderia criar muitos, muitos problemas para o policial e para a promotoria no julgamento. [during cross-examination].”

O Draft One da Axon possui salvaguardas integradas que exigem que os oficiais revisem e assinem cada relatório antes do envio, de acordo com Smith. O sistema também inclui controles, como espaços reservados para informações importantes que os policiais devem editar, garantindo que nenhum detalhe crítico seja esquecido. E além da revisão do oficial, o relatório passa por vários níveis de supervisão humana por parte de supervisores, relatores e outros para garantir que atenda aos padrões da agência antes de ser finalizado.

Mesmo assim, alguns membros da aplicação da lei – como Keith Olsen, um detetive reformado de Nova Iorque e presidente e CEO da empresa de consultoria KO Solutions & Strategies, que aconselha associações policiais – não vêem os benefícios da utilização de IA para relatórios policiais.

“Parece que estamos tentando resolver um problema que simplesmente não existe”, disse Olsen. “Não demora muito para escrever um relatório policial, e acho que isso vai perder a perspectiva do policial, e o policial ainda tem que adicionar coisas, deletar coisas. . E se você conseguir um advogado de defesa inteligente, posso ver todos os tipos de problemas nisso.

Os concorrentes da Axon, Truleo e 365 Labs, estão posicionando suas ferramentas de IA como auxílios focados na qualidade para os oficiais, em vez de economizadores de tempo.

A Truleo, que lançou sua tecnologia de IA para narrativas geradas automaticamente em julho, captura notas de voz gravadas em tempo real do policial em campo, em vez de depender de imagens de câmera corporal como a Axon. “Acreditamos que o ditado e a IA de conversação são a maneira mais rápida, ética e responsável de gerar relatórios policiais. Não apenas converter um vídeo da câmera corporal em um relatório. Isso é um absurdo. Estudos mostram isso não salva os oficiais em momento algum”, disse o CEO da Truleo, Anthony Tassone.

Enquanto isso, o 365Labs usa IA principalmente para correção gramatical e de erros, com o CEO Mohit Vij observando que o julgamento humano continua essencial para relatórios que envolvem interações complexas. “Se for roubo ou agressão, estes são assuntos sérios”, disse Vij. “Leva tempo para escrever relatórios policiais, e alguns que ingressam na força policial estão lá porque querem servir as comunidades e escrever não é o seu forte. Por isso, nos concentramos na formulação de frases e na gramática”.

Precisão nas investigações criminais

Cassandra Burke Robertson, diretora do Centro de Ética Profissional da Faculdade de Direito da Universidade Case Western Reserve, tem reservas sobre a IA em relatórios policiais, especialmente quando se trata de precisão.

“Os programas de IA generativa são essencialmente ferramentas de previsão de texto. Podem gerar texto plausível rapidamente, mas a explicação mais plausível muitas vezes não é a explicação correta, especialmente em investigações criminais”, disse ela, destacando a necessidade de transparência nos relatórios gerados por IA.

Ainda assim, ela diz: “Não acho que o gênio volte para a garrafa. As ferramentas de IA são úteis e farão parte da vida daqui para frente, mas eu gostaria de mais do que apenas uma simples garantia de que os relatórios foram totalmente examinados e verificados .”

No tribunal, os relatórios policiais gerados por IA podem introduzir complicações adicionais, especialmente quando se baseiam apenas em imagens de vídeo em vez de ditados oficiais. Schwartz acredita que, embora os relatórios de IA possam ser admissíveis, eles abrem a porta para um intenso interrogatório. “Se houver alguma discrepância entre o que o oficial recorda e o que o relatório da IA ​​mostra, é uma oportunidade para a defesa questionar a fiabilidade do relatório”, disse ele.

Este potencial de inconsistência pode criar uma perceção de preguiça ou falta de diligência se os agentes confiarem demasiado na IA e não realizarem revisões completas.

O advogado Adam Rosenblum, de Nova Jersey, disse que as “alucinações” – casos em que a IA gera informações imprecisas ou falsas – que podem distorcer o contexto são outro problema. Os tribunais podem precisar de novos padrões para exigir documentação detalhada e transparente do processo de tomada de decisão da IA ​​antes de permitir que os relatórios se tornem evidências”, disse ele. Tais medidas, acrescentou ele, poderiam ajudar a salvaguardar os direitos do devido processo nos casos em que os relatórios gerados pela IA entram em conflito. jogar.

Axon e Truleo confirmaram que seus relatórios gerados automaticamente incluem um aviso de isenção de responsabilidade.

“Acho que provavelmente é uma opinião uniforme de muitos advogados que se estamos complicando algo ou introduzindo desafios potenciais à inadmissibilidade, simplesmente não vale a pena”, saiu Pitcher.

Mas o sargento Younger, de Fort Collins, permanece otimista: “O que é crucial entender em qualquer coisa que envolva IA é que se trata de um processo”, disse ele. “Oficiais me disseram que isso faz a diferença entre decidir se devem ou não continuar na aplicação da lei, porque a única coisa com a qual eles não contavam quando se tornaram policiais era a enorme quantidade de funções administrativas, e isso não é necessariamente pelo que eles se inscreveram.”