Comissão do Senado deve votar regulamentação da IA nesta terça (9/7)

A comissão temporária de inteligência artificial (CTIA) deverá votar nesta terça-feira (7/9) o projeto de lei que regulamenta o tema (IA) no Brasil. Na quinta-feira (7/4), o relator, Eduardo Gomes (PL-TO), leu o Suplemento de Votação do texto alternativo ao Projeto de Lei (PL) 2338/2023, de autoria do senador Rodrigo Pacheco (PSD-MG). A matéria seria votada em seguida, mas a deliberação foi adiada devido a uma atualização do relatório.

Leia também: Desvio de joias de Bolsonaro foi de R$ 6,8 milhões, afirma PF em errata

Com o adiamento, a votação da matéria, e de outras nove propostas que tramitam em conjunto, estava marcada para começar às 10h desta terça. A CTIA é o único colegiado a analisar o projeto antes de ir ao plenário, portanto, se aprovado, o texto poderá ir à Câmara Alta para análise antes do recesso, que começa no dia 18 de julho.

A proposta estabelece princípios e direitos relativos à IA no país, bem como regras para uso, implementação e fiscalização da tecnologia de acordo com o risco que a atividade representa. O projeto procura “proteger os direitos fundamentais” e garantir “sistemas seguros e fiáveis” e assenta na “centralidade da pessoa humana”, ou seja, prevê que, para qualquer criação feita com recurso à inteligência artificial, é necessário, primeiro , observar se atende aos interesses da população e quais benefícios serão conferidos.

Entre as regras previstas está a proibição do uso, desenvolvimento e implementação de sistemas de IA que induzam comportamentos de pessoas ou grupos de forma que cause danos à saúde; explorar quaisquer vulnerabilidades de pessoas ou grupos; possibilitar a produção, divulgação ou facilitar a criação de material que caracterize ou represente abuso ou exploração sexual de crianças e adolescentes; sistemas de armas autônomos (SAA); entre outros.

Projeto

O projeto também proíbe o uso da ferramenta dentro do poder público, mais especificamente de segurança pública quando o objetivo é capturar e identificar criminosos. A matéria proíbe a utilização de sistemas “que avaliem traços de personalidade, características ou comportamentos passados, criminosos ou não, de indivíduos ou grupos, para avaliar o risco de prática de crimes, infrações ou reincidência”.

Ferramentas para efeitos de identificação biométrica remota em tempo real e de espaços públicos; investigação ou processo penal; busca de vítimas de crimes, pessoas desaparecidas ou em circunstâncias que envolvam ameaça grave e iminente à vida ou à integridade física de pessoas físicas; crime flagrante punível com pena privativa de liberdade superior a dois anos; e também foram proibidas a recaptura de réus foragidos, a execução de mandados de prisão e de medidas restritivas ordenadas pelo Poder Judiciário.

Esses sistemas foram incluídos nos parâmetros considerados pelo projeto como “risco excessivo”. A proposta cria diferentes regras para faixas regulatórias definidas de acordo com o risco à sociedade, além daquelas que são proibidas, a matéria divide as possibilidades de utilização da IA ​​entre “alto risco”, que será controlado por meio de regras mais rígidas; ou nenhuma das duas categorias, recebendo assim padrões mais brandos. Para determinar o risco, um sistema de IA deve passar por uma avaliação preliminar realizada pelos próprios desenvolvedores, fornecedores ou operadores.

Os sistemas de alto risco são permitidos, mas estarão sujeitos a regras mais rigorosas do que os sistemas normais de IA. O texto prevê a necessidade de registro das operações realizadas, testes de confiabilidade e elaboração de uma “avaliação algorítmica de impacto” sobre direitos fundamentais a ser entregue aos órgãos de fiscalização. É o caso dos veículos autônomos; sistemas que auxiliam em diagnósticos ou procedimentos médicos; uso de IA na aplicação da lei, entre outros.