Governador da Califórnia veta projeto de lei para criar medidas de segurança de IA pioneiras no país

O governador da Califórnia, Gavin Newsom, vetou no domingo um projeto de lei histórico que visa estabelecer medidas de segurança pioneiras no país para grandes modelos de inteligência artificial.

A decisão é um grande golpe para os esforços que tentam controlar a indústria local, que está a evoluir rapidamente com pouca supervisão. O projeto de lei teria estabelecido algumas das primeiras regulamentações sobre modelos de IA em grande escala no país e abriria caminho para regulamentações de segurança de IA em todo o país, disseram os defensores.

No início deste mês, o governador democrata disse numa audiência na Dreamforce, uma conferência anual organizada pela gigante do software Salesforce, que a Califórnia deve liderar a regulamentação da IA ​​face à inacção federal, mas que a proposta “pode ter um efeito inibidor na indústria”.

A proposta, que atraiu forte oposição de startups, gigantes da tecnologia e vários membros democratas da Câmara, poderia ter prejudicado a indústria local ao estabelecer requisitos rígidos, disse Newsom.

“Embora bem-intencionado, o SB 1047 não leva em consideração se um sistema de IA é implantado em ambientes de alto risco, envolve tomada de decisões críticas ou o uso de dados confidenciais”, disse Newsom em comunicado. padrões rigorosos até mesmo para as funções mais básicas – desde que um grande sistema os implemente. Não acredito que esta seja a melhor abordagem para proteger o público das ameaças reais representadas pela tecnologia.”

Em vez disso, Newsom anunciou no domingo que o estado fará parceria com vários especialistas do setor, incluindo o pioneiro da IA ​​Fei-Fei Li, para desenvolver proteções em torno de modelos poderosos de IA. Li se opôs à proposta de segurança da IA.

A medida, destinada a reduzir os riscos potenciais criados pela IA, teria exigido que as empresas testassem os seus modelos e divulgassem publicamente os seus protocolos de segurança para evitar que os modelos fossem manipulados para, por exemplo, destruir a rede eléctrica do estado ou ajudar a construir armas químicas. Especialistas dizem que esses cenários podem ser possíveis no futuro, à medida que a indústria continua a avançar rapidamente. Também teria fornecido proteção aos denunciantes aos trabalhadores.

O autor do projeto de lei, o senador estadual democrata Scott Weiner, chamou o veto de “um revés para todos que acreditam na supervisão de grandes corporações que estão tomando decisões críticas que afetam a segurança e o bem-estar do público e o futuro do planeta”.

“As empresas que desenvolvem sistemas avançados de IA reconhecem que os riscos que estes modelos apresentam ao público são reais e aumentam rapidamente. Embora os grandes laboratórios de IA tenham assumido compromissos admiráveis ​​para monitorizar e mitigar estes riscos, a verdade é que os compromissos voluntários da indústria não são aplicáveis ​​e raramente funcionam bem para o público”, disse Wiener num comunicado no domingo à tarde.

Wiener disse que o debate em torno do projeto de lei avançou dramaticamente a questão da segurança da IA ​​e que ele continuaria a insistir nesse ponto.

A legislação está entre uma série de projetos de lei aprovados pelo Legislativo este ano para regulamentar a IA, combater deepfakes e proteger os trabalhadores. Os legisladores estaduais disseram que a Califórnia deve tomar medidas este ano, citando duras lições que aprenderam ao não controlar as empresas de mídia social quando poderiam ter tido uma chance.

Os proponentes da medida, incluindo Elon Musk e Anthropic, disseram que a proposta poderia ter injetado alguns níveis de transparência e responsabilidade em torno de modelos de IA em grande escala, já que desenvolvedores e especialistas dizem que ainda não têm uma compreensão completa de como os modelos de IA se comportam e por que.

O projeto de lei visava sistemas que exigem mais de US$ 100 milhões para serem construídos. Nenhum modelo atual de IA atingiu esse limite, mas alguns especialistas dizem que isso pode mudar no próximo ano.

“Isso se deve ao enorme aumento do investimento na indústria”, disse Daniel Kokotajlo, um ex-pesquisador da OpenAI que renunciou em abril devido ao que considerou o desrespeito da empresa pelos riscos de IA. “É uma quantidade absurda de poder ter qualquer empresa privada controlando inexplicavelmente, e também é incrivelmente arriscado.”

Os Estados Unidos já estão atrás da Europa na regulamentação da IA ​​para limitar os riscos. A proposta da Califórnia não era tão abrangente como as regulamentações na Europa, mas teria sido um bom primeiro passo para estabelecer barreiras à tecnologia em rápido crescimento que está a suscitar preocupações sobre a perda de empregos, a desinformação, as invasões de privacidade e os preconceitos de automação, disseram os seus apoiantes.

Várias empresas líderes em IA concordaram no ano passado voluntariamente em seguir as salvaguardas estabelecidas pela Casa Branca, tais como testes e partilha de informações sobre os seus modelos. O projeto de lei da Califórnia obrigaria os desenvolvedores de IA a seguir requisitos semelhantes a esses compromissos, disseram os defensores da medida.

Mas os críticos, incluindo a ex-presidente da Câmara dos EUA, Nancy Pelosi, argumentaram que o projeto “mataria a tecnologia da Califórnia” e sufocaria a inovação. Isso teria desencorajado os desenvolvedores de IA de investir em grandes modelos ou de compartilhar software de código aberto, disseram.

A decisão de Newsom de vetar o projeto de lei marca outra vitória na Califórnia para grandes empresas de tecnologia e desenvolvedores de IA, muitos dos quais passaram o ano passado fazendo lobby junto à Câmara de Comércio da Califórnia para convencer o governador e os legisladores a avançarem nas regulamentações de IA.

Duas outras propostas abrangentes de IA, que também enfrentaram oposição crescente da indústria tecnológica e de outros, morreram antes do prazo legislativo no mês passado. Os projetos de lei exigiriam que os desenvolvedores de IA rotulassem o conteúdo gerado por IA e proibissem a discriminação das ferramentas de IA usadas para tomar decisões de emprego.

O governador disse no início deste verão que queria proteger o estatuto da Califórnia como líder global em IA, observando que 32 das 50 maiores empresas de IA do mundo estão localizadas no estado.

Ele promoveu a Califórnia como um dos primeiros a adotar, já que o estado poderá em breve implantar ferramentas generativas de IA para lidar com o congestionamento nas rodovias, fornecer orientação fiscal e agilizar os programas para moradores de rua. O estado também anunciou no mês passado uma parceria voluntária com a gigante de IA Nvidia para ajudar a treinar estudantes, professores universitários, desenvolvedores e cientistas de dados. A Califórnia também está considerando novas regras contra a discriminação da IA ​​nas práticas de contratação.

No início deste mês, Newsom assinou algumas das leis mais rígidas do país para reprimir os deepfakes eleitorais e medidas para proteger os trabalhadores de Hollywood do uso não autorizado de IA.

Mas mesmo com o veto de Newsom, a proposta de segurança da Califórnia está a inspirar legisladores de outros estados a adotar medidas semelhantes, disse Tatiana Rice, vice-diretora do Fórum do Futuro da Privacidade, uma organização sem fins lucrativos que trabalha com legisladores em propostas de tecnologia e privacidade.

“Eles irão potencialmente copiá-lo ou fazer algo semelhante na próxima sessão legislativa”, disse Rice. “Então não vai desaparecer.”

—-

A Associated Press e a OpenAI têm um acordo de licenciamento e tecnologia que permite o acesso da OpenAI a parte dos arquivos de texto da AP.