Microsoft desistir do assento de observador do conselho da OpenAI não resolve as preocupações

O CEO da Microsoft, Satya Nadella (R), fala enquanto o CEO da OpenAI, Sam Altman (L), observa durante o evento OpenAI DevDay em São Francisco em 6 de novembro de 2023.

Justin Sullivan | Imagens Getty

Microsoft desistiu de seu assento de observador no conselho da OpenAI. Maçãque supostamente deveria assumir uma posição de observador semelhante, não irá mais persegui-la, de acordo com o Tempos Financeiros. Mas qualquer que seja a clareza que as mudanças desta semana pretendiam proporcionar, muitas das mesmas preocupações persistem.

Os reguladores não estão a afastar-se e, para aqueles que se concentram na ética na inteligência artificial, os mesmos receios – de que os lucros tenham precedência sobre a segurança – permanecem. Amba Kak, co-diretor executivo da organização sem fins lucrativos AI Now Institute, descreveu o anúncio como um “subterfúgio” concebido para obscurecer as relações entre grandes empresas de tecnologia e participantes emergentes em IA.

“O momento dessa mudança é importante”, escreveu Kak em mensagem à CNBC. “Deve ser visto como uma resposta direta ao escrutínio regulatório global a estas relações não convencionais”.

O forte vínculo Microsoft-OpenAI e o controle descomunal que as duas empresas têm sobre a indústria de IA continuarão a ser examinados pela Comissão Federal de Comércio, segundo uma pessoa com conhecimento do assunto, que pediu para não ser identificada devido à confidencialidade.

Enquanto isso, a grande parcela de desenvolvedores e pesquisadores de IA que estão preocupados com a segurança e a ética na indústria de IA, cada vez mais lucrativa, permanece impassível. Funcionários atuais e antigos da OpenAI publicaram uma carta aberta em 4 de junho, descrevendo preocupações sobre os rápidos avanços que estão ocorrendo na IA, apesar da falta de supervisão e proteção aos denunciantes.

“As empresas de IA têm fortes incentivos financeiros para evitar uma supervisão eficaz e não acreditamos que estruturas personalizadas de governação corporativa sejam suficientes para mudar esta situação”, escreveram os funcionários na carta. Acrescentaram que as empresas de IA “atualmente têm apenas obrigações fracas de partilhar algumas destas informações com os governos, e nenhuma com a sociedade civil”, e não se pode “confiar que as partilhem voluntariamente”.

Dias após a publicação da carta, uma fonte familiar confirmou à CNBC que a FTC e o Departamento de Justiça estavam prestes a abrir investigações antitruste sobre OpenAI, Microsoft e Nvidiacom foco na conduta das empresas.

A presidente da FTC, Lina Khan, descreveu a ação de sua agência como uma “investigação de mercado sobre os investimentos e parcerias que estão sendo formadas entre desenvolvedores de IA e os principais provedores de serviços em nuvem”. Kak disse à CNBC que as atividades dos reguladores estão ajudando a obter respostas e a proporcionar transparência.

A Microsoft não mencionou os reguladores em sua explicação sobre a renúncia ao seu assento de observador no conselho. A gigante do software disse que agora pode se afastar porque está satisfeita com a construção do conselho da startup, que foi completamente remodelado nos oito meses desde uma revolta que levou à breve demissão do CEO Sam Altman e ameaçou o enorme investimento da Microsoft na OpenAI.

A Microsoft inicialmente assumiu um assento sem direito a voto no conselho da OpenAI em novembro, após a saga Altman. O novo conselho inclui Paul Nakasone, ex-diretor da Agência de Segurança Nacional, junto com o CEO do Quora, Adam D’Angelo, o ex-secretário do Tesouro Larry Summers, o ex-co-CEO da Salesforce, Bret Taylor e Altman. Há também novidades de março: Dra. Sue Desmond-Hellmann, ex-CEO da Fundação Bill e Melinda Gates; Nicole Seligman, ex-vice-presidente executiva da Sony; e Fidji Simo, CEO da Instacart.

Após o anúncio de quarta-feira da Microsoft, OpenAI disse Eixos que a empresa está mudando sua abordagem na forma como se relaciona com “parceiros estratégicos”. A Apple não fez nenhuma declaração. Nenhuma das três empresas forneceu comentários à CNBC sobre esta história.

João Sedoc, professor assistente de tecnologia na Stern School of Business da Universidade de Nova York, disse que o último movimento da Microsoft é positivo para a indústria de IA devido à influência percebida da empresa na OpenAI. Ele disse que era “crítico” para a Microsoft “intervir e ajudar a estabilizar” a OpenAI após a demissão repentina seguida pela rápida reintegração de Altman.

“A presença da Microsoft lá apresenta uma mistura de conflito de interesses e vantagem competitiva”, disse Sedoc, acrescentando: “A Microsoft e a OpenAI têm uma relação estranha de ambas terem sinergias e competição ao mesmo tempo”.

‘Enorme quantidade de informação’

Além do investimento de cerca de 13 mil milhões de dólares da Microsoft na OpenAI, as duas empresas trabalham em estreita colaboração no fornecimento de produtos e serviços de IA generativos. O popular chatbot ChatGPT da OpenAI é alimentado por seus grandes modelos de linguagem, que são executados na tecnologia de nuvem Azure da Microsoft.

Mas as duas empresas não estão completamente alinhadas. No início deste ano, a Microsoft pagou cerca de US$ 650 milhões em perdas licenciar a tecnologia da Inflection AI e contratar talentos importantes da empresa, principalmente o CEO Mustafa Suleyman, que anteriormente cofundou a DeepMind, a startup de IA adquirida pelo Google em 2014.

Ben Miller, CEO da plataforma de investimentos Fundrise, disse que após o acordo com a Inflection, a Microsoft está “agora no caminho para ser uma verdadeira concorrente da OpenAI”, o que significa que não deveria estar na sala de reuniões da startup.

“Ter voz na mesa é extremamente influente para a empresa e dá à Microsoft uma enorme quantidade de informações sobre as atividades do negócio”, disse Miller.

Mustafa Suleyman, cofundador da Inflection.ai e DeepMind, falando no Squawk Box da CNBC na Reunião Anual do Fórum Econômico Mundial em Davos, Suíça, em 17 de janeiro de 2024.

Adão Galici | CNBC

Sedoc disse à CNBC que a separação representa o precedente certo, à medida que as grandes empresas de tecnologia se tornam cada vez mais grandes investidores em IA. Ele citou startups de IA como Anthropic, apoiada pela Amazon, e Hugging Face, cujos investidores incluem Google, Amazon, Nvidia e outros.

Eles “provavelmente estão pensando nos efeitos posteriores do que isso significaria para o movimento geral da indústria”, disse Sedoc.

No entanto, uma área onde a Sedoc disse que poderia ser problemática é a segurança da IA.

“Acho que a Microsoft tem muita experiência e uma história mais longa em pensar sobre isso em vários domínios que a OpenAI não tem”, disse Sedoc. “Dessa perspectiva, acho que haverá alguma desvantagem em eles não estarem à mesa.”

As práticas de segurança de IA estiveram no centro do desacordo entre Altman e o conselho anterior da OpenAI e continuam a causar fissuras na empresa.

Em maio, a OpenAI dissolveu sua equipe focada nos riscos de longo prazo da IA, apenas um ano depois de a empresa anunciar o grupo. A notícia foi divulgada dias depois que os dois líderes de equipe, o cofundador da OpenAI, Ilya Sutskever e Jan Leike, anunciaram suas saídas da empresa. Em uma postagem no X, Leike escreveu que “a cultura e os processos de segurança da OpenAI ficaram em segundo plano em relação aos produtos brilhantes” e que ele está “preocupado” com o fato de a empresa não estar no caminho certo.

“Construir máquinas mais inteligentes que as humanas é um empreendimento inerentemente perigoso”, escreveu Leike. “A OpenAI está assumindo uma enorme responsabilidade em nome de toda a humanidade.”

Ao anunciar a nomeação de Nakasone para o conselho no mês passado, a OpenAI disse que se juntaria ao recém-criado Comitê de Segurança e Proteção. A OpenAI disse na época que o grupo está gastando 90 dias avaliando os processos e salvaguardas da empresa antes de fazer recomendações ao conselho e, eventualmente, atualizar o público.

—Ryan Browne da CNBC, Matt Clinch e Steve Kovach contribuíram com reportagens.

ASSISTIR: OpenAI hackeado em abril de 2023, não divulgado ao público