OpenAI mostra que a IA pode ter um problema de governança inerente

A bagunça estrutural da OpenAI

O futuro da OpenAI, cujo ChatGPT deu início a uma corrida armamentista em inteligência artificial, tornou-se ainda mais nebuloso. A maioria de seus funcionários pediu a renúncia do conselho após destituir Sam Altman do cargo de CEO devido à rapidez com que comercializaria sua tecnologia.

O conflito sublinha ainda a supervisão peculiar de algumas das empresas líderes em IA que poderá afectar o futuro da tecnologia. E há sinais de que o conselho da OpenAI poderá não ceder, apesar da revolta do pessoal.

Aqui estão as últimas: Mais de 700 dos 770 funcionários da OpenAI – incluindo Ilya Sutskever, o cientista-chefe e membro do conselho que inicialmente pressionou para destituir Altman – exigiram a renúncia do conselho. Altman ainda tenta retornar como CEO e está em negociações com a empresa. O conselho da OpenAI abordou um grande rival, a Anthropic, sobre uma fusão, de acordo com o The Information. Marc Benioff, da Salesforce, está tentando atrair funcionários da OpenAI com ofertas financeiras confortáveis.

O dilema da OpenAI: Os comentaristas notaram a estrutura incomum e conflituosa da empresa. Um conselho sem fins lucrativos com a missão de beneficiar a humanidade supervisiona um braço com fins lucrativos apoiado pela Microsoft e por empresas de capital de risco, incluindo Thrive Capital e Khosla Ventures.

O objectivo de toda a empresa é construir uma inteligência artificial geral, sistemas altamente autónomos que “superem os humanos no máximo em trabalhos economicamente valiosos”, mas que “beneficiem toda a humanidade”. O braço comercial da OpenAI foi criado para apoiar esse objectivo extremamente dispendioso, mas está limitado por limites aos lucros que fluem para os investidores, bem como pela ausência de direitos de governação para os investidores. É por isso que a Microsoft, a Thrive e outras têm pouca influência direta sobre a forma como a empresa é administrada.

Ironicamente, Altman ajudou a conceber essa configuração – e acabou sendo vítima dela.

Essa não é a única estrutura corporativa incomum na indústria da IA. A Anthropic, iniciada por uma dúzia de ex-funcionários da OpenAI preocupados com a corrida pelos lucros de seu antigo empregador, é criada como uma B Corp, ou corporação de benefício público, que visa equilibrar os interesses de uma ampla gama de partes interessadas.

Também possui um chamado fundo de benefícios de longo prazo que inclui especialistas em ética em IA e outros especialistas e tem permissão para escolher a maioria dos diretores da empresa. (Dito isto, um dos assentos do conselho da Anthropic é ocupado por um investidor, embora isso esteja sujeito a alterações.)

Mas a estrutura da OpenAI pode levar a um conflito irreparável. Investidores, incluindo a Thrive, ainda estão pressionando para reinstalar Altman como CEO, assim como os funcionários e Sutskever.

Ainda assim, a carta dos funcionários apontava um desenvolvimento sinistro para esse campo: “Você também informou à equipe de liderança que permitir que a empresa fosse destruída ‘seria consistente com a missão’”. ações, a determinação dos três diretores restantes se fortaleceu – e se a OpenAI falhar, que assim seja.

AQUI ESTÁ ACONTECENDO

X processa um órgão de fiscalização da mídia por causa de pesquisas sobre sua publicidade. A rede social de Elon Musk cumpriu a ameaça de levar a Media Matters a tribunal pela afirmação do grupo de que a empresa colocava anúncios junto a conteúdo anti-semita. As descobertas, juntamente com a controvérsia sobre postagens recentes de Musk, levaram grandes anunciantes como Apple e IBM a interromper seus gastos no X; a empresa disse que a Media Matters manipulou seus algoritmos para apoiar suas descobertas.

Os reguladores dos EUA colocam mais pressão sobre os gigantes da criptografia. O Departamento de Justiça está buscando uma multa de US$ 4 bilhões da Binance, a maior exchange de criptomoedas do mundo, para encerrar uma investigação sobre acusações de lavagem de dinheiro e fraude, de acordo com a Bloomberg. E a SEC processou a Kraken, uma rival, por alegações de que operava uma bolsa de valores não registrada.

O Citigroup está preparando demissões para centenas de gestores. A tão esperada medida, anunciada na segunda-feira, é o mais recente passo num plano de Jane Fraser, CEO do banco, para simplificar a estrutura do gigante de Wall Street e reduzir custos. O Citi já demitiu mais de 7.000 trabalhadores enquanto enfrenta uma desaceleração nos negócios e altas taxas de juros.

Wall Street prepara-se para dados imobiliários decepcionantes. Espera-se que as vendas de casas existentes, previstas para as 10h, horário do leste, tenham caído para o menor nível em 13 anos, à medida que o aumento das taxas de hipotecas faz com que mais compradores – especialmente os caçadores de casas mais jovens – saiam do mercado.

O que a Microsoft ganhou com a bagunça do OpenAI

O maior financiador da OpenAI, a Microsoft, está em alta, com as ações da gigante da tecnologia atingindo o maior nível em 22 meses na segunda-feira.

Satya Nadella, CEO da Microsoft, está em um tour pela mídia desde que contratou o agora deposto chefe da OpenAI, Sam Altman, e Greg Brockman, outro cofundador, e tentou consolidar sua posição como líder em inteligência artificial. Um grande ponto de discussão: como a empresa estruturou o seu acordo com a start-up e o acesso à sua propriedade intelectual.

Altman e Brockman comandarão a Microsoft Laboratório de pesquisa de IA. Depois que a maior parte do pessoal restante da OpenAI ameaçou pedir demissão, Altman e Brockman poderiam finalmente recrutar centenas de outros de seu antigo empregador. Isso permitiria à Microsoft reconstruir essencialmente “OpenAI dentro da Microsoft e não perder muito tempo ou dinheiro”, relata Karen Weise para o The Times.

Alguns investidores querem que os cofundadores da OpenAI voltem, incluindo Thrive Capital, Khosla Ventures e Tiger Global Management, para proteger seus investimentos. (Vinod Khosla também pediu que o CEO interino da OpenAI, Emmett Shear, renunciasse “antes de se tornar o único funcionário da OpenAI”.)

Até Nadella está aberta à possibilidade – com uma grande ressalva. A Microsoft não teve nenhuma palavra oficial junto ao conselho quando Altman, o principal contato da empresa, foi demitido. Nadella disse ao podcast “On With Kara Swisher” que se Altman e Brockman retornarem à OpenAI, “garantiremos que a governança seja corrigida para que tenhamos mais segurança e garantia para que não tenhamos surpresas”.

Mas Nadella foi inflexível de que eles têm as ferramentas para inovar de qualquer maneira. A Microsoft garantiu os direitos de propriedade intelectual da OpenAI, bem como cópias do código-fonte de seus principais sistemas e os “pesos” que orientam os resultados do sistema após ele ter sido treinado em dados, disseram ao The Times pessoas familiarizadas com o acordo. Isto é, em parte, uma proteção para o facto de não ter controlo sobre o conselho de administração da start-up.

Há uma grande exceção. Envolve o Santo Graal do trabalho da OpenAI: alcançar inteligência artificial geral, ou AGI OpenAI define esse avanço como “um sistema altamente autônomo que supera os humanos na maioria dos trabalhos economicamente valiosos”. Para cumprir a promessa da AGI, é necessário um imenso poder de computação, exatamente o que a Microsoft está fornecendo. A advertência: AGI está fora dos limites da Microsoft.

Ainda assim, o acordo de propriedade intelectual da Microsoft pode ser problemático. Scott Syphax, especialista em governança corporativa, disse ao DealBook que o acordo poderia levantar sinais de alerta junto aos reguladores se ameaçar o status de isenção fiscal da organização sem fins lucrativos. Outra área que a Syphax está observando: a avaliação que a Microsoft colocou na OpenAI após seu investimento e se adquiriu a propriedade intelectual a um preço justo.

Alguns veteranos das guerras de start-ups do Vale do Silício aplaudiram as manobras da Microsoft. “Se você me dissesse há 10 anos que um grupo dos engenheiros mais inteligentes do país evocaria a ameaça: ‘Faça o que eu digo ou irei trabalhar na Microsoft’, eu não teria acreditado em você”, Bill Gurley, um sócio geral da Benchmark e investidor na Grubhub, Uber e Zillow, postado em Xacrescentando “muito crédito a Satya”.

Mas outros me perguntei o que a Microsoft estava pensando em primeiro lugar, ao fazer uma aposta tão grande na OpenAI “sem quaisquer controlos reais de governação”.

“As pessoas dizem: ‘Os economistas não sabem por que estamos infelizes? Basta olhar os preços! Estamos olhando os preços e nos perguntando: por que você está comprando tantas coisas?”

– Betsey Stevensoneconomista da Universidade de Michigan que trabalhou no governo Obama, sobre a desconexão entre a percepção dos americanos sobre a economia e as suas experiências reais.

Goldman repensa acordo de golfe

A primeira grande aposta do Goldman no patrocínio esportivo está chegando ao fim. O banco não renovará seu acordo de patrocínio com o jogador de golfe Patrick Cantlay, Lauren Hirsch, do DealBook, é a primeira a relatar.

O acordo fez parte do impulso do banco ao consumidor. O Goldman assinou um acordo de três anos com a Cantlay em 2020, em parte para ajudar a aumentar o reconhecimento da marca Marcus, seu serviço bancário on-line ao consumidor. Cantlay, atualmente em quinto lugar no ranking mundial, usou um boné com a marca Marcus durante os torneios, e os dois lados assinaram um novo contrato de um ano no início de 2023.

Mas o Goldman recuou da banca de retalho. O banco vendeu partes da Marcus e reestruturou o negócio para se concentrar novamente em seus tradicionais serviços bancários de investimento e comerciais. “Avaliamos constantemente as parcerias da empresa e, neste momento, nosso logotipo não aparecerá mais em seu chapéu”, disse Tony Fratto, porta-voz do Goldman Sachs, ao DealBook.

Cantlay e Goldman ainda terão alguns links. Ele ainda poderá participar de eventos do banco daqui para frente, disse uma pessoa familiarizada com o relacionamento ao DealBook. E tanto Cantlay como Mark Flaherty, diretor do Goldman, fazem parte do conselho de administração do PGA Tour, que está tentando estabelecer uma parceria com o fundo soberano da Arábia Saudita e cortejando novos investidores.

A LEITURA DE VELOCIDADE

Ofertas

Política

• A empresa-mãe da Truth Social, rede social de Donald Trump, processou 20 editores de meios de comunicação, acusando-os de um “ataque deliberado, malicioso e coordenado”. (Bloomberg)

• “Como um super PAC criptográfico está tentando balançar 2024” (Politico)

O melhor do resto

• TGL, a liga de golfe indoor fundada por Tiger Woods e Rory McIlroy, atrasou sua temporada inaugural em um ano depois que o telhado de sua arena desabou. (CNBC)

Gostaríamos de receber seu feedback! Envie pensamentos e sugestões por e-mail para [email protected].