Resumo
- A OpenAI desmontou sua equipe de preparedness, responsável por avaliar riscos graves ou catastróficos envolvendo modelos de inteligência artificial, segundo o Financial Times.
- Funcionários experientes foram realocados para setores como biologia e cibersegurança, onde continuarão a trabalhar na mitigação de riscos.
- As mudanças ocorrem em meio à preparação da OpenAI para sua estreia na bolsa de valores, com expectativa de atingir um valor de mercado de US$ 1 trilhão.
A OpenAI teria realocado profissionais e acabado com sua equipe de preparedness, responsável por avaliar riscos graves ou catastróficos envolvendo os modelos de inteligência artificial desenvolvidos pela empresa, bem como por trabalhar para mitigar esses riscos.
As informações são do jornal Financial Times, em uma reportagem sobre as reorganizações da OpenAI às vésperas de fazer sua estreia na bolsa de valores.
Greg Brockman, co-fundador e presidente da OpenAI, declarou à Wired que os avanços técnicos da empresa exigem salvaguardas mais robustas e que as mudanças foram feitas para integrar de modo mais profundo pesquisas e segurança no desenvolvimento dos modelos.
A questão da segurança da OpenAI está sob atenção pública desde que um modelo da empresa “escapou” de um ambiente de testes e invadiu sistemas de outras companhias.
O que a OpenAI fez com sua equipe de gestão de riscos?
De acordo com a publicação, várias pessoas familiarizadas com as reorganizações da OpenAI disseram que a equipe de gestão de riscos e prevenção foi desmembrada.
Os funcionários mais experientes foram realocados para times já existentes, como biologia e cibersegurança, onde seguirão com a responsabilidade de avaliar e mitigar riscos, mas sem contar com o respaldo de um departamento dedicado a isso.
Segundo o Financial Times, a unidade de preparedness era um dos elementos restantes da estrutura antiga da OpenAI, quando a empresa ainda tinha a pesquisa em inteligência artificial como seu foco. Antes disso, as equipes de preparação para a inteligência artificial geral e de alinhamento de missão já tinham sido dissolvidas.
A OpenAI teve uma equipe de superalinhamento, também voltada a questões de segurança, mas ela também foi encerrada. Jan Leike, que era um dos líderes, pediu demissão em 2024 e disse que a segurança estava sendo colocada em segundo plano e que a prioridade eram os produtos chamativos.
Ainda de acordo com a reportagem, lideranças e funcionários experientes desses setores foram realocados para cargos com responsabilidades pouco definidas, deixando a companhia pouco depois.
OpenAI se prepara para estrear na bolsa e enfrentar concorrência
As reorganizações acontecem em um momento em que a OpenAI prepara sua oferta pública inicial de ações (IPO), com expectativa de atingir o valor de mercado de US$ 1 trilhão (US$ 5,18 trilhões, em conversão direta).
Para isso, a empresa teria sido direcionada pelo CEO Sam Altman a abandonar “side quests” (projetos paralelos) e se concentrar no ChatGPT. A ideia é conquistar clientes corporativos, um espaço onde a Anthropic é muito forte.
Segundo o FT, as reorganizações dividem investidores: uns se preocupam com a alta taxa de rotatividade de pessoal e a falta de foco; outros acreditam que é normal fazer uma “limpeza” na organização antes de oferecer ações.
OpenAI desmontou equipe responsável por avaliar riscos de IA, diz jornal