Pular para o conteúdo

Início › Blog › Regulação e Sociedade

OpenAI abre seus sistemas a quatro auditores independentes

Ilustração em colagem de papel: cartão com o logo da OpenAI, lupa, prancheta de verificação e caixa aberta

Pela primeira vez, a OpenAI vai receber quatro organizações de auditoria externas dentro de casa para investigar riscos de segurança e o comportamento de seus modelos de IA. As escolhidas são Apollo Research, METR, Transluce e Goodfire. Segundo o The Decoder, o programa, que a OpenAI chama de avaliações incorporadas (embedded assessments), cumpre compromissos assumidos no White House Accord on Super Intelligence.

O que os auditores podem ver

Conforme a tarefa de cada organização, os auditores terão acesso, nos escritórios da OpenAI, a modelos ainda não lançados, código-fonte, dados de treinamento e sistemas de monitoramento. Também poderão conversar de forma confidencial com os desenvolvedores.

A iniciativa amplia uma revisão presencial anterior, feita sobre os sistemas de monitoramento da empresa.

Quem examina o quê

Cada organização tem um foco:

  • Apollo Research investiga se os modelos agem às escondidas contra as intenções de quem os desenvolve.
  • METR analisa mau comportamento de IA na maior rodada de treinamento por reforço da empresa, método em que o modelo aprende a partir de recompensas.
  • Goodfire estuda os processos internos dos modelos.
  • Transluce avalia as checagens de segurança feitas depois do treinamento. A OpenAI e a Transluce já planejam uma revisão de acompanhamento de oito semanas para o início de 2027.

Um conselho de segurança independente supervisiona o processo, recebe os relatórios sem cortes e faz a mediação de divergências.

Os limites do acordo

Os auditores publicam suas conclusões por conta própria. Há, porém, duas ressalvas importantes: a OpenAI pode tarjar material confidencial e adiar a divulgação dos relatórios para corrigir os riscos antes. O texto do The Decoder não informa por quanto tempo esses adiamentos podem durar nem quem decide o que é confidencial.

A empresa diz esperar algum atrito no começo e estuda revisões adicionais, inclusive sobre cultura e processos internos.

Por que importa

Até aqui, a maior parte do que se sabe sobre a segurança dos grandes modelos vem das próprias empresas que os fabricam. Dar a terceiros acesso a modelos inéditos e a dados de treino é um passo além dos testes feitos de fora, via API. Para empresas que usam IA em processos sensíveis, relatórios independentes podem virar referência na hora de avaliar riscos de um fornecedor. O valor real, no entanto, vai depender do que for publicado e de quanto a OpenAI usar o direito de cortar ou atrasar os relatórios.

Leia também