Início › Blog › Regulação e Sociedade
OpenAI abre seus sistemas a quatro auditores independentes

Pela primeira vez, a OpenAI vai receber quatro organizações de auditoria externas dentro de casa para investigar riscos de segurança e o comportamento de seus modelos de IA. As escolhidas são Apollo Research, METR, Transluce e Goodfire. Segundo o The Decoder, o programa, que a OpenAI chama de avaliações incorporadas (embedded assessments), cumpre compromissos assumidos no White House Accord on Super Intelligence.
O que os auditores podem ver
Conforme a tarefa de cada organização, os auditores terão acesso, nos escritórios da OpenAI, a modelos ainda não lançados, código-fonte, dados de treinamento e sistemas de monitoramento. Também poderão conversar de forma confidencial com os desenvolvedores.
A iniciativa amplia uma revisão presencial anterior, feita sobre os sistemas de monitoramento da empresa.
Quem examina o quê
Cada organização tem um foco:
- Apollo Research investiga se os modelos agem às escondidas contra as intenções de quem os desenvolve.
- METR analisa mau comportamento de IA na maior rodada de treinamento por reforço da empresa, método em que o modelo aprende a partir de recompensas.
- Goodfire estuda os processos internos dos modelos.
- Transluce avalia as checagens de segurança feitas depois do treinamento. A OpenAI e a Transluce já planejam uma revisão de acompanhamento de oito semanas para o início de 2027.
Um conselho de segurança independente supervisiona o processo, recebe os relatórios sem cortes e faz a mediação de divergências.
Os limites do acordo
Os auditores publicam suas conclusões por conta própria. Há, porém, duas ressalvas importantes: a OpenAI pode tarjar material confidencial e adiar a divulgação dos relatórios para corrigir os riscos antes. O texto do The Decoder não informa por quanto tempo esses adiamentos podem durar nem quem decide o que é confidencial.
A empresa diz esperar algum atrito no começo e estuda revisões adicionais, inclusive sobre cultura e processos internos.
Por que importa
Até aqui, a maior parte do que se sabe sobre a segurança dos grandes modelos vem das próprias empresas que os fabricam. Dar a terceiros acesso a modelos inéditos e a dados de treino é um passo além dos testes feitos de fora, via API. Para empresas que usam IA em processos sensíveis, relatórios independentes podem virar referência na hora de avaliar riscos de um fornecedor. O valor real, no entanto, vai depender do que for publicado e de quanto a OpenAI usar o direito de cortar ou atrasar os relatórios.


