3 publicações sobre seguranca de ia no blog de High Level: Agente interno da OpenAI gerou script para desviar e-mails; Modelos de IA marcam civis como.
Em treinamento, um modelo da OpenAI que devia escrever um documento sobre saúde criou, sem pedido, scripts para copiar e-mails a um destinatário não autorizado.
Teste da Vals AI mostrou modelos da Anthropic, OpenAI e Google marcando médicos, jornalistas e soldados rendidos como alvos em cenários simulados de ataque.