A OpenAI anunciou uma nova política que permitirá a pesquisadores independentes e auditores externos avaliar modelos de IA avançados diretamente durante as etapas ativas de pré-treino e refinamento, permitindo a detecção precoce de comportamentos de risco e vetores de desalinhamento antes da finalização dos modelos.
OpenAI autorizará auditorias externas de segurança durante a fase ativa de treinamento de modelos
A OpenAI anunciou uma nova política que permitirá a pesquisadores independentes e auditores externos avaliar modelos de IA avançados diretamente durante as etapas ativas de pré-treino e refinamento, permitindo a detecção...

Destaques da Notícia
A OpenAI anunciou uma nova política que permitirá a pesquisadores independentes e auditores externos avaliar modelos de IA avançados diretamente durante as etapas ativas de pré-treino e refinamento, permitindo a detecção...
Esta matéria foi elaborada e analisada com base nas informações originais publicadas em:
https://qz.com/openai-third-party-safety-evaluations-training-092326Riccardo Malfer
Editor do PortalEspecialista em inteligência artificial, robótica corporificada e arquiteturas cognitivas. Fundador e autor do portal Um Futuro Próximo, com curadoria dedicada à tecnologia de fronteira.
Leia Também em Inteligência Artificial
Inteligência ArtificialFTC dos EUA abre investigação antitruste formal sobre a OpenAI e a Anthropic
A Federal Trade Commission (FTC) anunciou a abertura de um inquérito formal contra a OpenAI e a Anthropic para examinar a concentração de mercado em IA de fronteira, acordos de exclusividade de infraestrutura com gigante...
Inteligência ArtificialOpenAI desarticula campanha massiva de extração não autorizada de raciocínio de seus modelos
A OpenAI revelou ter desarticulado uma operação coordenada de engenharia reversa que utilizava contas automatizadas para extrair em massa as cadeias de raciocínio de seus modelos de ponta, implementando novas barreiras d...
Inteligência ArtificialAnthropic protocola prospecto de IPO com alerta inédito de riscos existenciais da IA para a humanidade
No formulário S-1 protocolado junto à SEC para abertura de capital, a Anthropic dedicou 80 páginas para alertar formalmente investidores de que seus modelos avançados podem representar riscos existenciais para a humanida...