OpenAI e Anthropic fazem parceria com o US AI Safety Institute: Se você tem lido sobre inteligência artificial generativa e quão rapidamente ela está melhorando, você saberia que muitos especialistas e industriais expressaram suas preocupações sobre como isso pode provar ser um perigo para a humanidade. Agora, para tomar medidas corretivas nessa direção, duas das principais empresas de IA, OpenAI e Anthropic, agora permitirão que o governo dos EUA tenha acesso a todos os principais modelos de IA que eles desenvolvem antes do lançamento público. Isso está sendo feito para garantir sua segurança daqui para frente.
Leia também: Esses usuários do Google na Índia estão sob alto risco, governo emite alerta
OpenAI e Anthropic fazem parceria com o US AI Safety Institute
O CEO da OpenAI, Sam Altman, levou para X (antigo Twitter) para anunciar o mesmo. “Estamos felizes por termos fechado um acordo com o US AI Safety Institute para testes de pré-lançamento de nossos futuros modelos”, disse Altman.
Ele acrescentou que a OpenAI considera importante que isso aconteça em nível nacional. “Os EUA precisam continuar a liderar!”, ele disse ainda.
Simplificando, o governo dos EUA poderá trabalhar em conjunto com empresas de IA para mitigar potenciais riscos de segurança que os modelos avançados de IA podem trazer consigo e, então, fornecer feedback.
“IA segura e confiável é crucial para o impacto positivo da tecnologia. Nossa colaboração com o US AI Safety Institute alavanca sua ampla expertise para testar rigorosamente nossos modelos antes da implantação generalizada”, disse Jack Clark, cofundador da Anthropic e chefe de política.
Leia também: “Nunca trabalhe para um gerente indiano”: funcionário da Microsoft baseado na Europa 'avisa' em postagem do Reddit
O que é o Instituto de Segurança de IA dos EUA?
O US AI Safety Institute faz parte do National Institute of Standards and Technology (NIST) do Departamento de Comércio dos EUA. É uma instituição relativamente nova, criada pela administração Biden no ano passado para abordar os riscos da IA. No futuro, também fará parceria com o AI Safety Institute do governo do Reino Unido para ajudar as empresas de IA a garantir a segurança.
Comentando sobre a nova parceria com a OpenAI e a Anthropic, Elizabeth Kelly, diretora do US AI Safety Institute, disse: “Esses acordos são apenas o começo, mas são um marco importante à medida que trabalhamos para ajudar a administrar de forma responsável o futuro da IA”.
Leia também: Deixou o emprego de TI; forçado a ser garçom: Techie compartilha seu grande erro sobre 'demissão por raiva' no Reddit
