OpenAI, Anthropic e Google DeepMind firmaram um acordo de cooperação para compartilhar frameworks de avaliação de riscos e testes de segurança aplicados a modelos avançados de inteligência artificial. A iniciativa busca criar padrões globais unificados para lidar com riscos de segurança cibernética e uso indevido de sistemas de IA.
O que prevê o acordo
Segundo a pauta divulgada, as empresas vão compartilhar entre si métodos e frameworks usados para avaliar riscos em seus próprios modelos. Isso inclui testes de segurança que buscam identificar vulnerabilidades antes que os sistemas sejam liberados para uso público ou comercial.
A colaboração reúne três das principais desenvolvedoras de modelos de linguagem do mundo, responsáveis por sistemas como o ChatGPT, o Claude e o Gemini, entre outros produtos de IA generativa.
Por que essa cooperação importa
Modelos avançados de IA generativa têm crescido em capacidade e em adoção, tanto por usuários comuns quanto por empresas e governos. Esse crescimento acelerado também trouxe preocupações sobre uso indevido, como geração de conteúdo malicioso, ataques cibernéticos automatizados e outros riscos de segurança.
Até aqui, cada empresa desenvolvia seus próprios protocolos de teste e avaliação de forma isolada. Um esforço conjunto de padronização pode tornar mais fácil comparar níveis de segurança entre diferentes modelos e criar uma base comum para reguladores e pesquisadores externos avaliarem os sistemas.
O que muda para o mercado e para a sociedade
Para empresas que utilizam esses modelos em seus produtos, padrões de segurança compartilhados podem significar mais previsibilidade e transparência sobre os riscos envolvidos no uso de IA generativa.
Para governos e órgãos reguladores, a iniciativa pode servir como referência técnica em discussões sobre regulamentação de inteligência artificial, um tema que já está na pauta de diversos países.
O que observar daqui para frente
Ainda não há detalhes públicos sobre como os frameworks compartilhados serão implementados na prática, nem sobre a existência de auditorias externas independentes. Vale acompanhar se outras desenvolvedoras de IA vão aderir a esse tipo de cooperação e se o esforço vai resultar em normas técnicas mais amplas para o setor.
A informação foi divulgada pela Reuters.
Deixe um comentário