OpenAI, Anthropic e Google anunciaram a criação da Standards Authority for Frontier AI (SAFA), uma organização conjunta voltada para a regulamentação e os testes de segurança de modelos avançados de inteligência artificial. A entidade vai padronizar avaliações de risco conduzidas por auditorias independentes antes do lançamento de novos modelos, segundo informações publicadas pelo The Verge.
O que a SAFA vai fazer
Segundo o anúncio, a nova autoridade vai estabelecer critérios comuns para medir riscos em modelos de IA de fronteira, termo usado para descrever os sistemas mais avançados e poderosos disponíveis no mercado. A organização também vai definir protocolos para relato de incidentes de segurança cibernética envolvendo esses modelos, criando um canal padronizado entre as empresas participantes.
As avaliações de risco previstas pela SAFA serão conduzidas por auditorias independentes, ou seja, por terceiros sem vínculo direto com as empresas desenvolvedoras, antes que um novo modelo seja lançado publicamente.
Contexto e por que importa
A criação de uma autoridade conjunta acontece em um momento de pressão crescente sobre empresas de IA para demonstrar que seus modelos são testados de forma rigorosa antes de chegar ao público. Até então, cada companhia adotava seus próprios processos internos de avaliação, o que dificultava comparações e gerava questionamentos sobre a consistência dos testes de segurança entre diferentes empresas.
Ao reunir três das principais desenvolvedoras de modelos de IA generativa do mundo em uma mesma organização, a SAFA busca criar um padrão de mercado que possa, no futuro, servir de referência para reguladores governamentais.
O que muda para o mercado e para a sociedade
Para empresas menores e novas entrantes no setor de IA, a existência de um padrão estabelecido por líderes do mercado pode se tornar uma referência a seguir, ainda que a adesão à SAFA não tenha sido apresentada como obrigatória. Para usuários e para a sociedade em geral, a proposta é aumentar a confiança de que modelos avançados passam por escrutínio antes de serem disponibilizados.
A iniciativa também pode influenciar debates regulatórios em curso em diversos países, já que apresenta um modelo de autorregulação construído pelas próprias empresas do setor.
O que observar daqui para frente
Ainda não está claro como será a governança da SAFA, quem vai conduzir as auditorias independentes mencionadas, nem se outras empresas de IA serão convidadas a integrar a organização. A forma como os protocolos de relato de incidentes serão implementados na prática também é um ponto a ser acompanhado nos próximos meses.
Deixe um comentário