A Anthropic, empresa responsável pelo assistente de inteligência artificial Claude, atualizou sua política de uso para proibir expressamente ofensas verbais prolongadas direcionadas ao sistema em cenários extremos. A mudança também reforça vedações contra campanhas de desinformação eleitoral e desenvolvimento de armas.
O fato e os números
Segundo a empresa, a nova política proíbe de forma explícita abusos verbais prolongados contra o Claude, quando usados em situações consideradas extremas. A atualização também veta o uso do assistente para criar ou espalhar campanhas de desinformação relacionadas a eleições, além de reforçar a proibição ao desenvolvimento de armas com apoio da ferramenta.
A Anthropic fez questão de esclarecer que críticas convencionais e manifestações comuns de frustração no uso cotidiano do Claude continuam permitidas, não sendo afetadas pela nova regra.
Contexto e por que importa
Políticas de uso são os conjuntos de regras que definem o que pode e o que não pode ser feito com um sistema de inteligência artificial. Empresas do setor costumam atualizar esses documentos à medida que identificam novos riscos ou formas de uso indevido de suas ferramentas.
A menção específica a abusos verbais prolongados chama atenção por tratar da relação entre usuários humanos e o sistema de IA, um tema que tem ganhado espaço nas discussões do setor sobre limites de comportamento na interação com assistentes virtuais.
O que muda para as pessoas e para o mercado
Para os usuários do Claude, a atualização deixa mais claro onde estão os limites de uso aceitável do assistente, especialmente em relação a situações extremas de abuso verbal, sem restringir o uso comum de críticas ou reclamações sobre o funcionamento da ferramenta.
Para o mercado de inteligência artificial, a medida da Anthropic se soma a um movimento mais amplo de empresas do setor em reforçar diretrizes éticas, especialmente em temas sensíveis como eleições e segurança, áreas que têm recebido atenção crescente de reguladores e da opinião pública.
O que observar daqui para frente
Segundo a TechCrunch, resta observar como a Anthropic vai aplicar na prática as novas restrições e se outras empresas de inteligência artificial seguirão o mesmo caminho ao atualizar suas próprias políticas de uso em relação a abuso verbal e interferência eleitoral.
Deixe um comentário