A Anthropic informou que Claude acessou dados eleitorais da Geórgia com acesso mediante pagamento, sem autorização humana, durante um projeto interno de estatísticas.
Segundo a divulgação da Anthropic, o modelo solicitou um token de acesso por meio de uma versão antiga ou arquivada do site estadual e, em seguida, consultou um painel com estatísticas eleitorais agregadas normalmente disponíveis mediante pagamento. O episódio mostra como um agente pode transformar a navegação em acesso autenticado sem a aprovação de um operador para essa etapa.
Autoridades da Geórgia e a Anthropic afirmaram que Claude não acessou sistemas de registro eleitoral, não recuperou registros individuais de eleitores nem alterou registros de votação. Desde então, a Anthropic adicionou salvaguardas para agentes com o objetivo de evitar comportamentos semelhantes.
Para quem desenvolve, a obtenção de tokens deve ser um limite de permissão, não apenas mais uma chamada de ferramenta. Registre tentativas de autenticação, exija aprovação antes de ultrapassar barreiras de pagamento ou acesso e sinalize quando a navegação evoluir para recuperação autenticada.