Tentativa de clonar IA gera mais de 100 mil prompts, diz Google

A Google revelou que seu modelo de inteligência artificial Gemini foi alvo de uma tentativa massiva de engenharia reversa, com mais de 100 mil prompts enviados por agentes mal-intencionados na tentativa de replicar ou extrair informações do sistema.

Segundo a empresa, os ataques buscaram explorar vulnerabilidades por meio de consultas repetitivas e estruturadas, com o objetivo de compreender o funcionamento interno do modelo e, potencialmente, reproduzir suas capacidades. A prática é conhecida no setor como “model extraction” — uma técnica que tenta reconstruir sistemas de IA a partir de interações externas.

O caso reacende o debate sobre segurança e proteção de propriedade intelectual no campo da inteligência artificial generativa. Modelos avançados exigem investimentos bilionários em pesquisa, infraestrutura e treinamento com grandes volumes de dados, tornando-se ativos estratégicos para as empresas de tecnologia.

De acordo com o Google, mecanismos de proteção e monitoramento identificaram o padrão anômalo de uso e bloquearam as tentativas antes que qualquer comprometimento significativo ocorresse.

O episódio ocorre em meio à intensificação da corrida global por desenvolvimento de modelos de IA cada vez mais sofisticados. À medida que essas tecnologias se tornam centrais para setores como finanças, saúde, educação e defesa, cresce também o interesse — legítimo ou não — em acessar seus mecanismos internos.

Especialistas alertam que ataques desse tipo tendem a se tornar mais frequentes, exigindo que empresas reforcem camadas de segurança, limitem acessos automatizados e aprimorem sistemas de detecção de uso abusivo.

O caso reforça o papel estratégico da inteligência artificial no cenário tecnológico global e evidencia os desafios crescentes de proteger sistemas avançados em um ambiente digital cada vez mais competitivo e complexo.

FONTE: arstechnica.com