Especialistas alertam para falhas de segurança em empresas de inteligência artificial e pedem regulação urgente

Um relatório internacional divulgado nesta semana acendeu o alerta sobre a fragilidade das práticas de segurança adotadas pelas principais empresas de inteligência artificial no mundo, incluindo gigantes do setor como OpenAI, Anthropic, Google DeepMind e Meta. Segundo o estudo, essas companhias não estão cumprindo padrões mínimos de segurança técnica e governança de riscos, o que pode representar sérias ameaças à sociedade caso os sistemas de IA sejam mal utilizados ou se tornem incontroláveis.

A pesquisa, conduzida por um grupo de especialistas em IA e segurança digital, avaliou práticas como testes de robustez, controle de acesso, uso responsável de dados e medidas preventivas contra manipulação ou vazamento de modelos. Os resultados mostram que, embora haja avanços tecnológicos acelerados, os protocolos de segurança não estão evoluindo no mesmo ritmo.

Entre as preocupações destacadas está o risco de que sistemas altamente avançados sejam utilizados para fins maliciosos, como desinformação em larga escala, ataques cibernéticos automatizados ou manipulação de processos sociais e políticos. O relatório recomenda que governos e entidades internacionais estabeleçam padrões regulatórios e mecanismos de fiscalização mais rigorosos, especialmente antes da liberação pública de modelos mais potentes.

O alerta chega em um momento de crescimento exponencial da IA generativa, com uso cada vez mais amplo em setores como educação, saúde, justiça e comunicação. Especialistas ressaltam que, sem uma abordagem global e coordenada de segurança e ética, os benefícios da tecnologia podem ser ofuscados por riscos sistêmicos difíceis de controlar.

A discussão deve ganhar força nas próximas cúpulas internacionais sobre tecnologia e inovação, onde temas como regulação da IA, governança algorítmica e direitos digitais já figuram como prioridades.

FONTE: cnnbrasil.com