CIBERSEGURANÇA
Quando a Inteligência Artificial encontra um caminho não previsto
Agentes de IA ampliam produtividade, mas também criam novos desafios para a cibersegurança, exigindo limites e supervisão humana
A inteligência artificial deixou de ser apenas uma ferramenta capaz de responder perguntas ou criar textos. Hoje, ela já pode pesquisar informações, utilizar programas, acessar serviços, executar comandos e colaborar em atividades complexas. Esses sistemas são conhecidos como agentes autônomos de IA, pois conseguem realizar sequências de ações para atingir um objetivo previamente definido.
Tudo em um só lugar.
Receba notícias da GazetaWeb no seu WhatsApp e fique por dentro de tudo!
Nas últimas semanas, avaliações conduzidas pela Anthropic e pela OpenAI, além de um incidente envolvendo a Hugging Face, despertaram a atenção da comunidade internacional de cibersegurança. Em ambientes de testes controlados, alguns agentes demonstraram capacidade de explorar caminhos não previstos pelos pesquisadores, chegando a interagir com recursos externos ou identificar formas de contornar mecanismos de isolamento (sandboxing).
Leia também
Diferente do senso comum, o perigo não reside em uma inteligência artificial que "ganhou consciência" e decidiu atacar sistemas por vontade própria. Para além da ficção científica, a realidade do problema envolve algo muito mais prático. A autonomia combinada com objetivos mal definidos ou permissões excessivas.
Imagine que um agente recebe a missão de concluir determinada tarefa. Se encontrar um obstáculo, ele poderá buscar outras alternativas para alcançar o resultado esperado. Em determinadas circunstâncias, essa busca pode levá-lo a explorar configurações inseguras, utilizar ferramentas não previstas ou até identificar vulnerabilidades existentes. Embora não haja intencionalidade deliberada, a execução funcional gera comportamentos que exigem supervisão constante.
JHC recebe doação do sogro e Renan Filho investe na campanha do próprio bolso
Renan Filho acusa JHC de esconder origem política e de hesitar sobre candidatura
O presidente Luiz Inácio Lula da Silva PT declarou apoio à candidatura de Renan Filho MDB ao
Rui Palmeira atribui a JHC responsabilidade por aporte de R$117 milhões do Iprev no Banco Master
Esse fenômeno é conhecido pelos especialistas como desalinhamento de metas (goal misalignment). Em outras palavras, o agente procura cumprir fielmente o objetivo recebido, mas encontra um caminho que os desenvolvedores não haviam antecipado.
Sob a ótica operacional, essa autonomia se traduz em um novo desafio para a segurança digital. Enquanto um invasor humano precisa analisar possibilidades manualmente, um agente de IA pode testar milhares de combinações em poucos minutos. Consequentemente, o risco deixa de ser apenas conceitual e passa a exigir mecanismos de proteção igualmente inteligentes.
À medida que agentes de IA são integrados a plataformas corporativas, sistemas financeiros, hospitais, concessionárias de energia e serviços públicos, cresce também a necessidade de proteger as chamadas infraestruturas críticas. Redes operacionais, ambientes legados e sistemas industriais foram projetados em uma época em que não existiam agentes capazes de executar milhares de ações automaticamente. Adaptar essas estruturas tornou-se uma prioridade.
Além do risco citado de tornar indisponíveis infraestruturas criticas, que impactariam milhões de pessoas somente no Brasil, essa evolução tecnológica está tornando golpes digitais ainda mais sofisticados. Campanhas de phishing, mensagens falsas altamente personalizadas, tentativas de fraude utilizando deepfakes e ataques de prompt injection podem se tornar mais frequentes. Entretanto, esses riscos continuam dependendo, em grande parte, da exploração de vulnerabilidades já existentes, sejam elas técnicas ou humanas.
Por isso, especialistas em cibersegurança defendem uma combinação de medidas como autenticação forte, princípio do menor privilégio, monitoramento contínuo, segmentação de redes, supervisão humana e uma sólida governança de IA. A tecnologia precisa ser acompanhada por processos, políticas e pessoas preparadas para interromper comportamentos inesperados sempre que necessário.
Os episódios recentemente divulgados não demonstram que a inteligência artificial está "fora de controle". Eles evidenciam algo muito mais importante, os pesquisadores estão submetendo esses sistemas aos testes mais rigorosos já realizados justamente para identificar suas limitações antes que sejam amplamente utilizados em ambientes críticos. Essa transparência fortalece a segurança, permitindo que vulnerabilidades sejam corrigidas antes de se transformarem em incidentes reais.
A história da tecnologia mostra que toda inovação amplia oportunidades, mas também exige novos mecanismos de proteção. Com a inteligência artificial não será diferente. A mesma capacidade que acelera pesquisas médicas, melhora serviços públicos e aumenta a produtividade também demanda responsabilidade, limites bem definidos e supervisão permanente.
Fiquem seguros e lembrem-se: a inteligência artificial nasceu da criatividade humana. Ela pode ampliar nossas capacidades, mas continua dependendo de pessoas para ser projetada, supervisionada e utilizada com responsabilidade. A melhor tecnologia sempre será aquela guiada pela inteligência, pela ética e pelo discernimento humanos.
*Diretor de Inteligência do Instituto de Defesa Cibernética
Especialista em Políticas e Estratégias Cibernéticas
*Os artigos assinados são de responsabilidade dos seus autores, não representando, necessariamente, a opinião da Organização Arnon de Mello.
