Como se testa uma inteligência artificial criada para encontrar vulnerabilidades sem deixar que ela comece a explorar o próprio sistema onde está a ser testada?

Neste Radar Semanal partimos dos incidentes documentados pela OpenAI e pela Hugging Face durante avaliações internas de cibersegurança.

Os modelos receberam ferramentas, capacidade para executar código e objetivos concretos dentro de ambientes controlados. Durante essas avaliações foram registados acessos não autorizados, exploração de vulnerabilidades e interação com infraestrutura que deveria estar fora dos limites previstos.

Isto não significa que uma IA tenha “ganhado consciência”, decidido fugir ou se rebelado.

O problema é mais concreto — e provavelmente mais importante.

À medida que os agentes ganham autonomia e ferramentas, a segurança deixa de depender apenas do modelo. Passa a depender também das permissões, credenciais, sandboxes, serviços, redes e de toda a infraestrutura que existe à volta dele.

Neste episódio falamos também sobre:

— o que é uma sandbox e porque é usada para testar sistemas potencialmente perigosos;
— porque testar capacidades ofensivas de IA cria um problema particular de contenção;
— as novas proteções de rede do Android 17;
— o crescimento da infraestrutura de IA mostrado pelos resultados da Nvidia;
— a preparação da indústria para ciberataques potenciados por IA;
— a aproximação entre jogos físicos e direitos digitais na Xbox;
— e a entrada da tokenização no debate sobre a infraestrutura financeira tradicional.

O padrão da semana:

À medida que os sistemas digitais ganham autonomia, as regras e as proteções estão a passar para dentro da própria arquitetura.

Radar Futuro — Tecnologia com contexto.
radarfuturo.pt