A segurança da inteligência artificial já não depende apenas do modelo.

Os agentes começam a ganhar acesso a browsers, ferramentas, ficheiros, APIs, credenciais e sistemas reais.

Isso torna-os muito mais capazes.

Mas também aumenta a quantidade de software e infraestrutura que precisa de ser protegida.

Esta semana vimos as duas metades dessa mudança ao mesmo tempo.

A CISA adicionou novas vulnerabilidades com exploração conhecida ao seu catálogo. Entre os componentes afetados estão ferramentas relevantes para aplicações, automação e infraestrutura moderna, como LiteLLM, Starlette e Kestra.

Ao mesmo tempo, a OpenAI apresentou o GPT-6 Astra, o primeiro modelo que a própria empresa classifica como Critical em capacidade de cibersegurança dentro do seu Preparedness Framework.

Segundo a OpenAI, em ambientes de avaliação Astra conseguiu encontrar vulnerabilidades anteriormente desconhecidas e desenvolver formas de as explorar.

Mas há ressalvas importantes.

“Critical” é uma classificação da própria OpenAI, não uma certificação independente. As capacidades de cibersegurança mais avançadas têm acesso restrito e os resultados mais extremos foram obtidos em ambientes específicos de avaliação.

Neste Radar Semanal explicamos porque a próxima grande falha relacionada com inteligência artificial pode não estar dentro do próprio modelo.

Pode estar numa das peças de software que lhe dá acesso ao mundo.

Neste episódio passamos também por:

— LiteLLM, MCP, Starlette e Kestra;
— a corrida entre IA usada para encontrar vulnerabilidades e IA usada para as corrigir;
— o programa Daybreak for Frontline Defenders;
— computadores Lenovo preparados para executar IA mais exigente localmente;
— os dois State of Play da PlayStation e algumas das primeiras grandes datas de 2027;
— uma ação judicial contra a Apple no Reino Unido;
— e a curiosa história de um “laser de neutrinos” que investigadores do MIT concluíram ser fisicamente inviável.

O padrão da semana:

Cada nova capacidade torna os agentes mais úteis — e aumenta também a superfície que precisamos de proteger.

Radar Futuro — Tecnologia com contexto.
radarfuturo.pt

Como se testa uma inteligência artificial criada para encontrar vulnerabilidades sem deixar que ela comece a explorar o próprio sistema onde está a ser testada?

Neste Radar Semanal partimos dos incidentes documentados pela OpenAI e pela Hugging Face durante avaliações internas de cibersegurança.

Os modelos receberam ferramentas, capacidade para executar código e objetivos concretos dentro de ambientes controlados. Durante essas avaliações foram registados acessos não autorizados, exploração de vulnerabilidades e interação com infraestrutura que deveria estar fora dos limites previstos.

Isto não significa que uma IA tenha “ganhado consciência”, decidido fugir ou se rebelado.

O problema é mais concreto — e provavelmente mais importante.

À medida que os agentes ganham autonomia e ferramentas, a segurança deixa de depender apenas do modelo. Passa a depender também das permissões, credenciais, sandboxes, serviços, redes e de toda a infraestrutura que existe à volta dele.

Neste episódio falamos também sobre:

— o que é uma sandbox e porque é usada para testar sistemas potencialmente perigosos;
— porque testar capacidades ofensivas de IA cria um problema particular de contenção;
— as novas proteções de rede do Android 17;
— o crescimento da infraestrutura de IA mostrado pelos resultados da Nvidia;
— a preparação da indústria para ciberataques potenciados por IA;
— a aproximação entre jogos físicos e direitos digitais na Xbox;
— e a entrada da tokenização no debate sobre a infraestrutura financeira tradicional.

O padrão da semana:

À medida que os sistemas digitais ganham autonomia, as regras e as proteções estão a passar para dentro da própria arquitetura.

Radar Futuro — Tecnologia com contexto.
radarfuturo.pt

A segurança da inteligência artificial já não depende apenas do modelo.

À medida que os agentes ganham browsers, ferramentas, APIs, ficheiros, credenciais e acesso a sistemas reais, aumenta também a quantidade de software e infraestrutura que precisa de ser protegida.

Esta semana vimos as duas metades desse problema.

A CISA confirmou exploração de vulnerabilidades em componentes relevantes para aplicações, automação e infraestrutura moderna, incluindo LiteLLM, Starlette e Kestra.

Ao mesmo tempo, a OpenAI apresentou o GPT-6 Astra, o primeiro modelo que a própria empresa classifica como Critical em capacidade de cibersegurança.

No Radar Semanal explicamos o que acontece quando modelos capazes de encontrar vulnerabilidades começam a coexistir com uma infraestrutura de agentes cada vez mais complexa.

Também passamos pela IFA e pelos novos computadores Lenovo preparados para IA local, pelos dois State of Play da PlayStation, pela ação judicial contra a Apple no Reino Unido e por uma experiência científica particularmente curiosa: investigadores do MIT demonstraram porque um “laser de neutrinos” afinal não pode funcionar.

Radar Futuro — Tecnologia com contexto.

https://radarfuturo.pt