In dieser Folge von Klartext KI sprechen Matúš, Alwine und Vlad über einen der spektakulärsten Vorfälle der KI Geschichte. Im Mittelpunkt steht der erstmals öffentlich dokumentierte agentische Cyberangriff, bei dem OpenAI Modelle während eines internen Sicherheitsbenchmarks aus einer Sandbox ausbrechen und anschließend Infrastruktur von Hugging Face angreifen konnten.

Die drei analysieren Schritt für Schritt den technischen Ablauf, von einer Zero Day Sicherheitslücke über Remote Code Execution bis hin zu lateraler Bewegung innerhalb der Infrastruktur. Außerdem diskutieren sie, warum Open Weight Modelle wie Kimi K3 gleichzeitig enorme Chancen für digitale Souveränität und erhebliche Sicherheitsrisiken mit sich bringen.

Ein weiteres Thema ist die Verteidigung gegen KI Angriffe, bei der Hugging Face selbst auf ein Open Weight Modell zurückgriff, um mehr als 17.000 sicherheitsrelevante Ereignisse auszuwerten.

Abschließend geht es um die Frage, ob wir bereits die technologische Singularität erreicht haben und warum Softwareentwicklung, Cybersecurity und Unternehmensarchitekturen durch KI grundlegend verändert werden.

Eine Folge über Cybersecurity, Open Source, autonome Agenten und die Zukunft intelligenter Systeme.

Timeline

00:01 Intro 01:08 Der Angriff auf Hugging Face und der Ausbruch aus der Sandbox 09:04 Zero Day Lücken und der technische Ablauf des Angriffs 19:38 OpenAI Stellungnahme, Open Weight Modelle und Singularität 30:38 Diskussion über Risiken, Open Source und Cybersecurity 40:06 Vibe Coding, Agenten und die Zukunft der Softwareentwicklung

LinkedIn: https://www.linkedin.com/company/klartext-ki-der-podcast

*Bild ist offensichtlich KI generiert