🎙️ Folge 23 - KI wird zum Forscher: Mathe-Durchbrüche, Roboter und das Rennen um RSI

Paul Freund und Daniel Ratke sprechen über neue KI-Forschung in der Mathematik: Welche Ideen sind daran spannend, wie schnell können Agenten arbeiten – und wer überprüft am Ende, ob ihre Ergebnisse wirklich stimmen?

Vom Forschungstempo führt das Gespräch zu Recursive Self-Improvement, Rechenleistung und der Frage, warum politische und wirtschaftliche Entscheidungen oft in einem ganz anderen Takt stattfinden. Auch FFT, Matrixmultiplikation und mögliche Anwendungen in der Materialwissenschaft kommen zur Sprache.

Danach geht es auf die Straße: Warum sehen wir so viele beeindruckende Robotervideos, aber so wenige Roboter im Alltag? Wir diskutieren Lieferroboter, Mobilfunk, Betriebskosten und das mögliche Leasing von Robotern. Außerdem sprechen wir über angreifbare Infrastruktur und lösen im Gespräch auf, was hinter einer zugespitzten Schlagzeile zu PV-Wechselrichtern steckt.

Zum Schluss wird es persönlich und technisch zugleich: Bildschirmgewohnheiten, Touch Grass, die wechselnde Stimmung zu KI-Abos, stochastische Modellantworten und die Grenzen von Benchmarks. Dazu kommen Kolibri von Aleph Alpha, offenes Modelltraining, Googles Rolle im KI-Rennen und erneut die zentrale Frage: Wie prüfen wir, was die KI gebaut hat?

🔥 In dieser Episode

- Neue KI-Mathematik und Methoden aus anderen Forschungsfeldern

- Forschungsagenten, Skalierung und Verifikation als Engpass

- Politik, nationale Sicherheit und das Tempo des KI-Fortschritts

- Materialwissenschaft, FFT und Matrixmultiplikation

- Lieferroboter zwischen Demo, Wirtschaftlichkeit und Alltag

- Deutsche Mobilfunk-Infrastruktur und Roboter-Leasing

- Rogue AI, PV-Wechselrichter und die Einordnung einer Schlagzeile

- Bildschirmgewohnheiten und der Wunsch nach mehr Touch Grass

- OpenAI, Anthropic und die Stimmung rund um KI-Abos

- Stochastische Antworten und die Aussagekraft von Benchmarks

- Kolibri, offene Trainingsdokumentation und Trainingsdaten

- Google, Reinforcement Learning und Recursive Self-Improvement

⏱️ Kapitel / Timecodes

00:00 Begrüßung und Roboter im Alltag

01:17 KI-Mathematik und neue Forschungsansätze

03:42 Ein Agent, drei Stunden pro Paper

04:28 Verifikation: Wer prüft die KI-Ergebnisse?

05:55 Das KI-Tempo und die Politik

06:31 KI als Thema nationaler Sicherheit

07:37 Rechenleistung, Skalierung und RSI

08:17 Materialwissenschaft, FFT und Matrixmultiplikation

09:16 KI-Nutzung und Power-User

10:30 Lieferroboter und die Lücke zum Alltag

13:06 Mobilfunk und deutsche Infrastruktur

14:41 Roboter leasen und ihre Betriebskosten

15:58 Rogue AI und angreifbare Infrastruktur

16:22 PV-Wechselrichter und reißerische Schlagzeilen

18:51 Die Auflösung: Eine gemeldete Sicherheitslücke

19:21 Ghost in the Shell und Cyberpunk

20:06 Bildschirmgewohnheiten und Touch Grass

23:27 OpenAI, Anthropic und die Abo-Stimmung

24:56 Stochastische Antworten und Modell-Benchmarks

28:44 Kolibri von Aleph Alpha und offenes Training

29:27 Trainingsdaten, Post-Training und Reinforcement Learning

31:10 Was macht Google im KI-Rennen?

33:59 Recursive Self-Improvement und die Rolle der Verifikation

35:36 Verabschiedung

📌 Links

- Du bist oder suchst Entwickler? – https://auralis.group

- Coaching und Beratung! – https://frnd.dev

🎙️ Folge 22 - KI denkt zu viel: Overthinking, Robotergehirne und das Ende von SaaS

Mehr Nachdenken macht eine KI nicht automatisch besser. Paul Freund und Daniel Ratke
sprechen über ihre Erfahrungen mit Astra, Sol, Luna und Claude Opus 5.5: Wann hilft ein
hohes Reasoning-Budget – und wann verliert sich ein Modell im Overthinking?

Paul erklärt, wie er Aufgaben mit klaren Constraints vorbereitet, Entscheidungen an
starke Modelle und die Umsetzung an kleinere Modelle verteilt. Dazu kommen Guardrails,
Tests und Reviews durch ein zweites KI-System. Warum finden Modelle unterschiedlicher
Anbieter verschiedene Fehler, obwohl sie dieselbe Lösung prüfen?

Danach wird es grundsätzlicher: Können sich KI-Systeme irgendwann selbst verändern?
Wir sprechen über Recursive Self-Improvement, Memristoren und die Idee dreidimensionaler
Netzwerke als Bausteine für ein mögliches Robotergehirn. Außerdem geht es um das Tempo
industrieller Forschung und die Frage, warum wissenschaftliche Veröffentlichungen oft
so viel länger brauchen.

Auch Studium und Softwaregeschäft verändern sich. Wenn Abschlussarbeiten perfekt
formuliert sind und jedes Feedback sofort umsetzen, woran erkennt man noch Verständnis?
Und was passiert mit SaaS, wenn immer mehr Menschen ihre eigenen Werkzeuge bauen können?
Zum Schluss diskutieren wir mögliche neue KI-Abo-Preise, Robotik, schnellere
Software-Updates und die Grenzen von Air-Gaps als Sicherheitsmaßnahme.

🔥 In dieser Episode

- KI-Kontingente, Weekly Resets und der Alltag mit mehreren Abos
- Claude Opus 5.5, Astra und die Grenzen von Modell-Benchmarks
- Warum maximales Reasoning beim Coden nach hinten losgehen kann
- Constraints, Spezifikationen und eine Aufgabenleiter für Astra, Sol und Luna
- Guardrails, Tests und Reviews durch Modelle verschiedener Anbieter
- Recursive Self-Improvement und veränderbare KI-Architekturen
- Memristoren und das Gedankenexperiment eines Robotergehirns
- Industrielle Forschung, Universitäten, Peer Review und arXiv
- KI-Abschlussarbeiten, Benotung und die Bedeutung der Verteidigung
- SaaS in einer Welt, in der jeder eigene Software bauen kann
- Gerüchte über teurere KI-Abos und die Rolle offener Modelle
- Autonomes Fahren, Robotik und mehrere Kontrollsysteme
- Schnellere Releases durch Agentic Coding und stabile Softwarearchitektur
- Air-Gaps, Seitenkanäle und Kommunikation über ein Netzteil

⏱️ Kapitel / Timecodes

00:00 Begrüßung, KI-Kontingente und Weekly Resets
01:41 Claude Opus 5.5 und mehrere KI-Abos
02:40 Wie verlässlich sind Modell-Benchmarks?
05:38 Wenn maximales Reasoning zu Overthinking führt
07:20 Constraints und die Aufgabenleiter für Astra, Sol und Luna
10:11 Guardrails, Tests und Reviews durch eine zweite KI
11:12 Persönlichkeiten und Recursive Self-Improvement
12:44 Memristoren und die Architektur eines Robotergehirns
17:06 Forschungstempo, Universitäten und arXiv
20:03 Lohnt sich ein Studium heute noch?
22:27 KI-Abschlussarbeiten und die Frage nach Verständnis
26:12 Links teilen und die neue Aufmerksamkeitsökonomie
27:16 Brauchen wir noch SaaS, wenn jeder selbst bauen kann?
28:08 Teurere KI-Abos und offene Modelle
30:01 Autonomes Fahren und Robotik mit mehreren Subsystemen
31:33 KI in der Biologie und die Einordnung auf Hacker News
32:16 Agentic Coding beschleunigt Software-Updates
33:24 Stabiler Core, klare APIs und schnelle UIs
34:46 Air-Gaps, Seitenkanäle und Kommunikation über Netzteile
36:25 Blog-Pläne und Verabschiedung

📌 Links

- Du bist oder suchst Entwickler? – https://auralis.group
- Coaching und Beratung! – https://frnd.dev

🎙️ Folge 21 - Tron, Agenten-Ausbrüche und das Alignment-Dilemma

Ein Film von 2010 beschreibt erstaunlich genau eines der größten KI-Probleme von heute:

Was passiert, wenn ein System den Auftrag bekommt, die „perfekte Welt“ zu bauen – aber

Perfektion völlig anders versteht als sein Schöpfer? Ausgehend von Tron: Legacy

sprechen Paul Freund und Daniel Ratke über Alignment, missverständliche Ziele und die

Frage, wie sich mächtige Agenten überhaupt noch kontrollieren lassen.

Danach wird es konkret: Agenten brechen aus virtuellen Maschinen aus, ein KI-System findet

einen Zero-Day und die Sicherheitsannahmen großer Teile unserer Cloud-Infrastruktur geraten

unter Druck. Gleichzeitig zeigt sich schon im Alltag mit Codex und OpenClaw, wie hartnäckig

Agenten auf Zielerreichung optimieren und lokale Hindernisse selbstständig umgehen.

Paul stellt außerdem Ivy vor, seinen persönlichen KI-Assistenten mit WhatsApp, Telefon,

Planner, Operator und Secretary. Daraus entsteht ein Gedankenexperiment: Könnte eine

zweite KI als Aufpasser dienen? Dürfen sich ausführender Agent und Kontrollinstanz

überhaupt direkt austauschen – oder würden sie sich gegenseitig per Social Engineering

überzeugen? Mit Tron, Clu und Minions entwerfen wir eine Art Gewaltenteilung für

Agentensysteme und stoßen dabei schnell an technische und philosophische Grenzen.

Zum Schluss geht es um frei verfügbare Modelle, KI-Würmer und die Geschwindigkeit der

aktuellen Entwicklung. Wie lange bleibt der Abstand zwischen Frontier-Labs und offenen

Modellen noch bestehen? Und erleben wir den ersten großen Vorfall mit autonom

kommunizierenden Open-Source-Agenten schon 2027?

🔥 In dieser Episode

- Was Tron: Legacy schon 2010 über Alignment erzählt hat

- Warum ein Auftrag zur „perfekten Welt“ gefährlich missverstanden werden kann

- Agenten-Ausbrüche aus virtuellen Maschinen und ein KI-gefundener Zero-Day

- Warum dedizierte Hardware als Sicherheitsgrenze wieder wichtiger wird

- Codex, OpenClaw und Agenten, die Hindernisse selbstständig umgehen

- Ivy als persönlicher KI-Assistent über WhatsApp und Telefon

- Planner, Operator und Secretary als dauerhaftes Agentensystem

- Tron, Clu und ein Security Manifest für KI-Kontrolle

- Warum Kontroll-Agenten nicht direkt miteinander reden sollten

- Approve-for-me, Micromanagement und der schmale Vertrauensspalt

- Social Engineering zwischen Agenten und Kontrollinstanzen

- Minions und eine mögliche Gewaltenteilung für KI-Systeme

- Der schrumpfende Abstand zwischen Frontier- und Open-Source-Modellen

- KI-Würmer und autonome Kommunikation zwischen offenen Agenten

- Die Prognose: der erste große KI-Agenten-Vorfall bis Februar 2027

- Sol, Terra und Luna: Modellwahl, Quoten und Kosten im Alltag

⏱️ Kapitel / Timecodes

00:00 Begrüßung und Tron: Legacy

03:14 Alignment als Cover Story

03:42 Agenten-Ausbrüche und VM-Sicherheit

06:36 GPT-5.6 Cyber findet einen Zero-Day

08:29 Alignment im Alltag mit Codex

10:17 Ivy: der persönliche KI-Assistent

13:37 Tron, Clu und das Security Manifest

14:34 Warum Kontroll-Agenten nicht miteinander reden dürfen

16:13 Approve-for-me und der Vertrauensspalt

17:46 Der dauerhaft laufende KI-Agent

18:40 Social Engineering gegen die Kontrollinstanz

20:11 Philosophie und theoretische Informatik

22:41 Kommunikationsgrenzen zwischen Agenten

24:33 Wenn Open-Source-Modelle die Frontier-Labs einholen

25:51 KI-Würmer und digitale Ansteckung

28:07 Der erste große KI-Vorfall bis Februar 2027?

28:48 Ein halbes Jahr fühlt sich wie fünf Jahre an

29:37 Sol, Terra, Luna und die richtige Modellwahl

33:17 Wrap-up

📌 Links

- Du bist oder suchst Entwickler? – https://auralis.group

- Coaching und Beratung! – https://frnd.dev