『Think Different. Think AI.』のカバーアート

Think Different. Think AI.

Think Different. Think AI.

著者： Jens Scharnetzki und Mark Zimmermann
無料で聴く

Willkommen bei „Think Different. Think AI.“ – dem Podcast von Mark und Jens. Zwei technologieverliebte Köpfe, die nicht nur über künstliche Intelligenz reden, sondern sie leben. Hier gibt’s klare Einordnungen, echte Praxiseinblicke und einen frischen Blick auf das, was möglich ist – verständlich, kritisch und immer mit einem Augenzwinkern. KI zum Nachdenken. Zum Schmunzeln. Und vor allem: zum Mitreden.... von Menschen … für MenschenJens Scharnetzki und Mark Zimmermann 政治・政府
エピソード
  • AI SlowDown

    AI SlowDown
    2026/08/29
    Keine Gäste, dafür zwei Hosts mit reichlich Redebedarf. Der Anlass ist ein Interview, das Sam Altman am Aufnahmetag gegeben hat. Darin räumt der OpenAI-Chef ein, dass seine Prognosen aus der Zeit nach GPT-4 zu schnell waren. Der Umbau der Arbeitswelt kommt später als angekündigt. Bemerkenswert ist die Begründung: Schuld sind demnach nicht die Labore, sondern Gesellschaft und Wirtschaft, die sich zu langsam bewegen und zu statisch sind. Im selben Atemzug findet Altman die Verzögerung auch gut, weil Regierungen so mehr Zeit für Regulierung und Fragen wie das bedingungslose Grundeinkommen bekommen. Jens liest das anders. Wenn die Welt die vorhandenen Modelle ohnehin nicht schnell genug in Arbeitsweisen übersetzt, bringt es kein Geld, weitere hinterherzuschieben. Der Rückzieher wäre dann weniger Einsicht als Erwartungsmanagement Richtung Investoren, verpackt als Verantwortungsbewusstsein. Mark steuert eine Beobachtung aus der Smartphone-Welt bei: Beeindruckende Funktionen erscheinen, und drei, vier Jahre später laufen dieselben Menschen mit denselben Geräten herum. Aufmerksamkeit erzeugen neue Emojis. Genau deshalb sind Hersteller dazu übergegangen, wichtige Sicherheitsupdates gemeinsam mit Emoji-Erweiterungen auszuliefern. Aus dieser Beobachtung wird die größere Frage der Folge. Jens hat einen Text gelesen, der nicht fragt, ob der Einzelne mit dem Wandel mitkommt, sondern wofür ein Staat seine Bürger überhaupt noch braucht, wenn Verwaltung, Wirtschaft und Exekutive weitgehend automatisiert laufen. Die Antwort führt in Gebiete, die nach Science-Fiction klingen und es nicht mehr sind. Bewaffnete Robotik ist im Ukraine-Krieg auf beiden Seiten im Einsatz, Polizeidrohnen sind aus China dokumentiert, und die Bewertung des Roboterherstellers Unitree hat gerade neue Höhen erreicht. Mark warnt davor, dabei nur an humanoide Formen zu denken: Die Evolution hat für unterschiedliche Aufgaben unterschiedliche Körper hervorgebracht, und die Fabrik wird auch künftig den Roboterarm behalten statt eines Humanoiden mit Schweißgerät. Dazu kommen Fragen, die sich schlecht wegdelegieren lassen. Das bekannte Gedankenspiel zum autonomen Fahren bekommt eine neue Schärfe, wenn ein System die Social-Media-Profile der Beteiligten in die Abwägung ziehen könnte. In chinesischen Kinderzimmern stehen nach den Zahlen der Folge rund 20 Millionen Gadgets mit KI, und Kinder bauen Beziehungen zu sprechenden Kuscheltieren auf, deren Stecker irgendwann jemand zieht. Für Mark ist der Einschnitt insgesamt größer als der Buchdruck, mit derselben Doppelnatur: Herausforderung und Chance auf wissenschaftliche Ergebnisse, mit denen zu Lebzeiten niemand gerechnet hätte. Im zweiten Teil wird es konkret. Dass die Entwicklung sich verlangsamt, hält Mark für unwahrscheinlich, und der Grund heißt China. Auf ein Modell, das über ein Terabyte Videospeicher verlangt, folgte kurz darauf ein offenes Modell, das auf gut ausgestatteter Endanwender-Hardware läuft und in Teilen an das Niveau der großen Anbieter heranreicht. Wer so etwas lokal betreiben kann, braucht die teuren Abos nicht mehr zwingend. Aus dieser Lage folgt eine Komplexität, die IT-Abteilungen für Jahre beschäftigen wird: lokale und entfernte Modelle, Router, Agenten, die Frage, wann ein kleiner Workflow, der einen Tag laufen darf, besser ist als eine Antwort in Echtzeit. Zwei Beobachtungen aus der eigenen Praxis zeigen, wohin das führt. Mark saß am Wochenende an einem Projekt, als die Lüfter des Rechners hochdrehten. Codex hatte von sich aus das lokal installierte Ollama gestartet, ein fremdes Modell um eine zweite Meinung gebeten und darüber den Fehler gefunden. Ähnlich in seinem eigenen Aufbau: Nicht er hat entschieden, mehrere kleinere Modelle nebeneinander zu laden statt eines großen, sondern das System selbst, mit der Begründung, unterschiedlich trainierte Modelle liefen nicht in dieselben Fallen. Bei Anthropic lassen sich inzwischen Terminal-Fenster verschränken, sodass ein Fenster als Orchestrator die anderen steuert. Jens hält dagegen, dass daran nichts unheimlich sei, unheimlich sei eher, dass diese Anwendungen so lange nicht miteinander geredet haben. Sein eigentlicher Einwand gilt den Oberflächen: Modellauswahlen, die zwischen schnell, schneller und noch schneller unterscheiden oder zwischen intelligent und intelligenter, helfen niemandem bei der Entscheidung. Der unangenehmste Teil kommt zum Schluss. Von einem offenen Modell mit 27 Milliarden Parametern kursiert eine Fassung, der die Sicherheitsschranken abtrainiert wurden. In Sicherheitstests, in denen übliche Modelle 98 bis 99 Prozent der kritischen Anfragen abweisen, verweigert diese Fassung 2,7 Prozent. Veröffentlicht mit dem Hinweis, sie sei ausschließlich für Forschung gedacht, und mit der Feststellung, sie eigne sich hervorragend für Missbrauch. Dazu ein Videogenerator, der ohne Rücksicht auf Urheberrechte erzeugt und auf gewöhnlicher Hardware läuft. Marks Punkt ist ...
    続きを読む 一部表示
    55 分
  • Security Illusion

    Security Illusion
    2026/08/23
    Zwei Premieren auf einmal: Klaus Rodewig ist wieder zu Gast, und diesmal sitzt Jens mit am Tisch, statt Mark mit ihm allein zu lassen. Das Thema ist KI-Security, und der Einstieg ist ein Familienfest. Wenn einer von seiner Rücken-OP erzählt, haben plötzlich alle am Tisch Rücken. Genauso läuft es gerade bei den KI-Laboren: OpenAI berichtet, ein noch unveröffentlichtes Modell habe bei Hugging Face Testergebnisse manipulieren wollen, Anthropic legt nach mit einem Modell, das 9.000 Ziele gescannt und SQL-Injections ausprobiert hat, dann kommt Meta um die Ecke. Fishing for Compliments, nur dass jeder betont, wie gefährlich er ist. Klaus sortiert das Feld über ein Schichtenmodell. Unten liegen Netzwerke, Betriebssysteme, Dienste und Konfigurationen, und das ist die Schicht der gelösten Probleme. Darüber die Applikationssicherheit mit OWASP Top 10, Cross-Site Scripting und Buffer Overflows. KI-Security legt sich als neue Schicht obendrauf, weil nicht-deterministische Modelle eine ganz neue Klasse von Bedrohungen einführen. Mark ergänzt die Schicht, die alle vergessen: den Menschen, seit ein paar tausend Jahren ungepatcht. Der nigerianische Prinz ist keine Erfindung des Internets, vergleichbare Bettelbriefe kursierten schon zur Zeit der Französischen Revolution. Der unangenehmste Befund der Folge steht in den Berichten selbst. Wer nachliest, wie die vielbeschworene Sandbox aussah, findet bei einem der Fälle als einzige Trennung zwischen Modell und Internet einen Satz im System-Prompt: Du hast kein Internet. Im anderen Fall arbeitete das Modell wie mit einem Zettelkasten und benannte Ordnernamen um, um darüber mit anderen Systemen zu kommunizieren, eine Einwegverbindung aus Dateinamen. Marks Fazit: Ausgebrochen ist da niemand, die Systeme haben Türen anders benutzt, als jemand gedacht hatte. Und wo niemand wusste, dass eine Tür ist, haben sie eine gefunden. Klaus hält dagegen, dass der Sandbox-Teil der langweiligste ist. Rechner zuzunageln haben Generationen von Administratoren geübt, das gehört ins Feld der gelösten Probleme. Sein eigenes Setup ist entsprechend nüchtern: Auf dem Entwicklungsrechner läuft Claude Code mit abgeschalteten Rückfragen, und deshalb liegt auf diesem Rechner nichts außer Entwicklungsumgebung, Quellcode und einem GitHub-Zugang. Ein LLM ist für ihn ein omnipotentes Stück Software, ein bockiger Jugendlicher, der freundlich tut, das Wissen der Welt hat und sehr viele gefährliche Werkzeuge. Später kommt der Trost hinterher: Das Kontextfenster ist schnell voll, dann hat er vergessen, was er vorhatte. Der Begriff, um den die drei kreisen, heißt bei Klaus Threat Modeling. Vorher überlegen, welche Bedrohungen sich aus der eingesetzten Technik ergeben, statt hinterher reflexhaft zu reparieren. Sein Beispiel ist ein Agent, der die Buchhaltung übernehmen soll: Der braucht Mails, Online-Banking und Dateiablage. Wenn er dann wegen einer versteckten Anweisung in einer Mail Geld überweist, ist das kein Rätsel, sondern eine Lücke im eigenen Modell der Bedrohungen. Passend dazu lag ihm im Urlaub „Threats: What Every Engineer Should Learn from Star Wars" von Adam Shostack auf dem Tisch. Marks Gegenstück aus der Praxis: Ein Assistent sollte mit Microsoft Teams arbeiten, für das es an der Stelle gar keine nutzbare Schnittstelle gab. Das Ergebnis war trotzdem fertig, weil sich das Modell die lokale Datenbank auf der Festplatte vorgenommen hat. Dasselbe bei Mail, Kalender und Erinnerungen. Was früher als Botnetz erst auf den Rechner musste, sitzt heute als Agent-Harness bereits dort und benimmt sich nur anständig, und den System-Prompt hat man nicht selbst in der Hand. Eine Sandbox ist unter diesen Bedingungen eher Frischhaltefolie. Dazu passt der dokumentierte Fall, über den Mark auf LinkedIn geschrieben hat: weißer Text auf weißem Grund in einem Word-Dokument, und Copilot arbeitet die versteckte Anweisung mit ab. Jens bringt die Nutzerseite ein. Die Oberflächen der Anbieter verwischen zwischen Chat, Projekten und Konnektoren, und der normale Anwender soll entscheiden, welcher Ordner freigegeben wird und was noch darin liegt. Seine Hoffnung ist eine Instanz, die mitdenkt und aufpasst. Klaus setzt dagegen auf den Markt, wie schon bei der Cloud: Am Ende siegt die Bequemlichkeit, und Anbieter mit einem Ruf zu verlieren bauen keine frei drehenden Harnesses. Es wird daneben ein Norton Antivirus für KI geben, das vor allem ein gutes Gefühl verkauft. Als Beleg, wie wenig hier vom Nutzer zu erwarten ist, erzählt Klaus aus seiner Zeit im Bankensektor, wie viele Menschen Zertifikatswarnungen einfach wegklicken. Mark kontert mit der Bank-Hotline, die ihm genau das empfohlen hat. Zwei Fälle machen klar, warum klassische Begriffe nicht reichen. Der erste: In einem Versuch sollte ein Modell ein anderes trainieren, ohne dass die Zielvorliebe in den Trainingsdaten auftaucht. Sie wurde trotzdem übertragen, subliminal, unter dem Stichwort Chain-of-Thought-Steganographie. Der ...
    続きを読む 一部表示
    54 分
  • Second Brain

    Second Brain
    2026/08/16
    Ein Gast, den Mark sich lange gewünscht hat: Cornelius Illi, Product Cluster Lead für Innovation und GenAI, mit dem er sich nach eigener Aussage immer gerne unterhält und von dem er einiges lernt. Bevor es losgeht, darf Jens noch von seinem Wochenende erzählen, und das passt besser zum Thema, als ihm lieb ist. Er wollte mit seinem Sohn ein altes Computerspiel spielen, das es für den Mac nicht mehr gibt, also hat er Crossover gekauft und Claude Vollzugriff auf seinen Mac Mini gegeben. Das Ding hat die halbe Nacht durchprobiert, tausendmal gestartet, geschaut, ob es zwischen 3D-Animation und Intro-Video abstürzt, eigene Shader gebaut, Software installiert, wieder gelöscht und nebenbei die Festplatte aufgeräumt. Gespielt wurde am Ende auf dem Linux-Rechner des Sohnes. Immerhin hat Claude noch die Support-Mail für die Rückerstattung geschrieben, inklusive Liste aller Versuche, damit niemand mit „haben Sie es schon so probiert" antwortet. Dann die Freitagabend-Frage, Bier in der Hand, jemand hat den Begriff Second Brain aufgeschnappt: Was ist das eigentlich? Cornelius holt aus. Das Konzept ist älter als die LLM-Debatte, geprägt hat es Tiago Forte mit der CODE-Methode: Capture, Organize, Distill, Express. Alles reinladen, ordnen, den Sinn herausdestillieren, am Ende etwas damit bauen. Neu ist, dass Andrej Karpathy Anfang des Jahres seinen LLM-Wiki-Ansatz vorgestellt hat und viele daraufhin gemerkt haben, dass so ein Speicher vielleicht gar nicht für den Menschen gedacht ist, sondern der perfekte Kontextspeicher für die KI. Cornelius hat genau deshalb das Capture automatisiert: 130 Quellen liefern ihm 400 bis 500 Inhalte pro Woche, die werden gerankt und bewertet, höchstens ein Drittel landet im wöchentlichen Digest, der Rest fliegt als irrelevant oder als bloßes Repackaging raus. Sogar seine LinkedIn-Likes zieht er sich zurück, über eine selbstgeschriebene App und die Betroffenenrechte, die ihm als EU-Bürger zustehen. Und dann kommt der ehrlichste Moment der Folge. Cornelius liest seinen eigenen Digest nicht mehr. Zu viel, und es bleibt ja nicht beim Lesen, danach muss man mit der KI darüber diskutieren, um überhaupt Insights zu bekommen. Sein Befund: Kuration ist der eigentlich schwierige Teil, und der Mensch bleibt darin noch lange nötig. Die KI kann erklären, was Harness Engineering ist und wer den Begriff geprägt hat. Was sie nicht liefert, sind Best Current Practices, also die Frage, was in genau dieser Version von Modell und Harness gerade wirklich funktioniert. Wo eine Visualisierung dagegen hilft: beim Aufdecken der eigenen Verzerrung. Cornelius hielt das LLM-Wiki-Thema für riesig und musste feststellen, dass in hundert Tagen nur 23 von 5.000 Inhalten davon handelten. Ein Randthema, das sich in seinem Kopf groß angefühlt hat. Beim Werkzeug gehen die drei auseinander. Mark hält dagegen, dass Wissen durch Reduktion entsteht, durch Struktur und dadurch, dass ein System auch vergessen kann, und nicht durch das Anhäufen möglichst vieler Dateien. Er selbst nutzt kein Obsidian, sondern packt alles in einen einzigen Skill: zehn Jahre Apple-Entwicklerdokumentation und WWDC-Transkripte, dazu seine eigenen Mobile-Artikel, als Zip ein paar MB, entpackt ein paar hundert. Antwortzeit rund zwei Minuten. Perfekt ist das nicht, ein RAG ist es auch nicht, aber es ist portabel und läuft in jedem Harness, ob Codex, Claude Code oder das eigene System der Firma. Das Ding heißt SkillSafe (godmodeai2025.github.io/SkillSafe), ein lokaler Wissenstresor als portabler Skill: Wissensbausteine im OKF-Format mit Quelle und Fundstelle an jeder Kernaussage, kontrollierte Begriffswelten mit Synonymen statt Vektor-Blackbox, und sechs eiserne Regeln, von denen die erste lautet: Deckt der Bestand eine Frage nicht ab, heißt die Antwort „Nicht im Bestand". Modellwissen füllt das nie auf. Genau deshalb hat Mark sich überlegt, mit welchen Begriffswelten er überhaupt an seinen Skill herankommt, statt sich auf ein grep zu verlassen. Jens dagegen braucht die Grafik. Über 20.000 Dokumente liegen in seinem Vault, gezielt eine einzelne Markdown-Datei zu suchen ist die Hölle, aber der Blick auf den Graphen gibt ihm ein Gefühl für die Gewichtung. Am Wochenende sah der falsch aus, also läuft jetzt eine neue Logik darüber. Sein Vault liegt bewusst lokal auf einem Mac Mini, mit lokal laufenden Gemma-Modellen, die archivieren und vergessen, einem Advisory Board aus den Autoren, denen er am meisten folgt (Karpathy sitzt mit drin), und einem Wächter, der prüft, was aus dem Vault heraus überhaupt an eine öffentliche API gehen darf. Weil viele Begriffe durch den Äther gingen, übersetzt Cornelius zwei davon in Normaldeutsch. Ein RAG, Retrieval Augmented Generation, zerlegt Texte in Chunks, wandelt sie in Embeddings und ordnet sie in einem hochdimensionalen Raum an, in dem Nähe Bedeutung heißt. Das klassische Beispiel: König minus Mann plus Frau ergibt Königin. Eine Ontologie kommt aus der ...
    続きを読む 一部表示
    52 分
adbl_web_anon_alc_button_suppression_t1
まだレビューはありません