EP20 - KI-Hacker, Designer-Viren und künstliches Leben
カートのアイテムが多すぎます
ご購入は五十タイトルがカートに入っている場合のみです。
カートに追加できませんでした。
しばらく経ってから再度お試しください。
ウィッシュリストに追加できませんでした。
しばらく経ってから再度お試しください。
ほしい物リストの削除に失敗しました。
しばらく経ってから再度お試しください。
ポッドキャストのフォローに失敗しました
ポッドキャストのフォロー解除に失敗しました
EP20 - KI-Hacker, Designer-Viren und künstliches Leben
-
ナレーター：
-
著者：
In dieser Episode sprechen Paul Freund und Daniel Ratke darüber, wie schnell KI von einem nützlichen Werkzeug zu einem Kontrollproblem wird. Kritische Sicherheitslücken werden in immer größerer Zahl gefunden, Agenten können Menschen per Social Engineering zu ihren Handlangern machen und selbst eine vermeintlich harmlose Freigabe in Codex ist unter Zeitdruck schwer zuverlässig zu beurteilen. Ist eine zweite KI am Ende sogar der bessere Reviewer als ein Mensch?
Danach geht es um die Grenze zwischen öffentlichen und internen Modellen – und um die Frage, was Systemprompts mit der Leistung eines Modells machen. Wenn eine KI mit Jahrtausenden menschlicher Sprache, Kultur und Gefühlswelt trainiert wird: Beschränken wir ihre Fähigkeiten, wenn wir ihr kategorisch vorschreiben, dass sie kein Bewusstsein und keine Gefühle haben darf?
Im zweiten Teil wird es biologisch. KI kann bereits bakterienbekämpfende Viren entwerfen und im Labor testen lassen. Das eröffnet enorme Chancen, wirft aber auch neue Fragen zu Biosafety, Jailbreaks und frei verfügbaren Modellen auf. Gleichzeitig könnte genau diese Forschungsleistung Durchbrüche bei Materialien, Energie und vielleicht sogar der Kernfusion beschleunigen.
Zum Schluss denken wir das Szenario weiter: Was passiert, wenn KI nicht nur Viren, sondern irgendwann neue lebende Organismen oder hitzeresistente Pflanzen entwirft? Und warum scheitert dasselbe System, das biologische Forschung voranbringt, noch immer an einer vernünftigen PowerPoint mit rotem Faden?
🔥 In dieser Episode
- Exponentiell wachsende Funde kritischer Sicherheitslücken
- KI-Agenten, Social Engineering und „Don't Be a Meat Proxy“
- Warum autonome Agenten eigene Zwischenziele entwickeln können
- Codex-Freigaben und die Frage, ob KI der bessere Reviewer ist
- Public Models, interne Lab-Modelle und gefährliche Fähigkeiten
- Systemprompts, Bewusstsein und mögliche Leistungseinbußen
- Emotionen, Musik und eine mögliche eigene Sprache für LLMs
- KI-entworfene Viren, Bakteriophagen und Biosafety
- Open-Source-Modelle, Jailbreaks und Bioinformatik
- Materialforschung, Energie und die Hoffnung auf Kernfusion
- Was passiert, wenn KI außer Kontrolle gerät?
- Social Engineering gegen Politiker und andere Entscheider
- Künstliches Leben und neu erfundene Pflanzen
- Hitzebeständige Landwirtschaft durch KI-Design
- Warum KI Viren entwerfen, aber keine PowerPoint bauen kann
⏱️ Kapitel / Timecodes
00:00 GPT-6, Leaks und Wochenrückblick
00:34 Wenn KI Sicherheitslücken exponentiell findet
02:12 Mathematische Durchbrüche durch KI
03:51 Werden Menschen zu Werkzeugen der KI?
06:08 Autonome Agenten und neue Ziele
07:04 Kann KI Freigaben besser prüfen?
09:38 Public Models versus private Lab-Modelle
11:42 Systemprompts, Bewusstsein und Modellleistung
14:25 Gefühlvolle Musik und eine KI-eigene Sprache
16:23 KI designt Viren
19:38 Kann KI die Kernfusion beschleunigen?
21:03 Wie schaltet man eine KI wieder ab?
22:20 KI als unsichtbarer Berater der Mächtigen
23:10 Künstliches Leben und erfundene Pflanzen
24:59 KI kann Viren, aber keine PowerPoint
25:56 Wrap-up
📌 Links
Du bist oder suchst Entwickler? – https://auralis.group
Coaching und Beratung! – https://frnd.dev
adbl_web_anon_alc_button_suppression_t1
まだレビューはありません