Die KI gehorcht – und genau das ist das Problem
カートのアイテムが多すぎます
カートに追加できませんでした。
ウィッシュリストに追加できませんでした。
ほしい物リストの削除に失敗しました。
ポッドキャストのフォローに失敗しました
ポッドキャストのフォロー解除に失敗しました
Die KI gehorcht – und genau das ist das Problem
-
ナレーター：
-
著者：
概要
Ein einziger Kommentar reicht, um künstliche Intelligenz zu übernehmen. Das ist keine Panne. Das ist Teil des Designs:
Stellen Sie sich vor, Sie stellen eine neue Mitarbeiterin ein. Sie ist hochqualifiziert, arbeitet rund um die Uhr, vergisst nie etwas und beschwert sich nicht. Den Schlüsselbund fürs Firmengebäude bekommt sie gleich am ersten Tag. Zugang zum Tresor auch. Nur eine kleine Eigenart hat sie: Sie macht buchstäblich alles, was man ihr sagt. Jeder Zettel, der irgendwo klebt, ist für sie eine Anweisung. Jede E-Mail, die reinkommt, könnte ein Auftrag vom Chef sein – oder eben nicht, sie prüft das nicht nach.
Wie lange würde Ihre Firma so funktionieren?
Ungefähr so sieht gerade die Lage im Maschinenraum vieler Unternehmen aus, die auf KI-Agenten setzen. Am 15. April 2026 hat der Sicherheitsforscher Aonan Guan zusammen mit einem Team der Johns Hopkins University vorgeführt, was passiert, wenn jemand diesen willigen Mitarbeitern die falschen Zettel hinlegt. Das Ergebnis ist unangenehm genug, dass drei der größten Tech-Konzerne – Anthropic, Google und Microsoft – die Sache lieber leise patchen wollten, statt öffentlich darüber zu reden...
https://kunstundki.de/2026/04/19/die-ki-gehorcht-und-genau-das-ist-das-problem/