Wie werden Entscheidungsprozesse in Krisen- und Gefährdungslagen durch KI assistiert? Zu Gast: Karl Hans Bläsius (Hochschule Trier) KI in Frühwarnsystemen und bei CyberangriffenKönnen Maschinen über Krieg entscheiden?- Wie Künstliche Intelligenz militärische Entscheidungen verändert- Risiken automatisierter Frühwarn- und Informationssysteme- Ein Gespräch mit einem Pionier der deutschen KI-ForschungEs ist kurz nach Mitternacht, am 26. September 1983, als im 50 Kilometer südlich von Moskau gelegenen Serpuchow die Alarmglocken schrillen. Das dort stationierte Frühwarnsystem meldet den Start einer amerikanischen Atomrakete auf die Sowjetunion. Dem damals verantwortlichen Oberstleutnant Stanislaw Petrow bleiben nur Minuten, um zu entscheiden, ob es sich tatsächlich um einen Erstschlag der USA oder einen Fehlalarm handelt. Petrow entschied sich letztlich, seinen Vorgesetzten einen Fehlalarm zu melden, auch als das computergestützte Frühwarnsystem ganze vier weitere Raketenstarts vermeldete. Heute wissen wir, dass das System fälschlicherweise Sonnenreflektionen als Raketenstarts interpretierte und Petrow durch seine Entscheidung womöglich einen Dritten Weltkrieg verhinderte.In der aktuellen Folge von KInote sprechen wir mit Prof. Dr. Karl-Hans Bläsius über die Rolle Künstlicher Intelligenz in militärischen Entscheidungsprozessen. Ausgangspunkt ist sein neuestes Buch „Künstliche Intelligenz und Krieg – Welche Risiken entstehen, wenn der Mensch die Kontrolle verliert?“. Karl-Hans Bläsius beschäftigt sich seit den frühen 1980er Jahren mit Künstlicher Intelligenz. Der studierte Informatiker lehrte viele Jahre an der Hochschule Trier und arbeitete zuvor unter anderem am Max-Planck-Institut. Neben der Entwicklung wissensbasierter Systeme befasst er sich seit Jahrzehnten mit den gesellschaftlichen Folgen digitaler Technologien und setzt sich für einen bedachten und verantwortungsvollen Gebrauch der Technologie ein.Krieg wird zum InformationsproblemDer öffentliche Diskurs und Darstellungen in der Popkultur legen häufig nahe, dass es sich bei dem Thema KI und Krieg primär um autonome Waffensysteme oder Kampfroboter handelte. Bläsius hat hingegen weniger sichtbare, aber umso folgenreichere Probleme der Künstlichen Intelligenz im Blick. Die Technologie kommt heute vor allem dort zum Einsatz, wo riesige Datenmengen in sehr kurzer Zeit verarbeitet werden müssen. Dies ist unter anderem bei der Auswertung von Sensordaten, bei Frühwarnsystemen, der Zielerkennung und Auswahl oder in der Cyberabwehr der Fall.Diese Daten können aber unvollständig oder fehlerhaft sein und somit zum Sicherheitsrisiko werden, da aus unsicheren Daten keine sicheren Schlüsse gezogen werden können. Die Menge der Daten und die Geschwindigkeit, mit der diese verarbeitet werden, steigen zudem stetig. Dieser Umstand macht eine Überprüfung der Prozesse durch Menschen schwieriger. Eine erhöhte Abhängigkeit gegenüber Einschätzungen und Entscheidungen der Systeme ist die Folge. Das könnte im ungünstigen Fall Szenarien herbeiführen, die an das Jahr 1983 erinnerten.Transparenz als SicherheitsfrageSprach man in den Kriegen des vergangenen und des aktuellen Jahrzehnts oftmals vom Konzept des „Gefechts der verbundenen Waffen“, so wird man in Zukunft wohl auch vom „Gefecht der verbundenen Daten“ sprechen müssen. Während es bis dato möglich war militärische Stärke bzw. Fähigkeiten beispielsweise anhand von Qualität und Anzahl von Schiffen, Flugzeugen oder Panzern zu messen, so wird dies im Zeitalter der Künstlichen Intelligenz komplexer. Militärische Fähigkeiten verlagern sich in Software und Daten. Hierbei ist es nahezu unmöglich, präzise Aussagen über Kapazitäten und Möglichkeiten von Gegnern zu treffen. Hinzu kommt, dass auch die Möglichkeiten und Grenzen der eigenen Systeme nicht vollumfänglich eingeschätzt werden können. Gerade in Krisensituationen kann diese fehlende Transparenz das Risiko von Fehlentscheidungen und unbeabsichtigten Eskalationen erhöhen.
続きを読む
一部表示
1 時間 12 分
1 時間 6 分