Autonome Waffensysteme - Endbericht zum TA-Projekt

Technologische Fortschritte, die in den letzten Jahren in den Bereichen Robotik und künstliche Intelligenz erzielt wurden, haben Waffensysteme, die ohne menschliches Zutun Ziele auswählen und bekämpfen können, an die Schwelle zur konkreten Umsetzung gerückt. Automatisierung und Autonomie werden bereits heute für eine breite Palette an Funktio­nen bei Waffensystemen genutzt (u. a. Suche und Identifizierung potenzieller Ziele mithilfe von Sensordaten, Zielverfolgung, Priorisierung und Bestimmung des Zeitpunkts für den Angriff auf diese Ziele). Die Erweiterung autonomer Funktionen von Waffensystemen steht daher in allen technologisch fortgeschrittenen Ländern auf der Agenda.
Der Bericht verfolgt einen breiten Analyseansatz und deckt eine Vielzahl von Facetten des Themas ab. Zunächst erfolgt eine Darstellung des technologischen Reifegrads und der Entwicklungsperspektiven von AWS. Anhand einer Bestandsaufnahme von existierenden und in der Entwicklung befindlichen Systemen wird illustriert, welche Funktionen moderne Waffensysteme bereits heute und in absehbarer Zukunft autonom ausüben können.
Auf Grundlage dieser militärischen Fähigkeiten werden mögliche Einsatzszenarien für AWS diskutiert und sich daraus ergebende sicherheitspolitische Implikationen analysiert. ... mehrHier stehen die Fragen im Mittelpunkt, ob der mögliche Einsatz von AWS zu mehr oder weniger kriegerischer Gewalt führen würde, welche Auswirkungen auf die regionale Stabilität und das strategische Gleichgewicht zu erwarten wären und ob neue Rüstungswettläufe ausgelöst werden könnten. Ob und ggf. inwiefern die Anwendung tödlicher Gewalt durch autonom agierende Maschinen moralisch zulässig ist, ist die Kernfrage der ethischen Debatte um AWS, die im Bericht ausführlich dargestellt wird.

Inhalt
Zusammenfassung 9
1 Einleitung 29
2 Abgrenzung des Untersuchungsgegenstands 33
2.1 Definitorische Ansätze 34
2.2 Autonom, semiautonom oder automatisiert? 35
2.3 Die Definition des US-Verteidigungsministeriums 39
2.4 Die Qualität menschlicher Kontrolle über AWS 40
3 Technische Grundlagen von Autonomie 45
3.1 Autonomie aus informationstechnologischer Sicht 45
3.2 Autonome Funktionen aktueller militärischer Systeme 46
3.2.1 Autonomie für Mobilität 46
3.2.2 Autonomie für Zielerkennung/Zielbestimmung 47
3.2.3 Autonomie für Informationsgewinnung 48
3.2.4 Autonomie für die Fähigkeit zur Zusammenarbeit 49
3.3 Künstliche Intelligenz als Schlüsseltechnologie 50
3.3.1 Maschinelles Lernen 52
3.3.2 Was können KI-Systeme heute leisten? 53
3.3.3 Begrenzungen, Schwierigkeiten und Risiken bei KI-Systemen 56
4 Verbreitung, Status und Trends unbemannter Waffensysteme 67
4.1 Überblick zu einsatzreifen unbemannten (teil)autonomen Waffensystemen 70
4.1.1 Fliegende Systeme 71
4.1.2 Bodensysteme 76
4.1.3 Systeme zu Wasser 82
4.2 Forschungs- und Entwicklungstrends 85
4.2.1 USA 86
4.2.2 Europa 93
4.2.3 Weitere Schlüsselakteure 99
5 Einsatzszenarien 101
5.1 Argumente für AWS 101
5.2 Erwartete militärische Fähigkeiten 104
5.3 Missionen/Einsatzszenarien 110
5.3.1 Erwartete Missionen 111
5.3.2 Denkbare militärische Einsatzszenarien für AWS 114
5.3.3 Zwischenfazit 119
6 Sicherheitspolitische Implikationen von AWS 125
6.1 Mehr oder weniger Kriege? 126
6.2 Veränderung der Kriegsführung 127
6.3 Destabilisierende Wirkung in Krisen 130
6.4 Auswirkungen auf regionale Stabilität 131
6.5 Auswirkungen auf das strategische Gleichgewicht 132
6.6 Rüstungsdynamiken 133
6.7 Unkontrollierte Weiterverbreitung 133
6.8 Technologische Risiken 134
7 Humanitäres Völkerrecht und autonome Waffensysteme 137
7.1 Prüfungspflicht (Artikel 36 ZP I) 138
7.2 AWS im Lichte der Prinzipien des HVR 139
8 Ethische Fragestellungen im Kontext autonomer
Waffensysteme 149
8.1 AWS und die Ethik des Krieges 150
8.1.1 Die Lehre vom gerechten Krieg 151
8.1.2 Ermöglichen AWS eine ethischere Kriegsführung? 153
8.2 AWS und die Würde des Menschen 162
8.2.1 Der Begriff der Menschenwürde 162
8.2.2 Verletzt der Einsatz autonomer Waffensysteme
die Menschenwürde? 164
8.3 Die Frage der Verantwortung 168
8.3.1 Rechtliche Sicht 170
8.3.2 Moralische Sicht 173
8.4 Fazit 175
9 Möglichkeiten der Rüstungskontrolle 179
9.1 Rüstungs- und Exportkontrollabkommen mit Relevanz für AWS 179
9.1.1 Rüstungskontrollverträge 180
9.1.2 Transparenz und vertrauens- und sicherheitsbildende Maßnahmen 184
9.1.3 Nichtverbreitung und Exportkontrolle 185
9.2 Die Konvention über bestimmte konventionelle Waffen 189
9.2.1 Menschliche Kontrolle über AWS 191
9.2.2 Positionen wichtiger Staaten bzw. Organisationen 194
9.2.3 Gemeinsamer Vorschlag von Deutschland und Frankreich auf der CCW GGE 207
9.2.4 Ausgangslage für die weitere Diskussion im Rahmen der CCW 209
9.3 Regulierungsansätze der präventiven Rüstungs- und Exportkontrolle 212
9.3.1 Vertrauens- und sicherheitsbildende Maßnahmen 216
9.3.2 Exportkontrolle 218
9.3.3 Verbindliche Regulierung bzw. Verbot von AWS 219
9.4 Handlungsmöglichkeiten 222
9.4.1 Die Möglichkeiten innerhalb der CCW ausschöpfen 223
9.4.2 Engagement über die CCW hinaus verbreitern 224
9.5 Fazit 228
10 Literatur 229
10.1 In Auftrag gegebene Gutachten 229
10.2 Weitere Literatur 229
11 Anhang 261
11.1 Abbildungen 261
11.2 Tabellen 261
11.3 Kästen 261
11.4 Abkürzungen 262