Obwohl autonome Waffen grundlegenden Prinzipien des Kriegsrechts folgen mögen, können sie nicht mit dem humanitären Völkerrecht (IHL) vereinbar sein. Das IHL erfordert die Beachtung der Prinzipien der Unterscheidung (zwischen Kombattanten und Zivilisten), der Verhältnismäßigkeit (der eingesetzten Gewalt) und der militärischen Notwendigkeit (der Gewaltanwendung im Krieg). In dieser Hinsicht stellt sich die Frage, ob es nicht einen Nutzen gibt, eine neue Regelung einzuführen, die die Entwicklung und den Einsatz solcher Waffen verbietet, und von den Mitgliedstaaten der Vereinten Nationen ratifiziert wird.

Die Wahrnehmungen von Terrorismus sind weltweit unterschiedlich, und aufgrund dieser unterschiedlichen Auffassungen hat die Ausarbeitung einer internationalen Gesetzgebung zur Bekämpfung des Terrorismus immer wieder auf Probleme gestoßen. Nach dem Angriff auf die Zwillingstürme am 11. September 2001 verabschiedete der Sicherheitsrat der Vereinten Nationen einstimmig die Resolution 1373. Dieses Dokument war von entscheidender Bedeutung für die künftige Reaktion des Sicherheitsrates auf die Bedrohung des Terrorismus. Trotz seiner Bedeutung bleibt die Definition von Terrorismus in den folgenden Resolutionen vage, da die Mitgliedstaaten der Vereinten Nationen in den letzten sieben Jahrzehnten nicht in der Lage waren, sich auf eine einheitliche Definition zu einigen. In der Zwischenzeit folgt die Generalversammlung der Vereinten Nationen üblicherweise ihrer eigenen Definition, die 1994 in der Erklärung zu „Maßnahmen zur Beseitigung des Terrorismus“ festgelegt wurde. Diese Definition beschreibt Terrorismus als kriminelle Handlungen, die darauf abzielen, einen Zustand des Terrors in der breiten Öffentlichkeit oder bestimmten Gruppen auszulösen, unabhängig von den politischen, ideologischen oder anderen Rechtfertigungen, die dafür angeführt werden.

Der Counter-Terrorism Committee (CTC) wurde als Unterausschuss des Sicherheitsrates durch Resolution 1373 von 2001 ins Leben gerufen und befugt den Sicherheitsrat, die Einhaltung der in dieser Resolution enthaltenen Bestimmungen durch die Mitgliedstaaten zu überprüfen. Unter Berücksichtigung der Ansichten von Menschenrechtsgruppen hat der Sicherheitsrat in seiner Resolution 1556 eine neue, nicht bindende Definition von Terrorismus angeboten, die jedoch einen engen Anwendungsbereich hat. Es ist wichtig zu betonen, dass Rechtsexperten innerstaatlichen Terrorismus nicht als Bedrohung für den internationalen Frieden und die Sicherheit anerkennen.

Im Angesicht der wachsenden Bedrohung durch den Missbrauch aufkommender Technologien hielt der Counter-Terrorism Committee der Vereinten Nationen (CTC) im Oktober 2022 ein besonderes Treffen in Indien ab, bei dem die Herausforderungen des globalen Architektur im Bereich der Terrorismusbekämpfung behandelt wurden. Besonders diskutiert wurden die Risiken, die mit dem Missbrauch von aufkommenden Technologien für terroristische Zwecke verbunden sind. Die Besprechung beinhaltete auch die Diskussion über die 26/11-Angriffe in Mumbai und das Verhalten Pakistans, das trotz klarer Beweise gegen die Drahtzieher Hafiz Saeed und Zaki-ur Rahman Lakhvi zögerte, Maßnahmen zu ergreifen.

In Delhi lag der Schwerpunkt des CTC auf der Rekrutierung und Radikalisierung von Terroristen sowie der Finanzierung des Terrorismus, einschließlich der Nutzung von Kryptowährungen. Diese Entwicklungen führten zur „Delhi-Erklärung zur Bekämpfung des Missbrauchs neuer und aufkommender Technologien für terroristische Zwecke“.

Die politische und rechtliche Dimension der „Krieg gegen den Terror“ wird durch den Einsatz von Drohnen zunehmend komplexer. Am 29. September 2001 erklärte US-Präsident George W. Bush, dass der „Krieg gegen den Terror“ weit über die traditionellen Schlachtfelder hinausgehen würde. Dieser Krieg würde überall geführt werden, wo sich Terroristen verstecken. In diesem Kontext wurden Drohnen zu einem bedeutenden Instrument der USA im Kampf gegen den Terror. Am 30. September 2011 führte die US-Regierung einen beispiellosen Drohnenangriff im Jemen durch, bei dem die beiden amerikanischen Staatsbürger Anwar Al Awlaki und Samir Khan getötet wurden. Diese Maßnahme, die von vielen als extralegale Hinrichtung kritisiert wurde, führte zu einer breiten Diskussion über die Überschreitung neuer rechtlicher und ethischer Schwellen.

Drohneneinsätze, die gegen Zivilisten gerichtet sind, stellen eine schwerwiegende Verletzung der internationalen Kriegsrechtsnormen dar, die den Schutz von Nichtkombattanten fordert. Der Einsatz von Drohnen durch die Türkei in Syrien, insbesondere gegen kurdische Gebiete, hat ähnliche Menschenrechtsverletzungen zur Folge. Diese Angriffe sind nicht nur als Verstöße gegen das Kriegsrecht zu betrachten, sondern werfen auch ethische Fragen auf, insbesondere wenn Zivilisten gezielt oder unabsichtlich getötet werden. So wurden beispielsweise Drohneneinsätze gegen Zivilisten, wie der Tod von Salwa Yusuk, als extralegale Hinrichtungen bezeichnet.

Der Einsatz von Drohnen wird von vielen als eine moderne Form der Kriegsführung angesehen, die eine präzisere und vermeintlich weniger zerstörerische Gewaltanwendung ermöglicht. Jedoch stellt sich die Frage, ob der Einsatz solcher Technologien im Einklang mit den Grundsätzen des „gerechten Krieges“ steht. Insbesondere der Fall der Tötung von Ayman al-Zawahiri im Jahr 2022 durch eine US-Drohne, die ohne vorheriges Gerichtsverfahren durchgeführt wurde, hat rechtliche und ethische Bedenken aufgeworfen. Experten argumentieren, dass diese Tötung eher als extralegale Hinrichtung oder Rachemord betrachtet werden kann, der das „regelbasierte internationale Ordnungssystem“, das die USA sonst propagieren, untergräbt.

Die wiederholte Missachtung internationaler Normen und Menschenrechte durch Drohneneinsätze stellt die Frage, wie weit technologische Entwicklungen in der Kriegsführung die Grundlagen des internationalen Rechts beeinflussen können. Diese Fragen sind nicht nur relevant für den internationalen Sicherheitsrahmen, sondern werfen auch bedeutende Bedenken hinsichtlich der ethischen und rechtlichen Verantwortung auf, die Staaten und internationale Organisationen in der zunehmend automatisierten Kriegsführung tragen.

Wie viel Autonomie dürfen tödliche Maschinen haben?

Autonome Waffensysteme (AWS), die ohne menschliche Kontrolle oder Intervention agieren können, werfen grundlegende Fragen zur Menschlichkeit, Ethik und Kontrolle im modernen Krieg auf. Während einige argumentieren, dass der Einsatz solcher Systeme eine Entmenschlichung des Krieges bedeutet, vertreten andere die Ansicht, dass gerade diese Technologien die Kriegsführung humaner gestalten könnten – durch höhere Präzision, geringeren Kollateralschaden und ein klareres Verhältnis zur Unterscheidung und Verhältnismäßigkeit, wie sie im Rahmen der "Just War"-Theorie gefordert werden.

Die treibenden Kräfte hinter der Entwicklung vollautonomer intelligenter Kriegstechnologien sind sowohl strategischer als auch technologischer Natur. Die Technologien existieren in ihrer vollentwickelten Form zwar noch nicht, doch ihre Realisierung scheint unausweichlich. In asymmetrischen Konflikten könnten gerade militärisch schwächere Staaten ein starkes Interesse daran haben, AWS einzusetzen – nicht aus aggressiven, sondern aus defensiven Gründen. Die Notwendigkeit, in einem umkämpften Umfeld menschliche Kommunikation zu sichern, ist oft komplexer und störanfälliger als der Aufbau von Systemen, die unabhängig operieren können. Kommunikationsstörungen, Hackerangriffe oder GPS-Störungen sind realistische Szenarien, die bemannte Drohneneinsätze unzuverlässig machen könnten.

Einige Experten fordern daher eine Architektur mit eingebauten Sicherheitsmechanismen – etwa Notabschaltungen oder Selbstzerstörungsfunktionen bei Fehlverhalten der Maschinen. Doch auch diese Maßnahmen sind nicht unfehlbar: Sie könnten selbst Ziel von Cyberangriffen werden oder schlicht versagen. Daraus ergibt sich das Dilemma: Die Systeme sollen autonom genug sein, um in Echtzeit zu agieren, aber nicht so autonom, dass sie sich außerhalb jeder Kontrolle bewegen.

Es gibt Stimmen, die ein präventives Verbot fordern, bevor AWS flächendeckend entwickelt und eingesetzt werden – ähnlich wie bei der Ächtung von blendenden Laserwaffen vor deren praktischer Einführung. Doch die geopolitische Realität spricht gegen ein solches Szenario. Große Militärmächte, besonders in Regionen mit strategischen Rivalitäten wie Südasien, werden kaum freiwillig auf diese Technologien verzichten. Der internationale Diskurs konzentriert sich deshalb zunehmend auf die Frage, in welchem Maß Autonomie zulässig ist.

Ein Mittelweg scheint darin zu bestehen, Systeme zu entwickeln, die eine sogenannte "Meaningful Human Control" (MHC) sicherstellen. Das bedeutet nicht bloß, dass ein Mensch im letzten Moment den Abzug betätigt, sondern dass er in den gesamten Entscheidungsprozess eingebunden ist – vom Zielerkennungsalgorithmus über die Datenauswertung bis hin zur finalen Entscheidung. Doch genau hier beginnt das Problem. Viele dieser Systeme operieren innerhalb sogenannter "Black Boxes", in denen Daten auf eine für den Menschen intransparente Weise verarbeitet werden. Entwickler kennen oft nur Eingabedaten und Endergebnisse, ohne zu verstehen, was innerhalb des Algorithmus geschieht. Das erschwert eine rechtliche und ethische Bewertung der Entscheidungsketten erheblich.

Ein weiteres Problem liegt im "mixed mode" vieler existierender Systeme: Der Wechsel zwischen menschlicher Kontrolle und autonomem Betrieb erfolgt dynamisch, je nach Situation auf dem Schlachtfeld. Es ist nahezu unmöglich, im Nachhinein exakt festzustellen, ob ein tödlicher Schuss im autonomen oder manuellen Modus erfolgte. Dies untergräbt jede Bemühung um eine wirksame Regulierung.

Die Geschwindigkeit moderner Kriegsführung zwingt Militärs, den Entscheidungszyklus – "Observe, Orient, Decide, Act" (OODA) – zu beschleunigen. Hier versprechen autonome Systeme Vorteile: Sie können Daten in Echtzeit auswerten, Relevantes vom Irrelevanten trennen und innerhalb von Millisekunden Handlungsoptionen generieren. Doch diese Geschwindigkeit hat ihren Preis: Der Mensch verliert die Kontrolle über das Wie und Warum der Entscheidung. Wer nicht mehr versteht, warum ein bestimmtes Ziel gewählt wurde, kann keine Verantwortung übernehmen.

Vertrauen in autonome Systeme setzt Transparenz und Nachvollziehbarkeit voraus. Wenn künstliche Intelligenz Entscheidungen trifft, müssen diese Entscheidungen verstehbar und erklärbar sein – nicht nur für die Entwickler, sondern auch für die militärischen Operatoren, Juristen und die Öffentlichkeit. Nur dann ist eine ethisch und rechtlich vertretbare Integration solcher Systeme überhaupt denkbar.

Was also notwendig wird, ist nicht nur eine technische, sondern eine normative Infrastruktur, die Autonomie in klar definierten Grenzen hält. Es muss möglich sein, sowohl den Ursprung einer Entscheidung nachzuvollziehen als auch ihre Konsequenz einem konkreten Verantwortlichen zuzuweisen. Dazu gehört die Offenlegung und Standardisierung von Entscheidungsalgorithmen ebenso wie die Verpflichtung zur Dokumentation jedes autonomen Waffeneinsatzes.

Eine sinnvolle Ergänzung zum bestehenden Diskurs wäre die vertiefte Auseinandersetzung mit Fragen der Verantwortung und Zurechenbarkeit in Kriegs- und Krisensituationen. Wer haftet für einen Fehler, den ein autonomes System begeht? Wie verändert sich die moralische Landschaft des Krieges, wenn Entscheidungen zunehmend aus automatisierten Prozessen resultieren? Wie lassen sich rechtliche Standards auf sich selbst verändernde Systeme anwenden, deren Verhalten nicht deterministisch, sondern adaptiv ist?

Ein weiterer zentraler Aspekt ist die asymmetrische Verteilung technologischer Macht. Wenn nur einige Staaten über ausgereifte AWS verfügen, verschiebt sich das Gleichgewicht internationaler Sicherheit. Die Gefahr besteht, dass Staaten ohne solche Systeme unter Zugzwang geraten und entweder in eine Rüstungsspirale gedrängt oder sicherheitspolitisch marginalisiert werden. Daraus ergibt sich nicht nur ein militärisches, sondern auch ein geopolitisches Ungleichgewicht mit weitreichenden Folgen für Frieden und Stabilität.

Wie funktionierte der transatlantische Sklavenhandel und welche Auswirkungen hatte er auf Mensch und Gesellschaft?
Was sind zellbasierte Architekturen und wie tragen sie zur Skalierbarkeit und Resilienz bei?
Wie wird der Wert im Markt bestimmt? Die Rolle der Arbeit, des Kapitals und der Marktmechanismen im ökonomischen Denken
Wie Columbus die Neue Welt entdeckte: Eine Reise ins Unbekannte