September 21, 2021

Eine autonome, waffenfähige Drohne hat erstmals Menschen ohne Kommando „gejagt“ – IFLScience

Quelle: An Autonomous Weaponized Drone „Hunted Down“ Humans Without Command For First Time | IFLScience

Anmerkung meinerseits: „Schöne“ neue Welt. Geht die Entwicklung autonomer Waffensysteme in diesem Tempo weiter, wäre durchaus vorstellbar, daß diese Technik bspw. auch zur Aufstandsbekämpfung oder „“Befriedung“ „regierungskritischer“ Demonstrationen in hiesigen Gefilden eingesetzt wird. Das mag manchen wie eine überspannte dystopische Prognose erscheinen, doch sollten die politischen „Führungsspitzen“ sich in Zukunft etwaigen Situationen gegenübersehen, in denen es aus ihrer Sicht ratsamer wäre, keine menschlichen Ordnungskräfte einzusetzen, da diese eigenständige moralische Entscheidungen treffen und sich weigern könnten, bestimmte Befehle auszuführen, wäre der Einsatz dieser Technologie sehr wohl denkbar.


Eine autonome Drohne hat möglicherweise Menschen gejagt und angegriffen, ohne dass ein menschlicher Befehlshaber eingreifen musste, wie ein neuer UN-Bericht zeigt. Es ist nicht nur das erste Mal, dass ein solcher Angriff durch künstliche Intelligenz (KI) auf Menschen stattgefunden hat, sondern es ist auch unklar, ob die Drohne bei dem Angriff, der im März 2020 in Libyen stattfand, möglicherweise Menschen getötet hat.

In dem Bericht an den UN-Sicherheitsrat heißt es, dass der libysche Premierminister Fayez al-Sarraj am 27. März 2020 die „Operation Peace Storm“ anordnete, bei der unbemannte Kampfflugzeuge (UCAV) gegen mit Haftar verbündete Kräfte eingesetzt wurden. Drohnen werden schon seit Jahren im Kampf eingesetzt, aber was diesen Angriff anders machte, war, dass sie ohne menschliches Zutun operierten, nachdem der erste Angriff mit anderer Unterstützung stattgefunden hatte.

„Logistikkonvois und sich zurückziehende HAF wurden anschließend von den unbemannten Kampfflugzeugen oder den tödlichen autonomen Waffensystemen wie der STM Kargu-2 (siehe Anhang 30) und anderer herumliegender Munition gejagt und aus der Ferne angegriffen“, heißt es in dem Bericht.

„Die tödlichen autonomen Waffensysteme wurden so programmiert, dass sie Ziele angreifen, ohne dass eine Datenverbindung zwischen dem Bediener und der Munition erforderlich ist: in der Tat eine echte ‚fire, forget and find‘-Fähigkeit.“

Die KARGU ist eine Drehflügler-Angriffsdrohne, die für asymmetrische Kriegsführung oder Anti-Terror-Operationen entwickelt wurde und laut Hersteller „durch ihre eigenen und Echtzeit-Bildverarbeitungsfähigkeiten und die auf der Plattform eingebetteten maschinellen Lernalgorithmen effektiv gegen statische oder bewegliche Ziele eingesetzt werden kann.“ Ein Video, in dem die Drohne vorgestellt wird, zeigt, wie sie Schaufensterpuppen auf einem Feld anvisiert, bevor sie auf sie zustürzt und eine Sprengladung zündet.

Gegen menschliche Ziele erwiesen sich die Drohnen als effektiv.

„Die Einheiten waren weder ausgebildet noch motiviert, sich gegen den effektiven Einsatz dieser neuen Technologie zu verteidigen und zogen sich in der Regel aufgelöst zurück“, heißt es in dem Bericht. „Sobald sie sich zurückgezogen hatten, waren sie ständigen Schikanen durch die unbemannten Kampfflugzeuge und tödlichen autonomen Waffensysteme ausgesetzt, die sich als eine äußerst effektive Kombination erwiesen.“

Der Bericht geht nicht näher darauf ein, ob es Verletzte oder Tote im Zusammenhang mit dem Angriff gab, obwohl er feststellt, dass die Drohnen „sehr effektiv“ dabei halfen, den feindlichen Pantsir S-1 Boden-Luft-Raketensystemen „erhebliche Verluste“ zuzufügen. Es ist durchaus möglich, dass der erste Mensch von einer Drohne angegriffen oder getötet wurde, die von einem maschinellen Lernalgorithmus gesteuert wurde.

Der Angriff, ob er nun zu Opfern führte oder nicht, wird von Aktivisten gegen den Einsatz von „Killerrobotern“ nicht begrüßt werden.

„Es bestehen ernsthafte Zweifel, dass vollautonome Waffen in der Lage wären, die Standards des humanitären Völkerrechts zu erfüllen, einschließlich der Regeln der Unterscheidung, der Verhältnismäßigkeit und der militärischen Notwendigkeit, während sie das Grundrecht auf Leben und den Grundsatz der Menschenwürde bedrohen würden“, so Human Rights Watch. „Human Rights Watch fordert ein präventives Verbot der Entwicklung, Produktion und des Einsatzes von vollautonomen Waffen.“

Zu den Bedenken gehört auch, dass die von den Robotern verwendeten KI-Algorithmen möglicherweise nicht robust genug sind oder auf Datensätzen trainiert wurden, die Fehler enthalten. Abgesehen davon, dass sie fehleranfällig sind (wie ein Tesla, der von der Straße abkommt), gibt es zahllose Beispiele für Vorurteile in der maschinellen Lerntechnologie, von der Gesichtserkennung, die nicht-weiße Hautfarben nicht erkennt, über Kameras, die Asiaten sagen, sie sollen aufhören zu blinzeln, bis hin zu rassistischen Seifenspendern, die einem keine Seife geben, wenn man schwarz ist, und selbstfahrenden Autos, die einen eher überfahren, wenn man nicht weiß ist.

Jetzt, so scheint es, könnten wir bald Entscheidungen über Leben und Tod einer Technologie anvertrauen, die für ähnliche Probleme offen sein könnte.

1 thought on “Eine autonome, waffenfähige Drohne hat erstmals Menschen ohne Kommando „gejagt“ – IFLScience

Schreibe einen Kommentar