Die Killerroboter kommen

Es ist ein Drama in drei Akten. «The truth about killer robots» lautet der Titel des Dokumentarfilms, der dieses Wochenende und nächste Woche am Zürich Film Festival läuft. Die Fragestellung des Films ist so einfach wie pessimistisch: Wo und wie töten Roboter oder autonome Systeme Menschen? Jedes Kapitel beginnt denn auch mit einem Todesfall. Das Kapitel «Fabrikation» erzählt nach, wie im Sommer 2015 ein Industrieroboter im VW-Werk Kassel in Braunatal den Brustkorb eines jungen Mannes zertrümmerte. Im Teil namens «Dienstleistung» wird der berühmt gewordene, erste tödliche Unfall eines selbstfahrenden Autos – ein Tesla im Autopilot – von 2016 aufgerollt. Der dritte Akt mit dem Titel «Vollständiger Ersatz» schliesslich thematisiert den Einsatz eines Polizeiroboters, der in Dallas einen Amokschützen in die Luft sprengte.

Die Todesfälle, so der Film, seien die ersten Verletzungen von Isaac Asimovs Robotergesetz. Der russisch-amerikanische Sachbuch- und Science-Fiction-Autor hatte schon 1942 seine Gesetze zur Nutzung von Robotern formuliert. Das erste davon besagt: Ein Roboter darf keinen Menschen verletzen oder durch Untätigkeit zulassen, dass ihm Schaden zugefügt wird. Diese Grenze ist überschritten, so die Aussage des Films.

Was ist überhaupt ein Roboter?

Das sieht der Roboterforscher Roger Gassert von der ETH Zürich anders. «Problematisch ist, dass unter dem Begriff Roboter ganz unterschiedliche Maschinen zusammengefasst werden», sagt er. Denn nach wie vor sind die meisten Roboter einfach fortgeschrittene Maschinen, die nur sehr eingeschränkt eigene Entscheidungen treffen. Sie werden von Menschen programmiert oder ferngesteuert. Vielfach verrichten sie repetitive Arbeiten und solche, die für uns Menschen gefährlich oder sehr anstrengend sind. «Roboter sind keine Multitalente wie wir», sagt Gassert. «Sie erfüllen meist ganz spezifische Aufgaben und können ihre Fähigkeiten kaum auf etwas anderes anwenden.» Wie auch der Polizeiroboter, der im Film zum Täter hochstilisiert wird. Nicht der Roboter selbst hat agiert – ein Mensch hat auf den Knopf gedrückt.

Alamy

Eine unbemannte Drohne des Typs MQ-9 Reaper fliegt eine Mission über dem südlichen Afghanistan. Auch diese Roboter können sowohl ferngesteuert wie autonom agieren.

Die eigentlichen Killerroboter lässt der Film dagegen aussen vor. Nämlich autonome Waffensysteme, die tatsächlich selbst entscheiden, wann sie schiessen und wann nicht. «Was solche Systeme angeht, sind entscheidende Fragen noch offen», sagt Markus Kneer von der Universität Zürich, der sich mit ethischen Fragen zur künstlichen Intelligenz beschäftigt. Wann dürfen autonome Waffensysteme eingesetzt werden und wie viel Kontrolle müssen Menschen behalten? Wer ist verantwortlich, wenn ein Roboter ein Kriegsverbrechen begeht? Über solche Fragen und mögliche Schranken haben die UNO-Mitgliedstaaten vor einem Monat verhandelt – ohne Einigung.

Grundsätzlich sieht Kneer durchaus mögliche Vorteile in mechanischen Waffen: «Sie sind nicht nur präziser als Menschen, sondern haben zudem weder Angst noch Rachegelüste oder einen Willen, sich selbst zu schützen. Dadurch haben sie auch weniger Antrieb als Menschen, sich falsch zu verhalten.» Das sieht auch Anna Petrig so, Rechtsexpertin für autonome Systeme an der Universität Basel. Juristisch gesehen gelte auch für Einsätze mit autonomen Maschinen das Humanitäre Völkerrecht, erklärt sie. Darin steht beispielsweise, dass in Kampfhandlungen zwischen Soldaten und Zivilpersonen unterschieden werden muss. Wer also neue autonome Waffen einführt, muss sicherstellen, dass diese dem Humanitären Völkerrecht entsprechen können. Allerdings: «Dies zu testen, ist bei autonomem Systemen viel komplexer als bei herkömmlichen Waffen», sagt Petrig. Denn diese funktionieren nicht in starren Abfolgen, sondern lernen dynamisch dazu und passen ihr Verhalten entsprechend an. «Deshalb muss man diese Waffensysteme ganz anders prüfen. Wie genau, daran wird zurzeit von Rüstungsunternehmen und dem Militär intensiv geforscht.»

Wikimedia Commons/Pfc. Rhita Daniel

US-Marines auf Patrouille mit dem Maars-Roboter. Hier zu Testzwecken im Militärstützpunkt Pendelton in Kalifornien.

Für den Philosophen Markus Kneer ist allerdings fraglich, ob diese Beobachtung der technischen Entwicklung weiterhelfen wird. Denn gemäss den Genfer Konventionen müssen Soldaten eine moralische Verantwortlichkeit haben. Und diese können auch noch so fortgeschrittene Roboter nicht wahrnehmen, nur Menschen.

All diese Fragen zu wirklich autonomen Tötungsrobotern tangiert der Film jedoch nicht. Stattdessen weist er auf eine weitere Untat von Robotern hin: das Jobkillen. Und die gezeigten Beispiele sind eindrücklich. Etwa wie Foxconn, ein grosser chinesischer Hersteller von Handys und anderen elektronischen Gadgets, durch die Einführung von Roboterarmen seine Belegschaft von 500’000 Arbeiterinnen und Arbeitern auf nur noch 100’000 reduziert hat. Oder wie zukünftig autonome Taxis, Lastwagen und Busse vielen Chauffeuren weltweit den Job kosten können. Zudem geht der Film nah an die Menschen heran: In Interviews äussern Industrieangestellte aus verschiedenen Branchen ihre Verunsicherung und Angst vor dem Jobverlust. Einen Ausweg aus der gezeigten Misere bleibt der Film schuldig.

Roboter als Jobkiller?

Hier sei der Blickwinkel des Films zu eng eingestellt, kritisiert Technologiephilosoph Markus Kneer. So lässt der Regisseur des Films beispielsweise unerwähnt, dass in China nach wie vor nur rund vier Prozent der Menschen arbeitslos sind – eine sehr niedrige Quote, an der sich in den letzten zehn Jahren nichts verändert hat. «Wenn man den Einfluss einer neuen Technologie auf den Arbeitsmarkt nur anhand weniger Einzelfälle betrachtet, ergibt sich zwangsläufig ein verzerrtes Bild», so Kneer.

Der Roboter, unser Freund und Helfer

Die Zusammenarbeit mit modernen Robotern schafft nicht nur Probleme, sondern ermöglicht auch vieles. Beispielsweise mit dem Unterwasserroboter namens Rangerbot, den Forschende von der Queensland University of Technology in Australien entwickelt haben. Im Wasser losgelassen kann er selbständig das Great Barrier Reef erkunden und dessen Zustand dokumentieren. Weil er länger unter Wasser sein kann als menschliche Taucher, schafft er das viel effizienter. Ausserdem spürt die Maschine einen Korallenschädling auf, den Dornenkronenseestern. Diese Meerestiere ernähren sich von Steinkorallen – wenn sie in grosser Zahl vorkommen, bedrohen sie das ohnehin schon angeschlagene Korallenriff. Solche Seesterne erkennt Rangerbot mit über 99 Prozent Genauigkeit. Findet er ein Exemplar, kann er eine Flüssigkeit ins Wasser spritzen, die den Schädling tötet, aber andere Tiere und das Riff unbeschadet lässt.

Doch auch bereits die Technologie, die in jedem Smartphone steckt, könne viel verbessern, sagt Robotiker Gassert. Zum Beispiel gibt es Smartphone-Apps, die mithilfe von künstlicher Intelligenz blinden Menschen assistieren: Deep-Learning-Algorithmen erkennen durch die Handykamera, was in der Umgebung vorgeht, und können das für den Besitzer beschreiben. «Das verleiht Sehbehinderten viel mehr Selbständigkeit.»

Gassert selbst forscht an Exoskeletten, die querschnittgelähmten Menschen ermöglichen, aufzustehen und kurze Strecken selbständig zu gehen. Oder an roboterunterstützten Therapiesystemen, die Patienten nach einem Hirnschlag beim Trainieren von teilweise gelähmten Körperteilen unterstützen.

ETH Zürich/Relab/Stefan Schneller

Mechanischer Trainingsassistent: Solche Hand-Exoskelette helfen bei der Bewegung und kontrollieren, ob Patienten Übungen richtig machen.

Was sich durch die zunehmende Digitalisierung und Automatisierung in den letzten Jahren gesamthaft geändert hat, zeigen verschiedene Untersuchungen. Für die Schweiz etwa ein Bericht des Bundesrats vom November 2017 mit dem Titel «Auswirkungen der Digitalisierung auf Beschäftigung und Arbeitsbedingungen – Chancen und Risiken». Der Bericht hält fest: Bisher gingen in der Schweiz durch die zunehmende Digitalisierung und Automatisierung rund 350’000 Arbeitsstellen verloren. Doch gleichzeitig wurden 860’000 Jobs neu geschaffen. Ähnlich ist die Situation in Deutschland. Eine Studie des Düsseldorfer Instituts für Wettbewerbsforschung vom vergangenen Jahr hat die Entwicklungen im Detail analysiert und gezeigt, dass zwar in der Industrie durch Roboter Stellen weggefallen, aber gleichzeitig ebenso viele entstanden sind. Und obschon die meisten Stellen in einem anderen Sektor entstanden sind, nämlich bei den Dienstleistungen, mussten die wenigsten Industrie-Angestellten gehen. Sie erhielten stattdessen meist andere Aufgaben im Betrieb. Allerdings zeigte die Analyse auch: Durch die Automatisierung sanken die Löhne der Angestellten.

Zürich Film Festival

Eine Szene aus dem Film. Manche Roboter sehen mittlerweile Menschen verblüffend ähnlich. Aber sie sind noch sehr weit davon entfernt, Gesicht und Körper zu bewegen wie Menschen.

«Diese Umwälzungen im Arbeitsmarkt müssen wir ernst nehmen und differenziert analysieren», sagt dazu Robotikforscher Roger Gassert von der ETH Zürich. Umso mehr, weil künstliche Intelligenzen immer komplexere Aufgaben wahrnehmen – auch solche, bei denen kognitive Fähigkeiten und Kreativität gefordert sind. Für den Philosophen Markus Kneer ist das Auffangen dieser Veränderungen Aufgabe der Unternehmen, aber auch des Staates: Je besser das Sozialsystem ist und je stärker der Staat den Arbeitsmarkt reguliert – zum Beispiel mit subventionierten Um- und Weiterbildungen –, desto eher können die Menschen Veränderungen gelassen entgegen sehen und auf sie reagieren. Er verweist auf Befragungen in Schweden und den USA, die untersucht haben, wie die Bevölkerung auf die technologischen Veränderung reagiert. Und tatsächlich: In Schweden, das ein äusserst starkes Sozialsystem hat, sehen 80 Prozent der Befragten die Fortschritte bei Robotern und künstlichen Intelligenzen als etwas Positives. In den USA dagegen, wo das Sozialnetz löchrig ist und sich das System viel mehr auf die Eigenverantwortung jedes Einzelnen stützt, ist es umgekehrt: Dort ist die Mehrheit der Befragten, über 70 Prozent, besorgt über die Entwicklung.

Und in der Schweiz? «Wir sind deutlich näher bei Schweden als bei den USA», sagt Kneer. Und werden es hoffentlich auch weiterhin sein. Zumindest ist laut dem Bundesamt für Sozialversicherungen BSV zurzeit ein weiterer Bericht in Arbeit, der sich mit dem Thema befasst. Dieser soll zeigen, «welche Probleme durch digitale Geschäftsmodelle entstehen und welche Antworten das Sozialsystem darauf geben kann.»