Das Zusammenwirken von Mensch und Technik optimal ausgestalten

Roboter können dem Menschen schwere, monotone und gefährliche Arbeiten abnehmen: in Laboren und Fabrikhallen ebenso wie in der Alten- oder Krankenpflege. „Wir betrachten die Ersetzbarkeit des Menschen durch Roboter. Selten geht es aber darum, den Menschen komplett zu ersetzen“, sagt Michael Decker. Mit Blick auf die zunehmenden Möglichkeiten der Künstlichen Intelligenz (KI) rückt genau dieses Zusammenspiel noch stärker in den Fokus. Durch Methoden der KI lernen technische Systeme selbst und somit können ihnen weitreichendere („autonome“) Entscheidungen eingeräumt werden. Damit treffen in der Zusammenarbeit von Mensch und Roboter beide Seiten Entscheidungen: Die Autonomie des Menschen trifft auf eine Autonomie der Technik. „Es gilt also genau zu prüfen, wer für welche Entscheidung die Verantwortung übernimmt. Soll der Mensch für die gesamte Handlung verantwortlich bleiben, muss die technische Entscheidung für ihn transparent und nachvollziehbar sein“, führt Decker aus. „Zukünftig könnten wir aber auch dem Roboter Verantwortung zuschreiben, sodass letztlich zum Beispiel die Roboterproduzierenden verantwortlich wären.“ Entscheidungen der KI können für den Mensch durchaus auch überraschend sein. Wie wünschenswert das ist, hänge dann stark vom Anwendungskontext ab. Im Entertainmentbereich – beim Spielen oder in einem Technikmuseum – sei das das gut vorstellbar, vielleicht sogar erwünscht, in der Pflege oder beim autonomen Fahren jedoch nicht.

„Erst wenn wir den Handlungskontext genau verstehen, können wir das Zusammenwirken zwischen Mensch und Technik optimieren“, sagt der Forscher. So könne eine Pflegekraft entlastet werden, indem ein robotischer Pflegewagen immer an die richtige Stelle fährt oder Sensorik die physiologischen Daten der zu pflegenden Person überwacht. Der Pflegewagen dürfe aber nicht umgekehrt zur Überwachung der Pflegekraft werden. Die Erfahrung im Umgang mit Menschen und ihren Befindlichkeiten werde ein Roboter auf absehbare Zeit aber nicht ersetzen können. „Angesichts der künftigen Altersstruktur unserer Gesellschaft und des Mangels an Pflegekräften müssen wir fragen, welche Art des Technikeinsatzes unsere Gesellschaft für wünschenswert hält“, erläutert Decker. So könne eine technische Unterstützung einen Autarkiegewinn für Menschen mit sich bringen, aber auch zur Vereinsamung beitragen. Technik könne den Verbleib in den eigenen vier Wänden ermöglichen, müsse aber in ein soziales Pflegenetzwerk eingebunden sein. „Technische und soziale Innovationen gehen Hand in Hand“, ist Decker überzeugt. 

Besonders offensichtlich ist das Aushandeln der Autonomie zwischen Mensch und Technik beim automatisierten Fahren: Zwischen alleiniger Autonomie des Fahrenden auf der einen und des Fahrzeugs auf der anderen Seite gibt es Zwischenstufen, auf denen beide das Fahrzeug letztlich gemeinsam fahren. „Interessant wird es, wenn das Fahrzeug feststellt, dass der oder die Fahrende nur eingeschränkt fahrtüchtig ist. Soll das Fahrzeug dann eine Warnung veranlassen oder eigenständig anhalten? Wer haftet, wenn ein Schaden entsteht, weil der künstlich intelligente Roboter eine falsche Entscheidung trifft?“, so Decker. Handlungsempfehlungen entwickelt der promovierte Physiker gemeinsam mit Forschenden aus Pädagogik, Psychologie, Soziologie, Ökonomie, Jura und Technik. „Den Konflikt zwischen individuellen und gesellschaftlichen Interessen abzuwägen, ist nicht einfach – ganz gleich, ob es darum geht, übermüdete Autofahrende oder Menschen mit Demenz zu ‚überwachen‘“, erklärt Decker. „Ideal ist es, wenn die Technik erst dann ins Spiel gebracht wird, wenn sie gebraucht und von allen Beteiligten als wünschenswert angesehen wird.“ Zu diesen Fragen forscht das Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) am KIT, die größte wissenschaftliche Einrichtung in Deutschland, die sich mit Technikfolgenabschätzung beschäftigt. Es berät Parlamente, Ministerien und Behörden, betreibt das Büro für Technikfolgenabschätzung beim Deutschen Bundestag (TAB) und kooperiert mit zahlreichen wissenschaftlichen Einrichtungen im In- und Ausland. (afr, red)