Am Montag dieser Woche (20. März 2023) hat der Deutsche Ethikrat seine Stellungnahme „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz“ veröffentlicht. Die 287 Seiten starke Schrift untersucht die Auswirkungen digitaler Technologien auf menschliches Selbstverständnis und gesellschaftliches Miteinander. „Der Ethikrat macht die Rolle des Menschen als bewusst handelndes Wesen mit Intentionen und Freiheit stark und schließt hieraus auf Regeln für den Umgang mit KI“, erläutert Professor Armin Grunwald vom Karlsruher Institut für Technologie (KIT). Als Mitglied des Ethikrats gehörte Grunwald der multidisziplinären Arbeitsgruppe „Mensch/Maschine“ an, welche die Stellungnahme federführend erarbeitet hat. Eingebracht hat er hierbei insbesondere seine Expertise zum technischen Wandel, zur Technikfolgenabschätzung und zur digitalen Transformation.

Ein roter Faden in der Stellungnahme des Ethikrats ist die Frage, welche Folgen es hat, wenn Tätigkeiten an Maschinen delegiert werden – insbesondere Entscheidungen, die zuvor Menschen vorbehalten waren. Dies bedrohe den Wert, ja die Möglichkeit menschlicher „Autorschaft“ überhaupt. „Wir bestehen darauf, dass Menschen weiterhin das letzte Wort haben“, unterstreicht Grunwald, der am KIT eine Professur für Technikphilosophie innehat sowie das dortige Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) leitet. „Unsere besondere Sorge gilt dabei dem sogenannten ‚Automation Bias‘, also der Tendenz, dass Menschen den Ergebnissen automatisierter Entscheidungsunterstützung tendenziell mehr Glauben schenken als menschlichen Überlegungen. Auf diese Weise könnte es zu einem schleichenden Verlust menschlicher Autonomie und Freiheit kommen."

Angeregt durch den Deutschen Bundestag unter Mitwirkung seines früheren Präsidenten Wolfgang Schäuble, hat der Rat in über zwei Jahren und einer Vielzahl von Beratungen eine Orientierung für Gesellschaft und Politik erarbeitet, die weit über viele vorliegende Ethik-Leitlinien bezüglich KI hinausgeht: „Statt nur zu schauen, welchen abstrakten Werten und Normen KI-Anwendungen folgen sollen, stellt der Ethikrat ein klar ausformuliertes Menschenbild an den Anfang seiner Überlegungen. Danach bleibt die KI Mittel zu von Menschen gesetzten Zwecken, wird aber nicht zum Selbstzweck“, sagt Grunwald, der auch das vom ITAS betriebene Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag (TAB) leitet.

So kann (und soll) auch die KI-Unterstützung von Entscheidungen, die bislang von Menschen aufgrund ihres Sachverstands getroffen wurden, ja sogar die vollständige Delegation von Entscheidungen an KI-Systeme (automated decision-making), letztlich der menschlichen Autonomie dienen, so Grunwald. „Freilich muss sichergestellt werden, dass weder Diskriminierungen erfolgen, etwa im Sicherheitsbereich oder im Sozialwesen, noch dass die menschliche Dimension des Einzelfalls verloren geht. Maschinen dürfen nicht nach den von ihren Herstellern einprogrammierten Regeln ohne fachkundige menschliche Kontrolle über menschliche Schicksale befinden.“

Zugleich plädiert der Karlsruher Technikforscher im Umgang mit Künstlicher Intelligenz für differenzierte und fallbezogene Einschätzungen: „Statt KI pauschal zu loben oder zu kritisieren, statt utopische Erwartungen zu pflegen oder den Untergang der Menschen zu befürchten, ist bei jeder einzelnen KI-Anwendung ethische Sorgfalt genauso angesagt wie die Berücksichtigung der je besonderen Umstände. Auf vitalen Anwendungsgebieten wie Medizin, Bildung, Verwaltung sowie öffentlicher Kommunikation und Meinungsbildung“, sagt Grunwald, „sehen wir vielfältige Potenziale, das Handeln und Entscheiden von Menschen durch KI-Systeme auf eine bessere Basis zu stellen, zum Beispiel durch gezielte Datenauswertung und Entscheidungsvorbereitung.“

Für Interviewwünsche oder weitere Informationen stellt der Presseservice des KIT gerne Kontakt zu dem Experten her.

Bitte wenden Sie sich an an Jonas Moosmüller, E-Mail: jonas.moosmueller@kit.edu, Tel.: 0721 608-26796, oder Justus Hartlieb, E-Mail: justus.hartlieb@kit.edu, Tel.: 0721 608-41155 oder an das Sekretariat der Abteilung Gesamtkommunikation, Tel.: 0721 608 41105, presse@kit.edu.

Weitere Informationen zum Thema „Technikfolgenabschätzung“ bietet das Porträt von Dr. Armin Grunwald in unserem Portal „Expertinnen und Experten des KIT“. In diesem Portal finden Sie auch weitere Ansprechpersonen zu Highlights der Forschung am KIT und tagesaktuellen Themen.