Gute Frage: Wann ist KI eine gute Sache?

Die Entwicklung Künstlicher Intelligenz (KI) nimmt spürbar Fahrt auf. In immer mehr Bereichen des Lebens kommen Menschen mit der neuen Technologie in Berührung – so war im vergangenen Jahr ChatGPT in aller Munde. Zu den ethischen Fragen rund um die Chancen und Risiken dieser Entwicklung forscht der Physiker und Philosoph Armin Grunwald.

Herr Grunwald, wann ist KI eigentlich eine gute Sache?

KI-Technologien wie soziale Roboter, selbstfahrende Autos und ADM-Systeme (automated decision-making) bei Sicherheitsbehörden oder in der medizinischen Diagnostik haben eine gewisse Entscheidungsbefugnis. Sie agieren auf Basis der Datenlage autonom, beispielsweise im Straßenverkehr. Damit sind sie, anders als traditionelle Technik, nicht mehr bloß passive Objekte, sondern können – und sollen – selbstständig in ihren Einsatzgebieten handeln. Hier kommt es zu einer ethisch zentralen Rollenverschiebung: Während traditionelle Technik aus Objekten besteht, die von menschlichen Subjekten genutzt werden, nehmen KI-Systeme zusehends die Rolle von Subjekten oder zumindest Quasi-Subjekten ein, wobei Menschen wie zum Beispiel Fußgängerinnen und Fußgänger am Straßenrand zu Objekten ihrer Entscheidungen werden.

Damit tritt sozusagen ein ethischer Ernstfall ein, etwa nach der bis heute wirkmächtigen Philosophie Immanuel Kants. Es ist dann sorgfältig zu überlegen, ob dieses „zum Objekt werden“ von Menschen ethisch legitimiert werden kann – und dies führt zu Antworten auf die Frage, wann KI eine gute Sache ist. Das ist dann der Fall, wenn die entsprechende KI-Anwendung menschliche Freiheit und Autonomie erweitert, statt sie einzuschränken. So hat auch der Deutsche Ethikrat im vergangenen Jahr argumentiert. Dies kann etwa durch bessere medizinische Diagnostik oder mehr Sicherheit im Straßenverkehr gelingen. Dagegen wäre KI keine gute Sache zur Manipulation von Menschen in der Demokratie. Unterhalb dieser eher abstrakten Ebene muss leider jeder einzelne Anwendungsfall genau analysiert und bewertet werden, was die konkrete Beantwortung der Frage mühsam machen kann.

Ihr habt auch eine „Gute Frage“ zu einem Forschungsthema? Dann schickt sie gerne an clicKIT-Magazin∂sts.kit.edu!