„Wir leben gerade in einem riesigen Feldexperiment“

IK-Bau NRW: Sie erforschen seit vielen Jahren die Interaktion zwischen Mensch und Maschine. Trifft die öffentliche Debatte über Künstliche Intelligenz aus Ihrer Sicht die entscheidenden Probleme?

Astrid Rosenthal-von der Pütten: Im Wissenschafts- und Lehrbetrieb heißt es derzeit oft: Studierende nutzen KI, also verlieren sie ihre Text- und Reflexionskompetenz. Ja, wir beobachten diese Veränderungen und wir problematisieren sie, aber sind das tatsächlich langfristige Probleme? Oder befinden wir uns in einer Phase, in der wir neu überlegen müssen, wie wir Kernkompetenzen erhalten und KI vielleicht sogar dazu nutzen können, sie auszubauen? Mir fehlt eine stärker positiv orientierte Debatte über den Umgang mit diesem Umbruch. Jedes Werkzeug eröffnet Möglichkeiten für Gutes und Schlechtes. KI ist nur so gut oder schlecht wie die Menschen, die sie nutzen. Viele Probleme, die wir beobachten, spiegeln gesellschaftliche Missstände, die sich durch KI auf andere Weise ausdrücken.

IK-Bau NRW: Sie mussten die Interaktion mit intelligenten Systemen früher im Labor simulieren. Was hat sich durch die heute verfügbaren Systeme für Ihre Forschung verändert?

Astrid Rosenthal-von der Pütten: Als ich 2006 meine ersten Studien mit virtuellen Agenten gemacht habe, waren die Abläufe vollständig geskriptet. Die Teilnehmenden glaubten aber, sie interagierten mit autonomen Systemen. Wir haben untersucht, wie viel Vertrauen Menschen solchen Systemen entgegenbringen, welche Autonomie sie ihnen zuschreiben und was sich verändert, wenn ein solches System nicht nur virtuell ist, sondern als Roboter einen Körper hat. Ein Teil unserer damaligen Befunde hat Bestand. Auf dem Kongress der Deutschen Gesellschaft für Psychologie habe ich beispielsweise Studien gesehen, nach denen Menschen sich einer KI stärker anvertrauen als anderen Menschen, weil die Situation anonymer erscheint. Das ist nicht neu. Ähnliche Studien haben wir schon 2010 durchgeführt. Wurde den Teilnehmenden gesagt, ein virtueller Agent werde von einer KI statt von einem Menschen gesteuert, gaben sie mehr von sich preis. Andere Fragen konnten wir damals nicht untersuchen: Beispielsweise wie verändert KI unsere alltägliche Lebenspraxis? Dafür hätten wir jeden Haushalt mit einem simulierten System und Forschenden ausstatten müssen, die es im Hintergrund bedienen. Mit Sprachassistenten wie Alexa ließ sich manches erahnen. Aber das ist etwas anderes als das, was wir heute erleben. Inzwischen entstehen beinahe täglich neue Forschungsfragen. Und manche alten Studien werden erneut durchgeführt, weil offenbar gar nicht mehr nachgeschaut wird, was vor 20 Jahren bereits erforscht wurde.

IK-Bau NRW: In einer Ihrer Studien geht es um Vorurteile in algorithmischen Entscheidungssystemen. Was haben Sie untersucht?

Astrid Rosenthal-von der Pütten: Algorithmen arbeiten mit Daten, die von Menschen erzeugt wurden. Bei Systemen zur Unterstützung von Personalentscheidungen sieht man, dass sie bestehende Vorurteile reproduzieren können: Frauen haben schlechtere Chancen als Männer, Menschen mit Migrationshintergrund schlechtere Chancen als Personen, die als deutsch wahrgenommen werden. Wir haben in einer Studie solche Verzerrungen simuliert und untersucht, ob Menschen bei KI-gestützten Entscheidungen tatsächlich eine Kontrollfunktion übernehmen können. Die Vorstellung ist ja, dass der Mensch eingreift und Fehlentscheidungen korrigiert. Wer sich der möglichen Verzerrungen im System und der eigenen Vorurteile bewusst ist und ihnen aktiv entgegensteuert, kann das leisten. Wer eigene Vorurteile nicht erkennt, ist dafür schlechter geeignet. Solche Personen neigen dazu, verzerrte Entscheidungen zu akzeptieren, weil sie zu ihren eigenen Vorstellungen passen. Deshalb müssen wir uns auch bei der im europäischen AI Act vorgesehenen menschlichen Kontrolle fragen: Wann und unter welchen Bedingungen können Menschen diese Aufgabe tatsächlich erfüllen?

IK-Bau NRW: Im Ingenieurwesen geht es häufig um objektiv überprüfbare Ergebnisse. Kann der Mensch auch dort beim Kontrollieren von KI-Ergebnissen aus ähnlichen Gründen in die Irre gehen?

Astrid Rosenthal-von der Pütten: Solche Tendenzen kann es theoretisch in jedem Bereich geben. Es gibt zwei gegenläufige Phänomene: Die Algorithm Aversion, also eine grundsätzliche Ablehnung algorithmischer Unterstützung, und die übermäßige Bereitschaft, algorithmischen Entscheidungen zu vertrauen. Wer dem System misstraut, kontrolliert vielleicht besonders aufmerksam, verwirft aber unter Umständen vorschnell richtige Ergebnisse. Wer ihm zu sehr vertraut, übernimmt möglicherweise falsche Ergebnisse. Das Ziel wäre eine aufmerksame Prüfung ohne eines dieser beiden Extreme. Menschen setzen ihre kognitiven Ressourcen möglichst sparsam ein. Viele Entscheidungen im Alltag treffen wir automatisiert, auf Grundlage früherer Erfahrungen. Das ist häufig sinnvoll, kann aber auch Verzerrungen erzeugen. Wer etwa immer nur Feuerwehrleute als Männer und Pflegekräfte als Frauen wahrgenommen hat, lernt solche Muster. Daraus kann automatisch diskriminierendes Verhalten entstehen, ohne dass es beabsichtigt ist. Ähnliches kann ich mir bei fachlichen Entscheidungen vorstellen, die man schon oft getroffen hat. An einem stressigen Tag fehlt vielleicht die Motivation, ein Ergebnis genau zu prüfen. Dann übernimmt man etwas, das falsch ist. Oder man hält gegen das Ergebnis des Algorithmus an der gewohnten eigenen Lösung fest, weil die Erfahrung sagt: So muss es sein. Erfahrung kann wertvoll sein, aber eben auch fehlerbehaftet.

IK-Bau NRW: Ingenieurinnen und Ingenieure sollen KI-Ergebnisse gerade mit ihrem Erfahrungswissen prüfen: durch Überschlagsrechnungen, Größenordnungen und Vergleiche. Könnten weniger erfahrene Menschen unter Umständen unvoreingenommener sein?

Astrid Rosenthal-von der Pütten: Das müssen wir untersuchen. Eine allgemeine Antwort kann ich darauf nicht geben, gerade für das Ingenieurwesen. Ich kann aber ein Beispiel aus dem wissenschaftlichen Schreiben nennen. Wenn ich einen eigenen Text mithilfe von KI um 300 Wörter kürzen lasse, erkenne ich vermutlich eher als eine studierende Person, wo die neue Formulierung nicht präzise genug ist oder meinen ursprünglichen Gedanken verschiebt. Das liegt an einem unterschiedlichen Erfahrungshorizont. Man muss erst lernen, wie stark ein einzelnes Wort die Aussage eines Satzes verändern kann. Übertragen auf das Ingenieurwesen könnte der differenzierte Umgang mit verschiedenen Berechnungsmethoden etwas sein, das man durch Erfahrung erwirbt. Man lernt, welcher Methode man unter welchen Bedingungen eher vertrauen sollte. Dieser Erfahrungsschatz ist wichtig. Allerdings gibt es auch Menschen mit viel, aber sehr einseitiger Erfahrung, weil sie immer dasselbe gemacht haben. Ihnen könnte KI neue Impulse geben und ihren Erfahrungsschatz erweitern. Beides ist also möglich: KI kann etwas vereinfachen, für das eigentlich ein breiter, differenzierter Erfahrungsschatz nötig wäre. Sie kann aber auch Menschen alternative Ansätze zeigen, die diesen Erfahrungsschatz noch nicht haben.

IK-Bau NRW: Die KI liefert die Ergebnisse, der Mensch trägt die Verantwortung. Aber was geschieht, wenn jemand über Jahre nur noch kontrolliert und die eigentliche Arbeit kaum noch selbst erledigt?

Astrid Rosenthal-von der Pütten: Das ist eine Frage, mit der ich mich in nächster Zeit beschäftigen möchte. Ich lese gerade viel über „Psychological Ownership“, also darüber, wann Menschen etwas nicht nur formal, sondern auch psychologisch als ihr eigenes Werk betrachten. Beim wissenschaftlichen Schreiben stellt sich etwa die Frage: Ist ein Text für mich weniger mein eigener, wenn wesentliche Anteile von der KI stammen? Für dieses Gefühl sind mehrere Faktoren wichtig. Erstens: Wie viel Kontrolle kann ich ausüben? Zweitens: Wie gut kenne und durchdringe ich den Gegenstand, mit dem ich arbeite? Drittens: Wie viel habe ich selbst investiert? Alle drei Punkte können sich durch KI verändern. Ich gebe Tätigkeiten und damit Kontrolle ab. Mir fehlen möglicherweise zunehmend eigene Erfahrungen und ich investiere weniger selbst in das Ergebnis. Aus anderen Zusammenhängen gibt es Studien, die eine hohe psychologische Verbundenheit mit der eigenen Arbeit mit größerer Arbeitszufriedenheit und besseren Leistungen in Verbindung bringen. Wenn KI diese Verbundenheit verändert, könnte sie also auch die Leistung beeinflussen. Wie genau, wissen wir noch nicht. Erste Arbeiten dazu gibt es vor allem beim kreativen Schreiben, in der Kunst und bei der Programmierung. Bei der Programmierung deutet sich an, dass diese Verbundenheit mit der eigenen Arbeit schwächer ausfällt. Welche Folgen das hat, ist noch offen. Wir leben gerade in dem riesigen Feldexperiment, das wir uns vor 20 Jahren gewünscht haben.

IK-Bau NRW: Was bedeutet das für junge Menschen, die das nötige Fachwissen und die Erfahrung noch gar nicht aufgebaut haben?

Astrid Rosenthal-von der Pütten: Da sehe ich eines der eigentlichen Probleme. Vieles, was derzeit entwickelt wird, soll Studierenden das Lernen mithilfe von KI erleichtern. Ich bin aber nicht überzeugt, dass einfacheres Lernen automatisch gutes Lernen ist. Ich halte in diesem Winter eine Vorlesung über Sozialpsychologie, auch für viele junge Menschen aus Informatik und Ingenieurwissenschaften. Dabei arbeite ich bewusst mit Konfrontation. Ich erkläre, dass wir alle Stereotype gelernt haben und aufgrund automatischer Informationsverarbeitung manchmal diskriminierend handeln, ohne es zu bemerken. Dann sage ich auch einmal: Es tut mir leid, aber Sie sind manchmal alle Sexisten und Rassisten, auch wenn Sie das nicht wollen. Das ist eine unangenehme Selbsterkenntnis, gerade für junge, gut ausgebildete Menschen mit liberalen Idealen. Manchmal kommen in der Woche danach deutlich weniger Studierende. Später sagen mir welche, sie hätten etwas fürs Leben gelernt. Ein Chatbot würde sie wahrscheinlich eher in ihren Gedanken bestätigen: großartige Idee, lass uns das weiterverfolgen. Dabei können negative Gefühle und unangenehme Erfahrungen wichtige Auslöser sein, umzudenken und besser zu werden. Man denke an die erste Präsentation, die völlig misslungen ist und nach der man sich vornimmt, das nie wieder so zu machen.

IK-Bau NRW: Sie beobachten auch eine veränderte Erwartungshaltung unter Studierenden. Woran machen Sie das fest?

Astrid Rosenthal-von der Pütten: Ich bekomme etwa E-Mails von Studierenden, die nicht zur Vorlesung kommen können und mich bitten, ihnen den Inhalt zusammenzufassen. Das kommt mehrfach im Semester vor. Meine Antwort lautet dann: Ich kann Ihnen das Erlebnis einer Diskussion und Ihrer persönlichen Reflexion nicht zusammenfassen. Das müssen Sie selbst erleben. Ich habe den Eindruck, dass Schule und Hochschule heute stärker durchstrukturiert sind als früher. Studierende haben feste Zeitpläne und stehen unter dem Druck, in Regelstudienzeit fertig zu werden. Das System nimmt ihnen damit auch Verantwortung ab. Deshalb finde ich es nicht verwunderlich, wenn manche davor zurückschrecken, selbst Verantwortung zu tragen. Natürlich trifft das nicht auf alle zu. Ich arbeite gern mit Menschen, die nach dem Studium schon ein Jahr Berufserfahrung gesammelt haben. Im Berufsleben müssen sie sich in Strukturen einfügen, die auch Widerstände bieten. Das prägt das Verhalten.

IK-Bau NRW: Viele einfache, wiederkehrende Aufgaben, an denen Berufsanfänger bislang Erfahrung sammeln konnten, werden zunehmend automatisiert. Wie können junge Menschen künftig das nötige Fachwissen erwerben? Und was muss sich deshalb in der Ausbildung ändern?

Astrid Rosenthal-von der Pütten: Damit sind wir wieder beim Problem der Ausbildung. Für vieles haben wir noch keine Antwort. Im Hochschulbetrieb ist zum Beispiel klar, dass manche Prüfungsformen so nicht mehr funktionieren. Eine klassische Hausarbeit lässt sich inzwischen vollständig von KI schreiben. Wir müssen neue Formen des Lehrens und Prüfens finden, in denen Studierende Textarbeit tatsächlich selbst leisten, verstehen, warum sie wichtig ist, und dazu motiviert werden. Wir müssen das wissenschaftliche Handwerk so vermitteln, dass Studierende es auch lernen wollen. Zugleich müssen wir echte KI-Kompetenz aufbauen: verstehen, wie die Systeme funktionieren, wobei sie helfen und wo ihre Grenzen liegen. Man kann KI nur gut nutzen, wenn man auf eigenes Wissen bauen kann. Sonst spielt man in einem generischen Sandkasten, baut aber vielleicht kein tragfähiges Haus.

IK-Bau NRW: Chatbots wirken zunehmend empathisch und bestätigen ihre Nutzerinnen und Nutzer oft. Verändert das die Beziehung zur Maschine?

Astrid Rosenthal-von der Pütten: Auch mir sagt ein Chatbot gelegentlich: Astrid, das ist eine tolle Idee. Wenn ich dann widerspreche, heißt es sofort: Du hast vollkommen recht, wir machen es anders. Ich nehme das zur Kenntnis, nutze das System aber weiterhin sehr zweckgerichtet: Füge etwas hinzu, streiche etwas. Ich möchte eine Aufgabe erledigen und mich nicht auf eine persönliche Interaktion einlassen. Entscheidend ist, in welchem psychologischen Zustand sich ein Mensch befindet und mit welchen Bedürfnissen er das System nutzt. Wer schnell etwas erledigen möchte und sich bewusst ist, dass er ein Werkzeug verwendet, ist weniger anfällig. Wer einsam ist, Probleme hat und sich von der Interaktion Hilfe erhofft, befindet sich in einer ganz anderen Ausgangslage. Menschen sind dem aber nicht hilflos ausgeliefert. Ein gesunder erwachsener Mensch kann sich während der Interaktion bewusst machen: Das ist eine Maschine, das ist nicht echt. Bei der Einführung des Fernsehens gab es ähnliche Vorstellungen von der angeblich übermächtigen Wirkung des Mediums. Wir wissen heute, dass Menschen auswählen, was sie sehen und wie sie Medien nutzen. Medien können uns beeinflussen, wir sind ihnen aber nicht vollständig ausgeliefert.

IK-Bau NRW: Auch ohne die Maschine für einen Menschen zu halten, könnte man sie nach Jahren gemeinsamer Arbeit als vertrauten Kollegen behandeln. Wird man dann weniger kritisch gegenüber ihren Ergebnissen?

Astrid Rosenthal-von der Pütten: Ja, das kann ich mir vorstellen. Menschen entwickeln schließlich auch Beziehungen zu gewöhnlichen Maschinen. Wer lange mit einer bestimmten Maschine gearbeitet hat, kennt ihre Eigenheiten, weiß, wann sie zuverlässig ist und wann nicht. Vielleicht verzeiht man ihr gelegentliche Fehler und denkt trotz eines unguten Gefühls: Es wird schon gut gehen. Ähnliches kann bei KI-Systemen passieren. Wenn jemand gestresst ist, wenig kognitive Ressourcen übrig hat und nicht besonders stark in eine Tätigkeit investiert ist, schaltet man den Reflexionsmodus vielleicht ab. Dann sagt man: Es wird schon stimmen, in den meisten Fällen stimmt es ja auch. Wir müssten untersuchen, wie häufig das vorkommt und wir sollten fragen, wie wir Menschen auf eine überwiegend überwachende Tätigkeit vorbereiten können. Vielleicht brauchen sie neue Fähigkeiten zur Selbstregulation, müssen sich häufiger und bewusster in einen prüfenden Modus versetzen. Das ist anstrengender als viele Routinetätigkeiten und das Anforderungsprofil der Arbeit würde sich dadurch verändern.

IK-Bau NRW: Agentische KI-Systeme bearbeiten inzwischen viele Zwischenschritte selbstständig und produzieren enorme Mengen an Ergebnissen. Kann der Mensch überhaupt noch im gleichen Tempo und Umfang kontrollieren?

Astrid Rosenthal-von der Pütten: In der Wissenschaft sehen wir dieses Problem schon heute. Wo ich früher für ein Paper vielleicht 20 oder 30 Originalarbeiten gelesen habe, finde ich über einen Suchbegriff nun oft Hunderte. Eigentlich müsste ich sie alle lesen, um das Forschungsfeld wirklich zu durchdringen. Wir werden nicht mehr jedes Paper unseres Fachgebiets kennen können, wenn immer mehr produziert wird. Man muss aber nach dem Anwendungsbereich unterscheiden. Ich habe kürzlich einen Vortrag eines Kollegen aus der Pharmazie gehört. Bei der Entwicklung von Medikamenten müsste man ungeheuer viele Hypothesen darüber aufstellen, welche Moleküle interessant sein könnten und wie man sie verändern kann. Das Entwickeln, Auswählen, Simulieren und Prüfen solcher Hypothesen dauert lange. Mit KI kann man sehr viel mehr Hypothesen erzeugen, früh aussortieren und simulieren. So lässt sich womöglich jahrelange Arbeit einsparen. Kritisch sehe ich es, wenn KI-generierte Inhalte sich vor allem gegenseitig reproduzieren: wenn es irgendwann nur noch KI-generierte Paper über KI-generierte Paper gibt. Ein Kollege aus der Ethik an der RWTH hat dafür das Bild eines „Zombie-Internets“ verwendet, in dem Menschen an der Produktion kaum noch beteiligt sind. Das ist eine zugespitzte Vorstellung. Aber wir müssen genau hinschauen, wo so etwas entstehen könnte.

IK-Bau NRW: Könnten Menschen solche Entwicklungen auch wieder zurückdrehen?

Astrid Rosenthal-von der Pütten: Ich hoffe es. Wir können schließlich Dinge wieder abschaffen, wenn wir keinen Nutzen mehr darin erkennen. Denken Sie an StudiVZ: Die Plattform hat sich überlebt. Facebook wird von meinen Studierenden heute eher mit ihren Großeltern verbunden. Natürlich ist Social Media nicht verschwunden, sondern hat andere Formen angenommen. Vielleicht gibt es irgendwann Bereiche, in denen Menschen feststellen, dass etwas völlig parallel zu ihnen abläuft, sie daran nicht mehr beteiligt sind und es für sie keine Bedeutung mehr hat. Dann könnten sie sagen: Was haben wir eigentlich davon? Vielleicht sind wir klug genug, manches wieder einzustellen. Das ist zumindest meine Hoffnung.

IK-Bau NRW: Zum Schluss ein Blick nach vorn: Wie wird sich der Mensch in den nächsten fünf Jahren verändern, wenn sich KI weiterhin so schnell entwickelt?

Astrid Rosenthal-von der Pütten: Darauf gibt es keinen einfachen Schlusssatz. Menschen sind sehr unterschiedlich, in ihrem Alter, ihren Erfahrungen und Hintergründen. Deshalb wird sich KI auf verschiedene Bevölkerungsgruppen auch unterschiedlich auswirken. Ältere Menschen verändern sich vielleicht wenig, junge Menschen womöglich sehr stark im Vergleich dazu, wie wir aufgewachsen sind. Aber eines glaube ich: Wir werden uns zunehmend damit auseinandersetzen, was es bedeutet, Mensch zu sein. Vielleicht denkt der Mensch in fünf Jahren mehr darüber nach als noch vor wenigen Jahren.

Prof. Dr. rer. nat. Astrid Rosenthal-von der Pütten leitet seit 2018 den Lehrstuhl für Technik und Individuum an der RWTH Aachen. Sie studierte Angewandte Kognitions- und Medienwissenschaft an der Universität Duisburg-Essen, wo sie 2014 in Psychologie promovierte und anschließend als Postdoktorandin forschte. Im Mittelpunkt ihrer wissenschaftlichen Arbeit steht die Interaktion zwischen Mensch und Maschine, insbesondere mit Künstlicher Intelligenz und Robotern.

Das Interview führte Dr. Bastian Peiffer, Pressesprecher der IK-Bau NRW.