KI als Berater:in in moralischen Entscheidungen
Large Language Models (LLMs) wieChatGPT spielen in den unterschiedlichsten Entscheidungen eine immer größere Rolle. Privatpersonen und Unternehmen setzen KI als Berater:in und Entscheidungshilfe ein, oft ohne sich der konkreten Konsequenzen auf ihr Urteilen bewusst zu sein. In diesem Seminar befassen wir uns daher mit der Frage, wie KI-Beratung unser moralisches Urteilen und Entscheiden beeinflusst. Im Kontext der sozialen Nachhaltigkeit, wo faires Verteilen und prosoziales Verhalten wichtige Säulen sind, untersuchen wir, ob und wie KI-Empfehlungen Entscheidungen von Menschen verändern und welche psychologischen Mechanismen dabei wirken.
Im Zentrum des Seminars steht ein Experiment, in dem Teilnehmende Entscheidungen bezüglich der Verteilung von Gütern treffen – also Situationen, in denen sie zwischen eigenem Vorteil und dem Nutzen für andere Menschen abwägen müssen – und dabei Beratung durch ein LLM erhalten. Untersucht wird insbesondere, wie KI-Empfehlungen prosoziales Verhalten fördern können, und über welche Mechanismen dies geschieht. Zusätzlich betrachten wir, wie verschiedene Persönlichkeitseigenschaften (beispielsweise Ehrlichkeit-bescheidenheit) sowie die Kompetenz im Umgang mit KI diese Effekte beeinflussen.
Hier geht's zum Vorlesungsverzeichnis