Theory of Individualized Machines: Indirekte algorithmische Selbstberatung

• Antragsteller: Dr. Tobias Rebholz
• Fachliche Zuordnung: Allgemeine, Kognitive und Mathematische Psychologie ; Sozialpsychologie und Arbeits- und Organisationspsychologie
• Förderung: Förderung seit 2024
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 553942000

Algorithmen gewinnen im Alltag zunehmend an Bedeutung und damit auch die Forschung im Bereich der augmentierten (d.h. algorithmisch unterstützten) Urteils- und Entscheidungsfindung. Praktisch bieten Algorithmen effiziente Mechanismen zur Verringerung von Entscheidungskomplexität (z.B. Produktempfehlungen). Dennoch ziehen Menschen oft andere Menschen gegenüber Algorithmen vor, was als „Algorithmus-Aversion“ bezeichnet wird und insbesondere dann zu beobachten ist, wenn Algorithmen Fehler machen. Andererseits schätzen Nutzer algorithmische Ratschläge, wenn sie mit dem zugrunde liegenden Entscheidungsprozess und dessen Ergebnissen besser vertraut sind und wenn sie das Verhalten des Algorithmus beeinflussen können. Beide dieser Mechanismen profitieren von einer gemeinsamen Interaktionshistorie, die es den Nutzern erlaubt, Rückschlüsse auf das Verhalten eines Algorithmus zu ziehen, und die es umgekehrt ermöglicht, individualisierte Algorithmen zu trainieren, die sich an das Nutzerverhalten anpassen. Diese Interdependenz impliziert, dass Nutzer den Output solcher Algorithmen in die gewünschte Richtung lenken können, indem sie bewusst bestimmte Entscheidungen treffen und andere vermeiden. Mit anderen Worten, die gemeinsame Historie ermöglicht es Nutzern entsprechend ihrer Theory of Individualized Machines (ToIM) zu interagieren. In Anlehnung an die sogenannte Theory of Mind geht die ursprüngliche Theory of Machine davon aus, dass Nutzer nicht nur anderen Menschen, sondern auch Algorithmen Denkprozesse oder mentale Zustände zuschreiben. Dieses Projekt zielt darauf ab, die Forschungslücke zwischen Aversion und Wertschätzung gegenüber individualisierten Algorithmen zu überwinden. Im ersten Arbeitspaket werden drei Experimente durchgeführt, um die Konsequenzen einer ToIM-bedingten indirekten algorithmischen Selbstberatung zu testen. Konkret werden der Selbstwert (als Moderator von Egozentrismus) gemessen sowie die Wichtigkeit der Aufgabe (als Moderator von Ähnlichkeitsattraktion) und temporale Diskrepanz (als Moderator von Belief Updating) manipuliert, um entsprechende Hypothesen über deren Auswirkungen auf die Bereitschaft der Versuchspersonen, individualisierten algorithmischen Output zu integrieren, zu testen. Aufbauend auf diesen Prozesserklärungen sollen im zweiten Arbeitspaket zwei weitere Experimente durchgeführt werden, um die Auswirkungen von Consider-the-Opposite Interventionen auf die ToIM von Nutzern sowie auf die in Large Language Models (LLMs) implementierten Mechanismen zur Generierung von Output zu klären. Dieses Arbeitsprogramm soll unser Verständnis der Faktoren vertiefen, die die Nutzerbereitschaft beeinflussen, sich auf individualisierte KI-Systeme einzulassen. Die Nutzung bestehender Technologien, für die indirekte algorithmische Selbstberatung inhärent relevant ist (d.h. die generelle Kontextabhängigkeit von LLMs), gewährleistet die Durchführbarkeit und Relevanz für die gesellschaftlichen Implikationen zunehmender KI-Implementierungen.

• DFG-Verfahren: WBP Stipendium
• Internationaler Bezug: USA
• Gastgeber: Professor Jack Soll, Ph.D.