Interaktion mit KI-Systemen: Wenn Alexa zur Familie gehört

Siri, Alexa und Co. sind beliebt. Vor allem Familien nutzen KI-basierte Sprachassistenten, um den trubeligen Alltag zu organisieren. Kinder lernen leicht, damit umzugehen. Welche Folgen diese Systeme auf unser Kommunikationsverhalten und unsere Beziehungen haben, hat ein Forschungsverbund unter der Leitung von Prof. Dr. Nicole Krämer, Sozialpsychologin der Universität Duisburg-Essen (UDE), im Projekt IMPACT* untersucht. Es wurde über vier Jahren von der VolkswagenStiftung mit 1,5 Mio. Euro gefördert. Am 6./7. März stellen die Wissenschaftler:innen ihre Ergebnisse bei der Abschlusstagung in Berlin vor.

Die Fachleute aus den Bereichen Recht, Ethik, Informatik und Sozialpsychologie haben Szenarien aus dem Alltag verschiedener Altersgruppen – Kinder, junge Erwachsene, Senior:innen – untersucht. Sie wollten herausfinden, was die Nutzer:innen über die Technik hinter den intelligenten Systemen wissen, wie sie diese selbstbestimmt nutzen können und ob Gesetze geändert werden müssen. Auch das waren Fragen: Verändert sich auf Dauer die eigene Kommunikation, wenn ich mit einer Maschine spreche? Wird der Sprachassistent als eine Art neues Familienmitglied gesehen?

Die Forschenden stellen ihre Antworten bei der Konferenz vor. Ein Punkt: die Transparenz. In welchem Ausmaß Alexa und Co. nämlich Daten sammeln, ist vielen Menschen nicht bewusst. „Weder die Eltern noch die Kinder verstehen die Technologien ausreichend, um eine tatsächlich „informierte Einwilligung“ geben zu können. Sie geben ihr Okay im guten Glauben“, so Krämer. Viele Kinder wissen schon mit den Geräten umzugehen, bevor sie schreiben und lesen können. Aber: „Sie vermenschlichen den Sprachassistenten, erzählen ihm leichtfertig Geheimnisse und denken zum Beispiel, Alexa habe ihr Wissen aus der Alexa-Schule.” Auch aus ethischer Perspektive sei dies problematisch: „Nutzende sollten sich jederzeit darüber im Klaren sein, dass sie mit einer Maschine und nicht mit einem Menschen sprechen.

Es gibt auch Möglichkeiten, problematisches Verhalten gegenüber interaktiven KI-Systemen einzudämmen. „Wir konnten feststellen, dass Erklärungen auch komplex sein dürfen, wenn es hilft nachzuvollziehen, wie die digitalen Helfer funktionieren“, so Krämer. Man dürfe die Fähigkeiten von Laien im Umgang mit Technologie auch nicht unterschätzen. Zur Überraschung der Forschenden war gerade bei der kompliziertesten Erklärung das Verständnis am höchsten.

* IMPACT steht für „Implications of conversing with intelligent machines in everyday life for people´s beliefs about algorithms, their communication behavior and their relationship building“. Neben der UDE waren die Universitäten Bielefeld und Kassel sowie die Evangelische Hochschule Nürnberg beteiligt.

Hinweis für die Redaktionen:

die IMPACT-Abschlussveranstaltung findet vom 6. bis 7. März im AXICA Kongresszentrum Berlin statt. Medienvertreter:innen können in Präsenz oder online teilnehmen.

Das Programm sieht neben Berichten über die Projektergebnisse auch Vorträge von internationalen Spitzenforscher:innen vor. Eine Podiumsdiskussion thematisiert außerdem die rechtlichen und ethischen Belange und befasst sich mit den Folgen neuer Technologien wie ChatGPT.

Anmeldung, Interview-Anfragen und Programm unter: https://www.impact-projekt.de/#conference

Wissenschaftlicher Ansprechpartner:
Prof. Dr. Nicole Krämer, kontakt@impact-projekt.de

Weitere Informationen:
https://www.impact-projekt.de/#conference