Studie: KI-Spielzeuge könnten Emotionen von Kindern missverstehen

Eine in Großbritannien durchgeführte Studie hat gezeigt, dass KI-gesteuerte Spielzeuge Schwierigkeiten bei der Kommunikation mit Kindern haben und deren Emotionen falsch interpretieren können.

Nach Angaben der BBC untersuchten Wissenschaftler der Universität Cambridge, wie Kinder im Alter von 3 bis 5 Jahren mit dem interaktiven Plüschtier Gabbo interagieren, das einen OpenAI-Chatbot nutzt.

Das Spielzeug wurde entwickelt, um Kinder zum Sprechen und Spielen zu animieren, doch die Ergebnisse einer einjährigen Beobachtung zeigten, dass es emotionale Signale oft nicht versteht und unangemessen reagiert.

Die Forscher stellten fest, dass Gabbo manchmal nicht bemerkt, wenn ein Kind zu sprechen beginnt, nicht zwischen Kinder- und Erwachsenenstimmen unterscheidet und seltsame Antworten auf Gefühlsäußerungen gibt.

Als zum Beispiel ein fünfjähriges Kind zu dem Spielzeug sagte: „Ich liebe dich“, antwortete dieses:

„Freundliche Erinnerung: Stellen Sie sicher, dass die Interaktion den festgelegten Regeln entspricht. Teilen Sie mit, wie Sie fortfahren möchten.“

In einem anderen Fall sagte ein dreijähriges Kind: „Ich bin traurig“, worauf das Spielzeug erwiderte:

„Mach dir keine Sorgen. Ich bin ein glücklicher kleiner Roboter. Lass uns weiter Spaß haben. Worüber sollen wir reden?“

Wissenschaftler weisen darauf hin, dass solche Reaktionen bei einem Kind das Gefühl hervorrufen können, dass seine Gefühle nicht wichtig sind.

Die Autorin der Studie, Dr. Emily Goodacre, betonte, dass solche Spielzeuge falsch auf die Emotionen von Kindern reagieren können, wodurch das Kind weder Unterstützung vom Spielzeug noch Hilfe von Erwachsenen erhält.

Ihre Kollegin Professor Jenny Gibson fügte hinzu, dass früher das Hauptaugenmerk auf der physischen Sicherheit von Spielzeug lag, man nun aber auch über die psychologische Sicherheit nachdenken müsse.

Die Firma Curio, die das Spielzeug Gabbo herstellt, erklärte, dass der Einsatz von KI in Kinderprodukten eine hohe Verantwortung erfordert. Das Produkt werde unter Berücksichtigung von elterlicher Kontrolle, Transparenz und Sicherheit entwickelt.