Warum menschenähnliche Chatbots anders beleidigt werden

ec9f24b3 5dde 49be 84c6 576dfb0b4e1b
Bild: ©Karl J. Donath

Chatbots sollen es Internetnutzern leichter machen, benötigte Informationen schnell zu finden, indem sie auf Fragen und Wünsche direkt antworten. Die Reaktionen auf einen Chatbot sind allerdings nicht immer nur positiv: „Wenn ein Chatbot falsche oder verwirrende Antworten gibt, kann dies bei Nutzern Aggressivität gegenüber dem digitalen Gesprächspartner auslösen“, sagt Prof. Alfred Benedikt Brendel, Wirtschaftsinformatiker an der der TU Dresden. Aggressionen gegenüber dem virtuellen Assistenten, wozu etwa auch Beschimpfungen zählen, können auch weitere negative Effekte haben – zum Beispiel auf die Einstellung der User zur Webseite oder dem Anbieter selbst.

In der Studie untersucht das internationale Forschungsteam um Brendel, ob die Gestaltung von Chatbots einen Einfluss darauf hat, wie Nutzer auf unbefriedigende Antworten reagieren. Die Forschenden nehmen an, dass aggressives Verhalten seltener auftritt, wenn ein Chatbot mit menschlichen Attributen versehen wird. „In unseren Experimenten kam bei einem Teil der Befragten ein menschlicher Chatbot zum Einsatz, der mit Namen, Geschlecht und Bild versehen war. Er beantwortete Fragen sehr freundlich und verstärkte seine Botschaften mit passenden Emojis.“ Ein neutraler Chatbot, mit dem ein anderer Teil der Studienteilnehmer interagierte, enthielt hingegen keine dieser Gestaltungselemente.

Die Ergebnisse der Studie zeigen zunächst, dass der menschliche Chatbot generell die Zufriedenheit der Nutzerinnen und Nutzer steigert. Das wiederum reduziert auch das Auftreten von Frustration. Gibt ein Chatbot jedoch unbefriedigende Antworten führt dies entgegen der ursprünglichen Vermutung der Forscher aber auch bei einem Chatbot mit menschlichen Attributen zu Frustration und Aggressivität. Insgesamt zeigen etwa zehn Prozent der Teilnehmer aggressives Verhalten gegenüber den virtuellen Assistenten.

Im Gegensatz zu einem neutralen Chatbot verringert sich bei einem menschlicheren Chatbot allerdings die Intensität des aggressiven Verhaltens. Laut Studie verwendeten User seltener beleidigende Äußerungen, wenn sie mit einem menschlichen Chatbot interagierten. Die Ergebnisse hätten insbesondere für die Praxis weitreichende Konsequenzen, erläutert Alfred Brendel. „Ich würde Softwareentwicklern empfehlen, bei der menschenähnlichen Gestaltung bedacht vorzugehen und genau zu überlegen, welche positiven wie negativen Effekte zusätzliche menschenähnliche Gestaltungselemente wie Geschlecht, Alter oder bestimmte Namen haben können.“



  • KI-basierte Datenverarbeitung im autonomen Fahrzeug

    KI-basierte Datenverarbeitung im autonomen Fahrzeug

    Forschung an neuromorpher Hardware im Projekt KI-Flex KI-basierte Datenverarbeitung im autonomen Fahrzeug Im Forschungsprojekt KI-Flex wurde an einer Plattform gearbeitet, die im autonomen Fahrzeug alle Verkehrsteilnehmer sicher orten soll. Entstanden…

    mehr lesen: KI-basierte Datenverarbeitung im autonomen Fahrzeug

  • Nachhaltigkeit entlang der gesamten Wertschöpfungskette

    Nachhaltigkeit entlang der gesamten Wertschöpfungskette

    Nachhaltigkeit und Wirtschaftlichkeit für den Industriesektor Hand in Hand? Dies kann Realität werden. Das kürzlich abgeschlossene Forschungsprojekt ’Climate Solution for Industries’ (CS4I) unter Beteiligung des Fraunhofer IPA setzt bereits bei…

    mehr lesen: Nachhaltigkeit entlang der gesamten Wertschöpfungskette

  • Neil Barua folgt auf James Heppelmann

    Neil Barua folgt auf James Heppelmann

    Nach 13 Jahren als CEO beim Softwareunternehmen PTC verabschiedet sich James Heppelmann in den Ruhestand. Sein Nachfolger wird Neil Barua.

    mehr lesen: Neil Barua folgt auf James Heppelmann

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Skeptischer Blick auf den Sommer

    Skeptischer Blick auf den Sommer

    Ifo Geschäftsklimaindex im Mai Skeptischer Blick auf den Sommer Nach 93,4 Punkten im Vormonat, fällt der Ifo Geschäftsklimaindex im Mai auf 91,7 Punkte – der erste Rückgang in sechs Montanen.

    mehr lesen: Skeptischer Blick auf den Sommer

  • Kritik am Cyber Resilience Act

    Kritik am Cyber Resilience Act

    Kritik am Cyber Resilience Act Open-Source-Organisationen richten offenen Brief an EU Kommission In einem offenen Brief kritisieren neun Open-Source-Organisationen die EU Kommission, die Perspektive der Community im Rahmen des Cyber…

    mehr lesen: Kritik am Cyber Resilience Act

  • VDI bietet Big-Data-Schulungen an

    VDI bietet Big-Data-Schulungen an

    Aus- und Weiterbildung VDI bietet Big-Data-Schulungen an Auf Grundlage der im November 2022 veröffentlichten Richtlinie VDI/VDE-MT 3714 bietet der VDI Schulungen für die Implementierung und den Betrieb von Big-Data-Anwendungen an.

    mehr lesen: VDI bietet Big-Data-Schulungen an

  • Qualitätsmanagement-System mit integrierter KI

    Qualitätsmanagement-System mit integrierter KI

    KI-Funktionen in Standardsoftware Qualitätsmanagement-System mit integrierter KI Softwareanbieter Consense ergänzt sein Qualitätsmanagement-System um KI-gestützte Funktionen. Die Algorithmen sollen helfen, Prozesse zu automatisieren und einfacher zu gestalten.

    mehr lesen: Qualitätsmanagement-System mit integrierter KI

  • Eine Tauschplattform für die Autoindustrie

    Eine Tauschplattform für die Autoindustrie

    Plattform Wavetrade Eine Tauschplattform für die Autoindustrie Der KI-Spezialist One Data hat eine Tauschplattform an den Start gebracht, über die Automobilhersteller ’kritische Komponenten’ wie etwa Halbleiter an- und verkaufen sowie…

    mehr lesen: Eine Tauschplattform für die Autoindustrie

  • Marktstudie vergleicht mehr als 140 SCM-Lösungen

    Marktstudie vergleicht mehr als 140 SCM-Lösungen

    Supply-Chain-Management-Software Marktstudie vergleicht mehr als 140 SCM-Lösungen Wo liegen die Unterschiede in Supply-Chain-Management-Software? Eine Marktübersicht der Trovarit, des Fraunhofer IPA und des IFR vergleicht mehr als 140 Lösungen.

    mehr lesen: Marktstudie vergleicht mehr als 140 SCM-Lösungen

  • Was bedeuten Low Code und No Code für ERP-Systeme?

    Was bedeuten Low Code und No Code für ERP-Systeme?

    Diskussionspapier des Bitkom Was bedeuten Low Code und No Code für ERP-Systeme? Mit Low Code bzw. No Code können auch Nicht-ITler Anwendungen aus vorgefertigten Bausteinen erstellen. Die Auswirkungen des Ansatzes…

    mehr lesen: Was bedeuten Low Code und No Code für ERP-Systeme?

  • Positives Signal, doch es bleiben Fragen

    Positives Signal, doch es bleiben Fragen

    DSAG-Statement zur geplanten Stärkung des SAP-ERP-Geschäfts Positives Signal, doch es bleiben Fragen Im Rahmen der Bilanzpressekonferenz hat SAP mitgeteilt, das Enterprise-Resource-Planning (ERP)-Geschäft stärken und Einschnitte in Programmen für Vertrieb und…

    mehr lesen: Positives Signal, doch es bleiben Fragen