Warum menschenähnliche Chatbots anders beleidigt werden

ec9f24b3 5dde 49be 84c6 576dfb0b4e1b
Bild: ©Karl J. Donath

Chatbots sollen es Internetnutzern leichter machen, benötigte Informationen schnell zu finden, indem sie auf Fragen und Wünsche direkt antworten. Die Reaktionen auf einen Chatbot sind allerdings nicht immer nur positiv: „Wenn ein Chatbot falsche oder verwirrende Antworten gibt, kann dies bei Nutzern Aggressivität gegenüber dem digitalen Gesprächspartner auslösen“, sagt Prof. Alfred Benedikt Brendel, Wirtschaftsinformatiker an der der TU Dresden. Aggressionen gegenüber dem virtuellen Assistenten, wozu etwa auch Beschimpfungen zählen, können auch weitere negative Effekte haben – zum Beispiel auf die Einstellung der User zur Webseite oder dem Anbieter selbst.

In der Studie untersucht das internationale Forschungsteam um Brendel, ob die Gestaltung von Chatbots einen Einfluss darauf hat, wie Nutzer auf unbefriedigende Antworten reagieren. Die Forschenden nehmen an, dass aggressives Verhalten seltener auftritt, wenn ein Chatbot mit menschlichen Attributen versehen wird. „In unseren Experimenten kam bei einem Teil der Befragten ein menschlicher Chatbot zum Einsatz, der mit Namen, Geschlecht und Bild versehen war. Er beantwortete Fragen sehr freundlich und verstärkte seine Botschaften mit passenden Emojis.“ Ein neutraler Chatbot, mit dem ein anderer Teil der Studienteilnehmer interagierte, enthielt hingegen keine dieser Gestaltungselemente.

Die Ergebnisse der Studie zeigen zunächst, dass der menschliche Chatbot generell die Zufriedenheit der Nutzerinnen und Nutzer steigert. Das wiederum reduziert auch das Auftreten von Frustration. Gibt ein Chatbot jedoch unbefriedigende Antworten führt dies entgegen der ursprünglichen Vermutung der Forscher aber auch bei einem Chatbot mit menschlichen Attributen zu Frustration und Aggressivität. Insgesamt zeigen etwa zehn Prozent der Teilnehmer aggressives Verhalten gegenüber den virtuellen Assistenten.

Im Gegensatz zu einem neutralen Chatbot verringert sich bei einem menschlicheren Chatbot allerdings die Intensität des aggressiven Verhaltens. Laut Studie verwendeten User seltener beleidigende Äußerungen, wenn sie mit einem menschlichen Chatbot interagierten. Die Ergebnisse hätten insbesondere für die Praxis weitreichende Konsequenzen, erläutert Alfred Brendel. „Ich würde Softwareentwicklern empfehlen, bei der menschenähnlichen Gestaltung bedacht vorzugehen und genau zu überlegen, welche positiven wie negativen Effekte zusätzliche menschenähnliche Gestaltungselemente wie Geschlecht, Alter oder bestimmte Namen haben können.“



  • VDMA zeichnet Abschlussarbeiten junger Talente aus

    VDMA zeichnet Abschlussarbeiten junger Talente aus

    Gemeinsam mit der Abteilung Bildung des VDMA würdigt der VDMA Software und Digitalisierung exzellente Absolventinnen und Absolventen zum achten Mal mit dem Nachwuchspreis „Digitalisierung im Maschinenbau“.

    mehr lesen: VDMA zeichnet Abschlussarbeiten junger Talente aus

  • Facturee zeigt, wo „Should Costing“ an Grenzen stößt

    Facturee zeigt, wo „Should Costing“ an Grenzen stößt

    Die Methode ‚Should Costing‘ wird oft als Ansatz beworben, um die Beschaffungskosten bei Zeichnungsteilen so günstig wie möglich zu gestalten.

    mehr lesen: Facturee zeigt, wo „Should Costing“ an Grenzen stößt

  • SPS-Programmierung per App erweitern

    SPS-Programmierung per App erweitern

    SPS-Programmierung ist etwas für Spezialistinnen und Spezialisten. Die Möglichkeiten sind beschränkt und die Oberflächen meist älter. Einige Unternehmen bieten bereits Apps an, um den Funktionsumfang zu erweitern, allerdings nur passend…

    mehr lesen: SPS-Programmierung per App erweitern

  • Leiterplatten mit künstlicher Intelligenz prüfen

    Leiterplatten mit künstlicher Intelligenz prüfen

    Die Qualitätsprüfung während der Herstellung von Leiterplatten zu optimieren, haben sich Wissenschaftlerinnen und Wissenschaftler der Bergischen Universität Wuppertal zum Ziel gesetzt.

    mehr lesen: Leiterplatten mit künstlicher Intelligenz prüfen

  • PTC, Microsoft und Volkswagen entwickeln KI-Copiloten

    PTC, Microsoft und Volkswagen entwickeln KI-Copiloten

    PTC, Microsoft und die Volkswagen Group wollen zusammenzuarbeiten, um einen Generative-KI-Copiloten zu entwickeln, auf Basis der ALM-Software (Application Lifecycle Management) Codebeamer von PTC.

    mehr lesen: PTC, Microsoft und Volkswagen entwickeln KI-Copiloten

  • Beschäftigte leisten so wenige Überstunden wie noch nie

    Beschäftigte leisten so wenige Überstunden wie noch nie

    Die bezahlten und unbezahlten Überstunden je Arbeitnehmer sind seit der Pandemie um mehr als ein Drittel gefallen.

    mehr lesen: Beschäftigte leisten so wenige Überstunden wie noch nie

  • ‚123456‘ ist das beliebteste Passwort

    ‚123456‘ ist das beliebteste Passwort

    Das beliebteste Passwort in Deutschland ist die Ziffernfolge ‚123456‘, auf Platz 2 folgt das englische ‚password‘.

    mehr lesen: ‚123456‘ ist das beliebteste Passwort

  • NetApp: Neue Positionen für Henning Rahe und Bettina Knoop

    NetApp: Neue Positionen für Henning Rahe und Bettina Knoop

    NetApp gibt personelle Veränderungen bekannt. Der Spezialist für intelligente Dateninfrastruktur ernennt Henning Rahe zum neuen Senior Director Partner Sales in Deutschland.

    mehr lesen: NetApp: Neue Positionen für Henning Rahe und Bettina Knoop

  • ArtiMinds entwickelt Demonstrator zur automatisierten Leitungssatzfertigung

    ArtiMinds entwickelt Demonstrator zur automatisierten Leitungssatzfertigung

    Gemeinsam mit Forschungs- und Industriepartnern treibt ArtiMinds Robotics im Forschungsprojekt Next2OEM die Digitalisierung und Automatisierung der Wertschöpfungskette von Leitungssatzsystemen für automobile Anwendungen voran.

    mehr lesen: ArtiMinds entwickelt Demonstrator zur automatisierten Leitungssatzfertigung

  • Orderlage im Maschinenbau bleibt unter Vorjahresniveau

    Orderlage im Maschinenbau bleibt unter Vorjahresniveau

    Die Auftragsbücher im Maschinenbau verbuchen nach Angaben des VDMA im Oktober 2024 9 Prozent weniger Orders als im Vorjahr.

    mehr lesen: Orderlage im Maschinenbau bleibt unter Vorjahresniveau

  • Factory-X erfordert mehr als die Blaupause der Automobilindustrie

    Factory-X erfordert mehr als die Blaupause der Automobilindustrie

    Der hohe Investitionsbedarf durch die digitale Transformation, die Dekarbonisierung im Energiesektor, der demografische Wandel, die zunehmende nationale und internationale Regulierung und die aktuell unruhige politische Lage stellen die Industrie vor…

    mehr lesen: Factory-X erfordert mehr als die Blaupause der Automobilindustrie

  • Volvo Cars setzt auf 3DExperience Plattform von Dassault Systèmes

    Volvo Cars setzt auf 3DExperience Plattform von Dassault Systèmes

    Dassault Systèmes hat bekanntgegeben, dass Volvo Cars in seinen Konstruktionsprozessen für die Fahrzeugentwicklung künftig die 3DExperience Plattform von Dassault Systèmes einsetzen wird.

    mehr lesen: Volvo Cars setzt auf 3DExperience Plattform von Dassault Systèmes