Warum menschenähnliche Chatbots anders beleidigt werden

ec9f24b3 5dde 49be 84c6 576dfb0b4e1b
Bild: ©Karl J. Donath

Chatbots sollen es Internetnutzern leichter machen, benötigte Informationen schnell zu finden, indem sie auf Fragen und Wünsche direkt antworten. Die Reaktionen auf einen Chatbot sind allerdings nicht immer nur positiv: „Wenn ein Chatbot falsche oder verwirrende Antworten gibt, kann dies bei Nutzern Aggressivität gegenüber dem digitalen Gesprächspartner auslösen“, sagt Prof. Alfred Benedikt Brendel, Wirtschaftsinformatiker an der der TU Dresden. Aggressionen gegenüber dem virtuellen Assistenten, wozu etwa auch Beschimpfungen zählen, können auch weitere negative Effekte haben – zum Beispiel auf die Einstellung der User zur Webseite oder dem Anbieter selbst.

In der Studie untersucht das internationale Forschungsteam um Brendel, ob die Gestaltung von Chatbots einen Einfluss darauf hat, wie Nutzer auf unbefriedigende Antworten reagieren. Die Forschenden nehmen an, dass aggressives Verhalten seltener auftritt, wenn ein Chatbot mit menschlichen Attributen versehen wird. „In unseren Experimenten kam bei einem Teil der Befragten ein menschlicher Chatbot zum Einsatz, der mit Namen, Geschlecht und Bild versehen war. Er beantwortete Fragen sehr freundlich und verstärkte seine Botschaften mit passenden Emojis.“ Ein neutraler Chatbot, mit dem ein anderer Teil der Studienteilnehmer interagierte, enthielt hingegen keine dieser Gestaltungselemente.

Die Ergebnisse der Studie zeigen zunächst, dass der menschliche Chatbot generell die Zufriedenheit der Nutzerinnen und Nutzer steigert. Das wiederum reduziert auch das Auftreten von Frustration. Gibt ein Chatbot jedoch unbefriedigende Antworten führt dies entgegen der ursprünglichen Vermutung der Forscher aber auch bei einem Chatbot mit menschlichen Attributen zu Frustration und Aggressivität. Insgesamt zeigen etwa zehn Prozent der Teilnehmer aggressives Verhalten gegenüber den virtuellen Assistenten.

Im Gegensatz zu einem neutralen Chatbot verringert sich bei einem menschlicheren Chatbot allerdings die Intensität des aggressiven Verhaltens. Laut Studie verwendeten User seltener beleidigende Äußerungen, wenn sie mit einem menschlichen Chatbot interagierten. Die Ergebnisse hätten insbesondere für die Praxis weitreichende Konsequenzen, erläutert Alfred Brendel. „Ich würde Softwareentwicklern empfehlen, bei der menschenähnlichen Gestaltung bedacht vorzugehen und genau zu überlegen, welche positiven wie negativen Effekte zusätzliche menschenähnliche Gestaltungselemente wie Geschlecht, Alter oder bestimmte Namen haben können.“



  • Wie Unternehmen mit Ausbildung den Fachkräftemangel bekämpfen wollen

    Wie Unternehmen mit Ausbildung den Fachkräftemangel bekämpfen wollen

    In Deutschland fehlen Fachkräfte. Ein Weg, um die Lücken zumindest ein bisschen zu schließen: Selbst ausbilden. Besonders gefragt ist Nachwuchs in MINT-Berufen. Wie aus einer Studie des Instituts der deutschen…

    mehr lesen: Wie Unternehmen mit Ausbildung den Fachkräftemangel bekämpfen wollen

  • Capgemini-Studie zeigt Potenziale für Bio-Engineering in der Industrie

    Capgemini-Studie zeigt Potenziale für Bio-Engineering in der Industrie

    Nahezu alle Industrie-Unternehmen befassen sich laut einer Capgemini-Studie mit Bio-Engineering. Die Mehrheit der befragten Organisationen plant demnach sogar Investitionserhöhungen für Biotechnologie. Ein zentrales Motiv: mehr Nachhaltigkeit.

    mehr lesen: Capgemini-Studie zeigt Potenziale für Bio-Engineering in der Industrie

  • Smart Factory Week startet Mitte September

    Smart Factory Week startet Mitte September

    Die Smart Factory Week von MPDV geht vom 16. bis 19. September 2024 in die vierte Runde. Das Online-Event richtet sich an Einsteiger und Nutzer digitaler Fertigungsprozesse und Management Execution…

    mehr lesen: Smart Factory Week startet Mitte September

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Neuer Managing Director Germany bei Commvault

    Neuer Managing Director Germany bei Commvault

    Seit Juli hat die Commvault Systems einen neuen Management Director für Deutschland. Frank Dehne folgt in dieser Position auf Peter Kayi.

    mehr lesen: Neuer Managing Director Germany bei Commvault

  • BSI entwickelt Folgemaßnahmen als Reaktion auf weltweite IT-Ausfälle

    BSI entwickelt Folgemaßnahmen als Reaktion auf weltweite IT-Ausfälle

    Nach den weltweiten IT-Störungen am 19. Juli 2024 hat das Bundesamt für Sicherheit in der Informationstechnik (BSI) im Gespräch mit den Software-Unternehmen Crowdstrike und Microsoft erste Maßnahmen entwickelt, um vergleichbare…

    mehr lesen: BSI entwickelt Folgemaßnahmen als Reaktion auf weltweite IT-Ausfälle

  • Forschende gehen technologiebezogenen Verschwörungstheorien auf den Grund

    Forschende gehen technologiebezogenen Verschwörungstheorien auf den Grund

    Wissenschaftler der Universitäten Paderborn und Göttingen untersuchen in einer Studie, wie technologiebezogene Verschwörungstheorien zustande kommen und welche Auswirkungen diese haben können.

    mehr lesen: Forschende gehen technologiebezogenen Verschwörungstheorien auf den Grund

  • B-Human erneut beim RoboCup erfolgreich

    B-Human erneut beim RoboCup erfolgreich

    Das Team B-Human der Universität Bremen und des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI) errang bei der RoboCup-Weltmeisterschaft in Eindhoven den Titel – und das bereits zum elften Mal.

    mehr lesen: B-Human erneut beim RoboCup erfolgreich

  • Fehlende Transparenz in der Software-Lieferkette gefährdet NIS-2-Compliance

    Fehlende Transparenz in der Software-Lieferkette gefährdet NIS-2-Compliance

    Unternehmen kämpfen noch mit den Cybersicherheitsanforderungen der neuen NIS-2-Richtlinie. Laut einer aktuellen Studie von BlackBerry scheint die Software-Lieferkette ein entscheidender Faktor dafür zu sein.

    mehr lesen: Fehlende Transparenz in der Software-Lieferkette gefährdet NIS-2-Compliance

  • Bosch erwirbt HLK-Geschäft von Johnson Controls & Hitachi

    Bosch erwirbt HLK-Geschäft von Johnson Controls & Hitachi

    Bosch setzt seinen Wachstumskurs mit einer strategischen Akquisition fort: Für seinen Bereich Energy and Building Technology plant die Unternehmensruppe das weltweite Heizungs-, Lüftungs- und Klimalösungsgeschäft für Wohn- und kleine Gewerbegebäude…

    mehr lesen: Bosch erwirbt HLK-Geschäft von Johnson Controls & Hitachi

  • EmpowerMX wird Teil von IFS

    EmpowerMX wird Teil von IFS

    IFS erweitert sein Produktportfolio mit der Übernahme von EmpowerMX um eine Wartungssoftware für die Luftfahrtindustrie.

    mehr lesen: EmpowerMX wird Teil von IFS

  • Neuer CFO für Rockwell Automation

    Neuer CFO für Rockwell Automation

    Rockwell Automation hat bekannt gegeben, dass Christian Rothe am 19. August als Senior Vice President und Chief Financial Officer in das Unternehmen eintreten wird.

    mehr lesen: Neuer CFO für Rockwell Automation