Warum menschenähnliche Chatbots anders beleidigt werden

ec9f24b3 5dde 49be 84c6 576dfb0b4e1b
Bild: ©Karl J. Donath

Chatbots sollen es Internetnutzern leichter machen, benötigte Informationen schnell zu finden, indem sie auf Fragen und Wünsche direkt antworten. Die Reaktionen auf einen Chatbot sind allerdings nicht immer nur positiv: „Wenn ein Chatbot falsche oder verwirrende Antworten gibt, kann dies bei Nutzern Aggressivität gegenüber dem digitalen Gesprächspartner auslösen“, sagt Prof. Alfred Benedikt Brendel, Wirtschaftsinformatiker an der der TU Dresden. Aggressionen gegenüber dem virtuellen Assistenten, wozu etwa auch Beschimpfungen zählen, können auch weitere negative Effekte haben – zum Beispiel auf die Einstellung der User zur Webseite oder dem Anbieter selbst.

In der Studie untersucht das internationale Forschungsteam um Brendel, ob die Gestaltung von Chatbots einen Einfluss darauf hat, wie Nutzer auf unbefriedigende Antworten reagieren. Die Forschenden nehmen an, dass aggressives Verhalten seltener auftritt, wenn ein Chatbot mit menschlichen Attributen versehen wird. „In unseren Experimenten kam bei einem Teil der Befragten ein menschlicher Chatbot zum Einsatz, der mit Namen, Geschlecht und Bild versehen war. Er beantwortete Fragen sehr freundlich und verstärkte seine Botschaften mit passenden Emojis.“ Ein neutraler Chatbot, mit dem ein anderer Teil der Studienteilnehmer interagierte, enthielt hingegen keine dieser Gestaltungselemente.

Die Ergebnisse der Studie zeigen zunächst, dass der menschliche Chatbot generell die Zufriedenheit der Nutzerinnen und Nutzer steigert. Das wiederum reduziert auch das Auftreten von Frustration. Gibt ein Chatbot jedoch unbefriedigende Antworten führt dies entgegen der ursprünglichen Vermutung der Forscher aber auch bei einem Chatbot mit menschlichen Attributen zu Frustration und Aggressivität. Insgesamt zeigen etwa zehn Prozent der Teilnehmer aggressives Verhalten gegenüber den virtuellen Assistenten.

Im Gegensatz zu einem neutralen Chatbot verringert sich bei einem menschlicheren Chatbot allerdings die Intensität des aggressiven Verhaltens. Laut Studie verwendeten User seltener beleidigende Äußerungen, wenn sie mit einem menschlichen Chatbot interagierten. Die Ergebnisse hätten insbesondere für die Praxis weitreichende Konsequenzen, erläutert Alfred Brendel. „Ich würde Softwareentwicklern empfehlen, bei der menschenähnlichen Gestaltung bedacht vorzugehen und genau zu überlegen, welche positiven wie negativen Effekte zusätzliche menschenähnliche Gestaltungselemente wie Geschlecht, Alter oder bestimmte Namen haben können.“



  • Deutschland mit gutem Innovationssystem aber Schwächen in digitaler Infrastruktur

    Deutschland mit gutem Innovationssystem aber Schwächen in digitaler Infrastruktur

    Angesichts des deutschen Abschneidens beim diesjährigen Global Innovation Index hat die Präsidentin des Deutschen Patent- und Markenamts (DPMA), Eva Schewior, zu mehr Dynamik bei der Sicherung der Innovationsfähigkeit in Deutschland…

    mehr lesen: Deutschland mit gutem Innovationssystem aber Schwächen in digitaler Infrastruktur

  • Peter Leibinger als neuer BDI-Präsident vorgeschlagen

    Peter Leibinger als neuer BDI-Präsident vorgeschlagen

    Nach zwei Amtszeiten als BDI-Präsident wird Siegfried Russwurm am Jahresende das Amt satzungsgemäß abgeben.

    mehr lesen: Peter Leibinger als neuer BDI-Präsident vorgeschlagen

  • Neue Höchstzahl an Industrierobotern in Deutschland

    Neue Höchstzahl an Industrierobotern in Deutschland

    Die deutsche Wirtschaft hat 28.355 neue Industrieroboter installiert – ein neues Allzeithoch: 2023 stieg der Absatz um 7 Prozent im Vergleich zum Vorjahr. Der operative Bestand erreichte den neuen europäischen…

    mehr lesen: Neue Höchstzahl an Industrierobotern in Deutschland

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Arvato Systems und Advanco starten Partnerschaft

    Arvato Systems und Advanco starten Partnerschaft

    Arvato Systems und Advanco, ein Anbieter von Track & Trace-Systemen für die Pharma- und Life Science-Branche, bündeln ihre Expertise und starten eine Partnerschaft.

    mehr lesen: Arvato Systems und Advanco starten Partnerschaft

  • Saskia Fontanive und Christian Schweizer werden COOs

    Saskia Fontanive und Christian Schweizer werden COOs

    Im September 2024 hat der SAP-Gold-Partner und Cloudspezialist Innovabee seine Geschäftsführung um Saskia Fontanive und Christian Schweizer erweitert.

    mehr lesen: Saskia Fontanive und Christian Schweizer werden COOs

  • Siemens gliedert eMobility-Geschäft aus

    Siemens gliedert eMobility-Geschäft aus

    Siemens plant, sein eMobility-Geschäft auszugliedern. Im Jahr 2018 bündelte das Unternehmen seine Ladeaktivitäten für Elektrofahrzeuge und überführte diese 2022 in eine eigene Geschäftseinheit.

    mehr lesen: Siemens gliedert eMobility-Geschäft aus

  • Rechtliche Orientierung für Cybersicherheitsforschende

    Rechtliche Orientierung für Cybersicherheitsforschende

    Cybersicherheitsforschende stehen mitunter gefühlt mit einem Bein im Gefängnis – es herrscht viel Unsicherheit darüber, was rechtlich im Rahmen von Wissenschaft erlaubt ist und was nicht.

    mehr lesen: Rechtliche Orientierung für Cybersicherheitsforschende

  • DFKI und Taiwan AICoE vereinbaren KI-Zusammenarbeit

    DFKI und Taiwan AICoE vereinbaren KI-Zusammenarbeit

    Das Taiwan AI Center of Excellence (AICoE) und das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) haben eine Absprache zur wissenschaftlichen Zusammenarbeit geschlossen.

    mehr lesen: DFKI und Taiwan AICoE vereinbaren KI-Zusammenarbeit

  • Auftragsbestand der Industrie wächst um 1 Prozent

    Auftragsbestand der Industrie wächst um 1 Prozent

    Der Auftragsbestand in der Industrie ist nach vorläufigen Angaben des Statistischen Bundesamtes (Destatis) im Juli 2024 gegenüber Juni 2024 saison- und kalenderbereinigt um 1 Prozent gestiegen.

    mehr lesen: Auftragsbestand der Industrie wächst um 1 Prozent

  • Sebastian Durst wird CEO bei Weidmüller

    Sebastian Durst wird CEO bei Weidmüller

    Die Weidmüller-Gruppe gibt zum 1. Oktober 2024 Veränderungen in der ersten Führungsebene bekannt: Dr. Sebastian Durst, bisher Vorstand Operations, übernimmt die neu geschaffene Position des Chief Executive Officer (CEO).

    mehr lesen: Sebastian Durst wird CEO bei Weidmüller

  • Sereact macht Jörg Ziesmann zum Sales Director

    Sereact macht Jörg Ziesmann zum Sales Director

    Jörg Ziesmann (Bild) ist neuer Sales Director beim KI-Robotik-Spezialisten Sereact.

    mehr lesen: Sereact macht Jörg Ziesmann zum Sales Director