Warum menschenähnliche Chatbots anders beleidigt werden

ec9f24b3 5dde 49be 84c6 576dfb0b4e1b
Bild: ©Karl J. Donath

Chatbots sollen es Internetnutzern leichter machen, benötigte Informationen schnell zu finden, indem sie auf Fragen und Wünsche direkt antworten. Die Reaktionen auf einen Chatbot sind allerdings nicht immer nur positiv: „Wenn ein Chatbot falsche oder verwirrende Antworten gibt, kann dies bei Nutzern Aggressivität gegenüber dem digitalen Gesprächspartner auslösen“, sagt Prof. Alfred Benedikt Brendel, Wirtschaftsinformatiker an der der TU Dresden. Aggressionen gegenüber dem virtuellen Assistenten, wozu etwa auch Beschimpfungen zählen, können auch weitere negative Effekte haben – zum Beispiel auf die Einstellung der User zur Webseite oder dem Anbieter selbst.

In der Studie untersucht das internationale Forschungsteam um Brendel, ob die Gestaltung von Chatbots einen Einfluss darauf hat, wie Nutzer auf unbefriedigende Antworten reagieren. Die Forschenden nehmen an, dass aggressives Verhalten seltener auftritt, wenn ein Chatbot mit menschlichen Attributen versehen wird. „In unseren Experimenten kam bei einem Teil der Befragten ein menschlicher Chatbot zum Einsatz, der mit Namen, Geschlecht und Bild versehen war. Er beantwortete Fragen sehr freundlich und verstärkte seine Botschaften mit passenden Emojis.“ Ein neutraler Chatbot, mit dem ein anderer Teil der Studienteilnehmer interagierte, enthielt hingegen keine dieser Gestaltungselemente.

Die Ergebnisse der Studie zeigen zunächst, dass der menschliche Chatbot generell die Zufriedenheit der Nutzerinnen und Nutzer steigert. Das wiederum reduziert auch das Auftreten von Frustration. Gibt ein Chatbot jedoch unbefriedigende Antworten führt dies entgegen der ursprünglichen Vermutung der Forscher aber auch bei einem Chatbot mit menschlichen Attributen zu Frustration und Aggressivität. Insgesamt zeigen etwa zehn Prozent der Teilnehmer aggressives Verhalten gegenüber den virtuellen Assistenten.

Im Gegensatz zu einem neutralen Chatbot verringert sich bei einem menschlicheren Chatbot allerdings die Intensität des aggressiven Verhaltens. Laut Studie verwendeten User seltener beleidigende Äußerungen, wenn sie mit einem menschlichen Chatbot interagierten. Die Ergebnisse hätten insbesondere für die Praxis weitreichende Konsequenzen, erläutert Alfred Brendel. „Ich würde Softwareentwicklern empfehlen, bei der menschenähnlichen Gestaltung bedacht vorzugehen und genau zu überlegen, welche positiven wie negativen Effekte zusätzliche menschenähnliche Gestaltungselemente wie Geschlecht, Alter oder bestimmte Namen haben können.“



  • Mehr als 61 Millionen blockierte Ransomware-Angriffe

    Mehr als 61 Millionen blockierte Ransomware-Angriffe

    Der IT-Security-Anbieter Trend Micro verzeichnet in seinem Security-Roundup einen zehnprozentigen Anstieg bei der Erkennung von Ransomware-Angriffen. Darin beschreiben die Security-Experten die wichtigsten Entwicklungen in der Bedrohungslandschaft.

    mehr lesen: Mehr als 61 Millionen blockierte Ransomware-Angriffe

  • Industrie sieht Risiken in der Plattform-Ökonomie

    Industrie sieht Risiken in der Plattform-Ökonomie

    Laut einer Bitkom-Studie sehen deutsche Industrie-Unternehmen digitale Plattformen eher als Risiko für das eigene Geschäft an.

    mehr lesen: Industrie sieht Risiken in der Plattform-Ökonomie

  • VDE entwickelt erste international konsensfähige Ethik-Kennzeichnung für KI

    VDE entwickelt erste international konsensfähige Ethik-Kennzeichnung für KI

    Die Tech-Organisation VDE begrüßt das White Paper der EU-Kommission und liefert die von Digitalkommissarin Margrethe Vestager geforderte Risikoüberprüfung mit der ‚Ethik-Kennzeichnung für KI‘ . Ziel des VDE-Modells ist es, Transparenz…

    mehr lesen: VDE entwickelt erste international konsensfähige Ethik-Kennzeichnung für KI

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Von einfacher Programmierung bis zum Mietmodell

    Von einfacher Programmierung bis zum Mietmodell

    Von 2020 bis 2022 werden rund 2Mio. neue Industrie-Roboter in den Fabriken weltweit installiert – davon geht die International Federation of Robotics (IFR) aus. Welche Trends diese Entwicklungen vorantreiben könnten,…

    mehr lesen: Von einfacher Programmierung bis zum Mietmodell

  • Stellenwert von Digitalisierungsmaßnahmen nimmt zu

    Stellenwert von Digitalisierungsmaßnahmen nimmt zu

    Security Automation, Management digitaler Identitäten, Aufbau neuer Plattformen, Schutz vor Bedrohungen durch IoT-fähige Geräte und Einsatz von DevOps — laut einer Studie des IT-Dienstleisters Capgemini sind dies die Trends des…

    mehr lesen: Stellenwert von Digitalisierungsmaßnahmen nimmt zu

  • Workshops und Marktplatz 4.0

    Workshops und Marktplatz 4.0

    Der Automatisierungstreff in Böblingen widmet sich vom 24. bis zum 26. März mit seinem Workshopangebot und dem Marktplatz Industrie 4.0 der digitalen Transformation.

    mehr lesen: Workshops und Marktplatz 4.0

  • Deutschland auf Platz 4 von 35 Staaten

    Deutschland auf Platz 4 von 35 Staaten

    „Deutschlands Innovationsdynamik droht ins Mittelfeld zu rutschen. Im Vergleich zu unseren Wettbewerbern treten wir auf der Stelle“, kritisiert BDI-Präsident Dieter Kempf. Damit setze sich ein Abwärtstrend seit 2014 fort.

    mehr lesen: Deutschland auf Platz 4 von 35 Staaten

  • Coronavirus auch per E-Mail gefährlich

    Coronavirus auch per E-Mail gefährlich

    Täglich tauchen Meldungen zu neuen Infektionsfällen mit dem grassierenden Coronavirus auf. Die Bilder von abgeriegelten Städten und Menschen in Quarantäne zeichnen ein Schreckensszenario.

    mehr lesen: Coronavirus auch per E-Mail gefährlich

  • Security-Maßnahmen planen

    Security-Maßnahmen planen

    Anlagenbetreiber sind dafür verantwortlich, dass ihre Sicherheitssysteme (engl. Safety Instrumented Systems, SIS) relevante Safety- und Security-Normen erfüllen. Oft fehlt jedoch neben Zeit und Ressourcen die erforderliche Systemkenntnis, um die richtigen…

    mehr lesen: Security-Maßnahmen planen

  • Vernetzte Kompetenzen in neuem Forum

    Vernetzte Kompetenzen in neuem Forum

    Der Bayerische Verband für Sicherheit in der Wirtschaft e.V. (BVSW) startet eine neue Plattform zur Abwehr von Cyberkriminalität: BVSW Digital ist ein übergreifendes Forum für Unternehmen, Behörden und Politik, um…

    mehr lesen: Vernetzte Kompetenzen in neuem Forum

  • Wi-Fi 6 Access Point

    Wi-Fi 6 Access Point

    Die neuen Wi-Fi 6 Access Points LX-6400 und LX-6402 verfügen über je zwei integrierte IEEE802.11ax-Funkmodule für den parallelen Betrieb in 2,4 und 5GHz und bieten 4×4 Multi-User Mimo im Up-…

    mehr lesen: Wi-Fi 6 Access Point