Warum menschenähnliche Chatbots anders beleidigt werden

ec9f24b3 5dde 49be 84c6 576dfb0b4e1b
Bild: ©Karl J. Donath

Chatbots sollen es Internetnutzern leichter machen, benötigte Informationen schnell zu finden, indem sie auf Fragen und Wünsche direkt antworten. Die Reaktionen auf einen Chatbot sind allerdings nicht immer nur positiv: „Wenn ein Chatbot falsche oder verwirrende Antworten gibt, kann dies bei Nutzern Aggressivität gegenüber dem digitalen Gesprächspartner auslösen“, sagt Prof. Alfred Benedikt Brendel, Wirtschaftsinformatiker an der der TU Dresden. Aggressionen gegenüber dem virtuellen Assistenten, wozu etwa auch Beschimpfungen zählen, können auch weitere negative Effekte haben – zum Beispiel auf die Einstellung der User zur Webseite oder dem Anbieter selbst.

In der Studie untersucht das internationale Forschungsteam um Brendel, ob die Gestaltung von Chatbots einen Einfluss darauf hat, wie Nutzer auf unbefriedigende Antworten reagieren. Die Forschenden nehmen an, dass aggressives Verhalten seltener auftritt, wenn ein Chatbot mit menschlichen Attributen versehen wird. „In unseren Experimenten kam bei einem Teil der Befragten ein menschlicher Chatbot zum Einsatz, der mit Namen, Geschlecht und Bild versehen war. Er beantwortete Fragen sehr freundlich und verstärkte seine Botschaften mit passenden Emojis.“ Ein neutraler Chatbot, mit dem ein anderer Teil der Studienteilnehmer interagierte, enthielt hingegen keine dieser Gestaltungselemente.

Die Ergebnisse der Studie zeigen zunächst, dass der menschliche Chatbot generell die Zufriedenheit der Nutzerinnen und Nutzer steigert. Das wiederum reduziert auch das Auftreten von Frustration. Gibt ein Chatbot jedoch unbefriedigende Antworten führt dies entgegen der ursprünglichen Vermutung der Forscher aber auch bei einem Chatbot mit menschlichen Attributen zu Frustration und Aggressivität. Insgesamt zeigen etwa zehn Prozent der Teilnehmer aggressives Verhalten gegenüber den virtuellen Assistenten.

Im Gegensatz zu einem neutralen Chatbot verringert sich bei einem menschlicheren Chatbot allerdings die Intensität des aggressiven Verhaltens. Laut Studie verwendeten User seltener beleidigende Äußerungen, wenn sie mit einem menschlichen Chatbot interagierten. Die Ergebnisse hätten insbesondere für die Praxis weitreichende Konsequenzen, erläutert Alfred Brendel. „Ich würde Softwareentwicklern empfehlen, bei der menschenähnlichen Gestaltung bedacht vorzugehen und genau zu überlegen, welche positiven wie negativen Effekte zusätzliche menschenähnliche Gestaltungselemente wie Geschlecht, Alter oder bestimmte Namen haben können.“



  • Vernetzte Kompetenzen in neuem Forum

    Vernetzte Kompetenzen in neuem Forum

    Der Bayerische Verband für Sicherheit in der Wirtschaft e.V. (BVSW) startet eine neue Plattform zur Abwehr von Cyberkriminalität: BVSW Digital ist ein übergreifendes Forum für Unternehmen, Behörden und Politik, um…

    mehr lesen: Vernetzte Kompetenzen in neuem Forum

  • Wi-Fi 6 Access Point

    Wi-Fi 6 Access Point

    Die neuen Wi-Fi 6 Access Points LX-6400 und LX-6402 verfügen über je zwei integrierte IEEE802.11ax-Funkmodule für den parallelen Betrieb in 2,4 und 5GHz und bieten 4×4 Multi-User Mimo im Up-…

    mehr lesen: Wi-Fi 6 Access Point

  • Cybersicherheit soll das Potenzial von 5G nicht einschränken

    Cybersicherheit soll das Potenzial von 5G nicht einschränken

    5G ist die mobile Technologie, um immer größere Datenmengen zu bewegen. Sie ist in der Lage, Verbindungen praktisch ohne Verzögerung bereitzustellen.

    mehr lesen: Cybersicherheit soll das Potenzial von 5G nicht einschränken

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • KI-Spezialist Empolis erwirbt Intelligent Views

    KI-Spezialist Empolis erwirbt Intelligent Views

    Der Analytics-Dienstleister Empolis Information Management erwirbt Intelligent Views. Mit der Akquise will Empolis seine Künstliche Intelligenz-Kompetenzen insbesondere für die Industrie und öffentliche Verwaltung ausbauen. Zudem soll eine Standardlösung zum Erstellen…

    mehr lesen: KI-Spezialist Empolis erwirbt Intelligent Views

  • Damit der Roboter erkennt, wem was wann gehört

    Damit der Roboter erkennt, wem was wann gehört

    Für Maschinen stellen wechselnde Funktionen von Objekten ein ungelöstes Problem dar: Ein Laborroboter weiß beispielsweise nicht, welches Werkzeug gerade welchem Mitarbeiter zuzuordnen ist. Die drei Forschungsbereiche des DFKI-Labors Niedersachsen arbeiten…

    mehr lesen: Damit der Roboter erkennt, wem was wann gehört

  • Transformation Stage, Digital Ecosystems und Future Hub

    Transformation Stage, Digital Ecosystems und Future Hub

    Vom 20. bis zum 24. April öffnet die Hannover Messe ihre Pforten. Rund 6.500 Aussteller und mehr als 220.000 Besucher werden zur Weltleitmesse der Industrie erwartet. Neu in diesem jahr…

    mehr lesen: Transformation Stage, Digital Ecosystems und Future Hub

  • IT-Totalschaden vermeiden

    IT-Totalschaden vermeiden

    Nach einem Cyberangriff mit dem Trojaner Emotet vor fünf Monaten ist das Berliner Kammergericht noch immer weitgehend offline. Vor wenigen Tagen enthüllte ein Bericht, dass der Sicherheitsvorfall deutlich verheerender war,…

    mehr lesen: IT-Totalschaden vermeiden

  • Ein KI-Assistent für Datenlöschung

    Ein KI-Assistent für Datenlöschung

    In Verwaltungen von Unternehmen häufen sich große Datenmengen an. Dabei den Überblick zu behalten, fällt Mitarbeitern oft schwer.

    mehr lesen: Ein KI-Assistent für Datenlöschung

  • Förderung online berechnen

    Förderung online berechnen

    Zu Beginn des Jahres ist das Forschungszulagengesetz in Kraft getreten, um den Bereich Forschung und Entwicklung zu stärken. Mit einem Online-Tool können sich interessierte Unternehmen die voraussichtliche Fördersumme berechnen.

    mehr lesen: Förderung online berechnen

  • Smarte Lieferketten, Seewege und das IoT im Visier

    Smarte Lieferketten, Seewege und das IoT im Visier

    Am Montag stellt der TÜV Rheinland seine Cybersecurity Trends 2020 vor. Demnach könnten sich Cyberangriffe zunehmend auf persönliche Sicherheit sowie die Stabilität der Gesellschaft auswirken. Auch smarte Lieferketten stehen dabei…

    mehr lesen: Smarte Lieferketten, Seewege und das IoT im Visier

  • Ohne Überraschungen ins neue Jahr

    Ohne Überraschungen ins neue Jahr

    Der Auftragseingang im Maschinen- und Anlagenbau lag im Jahr 2019 um neun Prozent unter dem Vorjahreswert. Auch zum Jahresende verfehlten die Bestellungen das Vorjahresniveau.

    mehr lesen: Ohne Überraschungen ins neue Jahr