Warum menschenähnliche Chatbots anders beleidigt werden

ec9f24b3 5dde 49be 84c6 576dfb0b4e1b
Bild: ©Karl J. Donath

Chatbots sollen es Internetnutzern leichter machen, benötigte Informationen schnell zu finden, indem sie auf Fragen und Wünsche direkt antworten. Die Reaktionen auf einen Chatbot sind allerdings nicht immer nur positiv: „Wenn ein Chatbot falsche oder verwirrende Antworten gibt, kann dies bei Nutzern Aggressivität gegenüber dem digitalen Gesprächspartner auslösen“, sagt Prof. Alfred Benedikt Brendel, Wirtschaftsinformatiker an der der TU Dresden. Aggressionen gegenüber dem virtuellen Assistenten, wozu etwa auch Beschimpfungen zählen, können auch weitere negative Effekte haben – zum Beispiel auf die Einstellung der User zur Webseite oder dem Anbieter selbst.

In der Studie untersucht das internationale Forschungsteam um Brendel, ob die Gestaltung von Chatbots einen Einfluss darauf hat, wie Nutzer auf unbefriedigende Antworten reagieren. Die Forschenden nehmen an, dass aggressives Verhalten seltener auftritt, wenn ein Chatbot mit menschlichen Attributen versehen wird. „In unseren Experimenten kam bei einem Teil der Befragten ein menschlicher Chatbot zum Einsatz, der mit Namen, Geschlecht und Bild versehen war. Er beantwortete Fragen sehr freundlich und verstärkte seine Botschaften mit passenden Emojis.“ Ein neutraler Chatbot, mit dem ein anderer Teil der Studienteilnehmer interagierte, enthielt hingegen keine dieser Gestaltungselemente.

Die Ergebnisse der Studie zeigen zunächst, dass der menschliche Chatbot generell die Zufriedenheit der Nutzerinnen und Nutzer steigert. Das wiederum reduziert auch das Auftreten von Frustration. Gibt ein Chatbot jedoch unbefriedigende Antworten führt dies entgegen der ursprünglichen Vermutung der Forscher aber auch bei einem Chatbot mit menschlichen Attributen zu Frustration und Aggressivität. Insgesamt zeigen etwa zehn Prozent der Teilnehmer aggressives Verhalten gegenüber den virtuellen Assistenten.

Im Gegensatz zu einem neutralen Chatbot verringert sich bei einem menschlicheren Chatbot allerdings die Intensität des aggressiven Verhaltens. Laut Studie verwendeten User seltener beleidigende Äußerungen, wenn sie mit einem menschlichen Chatbot interagierten. Die Ergebnisse hätten insbesondere für die Praxis weitreichende Konsequenzen, erläutert Alfred Brendel. „Ich würde Softwareentwicklern empfehlen, bei der menschenähnlichen Gestaltung bedacht vorzugehen und genau zu überlegen, welche positiven wie negativen Effekte zusätzliche menschenähnliche Gestaltungselemente wie Geschlecht, Alter oder bestimmte Namen haben können.“



  • Babtec eröffnet Standort in Friedrichshafen

    Babtec eröffnet Standort in Friedrichshafen

    Vom Bodensee aus soll eine neue Entwicklungsabteilung die Teams des Wuppertaler Softwarespezialisten unterstützen.

    mehr lesen: Babtec eröffnet Standort in Friedrichshafen

  • Was Deskless Worker bewegt

    Was Deskless Worker bewegt

    Eine aktuelle Studie des Aachener Softwarespezialisten Inform unter Mitarbeitenden aus dem produzierenden Gewerbe zeigt, dass sich sogenannte Deskless Worker von ihren Arbeitgebern neben guter Bezahlung vor allem bessere Kommunikation und…

    mehr lesen: Was Deskless Worker bewegt

  • Selbstlernende Optimierung für hybride Bearbeitung

    Selbstlernende Optimierung für hybride Bearbeitung

    Open Mind beteiligt sich am Verbundprojekt ’CICAM – Computational Intelligence for Computer-aided Manufacturing’ des Instituts für Werkzeugmaschinen und Betriebswissenschaften an der Technischen Universität München und Spanflug Technologies. Das Forschungsprojekt hat…

    mehr lesen: Selbstlernende Optimierung für hybride Bearbeitung

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • PWC-Maschinenbaubarometer: Verunsicherung weiterhin hoch

    PWC-Maschinenbaubarometer: Verunsicherung weiterhin hoch

    Das aktuelle Maschinenbaubarometer von PWC zeigt zwar, dass die Anzahl derjenigen, die optimistisch auf die Entwicklung der deutschen und weltweiten Konjunktur blicken, im Vergleich zum Vorquartal gestiegen ist. Allerdings liegt…

    mehr lesen: PWC-Maschinenbaubarometer: Verunsicherung weiterhin hoch

  • Wie sicher ist Open Source Software?

    Wie sicher ist Open Source Software?

    Anfang April hat ein Microsoft-Ingenieur einen Hackerangriff auf die Linux Software in letzter Minute vereitelt. Dies warf die Frage auf, wie es um die Sicherheit von Open Source Software (OSS)…

    mehr lesen: Wie sicher ist Open Source Software?

  • MVTec sieht geistiges Eigentum verletzt

    MVTec sieht geistiges Eigentum verletzt

    Taiwanesische Behörden haben ein Strafverfahren gegen Kameralinsen-Hersteller Largan eingeleitet. Gegenstand des Verfahrens ist die unrechtmäßige Nutzung der Softwareprodukte von MVTec Software.

    mehr lesen: MVTec sieht geistiges Eigentum verletzt

  • Mit Edge AI Datenschutz und Energieeffizienz verbessern

    Mit Edge AI Datenschutz und Energieeffizienz verbessern

    In einem aktuellen Whitepaper gibt die Plattform einen Überblick über Stärken und Schwächen von Edge AI und diskutiert Optionen, wie die Technologie in die Anwendung gebracht werden kann.

    mehr lesen: Mit Edge AI Datenschutz und Energieeffizienz verbessern

  • Schneider Electric als weltweit nachhaltigstes Unternehmen ausgezeichnet

    Schneider Electric als weltweit nachhaltigstes Unternehmen ausgezeichnet

    Time Magazine und Statista haben Schneider Electric als nachhaltigstes Unternehmen der Welt ausgezeichnet. Der Technologie-Konzern setzte sich in der Rangliste an die Spitze einer Auswahl von 500 Unternehmen aus 30…

    mehr lesen: Schneider Electric als weltweit nachhaltigstes Unternehmen ausgezeichnet

  • SpiraTec integriert Tochterunternehmen

    SpiraTec integriert Tochterunternehmen

    Die Industrial Solutions M&B, eine 100-prozentige Tochterfirma der SpiraTec AG, ist zum 28. Juni 2024 mit der Muttergesellschaft verschmolzen.

    mehr lesen: SpiraTec integriert Tochterunternehmen

  • Wenn aus Schrott neuer Stahl wird

    Wenn aus Schrott neuer Stahl wird

    Mit über 2,2Mio.t verarbeitetem Schrott pro Jahr ist die Swiss Steel Group einer der größten Recycling-Betriebe Europas. Für seinen ’Green Steel’, also Stahl aus recyceltem Material, arbeitet das Unternehmen an…

    mehr lesen: Wenn aus Schrott neuer Stahl wird

  • Wie AnoWatch Abweichungen erkennt

    Wie AnoWatch Abweichungen erkennt

    Das am Fraunhofer IWU entwickelte System AnoWatch hilft, Fehler auf Karosserieteilen zu erkennen. Das Besondere: Das System wird mit fehlerfreien Bauteilen angelernt.

    mehr lesen: Wie AnoWatch Abweichungen erkennt