Warum menschenähnliche Chatbots anders beleidigt werden

ec9f24b3 5dde 49be 84c6 576dfb0b4e1b
Bild: ©Karl J. Donath

Chatbots sollen es Internetnutzern leichter machen, benötigte Informationen schnell zu finden, indem sie auf Fragen und Wünsche direkt antworten. Die Reaktionen auf einen Chatbot sind allerdings nicht immer nur positiv: „Wenn ein Chatbot falsche oder verwirrende Antworten gibt, kann dies bei Nutzern Aggressivität gegenüber dem digitalen Gesprächspartner auslösen“, sagt Prof. Alfred Benedikt Brendel, Wirtschaftsinformatiker an der der TU Dresden. Aggressionen gegenüber dem virtuellen Assistenten, wozu etwa auch Beschimpfungen zählen, können auch weitere negative Effekte haben – zum Beispiel auf die Einstellung der User zur Webseite oder dem Anbieter selbst.

In der Studie untersucht das internationale Forschungsteam um Brendel, ob die Gestaltung von Chatbots einen Einfluss darauf hat, wie Nutzer auf unbefriedigende Antworten reagieren. Die Forschenden nehmen an, dass aggressives Verhalten seltener auftritt, wenn ein Chatbot mit menschlichen Attributen versehen wird. „In unseren Experimenten kam bei einem Teil der Befragten ein menschlicher Chatbot zum Einsatz, der mit Namen, Geschlecht und Bild versehen war. Er beantwortete Fragen sehr freundlich und verstärkte seine Botschaften mit passenden Emojis.“ Ein neutraler Chatbot, mit dem ein anderer Teil der Studienteilnehmer interagierte, enthielt hingegen keine dieser Gestaltungselemente.

Die Ergebnisse der Studie zeigen zunächst, dass der menschliche Chatbot generell die Zufriedenheit der Nutzerinnen und Nutzer steigert. Das wiederum reduziert auch das Auftreten von Frustration. Gibt ein Chatbot jedoch unbefriedigende Antworten führt dies entgegen der ursprünglichen Vermutung der Forscher aber auch bei einem Chatbot mit menschlichen Attributen zu Frustration und Aggressivität. Insgesamt zeigen etwa zehn Prozent der Teilnehmer aggressives Verhalten gegenüber den virtuellen Assistenten.

Im Gegensatz zu einem neutralen Chatbot verringert sich bei einem menschlicheren Chatbot allerdings die Intensität des aggressiven Verhaltens. Laut Studie verwendeten User seltener beleidigende Äußerungen, wenn sie mit einem menschlichen Chatbot interagierten. Die Ergebnisse hätten insbesondere für die Praxis weitreichende Konsequenzen, erläutert Alfred Brendel. „Ich würde Softwareentwicklern empfehlen, bei der menschenähnlichen Gestaltung bedacht vorzugehen und genau zu überlegen, welche positiven wie negativen Effekte zusätzliche menschenähnliche Gestaltungselemente wie Geschlecht, Alter oder bestimmte Namen haben können.“



  • Zwei Drittel fürchten Online-Tracking

    Zwei Drittel fürchten Online-Tracking

    Laut einer Umfrage von NordVPN sind Deutsche zunehmend besorgt, dass Cyberkriminelle sie im Netz tracken, um an Daten und sogar ihre Identität heranzukommen.

    mehr lesen: Zwei Drittel fürchten Online-Tracking

  • Hannover Messe in den Frühsommer verschoben

    Hannover Messe in den Frühsommer verschoben

    In diesem Jahr wird die Hannover Messe nicht wie gewohnt im April stattfinden, sondern im Frühsommer. Aufgrund der aktuellen Corona-Lage soll die Messe vom 30. Mai bis zum 2. Juni…

    mehr lesen: Hannover Messe in den Frühsommer verschoben

  • Künstliche Intelligenz und maschinelles Lernen effektiv nutzen

    Künstliche Intelligenz und maschinelles Lernen effektiv nutzen

    Ransomware gehört zu den besonders variantenreichen Angriffstaktiken im Bereich Cyberkriminalität: Das BSI gibt an, dass täglich mehr als 400.000 neue Typen entwickelt werden – Tendenz steigend.

    mehr lesen: Künstliche Intelligenz und maschinelles Lernen effektiv nutzen

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Konjunkturausblick verbessert sich

    Konjunkturausblick verbessert sich

    Mit nun 51,7 Punkten sind die ZEW-Konjunkturerwartungen im Januar gestiegen. Der Lageindikator ist in der aktuellen Umfrage jedoch erneut gesunken.

    mehr lesen: Konjunkturausblick verbessert sich

  • Unternehmen sehen Cyberangriffe als Top-Bedrohung

    Unternehmen sehen Cyberangriffe als Top-Bedrohung

    Cybergefahren sind im Jahr 2022 die größte Sorge für Unternehmen weltweit, so das aktuelle Allianz Risk Barometer 2022. Demnach beunruhigt die Bedrohung durch Ransomware-Angriffe, Datenschutzverletzungen oder IT-Ausfälle die Unternehmen sogar…

    mehr lesen: Unternehmen sehen Cyberangriffe als Top-Bedrohung

  • IBM übernimmt Envizi

    IBM übernimmt Envizi

    Envizi, ein Spezialist für Datenanalyse im Bereich Umweltperformance-Management gehört nun zu IBM. Der IT-Konzern will mit der Übernahme seine Strategie ergänzen.

    mehr lesen: IBM übernimmt Envizi

  • Etteplan übernimmt Cognitas

    Etteplan übernimmt Cognitas

    Etteplan erwirbt Cognitas von Canon. Der finnische Engineering-Dienstleister will so seine Position in Deutschland ausbauen.

    mehr lesen: Etteplan übernimmt Cognitas

  • Martin Kuhnhen wird CSO bei Leadec

    Martin Kuhnhen wird CSO bei Leadec

    Leadec erweitert die Geschäftsführung um die Position des Chief Sales Officers. Die Position wird ab März von Martin Kuhnhen bekleidet.

    mehr lesen: Martin Kuhnhen wird CSO bei Leadec

  • Experten warnen vor Zunahme

    Experten warnen vor Zunahme

    Sicherheitsexperten warnen, dass gute Reproduzierbarkeit, hohe Lösegeldzahlungen und schwache Sicherheitsvorkehrungen dafür sorgen könnten, dass die Zahl der Cyberangriffe auf Lieferketten dieses Jahr deutlich steigen, da sie sich im vergangenen Jahr…

    mehr lesen: Experten warnen vor Zunahme

  • Schnelle, maßgeschneiderte Einblicke in kritische Bedrohungen

    Schnelle, maßgeschneiderte Einblicke in kritische Bedrohungen

    CyberRes, ein Geschäftsbereich von Micro Focus, stellt die Threat-Research-Lösung Galaxy vor. Sie ermöglicht es Cyber-Experten, sich schnell einen Überblick über die akuten Bedrohungen für ihr Unternehmen zu verschaffen, und hilft…

    mehr lesen: Schnelle, maßgeschneiderte Einblicke in kritische Bedrohungen

  • Zu wenig in Vermeidung investiert

    Zu wenig in Vermeidung investiert

    Obwohl einer von zehn vermiedenen Sicherheitsvorfällen schwerwiegend ist, zeigt ein aktueller Kaspersky-Report ‚Cybersicherheits-Eckpfeiler für proaktive Entscheidungsträger‘ jedoch, dass 26% der Entscheidungsträger in Deutschland (23% in Europa) nicht genug in die…

    mehr lesen: Zu wenig in Vermeidung investiert