Warum menschenähnliche Chatbots anders beleidigt werden

ec9f24b3 5dde 49be 84c6 576dfb0b4e1b
Bild: ©Karl J. Donath

Chatbots sollen es Internetnutzern leichter machen, benötigte Informationen schnell zu finden, indem sie auf Fragen und Wünsche direkt antworten. Die Reaktionen auf einen Chatbot sind allerdings nicht immer nur positiv: „Wenn ein Chatbot falsche oder verwirrende Antworten gibt, kann dies bei Nutzern Aggressivität gegenüber dem digitalen Gesprächspartner auslösen“, sagt Prof. Alfred Benedikt Brendel, Wirtschaftsinformatiker an der der TU Dresden. Aggressionen gegenüber dem virtuellen Assistenten, wozu etwa auch Beschimpfungen zählen, können auch weitere negative Effekte haben – zum Beispiel auf die Einstellung der User zur Webseite oder dem Anbieter selbst.

In der Studie untersucht das internationale Forschungsteam um Brendel, ob die Gestaltung von Chatbots einen Einfluss darauf hat, wie Nutzer auf unbefriedigende Antworten reagieren. Die Forschenden nehmen an, dass aggressives Verhalten seltener auftritt, wenn ein Chatbot mit menschlichen Attributen versehen wird. „In unseren Experimenten kam bei einem Teil der Befragten ein menschlicher Chatbot zum Einsatz, der mit Namen, Geschlecht und Bild versehen war. Er beantwortete Fragen sehr freundlich und verstärkte seine Botschaften mit passenden Emojis.“ Ein neutraler Chatbot, mit dem ein anderer Teil der Studienteilnehmer interagierte, enthielt hingegen keine dieser Gestaltungselemente.

Die Ergebnisse der Studie zeigen zunächst, dass der menschliche Chatbot generell die Zufriedenheit der Nutzerinnen und Nutzer steigert. Das wiederum reduziert auch das Auftreten von Frustration. Gibt ein Chatbot jedoch unbefriedigende Antworten führt dies entgegen der ursprünglichen Vermutung der Forscher aber auch bei einem Chatbot mit menschlichen Attributen zu Frustration und Aggressivität. Insgesamt zeigen etwa zehn Prozent der Teilnehmer aggressives Verhalten gegenüber den virtuellen Assistenten.

Im Gegensatz zu einem neutralen Chatbot verringert sich bei einem menschlicheren Chatbot allerdings die Intensität des aggressiven Verhaltens. Laut Studie verwendeten User seltener beleidigende Äußerungen, wenn sie mit einem menschlichen Chatbot interagierten. Die Ergebnisse hätten insbesondere für die Praxis weitreichende Konsequenzen, erläutert Alfred Brendel. „Ich würde Softwareentwicklern empfehlen, bei der menschenähnlichen Gestaltung bedacht vorzugehen und genau zu überlegen, welche positiven wie negativen Effekte zusätzliche menschenähnliche Gestaltungselemente wie Geschlecht, Alter oder bestimmte Namen haben können.“



  • 5 wichtige Faktoren

    5 wichtige Faktoren

    Die fortschreitende Digitalisierung macht Cyber-Angriffe für Unternehmen zunehmend geschäftskritisch. Sicherheitslücken nutzen Cyber-Kriminelle gezielt für ihre mehrstufigen Attacken.

    mehr lesen: 5 wichtige Faktoren

  • Rockwell Automation gibt neue Initiative bekannt

    Rockwell Automation gibt neue Initiative bekannt

    Rockwell Automation hat neue Investitionen bekannt gegeben, mit denen die Cybersecurity-Angebote für Informationstechnologie (IT) und Betriebstechnologie (OT) erweitert werden.

    mehr lesen: Rockwell Automation gibt neue Initiative bekannt

  • CyberArk stellt Blueprint für die Umsetzung vor

    CyberArk stellt Blueprint für die Umsetzung vor

    Der Netzwerkperimeter hat für die Sicherheit in einer Zeit der verstärkten Nutzung von Cloud-Services und Automatisierungslösungen sowie der Remote-Arbeit an Bedeutung verloren.

    mehr lesen: CyberArk stellt Blueprint für die Umsetzung vor

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Ixon verlegt  Firmensitz

    Ixon verlegt Firmensitz

    Mit der Verlegung des Firmensitzes ins niederländische Boxmeer will sich der IIoT-Spezialist Ixon für weiteres Mitarbeiterwachstum rüsten. Zugleich erhofft sich das Unternehmen durch die Nähe zur deutschen Grenze größeres Potenzial…

    mehr lesen: Ixon verlegt Firmensitz

  • Lösungen für Einsatz künstlicher Intelligenz in der Produktion

    Lösungen für Einsatz künstlicher Intelligenz in der Produktion

    Im Projekt ‚Datenfabrik.NRW‘ erarbeiten vier Fraunhofer-Institute (Entwurfstechnik Mechatronik IEM, Materialfluss und Logistik IML, Optronik, Systemtechnik und Bildauswertung IOSB und Intelligente Analyse- und Informationssysteme IAIS) Anwendungen für den Einsatz von künstlicher…

    mehr lesen: Lösungen für Einsatz künstlicher Intelligenz in der Produktion

  • Was Unternehmen beim KI-Einsatz heute anders machen würden

    Was Unternehmen beim KI-Einsatz heute anders machen würden

    Nahezu die Hälfte der für eine Reichelt Elektronik-Studie befragten Unternehmen würde Implementierung von künstlicher Intelligenz nach heutigem Stand anders angehen. Beispielsweise würden sie Mitarbeiter stärker einbeziehen.

    mehr lesen: Was Unternehmen beim KI-Einsatz heute anders machen würden

  • Softwarebasis für flexiblere Automobilfertigung

    Softwarebasis für flexiblere Automobilfertigung

    Um Produktionssysteme in der Automobilindustrie schneller, flexibler und effizienter zu gestalten soll im Forschungsprojekt ’Software-Defined Manufacturing für die Fahrzeug- und Zulieferindustrie (SDM4FZI)‘ eine neue technologische Grundlage entwickelt werden.

    mehr lesen: Softwarebasis für flexiblere Automobilfertigung

  • Wieder mehr Kurzarbeit im November

    Wieder mehr Kurzarbeit im November

    Erstmals seit Februar ist die Zahl der Kurzarbeitenden in Deutschland wieder gestiegen. Wie das Ifo Institut mitteilt, waren im November 10.000 Beschäftigte mehr in Kurzarbeit als noch im Oktober.

    mehr lesen: Wieder mehr Kurzarbeit im November

  • Datasensing geht an den Start

    Datasensing geht an den Start

    Zum Jahreswechsel geht das Unternehmen Datasensing an den Start. Das Unternehmen entsteht aus dem Zusammenschluss von Micro Detectors und dem Datalogic-Geschäftsbereich ‘Sensor & Safety and Machine Vision‘.

    mehr lesen: Datasensing geht an den Start

  • Unternehmen setzen auf Individualsoftware

    Unternehmen setzen auf Individualsoftware

    Jedes Unternehmen hat andere Bedürfnisse, wenn es um den Einsatz von Software geht. Standardlösungen können dies oftmals nicht ausreichend abbilden. Daher setzt laut einer Techconsult-Studie jedes zweite Unternehmen auf Individualsoftware.

    mehr lesen: Unternehmen setzen auf Individualsoftware

  • Allgeier erwirbt Mehrheit an Evora IT Solutions

    Allgeier erwirbt Mehrheit an Evora IT Solutions

    Allgeier übernimmt Evora IT Solutions, einen Spezialisten für Kundenservice- und Instandhaltungslösungen. Damit will Allgeier seine SAP- und ServiceNow Beratung ausbauen.

    mehr lesen: Allgeier erwirbt Mehrheit an Evora IT Solutions