Warum menschenähnliche Chatbots anders beleidigt werden

ec9f24b3 5dde 49be 84c6 576dfb0b4e1b
Bild: ©Karl J. Donath

Chatbots sollen es Internetnutzern leichter machen, benötigte Informationen schnell zu finden, indem sie auf Fragen und Wünsche direkt antworten. Die Reaktionen auf einen Chatbot sind allerdings nicht immer nur positiv: „Wenn ein Chatbot falsche oder verwirrende Antworten gibt, kann dies bei Nutzern Aggressivität gegenüber dem digitalen Gesprächspartner auslösen“, sagt Prof. Alfred Benedikt Brendel, Wirtschaftsinformatiker an der der TU Dresden. Aggressionen gegenüber dem virtuellen Assistenten, wozu etwa auch Beschimpfungen zählen, können auch weitere negative Effekte haben – zum Beispiel auf die Einstellung der User zur Webseite oder dem Anbieter selbst.

In der Studie untersucht das internationale Forschungsteam um Brendel, ob die Gestaltung von Chatbots einen Einfluss darauf hat, wie Nutzer auf unbefriedigende Antworten reagieren. Die Forschenden nehmen an, dass aggressives Verhalten seltener auftritt, wenn ein Chatbot mit menschlichen Attributen versehen wird. „In unseren Experimenten kam bei einem Teil der Befragten ein menschlicher Chatbot zum Einsatz, der mit Namen, Geschlecht und Bild versehen war. Er beantwortete Fragen sehr freundlich und verstärkte seine Botschaften mit passenden Emojis.“ Ein neutraler Chatbot, mit dem ein anderer Teil der Studienteilnehmer interagierte, enthielt hingegen keine dieser Gestaltungselemente.

Die Ergebnisse der Studie zeigen zunächst, dass der menschliche Chatbot generell die Zufriedenheit der Nutzerinnen und Nutzer steigert. Das wiederum reduziert auch das Auftreten von Frustration. Gibt ein Chatbot jedoch unbefriedigende Antworten führt dies entgegen der ursprünglichen Vermutung der Forscher aber auch bei einem Chatbot mit menschlichen Attributen zu Frustration und Aggressivität. Insgesamt zeigen etwa zehn Prozent der Teilnehmer aggressives Verhalten gegenüber den virtuellen Assistenten.

Im Gegensatz zu einem neutralen Chatbot verringert sich bei einem menschlicheren Chatbot allerdings die Intensität des aggressiven Verhaltens. Laut Studie verwendeten User seltener beleidigende Äußerungen, wenn sie mit einem menschlichen Chatbot interagierten. Die Ergebnisse hätten insbesondere für die Praxis weitreichende Konsequenzen, erläutert Alfred Brendel. „Ich würde Softwareentwicklern empfehlen, bei der menschenähnlichen Gestaltung bedacht vorzugehen und genau zu überlegen, welche positiven wie negativen Effekte zusätzliche menschenähnliche Gestaltungselemente wie Geschlecht, Alter oder bestimmte Namen haben können.“



  • Planungsoptimierung in Echtzeit

    Planungsoptimierung in Echtzeit

    Im Rahmen des vom Bundesministerium für Bildung und Forschung geförderten Forschungsprojektes ProPlanE haben die Projektpartner den Prototypen einer Analyseplattform entwickelt, mit der sich die Fertigungsplanung auf Basis von Process-Mining-Verfahren in…

    mehr lesen: Planungsoptimierung in Echtzeit

  • Maschinenbauer suchen Virtual-Reality-Designer

    Maschinenbauer suchen Virtual-Reality-Designer

    Maschinen- und Anlagenbauer sind Vorreiter bei der Nutzung von Augmented Reality (AR) und Virtual Reality (VR). Mehr als jedes Dritte Unternehmen (34%) nutzt die Technologien bereits – doppelt so viele…

    mehr lesen: Maschinenbauer suchen Virtual-Reality-Designer

  • Schneider Electric startet erstes Innovationszentrum in der DACH-Region

    Schneider Electric startet erstes Innovationszentrum in der DACH-Region

      Schneider Electric hat seinen ersten Innovation Hub in der DACH-Region eröffnet. Ab sofort steht Kunden, Partnern, Schülern und Studenten auch im Schwarzwald ein Schneider Electric Innovation Hub offen.

    mehr lesen: Schneider Electric startet erstes Innovationszentrum in der DACH-Region

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Cyberangriff bei Pilz

    Cyberangriff bei Pilz

    Mitte Oktober ist Pilz Ziel eines schweren Cyberangriffs geworden. Weltweit waren Server- und Kommunikationssysteme des Automatisierungsanbieters betroffen.

    mehr lesen: Cyberangriff bei Pilz

  • Bundesregierung zieht Bilanz

    Bundesregierung zieht Bilanz

    Vor einem Jahr hat die Bundesregierung ihre Strategie Künstliche Intelligenz beschlossen. Das Ziel: Die weitere Entwicklung und Anwendung von Künstlicher Intelligenz ganzheitlich politisch zu gestalten. Nun zog man seitens der…

    mehr lesen: Bundesregierung zieht Bilanz

  • Deutsche Wirtschaft wächst leicht

    Deutsche Wirtschaft wächst leicht

    Mit einem leichten Wachstum im dritten Quartal ist die deutsche Wirtschaft knapp einer Rezession entgangen. Wie das Statistische Bundesamt mitteilt, wuchs das Bruttoinlandsprodukt in diesem Zeitraum um 0,1 Prozent.

    mehr lesen: Deutsche Wirtschaft wächst leicht

  • Proalpha übernimmt Tisoware

    Proalpha übernimmt Tisoware

    Der ERP-Anbieter Proalpha übernimmt Tisoware, ein Anbieter für Zeitwirtschaftssoftware. Gemeinsam wollen beide Unternehmen ihre Kunden noch besser bei der Digitalisierung unterstützen.

    mehr lesen: Proalpha übernimmt Tisoware

  • Fertigungsindustrie wächst, aber langsamer

    Fertigungsindustrie wächst, aber langsamer

    Trotz schwieriger Marktbedingungen befindet sich die Fertigungsindustrie weiter im Wachstum. Dies zeigt der Global Growth Index des Softwareanbieters Epicor. Demnach betrug das Wachstum im Vergleich zur Vorjahresbefragung ein Prozent.

    mehr lesen: Fertigungsindustrie wächst, aber langsamer

  • Richtlinienreihe: Anlagen der Verfahrenstechnik modular entwickeln

    Richtlinienreihe: Anlagen der Verfahrenstechnik modular entwickeln

    Die Richtlinie VDI/VDE/NAMUR 2658 Blatt 1 ‚Automatisierungstechnisches Engineering modularer Anlagen in der Prozessindustrie – Allgemeines Konzept und Schnittstellen‘ wurde im Oktober 2019 in deutsch und englisch veröffentlicht. Darin wird das…

    mehr lesen: Richtlinienreihe: Anlagen der Verfahrenstechnik modular entwickeln

  • Schäden übersteigen 100Mrd.€

    Schäden übersteigen 100Mrd.€

    Rund 100Mrd.€ Schaden ist deutschen Unternehmen im vergangenen Jahr durch kriminelle Attacken entstanden. 75% der für eine Bitkom-Studie befragten Unternehmen waren von einer solchen Attacke betroffen.

    mehr lesen: Schäden übersteigen 100Mrd.€

  • Innovationstraining für den Mittelstand

    Innovationstraining für den Mittelstand

    Das Forschungsprojekt ReInnovate soll kleinen und mittleren Unternehmen dabei helfen, eigene Forschungskompetenzen zu entwickeln, um daraus neue Arbeits- und Weiterbildungsmodelle zu generieren.

    mehr lesen: Innovationstraining für den Mittelstand