Warum menschenähnliche Chatbots anders beleidigt werden

ec9f24b3 5dde 49be 84c6 576dfb0b4e1b
Bild: ©Karl J. Donath

Chatbots sollen es Internetnutzern leichter machen, benötigte Informationen schnell zu finden, indem sie auf Fragen und Wünsche direkt antworten. Die Reaktionen auf einen Chatbot sind allerdings nicht immer nur positiv: „Wenn ein Chatbot falsche oder verwirrende Antworten gibt, kann dies bei Nutzern Aggressivität gegenüber dem digitalen Gesprächspartner auslösen“, sagt Prof. Alfred Benedikt Brendel, Wirtschaftsinformatiker an der der TU Dresden. Aggressionen gegenüber dem virtuellen Assistenten, wozu etwa auch Beschimpfungen zählen, können auch weitere negative Effekte haben – zum Beispiel auf die Einstellung der User zur Webseite oder dem Anbieter selbst.

In der Studie untersucht das internationale Forschungsteam um Brendel, ob die Gestaltung von Chatbots einen Einfluss darauf hat, wie Nutzer auf unbefriedigende Antworten reagieren. Die Forschenden nehmen an, dass aggressives Verhalten seltener auftritt, wenn ein Chatbot mit menschlichen Attributen versehen wird. „In unseren Experimenten kam bei einem Teil der Befragten ein menschlicher Chatbot zum Einsatz, der mit Namen, Geschlecht und Bild versehen war. Er beantwortete Fragen sehr freundlich und verstärkte seine Botschaften mit passenden Emojis.“ Ein neutraler Chatbot, mit dem ein anderer Teil der Studienteilnehmer interagierte, enthielt hingegen keine dieser Gestaltungselemente.

Die Ergebnisse der Studie zeigen zunächst, dass der menschliche Chatbot generell die Zufriedenheit der Nutzerinnen und Nutzer steigert. Das wiederum reduziert auch das Auftreten von Frustration. Gibt ein Chatbot jedoch unbefriedigende Antworten führt dies entgegen der ursprünglichen Vermutung der Forscher aber auch bei einem Chatbot mit menschlichen Attributen zu Frustration und Aggressivität. Insgesamt zeigen etwa zehn Prozent der Teilnehmer aggressives Verhalten gegenüber den virtuellen Assistenten.

Im Gegensatz zu einem neutralen Chatbot verringert sich bei einem menschlicheren Chatbot allerdings die Intensität des aggressiven Verhaltens. Laut Studie verwendeten User seltener beleidigende Äußerungen, wenn sie mit einem menschlichen Chatbot interagierten. Die Ergebnisse hätten insbesondere für die Praxis weitreichende Konsequenzen, erläutert Alfred Brendel. „Ich würde Softwareentwicklern empfehlen, bei der menschenähnlichen Gestaltung bedacht vorzugehen und genau zu überlegen, welche positiven wie negativen Effekte zusätzliche menschenähnliche Gestaltungselemente wie Geschlecht, Alter oder bestimmte Namen haben können.“



  • Gesamtkonzept für mehr Resilienz

    Gesamtkonzept für mehr Resilienz

    Entwicklungen wie der Klimawandel oder die Digitalisierung haben das Thema Resilienz in die öffentliche Diskussion gerückt. Durch die Corona-Pandemie wird diese neu auf die Probe gestellt. Fraunhofer-Forscher haben nun ein…

    mehr lesen: Gesamtkonzept für mehr Resilienz

  • Rhebo integriert Apps für Cybersecurity

    Rhebo integriert Apps für Cybersecurity

    Rhebo hat sich der Partnerwelt ctrlX World von Bosch Rexroth angeschlossen. So setzt Rhebo auf ctrlX Automation als Integrationsplattform und zusätzlichen Marktplatz für ihre industriellen Monitoring-Lösungen, die sowohl für die…

    mehr lesen: Rhebo integriert Apps für Cybersecurity

  • Ifo Institut erwartet geringeres Wachstum

    Ifo Institut erwartet geringeres Wachstum

    Für das laufende Jahr geht das Ifo Institut von einem wirtschaftlichen Wachstum von 3,7 Prozent aus. Damit zeigen sich die Forscher pessimistischer als noch im Dezember.

    mehr lesen: Ifo Institut erwartet geringeres Wachstum

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Alarmmanagement in modularen Automatisierungssystemen

    Alarmmanagement in modularen Automatisierungssystemen

    Modulare Anlagen werden in der Fertigungs- und Verfahrenstechnik vermehrt eingesetzt. Die Planungszeit neuer Anlagen und Umbauarbeiten sollen so beschleunigt werden, um Stillstände beziehungsweise die Time-to-Market zu verkürzen.

    mehr lesen: Alarmmanagement in modularen Automatisierungssystemen

  • Kleine Betriebe unverhältnismäßig hart getroffen

    Kleine Betriebe unverhältnismäßig hart getroffen

    Die EU-Kommission plant umfassende Auflagen zur Vermeidung und Meldung von Cyberangriffen. Diese betreffen zukünftig fast alle mittelständischen Industriebetriebe.

    mehr lesen: Kleine Betriebe unverhältnismäßig hart getroffen

  • Verstärkte Angriffe der Ransomware-Gruppe

    Verstärkte Angriffe der Ransomware-Gruppe

    Das Incident Response Team (IRT) von Varonis Systems beobachtet seit November 2020 verstärkte Angriffe von Darkside, Inc. auf Unternehmen in Nordamerika und Europa.

    mehr lesen: Verstärkte Angriffe der Ransomware-Gruppe

  • Jedes Dritte Unternehmen setzt auf Outsourcing im eigenen Land

    Jedes Dritte Unternehmen setzt auf Outsourcing im eigenen Land

    Welchen Stellenwert IT-Outsourcing für deutsche Unternehmen haben kann, zeigt ein Whitepaper von IDC und Comarch. Darin geht man der Fragestellung nach, wie verbreitet Onshoring und Offshoring sind. Demnach lagert jede…

    mehr lesen: Jedes Dritte Unternehmen setzt auf Outsourcing im eigenen Land

  • Trumpf übernimmt Lantek

    Trumpf übernimmt Lantek

    Mit der Übernahme von Lantek erweitert Trumpf sein Softwareportfolio. Das spanische Unternehmen entwickelt Software für die Blech- und Metallbearbeitung.

    mehr lesen: Trumpf übernimmt Lantek

  • Kriterien für das Reifegradmodell wählen

    Kriterien für das Reifegradmodell wählen

    Auf dem Weg zur ‚Industrie 4.0‘ entwickeln Unternehmen die Fähigkeiten, in Echtzeit datenbasierte Entscheidungen innerhalb von Wertschöpfungsnetzwerken zu treffen und agil auf Marktveränderungen zu reagieren. Bei diesem Weg unterstützt die…

    mehr lesen: Kriterien für das Reifegradmodell wählen

  • 42 Prozent der maschinenbaurelevanten Startups kommen aus Europa

    42 Prozent der maschinenbaurelevanten Startups kommen aus Europa

    Mit dem ‚Startup-Radar‘ gibt der VDMA einen Einblick in die KI-Startup-Szene für den Maschinenbau. Demnach entstehen 42 Prozent der relevanten Startups in Europa.

    mehr lesen: 42 Prozent der maschinenbaurelevanten Startups kommen aus Europa

  • Security as a Service für den sicheren Gebäudebetrieb

    Security as a Service für den sicheren Gebäudebetrieb

    Siemens Smart Infrastructure erweitert sein Angebot aus Dienstleistungen, Assets und Services für Sicherheitsanforderungen im Gebäudebetrieb. Das Komplettpaket Security as a Service (SecaaS) umfasst die Bereiche Gefahrenleitsysteme, Zutrittskontrolle, Einbruchmeldeanlagen und Videoüberwachungssysteme…

    mehr lesen: Security as a Service für den sicheren Gebäudebetrieb