Warum menschenähnliche Chatbots anders beleidigt werden

ec9f24b3 5dde 49be 84c6 576dfb0b4e1b
Bild: ©Karl J. Donath

Chatbots sollen es Internetnutzern leichter machen, benötigte Informationen schnell zu finden, indem sie auf Fragen und Wünsche direkt antworten. Die Reaktionen auf einen Chatbot sind allerdings nicht immer nur positiv: „Wenn ein Chatbot falsche oder verwirrende Antworten gibt, kann dies bei Nutzern Aggressivität gegenüber dem digitalen Gesprächspartner auslösen“, sagt Prof. Alfred Benedikt Brendel, Wirtschaftsinformatiker an der der TU Dresden. Aggressionen gegenüber dem virtuellen Assistenten, wozu etwa auch Beschimpfungen zählen, können auch weitere negative Effekte haben – zum Beispiel auf die Einstellung der User zur Webseite oder dem Anbieter selbst.

In der Studie untersucht das internationale Forschungsteam um Brendel, ob die Gestaltung von Chatbots einen Einfluss darauf hat, wie Nutzer auf unbefriedigende Antworten reagieren. Die Forschenden nehmen an, dass aggressives Verhalten seltener auftritt, wenn ein Chatbot mit menschlichen Attributen versehen wird. „In unseren Experimenten kam bei einem Teil der Befragten ein menschlicher Chatbot zum Einsatz, der mit Namen, Geschlecht und Bild versehen war. Er beantwortete Fragen sehr freundlich und verstärkte seine Botschaften mit passenden Emojis.“ Ein neutraler Chatbot, mit dem ein anderer Teil der Studienteilnehmer interagierte, enthielt hingegen keine dieser Gestaltungselemente.

Die Ergebnisse der Studie zeigen zunächst, dass der menschliche Chatbot generell die Zufriedenheit der Nutzerinnen und Nutzer steigert. Das wiederum reduziert auch das Auftreten von Frustration. Gibt ein Chatbot jedoch unbefriedigende Antworten führt dies entgegen der ursprünglichen Vermutung der Forscher aber auch bei einem Chatbot mit menschlichen Attributen zu Frustration und Aggressivität. Insgesamt zeigen etwa zehn Prozent der Teilnehmer aggressives Verhalten gegenüber den virtuellen Assistenten.

Im Gegensatz zu einem neutralen Chatbot verringert sich bei einem menschlicheren Chatbot allerdings die Intensität des aggressiven Verhaltens. Laut Studie verwendeten User seltener beleidigende Äußerungen, wenn sie mit einem menschlichen Chatbot interagierten. Die Ergebnisse hätten insbesondere für die Praxis weitreichende Konsequenzen, erläutert Alfred Brendel. „Ich würde Softwareentwicklern empfehlen, bei der menschenähnlichen Gestaltung bedacht vorzugehen und genau zu überlegen, welche positiven wie negativen Effekte zusätzliche menschenähnliche Gestaltungselemente wie Geschlecht, Alter oder bestimmte Namen haben können.“



  • Cyberkriminelle nutzen Corona-Panik aus

    Cyberkriminelle nutzen Corona-Panik aus

    Je weiter sich das Coronavirus verbreitet, desto größer ist das Bedürfnis nach Informationen. Cyberkriminelle und Spione nutzen das gezielt aus.

    mehr lesen: Cyberkriminelle nutzen Corona-Panik aus

  • Corona: Remote Access zum Nulltarif

    Corona: Remote Access zum Nulltarif

    Der Coronavirus (Covid-19) breitet sich immer weiter aus und hinterlässt seine Spuren in der Wirtschaft. Neben der Forderung nach Stützungsmaßnahmen durch die Bundesregierung wird auch immer wieder dazu geraten, aus…

    mehr lesen: Corona: Remote Access zum Nulltarif

  • Jede achte I4.0-Initiative übertrifft Erwartungen

    Jede achte I4.0-Initiative übertrifft Erwartungen

    Laut aktuellem Industrie-4.0-Index von Staufen übertreffen in 12% der deutschen Unternehmen die Ergebnisse der laufenden Digitalisierungsaktivitäten die Erwartungen – zum Teil sogar deutlich. Über die Gründe dafür herrscht unter den…

    mehr lesen: Jede achte I4.0-Initiative übertrifft Erwartungen

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • CyberArk gibt Empfehlungen für die RPA-Nutzung

    CyberArk gibt Empfehlungen für die RPA-Nutzung

    Der IT-Sicherheitsanbieter CyberArk präsentiert seinen neuen Report ‘The CISO View: Protecting Privileged Access in Robotic Process Automation‘. Er basiert auf den Erfahrungswerten eines CISO-Panels aus Global-1000-Unternehmen und liefert Empfehlungen für…

    mehr lesen: CyberArk gibt Empfehlungen für die RPA-Nutzung

  • VDI-Statusreport ‚Simulation und digitaler Zwilling im Anlagenlebenszyklus‘

    VDI-Statusreport ‚Simulation und digitaler Zwilling im Anlagenlebenszyklus‘

    Die Relevanz der Themen Modellierung und Simulation nimmt, nicht zuletzt durch das Konzept des digitalen Zwillings (DZ), in hohem Maße zu. Im Statusreport ‘Simulation und digitaler Zwilling im Anlagenlebenszyklus’ beschreiben…

    mehr lesen: VDI-Statusreport ‚Simulation und digitaler Zwilling im Anlagenlebenszyklus‘

  • Firewall-Lösung für Automatisierungsnetzwerke

    Firewall-Lösung für Automatisierungsnetzwerke

    Belden präsentiert die nächste Generation der industriegerechten Firewall Eagle von Hirschmann, um den stetig wachsenden Anforderungen an die Cybersicherheit von Automatisierungsnetzwerken gerecht zu werden.

    mehr lesen: Firewall-Lösung für Automatisierungsnetzwerke

  • Microsoft Deutschland ernennt Christine Haupt zum COO

    Microsoft Deutschland ernennt Christine Haupt zum COO

    Dr. Christine Haupt übernimmt zum 1. April als Chief Operating Officer (COO) die Leitung der Geschäftsbereiche Marketing, Operations und Mittelstandskunden bei Microsoft Deutschland.

    mehr lesen: Microsoft Deutschland ernennt Christine Haupt zum COO

  • VDI 5600: Neues Blatt zu Industrie 4.0

    VDI 5600: Neues Blatt zu Industrie 4.0

    In der neuen Richtlinie VDI 5600 Blatt 7 ‚Fertigungsmanagementsysteme (Manufacturing Execution Systems – MES) – MES und Industrie 4.0‘ wird aufgezeigt, wo sich aufgrund von Industrie 4.0-Vorgaben Konzepte, Aufbau und…

    mehr lesen: VDI 5600: Neues Blatt zu Industrie 4.0

  • Maschinenbauer starten gut ins Jahr

    Maschinenbauer starten gut ins Jahr

    Im Vergleich zum Vorjahr sind die Auftragseingänge im deutschen Maschinenbau im Januar um sieben Prozent gestiegen.

    mehr lesen: Maschinenbauer starten gut ins Jahr

  • Logimat 2020 abgesagt

    Logimat 2020 abgesagt

    Nachdem in den vergangenen Tagen mehrere Messen abgesagt oder verschoben wurden, wurde nun auch die Logimat abgesagt.

    mehr lesen: Logimat 2020 abgesagt

  • Startschuss für KI-Observatorium in Berlin

    Startschuss für KI-Observatorium in Berlin

    In Berlin hat das Deutsche Observatorium für Künstliche Intelligenz in Arbeit und Gesellschaft sein Arbeit aufgenommen.

    mehr lesen: Startschuss für KI-Observatorium in Berlin