Warum menschenähnliche Chatbots anders beleidigt werden

ec9f24b3 5dde 49be 84c6 576dfb0b4e1b
Bild: ©Karl J. Donath

Chatbots sollen es Internetnutzern leichter machen, benötigte Informationen schnell zu finden, indem sie auf Fragen und Wünsche direkt antworten. Die Reaktionen auf einen Chatbot sind allerdings nicht immer nur positiv: „Wenn ein Chatbot falsche oder verwirrende Antworten gibt, kann dies bei Nutzern Aggressivität gegenüber dem digitalen Gesprächspartner auslösen“, sagt Prof. Alfred Benedikt Brendel, Wirtschaftsinformatiker an der der TU Dresden. Aggressionen gegenüber dem virtuellen Assistenten, wozu etwa auch Beschimpfungen zählen, können auch weitere negative Effekte haben – zum Beispiel auf die Einstellung der User zur Webseite oder dem Anbieter selbst.

In der Studie untersucht das internationale Forschungsteam um Brendel, ob die Gestaltung von Chatbots einen Einfluss darauf hat, wie Nutzer auf unbefriedigende Antworten reagieren. Die Forschenden nehmen an, dass aggressives Verhalten seltener auftritt, wenn ein Chatbot mit menschlichen Attributen versehen wird. „In unseren Experimenten kam bei einem Teil der Befragten ein menschlicher Chatbot zum Einsatz, der mit Namen, Geschlecht und Bild versehen war. Er beantwortete Fragen sehr freundlich und verstärkte seine Botschaften mit passenden Emojis.“ Ein neutraler Chatbot, mit dem ein anderer Teil der Studienteilnehmer interagierte, enthielt hingegen keine dieser Gestaltungselemente.

Die Ergebnisse der Studie zeigen zunächst, dass der menschliche Chatbot generell die Zufriedenheit der Nutzerinnen und Nutzer steigert. Das wiederum reduziert auch das Auftreten von Frustration. Gibt ein Chatbot jedoch unbefriedigende Antworten führt dies entgegen der ursprünglichen Vermutung der Forscher aber auch bei einem Chatbot mit menschlichen Attributen zu Frustration und Aggressivität. Insgesamt zeigen etwa zehn Prozent der Teilnehmer aggressives Verhalten gegenüber den virtuellen Assistenten.

Im Gegensatz zu einem neutralen Chatbot verringert sich bei einem menschlicheren Chatbot allerdings die Intensität des aggressiven Verhaltens. Laut Studie verwendeten User seltener beleidigende Äußerungen, wenn sie mit einem menschlichen Chatbot interagierten. Die Ergebnisse hätten insbesondere für die Praxis weitreichende Konsequenzen, erläutert Alfred Brendel. „Ich würde Softwareentwicklern empfehlen, bei der menschenähnlichen Gestaltung bedacht vorzugehen und genau zu überlegen, welche positiven wie negativen Effekte zusätzliche menschenähnliche Gestaltungselemente wie Geschlecht, Alter oder bestimmte Namen haben können.“



  • Wirtschaft wünscht sich künstliche Intelligenz aus Deutschland

    Wirtschaft wünscht sich künstliche Intelligenz aus Deutschland

    Deutschlands Unternehmen wünschen sich mehr generative künstliche Intelligenz ‚made in Germany‘.

    mehr lesen: Wirtschaft wünscht sich künstliche Intelligenz aus Deutschland

  • Sicherheit, Effizienz und Nutzerkomfort per Klick verbessern

    Sicherheit, Effizienz und Nutzerkomfort per Klick verbessern

    Computerspiele wie etwa Grand Theft Auto V bestehen aus rund 10 bis 30 Millionen Zeilen Code.

    mehr lesen: Sicherheit, Effizienz und Nutzerkomfort per Klick verbessern

  • Millionen-Investment für UpNano

    Millionen-Investment für UpNano

    UpNano aus Wien gibt den Abschluss einer Serie-A-Finanzierungsrunde in Höhe von 7Mio.€ bekannt, die gemeinsam vom AWS Gründungsfonds – einem von der Republik Österreich unterstützten Risikokapitalfonds – Novacapital und IGO…

    mehr lesen: Millionen-Investment für UpNano

  • Im PwC Maschinenbau-Barometer überwiegt der Pessimismus

    Im PwC Maschinenbau-Barometer überwiegt der Pessimismus

    Ob Konjunkturerwartung, Umsatzprognosen oder Kapazitätsauslastung – alle wichtigen Kennzahlen aus aktuellen Maschinenbau-Barometer der Wirtschaftsprüfungs- und Beratungsgesellschaft PwC Deutschland zeugen von einer weiteren Negativentwicklung der Branche.

    mehr lesen: Im PwC Maschinenbau-Barometer überwiegt der Pessimismus

  • KI-Markt nähert sich bis 2027 der Billionen-Dollar-Marke

    KI-Markt nähert sich bis 2027 der Billionen-Dollar-Marke

    Der weltweite Markt für Hardware und Software im Bereich künstliche Intelligenz (KI) wird nach Schätzungen der Unternehmensberatung Bain & Company voraussichtlich zwischen 40 und 55 Prozent pro Jahr wachsen und…

    mehr lesen: KI-Markt nähert sich bis 2027 der Billionen-Dollar-Marke

  • Agile Manufacturing verlegt Hauptsitz nach Berlin

    Agile Manufacturing verlegt Hauptsitz nach Berlin

    Die Agile Manufacturing GmbH, ein Anbieter agiler Fertigungssysteme, verlegt ihren Hauptsitz von Lupburg, Bayern, nach Berlin.

    mehr lesen: Agile Manufacturing verlegt Hauptsitz nach Berlin

  • Neuer CEO und General Manager bei Schneider Electric in Lahr

    Neuer CEO und General Manager bei Schneider Electric in Lahr

    Schneider Electric hat seit dem 1. Juli mit Yusuf Pence einen neuen CEO sowie General Manager für den Standort in Lahr.

    mehr lesen: Neuer CEO und General Manager bei Schneider Electric in Lahr

  • Neuer Präsident für die IFR

    Neuer Präsident für die IFR

    Das Executive Board der International Federation of Robotics (IFR) hat Takayuki Ito zum Präsidenten gewählt.

    mehr lesen: Neuer Präsident für die IFR

  • VDMA Software und Digitalisierung mit neuem Vorstand

    VDMA Software und Digitalisierung mit neuem Vorstand

    Der VDMA Software und Digitalisierung hat einen neuen Vorstand gewählt.

    mehr lesen: VDMA Software und Digitalisierung mit neuem Vorstand

  • Friedhelm Loh Group beruft Niko Mohr in den Vorstand

    Friedhelm Loh Group beruft Niko Mohr in den Vorstand

    Die Führungsspitze der Friedhelm Loh Group hat ein neues Mitglied: Prof. Dr. Niko Mohr (Bild) erweitert zum 1. November 2024 den Vorstand der Gruppe.

    mehr lesen: Friedhelm Loh Group beruft Niko Mohr in den Vorstand

  • BSI sieht Cybersicherheit durch CRA signifikant gestärkt

    BSI sieht Cybersicherheit durch CRA signifikant gestärkt

    Saugroboter, smarter Katzenfutterautomat, die meisten Apps auf mobilen Geräten oder Smart-TVs – die steigende Zahl vernetzter Hard- und Softwareprodukte bringt neben Komfort und Automation auch Risiken und neuartige Angriffsvektoren.

    mehr lesen: BSI sieht Cybersicherheit durch CRA signifikant gestärkt

  • Pavel Boháč wird Aimtec-CEO

    Pavel Boháč wird Aimtec-CEO

    Der Digitalisierungsspezialist Aimtec ernennt Pavel Boháč (35) zum neuen CEO. Er folgt auf die Unternehmensgründer Jaroslav Follprecht und Roman Žák, die nun als Aufsichtsräte fungieren.

    mehr lesen: Pavel Boháč wird Aimtec-CEO