Warum menschenähnliche Chatbots anders beleidigt werden

ec9f24b3 5dde 49be 84c6 576dfb0b4e1b
Bild: ©Karl J. Donath

Chatbots sollen es Internetnutzern leichter machen, benötigte Informationen schnell zu finden, indem sie auf Fragen und Wünsche direkt antworten. Die Reaktionen auf einen Chatbot sind allerdings nicht immer nur positiv: „Wenn ein Chatbot falsche oder verwirrende Antworten gibt, kann dies bei Nutzern Aggressivität gegenüber dem digitalen Gesprächspartner auslösen“, sagt Prof. Alfred Benedikt Brendel, Wirtschaftsinformatiker an der der TU Dresden. Aggressionen gegenüber dem virtuellen Assistenten, wozu etwa auch Beschimpfungen zählen, können auch weitere negative Effekte haben – zum Beispiel auf die Einstellung der User zur Webseite oder dem Anbieter selbst.

In der Studie untersucht das internationale Forschungsteam um Brendel, ob die Gestaltung von Chatbots einen Einfluss darauf hat, wie Nutzer auf unbefriedigende Antworten reagieren. Die Forschenden nehmen an, dass aggressives Verhalten seltener auftritt, wenn ein Chatbot mit menschlichen Attributen versehen wird. „In unseren Experimenten kam bei einem Teil der Befragten ein menschlicher Chatbot zum Einsatz, der mit Namen, Geschlecht und Bild versehen war. Er beantwortete Fragen sehr freundlich und verstärkte seine Botschaften mit passenden Emojis.“ Ein neutraler Chatbot, mit dem ein anderer Teil der Studienteilnehmer interagierte, enthielt hingegen keine dieser Gestaltungselemente.

Die Ergebnisse der Studie zeigen zunächst, dass der menschliche Chatbot generell die Zufriedenheit der Nutzerinnen und Nutzer steigert. Das wiederum reduziert auch das Auftreten von Frustration. Gibt ein Chatbot jedoch unbefriedigende Antworten führt dies entgegen der ursprünglichen Vermutung der Forscher aber auch bei einem Chatbot mit menschlichen Attributen zu Frustration und Aggressivität. Insgesamt zeigen etwa zehn Prozent der Teilnehmer aggressives Verhalten gegenüber den virtuellen Assistenten.

Im Gegensatz zu einem neutralen Chatbot verringert sich bei einem menschlicheren Chatbot allerdings die Intensität des aggressiven Verhaltens. Laut Studie verwendeten User seltener beleidigende Äußerungen, wenn sie mit einem menschlichen Chatbot interagierten. Die Ergebnisse hätten insbesondere für die Praxis weitreichende Konsequenzen, erläutert Alfred Brendel. „Ich würde Softwareentwicklern empfehlen, bei der menschenähnlichen Gestaltung bedacht vorzugehen und genau zu überlegen, welche positiven wie negativen Effekte zusätzliche menschenähnliche Gestaltungselemente wie Geschlecht, Alter oder bestimmte Namen haben können.“



  • Fakuma 2024 liefert neue Ansätze für die Kunststoffverarbeitung

    Fakuma 2024 liefert neue Ansätze für die Kunststoffverarbeitung

    Auf der diesjährigen Fakuma, internationale Fachmesse für Kunststoffverarbeitung, vom 15. bis 19. Oktober 2024 wird es neben der Ausstellung auch ein breites Rahmenprogramm geben. Erstmals wird etwa der Karriere-Freitag Teil…

    mehr lesen: Fakuma 2024 liefert neue Ansätze für die Kunststoffverarbeitung

  • Sebastian Spicker wird Managing Director DACH bei IFS

    Sebastian Spicker wird Managing Director DACH bei IFS

    Sebastian Spicker hat die Position des Managing Director DACH bei IFS übernommen.

    mehr lesen: Sebastian Spicker wird Managing Director DACH bei IFS

  • IFS kauft Copperleaf Technologies

    IFS kauft Copperleaf Technologies

    Der schwedische Anbieter von Business-Software IFS kauft Copperleaf Technologies. Das kanadische Unternehmen bietet Analytics-Software etwa für die Investitionsplanung und soll rund eine Milliarde kanadische Dollar kosten, rund 670 Millionen Euro.

    mehr lesen: IFS kauft Copperleaf Technologies

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Wie steht es um KI und IoT bei unseren Nachbarn?

    Wie steht es um KI und IoT bei unseren Nachbarn?

    Wie etabliert sind Robotik, KI, ML, Big Data und IoT in den europäischen Ländern? Und wie schneidet Deutschland im Vergleich ab? Das hat Reichelt Elektronik Menschen in Deutschland, Frankreich, Italien…

    mehr lesen: Wie steht es um KI und IoT bei unseren Nachbarn?

  • Tech-Festival für Co-Creation in der Automatisierung

    Tech-Festival für Co-Creation in der Automatisierung

    Die vernetzte Fabrik, Datenräume und Automatisierung sind nur einige der Themen, die am 6. November in der Gläsernen Manufaktur Dresden im Mittelpunkt stehen. Für das Event Hub:Disrupt organisieren die Veranstalter…

    mehr lesen: Tech-Festival für Co-Creation in der Automatisierung

  • Kollektives und individuelles Lernen verzahnt

    Kollektives und individuelles Lernen verzahnt

    IT-Technik wie künstliche Intelligenz (KI) ermöglicht es Unternehmen, ganz neue Lernarchitekturen und -landschaften zu schmieden.

    mehr lesen: Kollektives und individuelles Lernen verzahnt

  • Drei Maßnahmen gegen Deepfake-Angriffe

    Drei Maßnahmen gegen Deepfake-Angriffe

    KI-gestützter Identitätsbetrug kommt weltweit häufiger vor. Allein in Österreich stieg die Zahl der Deepfake-Angriffe in diesem Jahr um 119 Prozent, ergab eine KPMG Austria-Umfrage. Mit diesen drei Maßnahmen lassen sich…

    mehr lesen: Drei Maßnahmen gegen Deepfake-Angriffe

  • IAB-Arbeitsmarktbarometer steigt erneut

    IAB-Arbeitsmarktbarometer steigt erneut

    Trotz anhaltend schwieriger Konjunktur bleibt der Arbeitsmarkt-Indikator des IAB in Deutschland das dritte Mal leicht im Plus.

    mehr lesen: IAB-Arbeitsmarktbarometer steigt erneut

  • China will Industrieroboter exportieren

    China will Industrieroboter exportieren

    Die chinesische Regierung will künftig verstärkt Industrieroboter exportieren, um Wirtschaftswachstum herbeizuführen.

    mehr lesen: China will Industrieroboter exportieren

  • Thorsten Steger ist CCO bei Industrie Informatik

    Thorsten Steger ist CCO bei Industrie Informatik

    Der MES-Hersteller Industrie Informatik hat Thorsten Steger zum CCO ernannt.

    mehr lesen: Thorsten Steger ist CCO bei Industrie Informatik

  • Preiserwartungen gehen leicht zurück

    Preiserwartungen gehen leicht zurück

    Vor allem in der Industrie und angrenzenden Dienstleistungen wollen weniger Unternehmen ihre Preise erhöhen, hat das IFO-Institut für August 2024 errechnet. Anders sieht es für Verbraucher und Bauträger aus. Hier…

    mehr lesen: Preiserwartungen gehen leicht zurück