Warum menschenähnliche Chatbots anders beleidigt werden

ec9f24b3 5dde 49be 84c6 576dfb0b4e1b
Bild: ©Karl J. Donath

Chatbots sollen es Internetnutzern leichter machen, benötigte Informationen schnell zu finden, indem sie auf Fragen und Wünsche direkt antworten. Die Reaktionen auf einen Chatbot sind allerdings nicht immer nur positiv: „Wenn ein Chatbot falsche oder verwirrende Antworten gibt, kann dies bei Nutzern Aggressivität gegenüber dem digitalen Gesprächspartner auslösen“, sagt Prof. Alfred Benedikt Brendel, Wirtschaftsinformatiker an der der TU Dresden. Aggressionen gegenüber dem virtuellen Assistenten, wozu etwa auch Beschimpfungen zählen, können auch weitere negative Effekte haben – zum Beispiel auf die Einstellung der User zur Webseite oder dem Anbieter selbst.

In der Studie untersucht das internationale Forschungsteam um Brendel, ob die Gestaltung von Chatbots einen Einfluss darauf hat, wie Nutzer auf unbefriedigende Antworten reagieren. Die Forschenden nehmen an, dass aggressives Verhalten seltener auftritt, wenn ein Chatbot mit menschlichen Attributen versehen wird. „In unseren Experimenten kam bei einem Teil der Befragten ein menschlicher Chatbot zum Einsatz, der mit Namen, Geschlecht und Bild versehen war. Er beantwortete Fragen sehr freundlich und verstärkte seine Botschaften mit passenden Emojis.“ Ein neutraler Chatbot, mit dem ein anderer Teil der Studienteilnehmer interagierte, enthielt hingegen keine dieser Gestaltungselemente.

Die Ergebnisse der Studie zeigen zunächst, dass der menschliche Chatbot generell die Zufriedenheit der Nutzerinnen und Nutzer steigert. Das wiederum reduziert auch das Auftreten von Frustration. Gibt ein Chatbot jedoch unbefriedigende Antworten führt dies entgegen der ursprünglichen Vermutung der Forscher aber auch bei einem Chatbot mit menschlichen Attributen zu Frustration und Aggressivität. Insgesamt zeigen etwa zehn Prozent der Teilnehmer aggressives Verhalten gegenüber den virtuellen Assistenten.

Im Gegensatz zu einem neutralen Chatbot verringert sich bei einem menschlicheren Chatbot allerdings die Intensität des aggressiven Verhaltens. Laut Studie verwendeten User seltener beleidigende Äußerungen, wenn sie mit einem menschlichen Chatbot interagierten. Die Ergebnisse hätten insbesondere für die Praxis weitreichende Konsequenzen, erläutert Alfred Brendel. „Ich würde Softwareentwicklern empfehlen, bei der menschenähnlichen Gestaltung bedacht vorzugehen und genau zu überlegen, welche positiven wie negativen Effekte zusätzliche menschenähnliche Gestaltungselemente wie Geschlecht, Alter oder bestimmte Namen haben können.“



  • Pavel Boháč wird Aimtec-CEO

    Pavel Boháč wird Aimtec-CEO

    Der Digitalisierungsspezialist Aimtec ernennt Pavel Boháč (35) zum neuen CEO. Er folgt auf die Unternehmensgründer Jaroslav Follprecht und Roman Žák, die nun als Aufsichtsräte fungieren.

    mehr lesen: Pavel Boháč wird Aimtec-CEO

  • Stimmung im Maschinenbau verschlechtert sich

    Stimmung im Maschinenbau verschlechtert sich

    Die Stimmung und die Aussichten im Maschinenbau haben sich laut aktueller VDMA-Konjunkturumfrage aus dem September merklich eingetrübt.

    mehr lesen: Stimmung im Maschinenbau verschlechtert sich

  • Erster photonischer Quantencomputer in Deutschland rechnet in Paderborn

    Erster photonischer Quantencomputer in Deutschland rechnet in Paderborn

    Auch wenn Quantencomputer seit einigen Jahren Gegenstand intensiver Forschung sind, ist es bisher nicht gelungen, ausreichend robuste Systeme zu realisieren.

    mehr lesen: Erster photonischer Quantencomputer in Deutschland rechnet in Paderborn

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • BuildingSmart International und IDTA unterzeichnen Kooperationsvereinbarung

    BuildingSmart International und IDTA unterzeichnen Kooperationsvereinbarung

    Die BuildingSmart International (bSI) und die Industrial Digital Twin Association (IDTA) wollen künftig auf gemeinnütziger Basis zusammenzuarbeiten, um eine offene digitale Interoperabilität in der Gebäudetechnik zu fördern.

    mehr lesen: BuildingSmart International und IDTA unterzeichnen Kooperationsvereinbarung

  • Energieverbrauch beim Umformen und in der Zerspanung reduziert

    Energieverbrauch beim Umformen und in der Zerspanung reduziert

    Daten werden benötigt, um in hochspezialisierten Prozessen Maschinen und Anlagen zu steuern.

    mehr lesen: Energieverbrauch beim Umformen und in der Zerspanung reduziert

  • Erste agile Batteriezellfertigung eröffnet

    Erste agile Batteriezellfertigung eröffnet

    Die Nachfrage nach Batteriezellen wird aktuell vor allem durch kostengetriebene Massenproduktion in Asien und Nordamerika gedeckt, was auch Auswirkungen auf den Maschinen- und Anlagenbau hat.

    mehr lesen: Erste agile Batteriezellfertigung eröffnet

  • Eclipse Foundation und DIN kooperieren

    Eclipse Foundation und DIN kooperieren

    Die Eclipse Foundation, eine der weltweit größten Open-Source-Stiftungen, und das Deutsche Institut für Normung (DIN) haben eine Absichtserklärung bekannt gegeben.

    mehr lesen: Eclipse Foundation und DIN kooperieren

  • Machine-Vision-Industrie erwartet Umsatzrückgang

    Machine-Vision-Industrie erwartet Umsatzrückgang

    Die VDMA Fachabteilung Machine Vision rechnet für die Bildverarbeitungsindustrie in Deutschland mit einem Umsatzrückgang von 10 Prozent nominal im laufenden Jahr.

    mehr lesen: Machine-Vision-Industrie erwartet Umsatzrückgang

  • Mathematische Modelle für einen effizienteren Emissionshandel

    Mathematische Modelle für einen effizienteren Emissionshandel

    Der Emissionshandel ist ein zentrales Instrument im Kampf gegen den Klimawandel. Die Einführung von CO2-Zertifikaten soll Anreize für Unternehmen schaffen, ihre Emissionen zu reduzieren.

    mehr lesen: Mathematische Modelle für einen effizienteren Emissionshandel

  • Mission KI und Xayn entwickeln KI-basiertes Prüfsystem für sicheren Datenaustausch

    Mission KI und Xayn entwickeln KI-basiertes Prüfsystem für sicheren Datenaustausch

    Um die Attraktivität von Datenräumen und den datenraumübergreifenden Austausch von Daten zu erhöhen, entwickelt das Berliner KI-Startup Xayn im Rahmen der Initiative Mission KI ein KI-basiertes Sicherheits- und Qualitäts-Monitoring. Die…

    mehr lesen: Mission KI und Xayn entwickeln KI-basiertes Prüfsystem für sicheren Datenaustausch

  • Die Welt der additiven Fertigung in Frankfurt

    Die Welt der additiven Fertigung in Frankfurt

    Bis Ende September haben sich 820 Unternehmen für die Formnext in Frankfurt angemeldet. Die Messe für Additive Manufacturing (AM) findet vom 19. bis zum 22. November 2024 statt. Besucher können…

    mehr lesen: Die Welt der additiven Fertigung in Frankfurt