Warum menschenähnliche Chatbots anders beleidigt werden

ec9f24b3 5dde 49be 84c6 576dfb0b4e1b
Bild: ©Karl J. Donath

Chatbots sollen es Internetnutzern leichter machen, benötigte Informationen schnell zu finden, indem sie auf Fragen und Wünsche direkt antworten. Die Reaktionen auf einen Chatbot sind allerdings nicht immer nur positiv: „Wenn ein Chatbot falsche oder verwirrende Antworten gibt, kann dies bei Nutzern Aggressivität gegenüber dem digitalen Gesprächspartner auslösen“, sagt Prof. Alfred Benedikt Brendel, Wirtschaftsinformatiker an der der TU Dresden. Aggressionen gegenüber dem virtuellen Assistenten, wozu etwa auch Beschimpfungen zählen, können auch weitere negative Effekte haben – zum Beispiel auf die Einstellung der User zur Webseite oder dem Anbieter selbst.

In der Studie untersucht das internationale Forschungsteam um Brendel, ob die Gestaltung von Chatbots einen Einfluss darauf hat, wie Nutzer auf unbefriedigende Antworten reagieren. Die Forschenden nehmen an, dass aggressives Verhalten seltener auftritt, wenn ein Chatbot mit menschlichen Attributen versehen wird. „In unseren Experimenten kam bei einem Teil der Befragten ein menschlicher Chatbot zum Einsatz, der mit Namen, Geschlecht und Bild versehen war. Er beantwortete Fragen sehr freundlich und verstärkte seine Botschaften mit passenden Emojis.“ Ein neutraler Chatbot, mit dem ein anderer Teil der Studienteilnehmer interagierte, enthielt hingegen keine dieser Gestaltungselemente.

Die Ergebnisse der Studie zeigen zunächst, dass der menschliche Chatbot generell die Zufriedenheit der Nutzerinnen und Nutzer steigert. Das wiederum reduziert auch das Auftreten von Frustration. Gibt ein Chatbot jedoch unbefriedigende Antworten führt dies entgegen der ursprünglichen Vermutung der Forscher aber auch bei einem Chatbot mit menschlichen Attributen zu Frustration und Aggressivität. Insgesamt zeigen etwa zehn Prozent der Teilnehmer aggressives Verhalten gegenüber den virtuellen Assistenten.

Im Gegensatz zu einem neutralen Chatbot verringert sich bei einem menschlicheren Chatbot allerdings die Intensität des aggressiven Verhaltens. Laut Studie verwendeten User seltener beleidigende Äußerungen, wenn sie mit einem menschlichen Chatbot interagierten. Die Ergebnisse hätten insbesondere für die Praxis weitreichende Konsequenzen, erläutert Alfred Brendel. „Ich würde Softwareentwicklern empfehlen, bei der menschenähnlichen Gestaltung bedacht vorzugehen und genau zu überlegen, welche positiven wie negativen Effekte zusätzliche menschenähnliche Gestaltungselemente wie Geschlecht, Alter oder bestimmte Namen haben können.“



  • Wenn aus Schrott neuer Stahl wird

    Wenn aus Schrott neuer Stahl wird

    Mit über 2,2Mio.t verarbeitetem Schrott pro Jahr ist die Swiss Steel Group einer der größten Recycling-Betriebe Europas. Für seinen ’Green Steel’, also Stahl aus recyceltem Material, arbeitet das Unternehmen an…

    mehr lesen: Wenn aus Schrott neuer Stahl wird

  • Wie AnoWatch Abweichungen erkennt

    Wie AnoWatch Abweichungen erkennt

    Das am Fraunhofer IWU entwickelte System AnoWatch hilft, Fehler auf Karosserieteilen zu erkennen. Das Besondere: Das System wird mit fehlerfreien Bauteilen angelernt.

    mehr lesen: Wie AnoWatch Abweichungen erkennt

  • Neuer CEO für Bentley Systems

    Neuer CEO für Bentley Systems

    Bentley Systems hat einen neuen CEO. Mit Nicholas Cumins übernimmt erstmals eine Führungskraft, die nicht aus der Bentley-Familie stammt, die Geschicke des CAD-Spezialisten.

    mehr lesen: Neuer CEO für Bentley Systems

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Eplan feiert 40-jähriges Firmenjubiläum

    Eplan feiert 40-jähriges Firmenjubiläum

    1984 wurde das Elektro-Engineering aus der Taufe gehoben und damit auch die Software, die dem Unternehmen Eplan seinen Namen gab. Das 40-jährige Bestehen wurde nun mit einer Veranstaltung im Nationalen…

    mehr lesen: Eplan feiert 40-jähriges Firmenjubiläum

  • Inneo und Klietsch gehen Partnerschaft ein

    Inneo und Klietsch gehen Partnerschaft ein

    Nach mehreren Jahrzehnten der Zusammenarbeit gehen Inneo und die Ingenieurgemeinschaft Klietsch eine strategische Partnerschaft ein.

    mehr lesen: Inneo und Klietsch gehen Partnerschaft ein

  • Fachpack nimmt die EU-Verpackungsverordnung in den Fokus

    Fachpack nimmt die EU-Verpackungsverordnung in den Fokus

    Wenn die Fachpack vom 24. bis 26. September im Messezentrum Nürnberg stattfindet, gibt die Fachmesse Einblicke in alle relevanten Themen der Verpackungswirtschaft.

    mehr lesen: Fachpack nimmt die EU-Verpackungsverordnung in den Fokus

  • Maschinen- und Anlagenbau mit deutlichen Ordereinbußen

    Maschinen- und Anlagenbau mit deutlichen Ordereinbußen

    Im Mai lagen die Bestellungen im Maschinenbau um real 27 Prozent unter ihrem Vorjahreswert. Ein großer Teil des Rückgangs führt der VDMA auf einen Basiseffekt zurück, sieht aber im Ergebnis…

    mehr lesen: Maschinen- und Anlagenbau mit deutlichen Ordereinbußen

  • Wie KI die Datensicherheit verbessert

    Wie KI die Datensicherheit verbessert

    Künstliche Intelligenz kann große Datenmengen schnell und präzise analysieren, um Muster und Anomalien zu erkennen. Das ist auch im Security-Bereich hilfreich. Forcepoint, ein Spezialist für IT-Sicherheit, nennt einige Beispiele, wie…

    mehr lesen: Wie KI die Datensicherheit verbessert

  • Mit KI Produktions- und Lieferketten optimieren

    Mit KI Produktions- und Lieferketten optimieren

    Im Forschungsprojekt VaStNet (Value Stream Optimization Networks) untersuchen SimPlan, Sieben Consulting-Training-System und die Hochschule RheinMain (HSRM), wie Planerinnen und Planer zukünftig KI-gestützt korrekte Wertströme mittels neuronaler Netze einfacher modellieren und…

    mehr lesen: Mit KI Produktions- und Lieferketten optimieren

  • Remira ernennt Ralph Hartwig zum Finanzchef

    Remira ernennt Ralph Hartwig zum Finanzchef

    Ralph Hartwig ist neuer CFO beim Softwareanbieter Remira. Das Führungsspitze des Unternehmens ist somit wieder komplett.

    mehr lesen: Remira ernennt Ralph Hartwig zum Finanzchef

  • Was macht eigentlich ein Softwaretester?

    Was macht eigentlich ein Softwaretester?

    Wenn ein Computer-Programm einen Fehlercode anzeigt oder gar nichts mehr geht, ist der Ärger groß. Um solche Probleme im Vorfeld zu erkennen und zu vermeiden, gibt Tester. Im Interview erklärt…

    mehr lesen: Was macht eigentlich ein Softwaretester?