Warum menschenähnliche Chatbots anders beleidigt werden

ec9f24b3 5dde 49be 84c6 576dfb0b4e1b
Bild: ©Karl J. Donath

Chatbots sollen es Internetnutzern leichter machen, benötigte Informationen schnell zu finden, indem sie auf Fragen und Wünsche direkt antworten. Die Reaktionen auf einen Chatbot sind allerdings nicht immer nur positiv: „Wenn ein Chatbot falsche oder verwirrende Antworten gibt, kann dies bei Nutzern Aggressivität gegenüber dem digitalen Gesprächspartner auslösen“, sagt Prof. Alfred Benedikt Brendel, Wirtschaftsinformatiker an der der TU Dresden. Aggressionen gegenüber dem virtuellen Assistenten, wozu etwa auch Beschimpfungen zählen, können auch weitere negative Effekte haben – zum Beispiel auf die Einstellung der User zur Webseite oder dem Anbieter selbst.

In der Studie untersucht das internationale Forschungsteam um Brendel, ob die Gestaltung von Chatbots einen Einfluss darauf hat, wie Nutzer auf unbefriedigende Antworten reagieren. Die Forschenden nehmen an, dass aggressives Verhalten seltener auftritt, wenn ein Chatbot mit menschlichen Attributen versehen wird. „In unseren Experimenten kam bei einem Teil der Befragten ein menschlicher Chatbot zum Einsatz, der mit Namen, Geschlecht und Bild versehen war. Er beantwortete Fragen sehr freundlich und verstärkte seine Botschaften mit passenden Emojis.“ Ein neutraler Chatbot, mit dem ein anderer Teil der Studienteilnehmer interagierte, enthielt hingegen keine dieser Gestaltungselemente.

Die Ergebnisse der Studie zeigen zunächst, dass der menschliche Chatbot generell die Zufriedenheit der Nutzerinnen und Nutzer steigert. Das wiederum reduziert auch das Auftreten von Frustration. Gibt ein Chatbot jedoch unbefriedigende Antworten führt dies entgegen der ursprünglichen Vermutung der Forscher aber auch bei einem Chatbot mit menschlichen Attributen zu Frustration und Aggressivität. Insgesamt zeigen etwa zehn Prozent der Teilnehmer aggressives Verhalten gegenüber den virtuellen Assistenten.

Im Gegensatz zu einem neutralen Chatbot verringert sich bei einem menschlicheren Chatbot allerdings die Intensität des aggressiven Verhaltens. Laut Studie verwendeten User seltener beleidigende Äußerungen, wenn sie mit einem menschlichen Chatbot interagierten. Die Ergebnisse hätten insbesondere für die Praxis weitreichende Konsequenzen, erläutert Alfred Brendel. „Ich würde Softwareentwicklern empfehlen, bei der menschenähnlichen Gestaltung bedacht vorzugehen und genau zu überlegen, welche positiven wie negativen Effekte zusätzliche menschenähnliche Gestaltungselemente wie Geschlecht, Alter oder bestimmte Namen haben können.“



  • Bestellungen im Maschinenbau wachsen um 10 Prozent

    Bestellungen im Maschinenbau wachsen um 10 Prozent

    Die deutschen Maschinen- und Anlagenbauer melden im April ein Auftragsplus von 10 Prozent. Die Talsohle sei erreicht, kommentiert VDMA-Chefvolkswirt Dr. Ralph Wiechers.

    mehr lesen: Bestellungen im Maschinenbau wachsen um 10 Prozent

  • Klassische und Quanten-Algorithmen in Kombination

    Klassische und Quanten-Algorithmen in Kombination

    Im Rahmen eines Forschungsprojekts kombinieren Classiq und Hewlett Packard Enterprise klassisches High-Performance-Computing (HPC) mit Quantencomputing. Ziel ist es, kombinatorischer Optimierungsprobleme zu lösen.

    mehr lesen: Klassische und Quanten-Algorithmen in Kombination

  • Telekom und Trumpf schließen Vertriebspartnerschaft für 5G-System

    Telekom und Trumpf schließen Vertriebspartnerschaft für 5G-System

    Telekom und Trumpf bauen ihre Zusammenarbeit aus. Im Rahmen einer Vertriebspartnerschaft bieten die Unternehmen etwa ein von Trumpf entwickeltes Ortungssystem an, das von T-Systems auf einer Edge-Cloud bereitgestellt wird.

    mehr lesen: Telekom und Trumpf schließen Vertriebspartnerschaft für 5G-System

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Gründungen auf neuem Tiefststand –  vor allem verarbeitendes Gewerbe betroffen

    Gründungen auf neuem Tiefststand – vor allem verarbeitendes Gewerbe betroffen

    Im Jahr 2018 führten 25 Prozent der jungen Unternehmen im verarbeitenden Gewerbe Marktneuheiten ein. Im aktuellen IAB/ZEW-Gründungspanel ist dieser Wert auf 21 Prozent gesunken. Zudem beobachten die Studienverantwortlichen insgesamt einen…

    mehr lesen: Gründungen auf neuem Tiefststand – vor allem verarbeitendes Gewerbe betroffen

  • Künstliche Intelligenz: Algorithmen und Chips zusammen entwickelt

    Künstliche Intelligenz: Algorithmen und Chips zusammen entwickelt

    Leistungsfähige Mikrochips sind entscheidend für den erfolgreichen Einsatz von künstlicher Intelligenz (KI). Das am Karlsruher Institut für Technologie (KIT) koordinierte Projekt EDAI verfolgt einen neuen Ansatz: Die Forschenden koppeln den…

    mehr lesen: Künstliche Intelligenz: Algorithmen und Chips zusammen entwickelt

  • VDMA-Befragung: Arbeitskräftemangel kostet Umsatz

    VDMA-Befragung: Arbeitskräftemangel kostet Umsatz

    Nur zwei von drei Unternehmen im Maschinenbau können aktuell die Mehrheit ihrer offenen Stellen für Fachkräfte besetzen. Der Arbeitskräftemangel kostet sie nun auch Umsatz.

    mehr lesen: VDMA-Befragung: Arbeitskräftemangel kostet Umsatz

  • Wo Manager zukünftig Cybergefahren sehen

    Wo Manager zukünftig Cybergefahren sehen

    Deutsche und Schweizer C-Level Manager sehen besonders für das Homeoffice Handlungsbedarf, um dort in der Zukunft sensible Daten besser zu schützen. Die Österreicher halten Smart-Building-Technologien für anfällig. Dies zeigen die…

    mehr lesen: Wo Manager zukünftig Cybergefahren sehen

  • Produzenten mit Montage als Teilnehmer gesucht

    Produzenten mit Montage als Teilnehmer gesucht

    Forschende am IPH-Institut für Integrierte Produktion Hannover entwickeln eine Methode, um die Nachhaltigkeit von Automatisierungssystemen zu bewerten und solche Systeme einzuführen. Produzierende Unternehmen können sich am Projekt beteiligen.

    mehr lesen: Produzenten mit Montage als Teilnehmer gesucht

  • Tochterunternehmen Onoff verschmilzt mit SpiraTec

    Tochterunternehmen Onoff verschmilzt mit SpiraTec

    Die Onoff GmbH, eine hundertprozentige Tochterfirma der SpiraTec AG, ist mit der Muttergesellschaft verschmolzen. Die Kombination der Ressourcen, des Knowhows und der Teams soll die Grundlage für die zukünftigen Expansionspläne…

    mehr lesen: Tochterunternehmen Onoff verschmilzt mit SpiraTec

  • Neues Forschungszentrum für die kognitive Produktion entsteht

    Neues Forschungszentrum für die kognitive Produktion entsteht

    Das Fraunhofer-Institut für Werkzeugmaschinen und Umformtechnik IWU hat den Bau des neuen Forschungszentrums begonnen. Im Neubau soll dann an Systemen im Sinn einer kognitiven Produktion geforscht werden. Konkreter ist damit…

    mehr lesen: Neues Forschungszentrum für die kognitive Produktion entsteht

  • 86 Prozent finden DSGVO-Umsetzung schwierig

    86 Prozent finden DSGVO-Umsetzung schwierig

    Für 86 Prozent der Firmen ist es sehr herausfordernd, die DSGVO umzusetzen, ergab eine Umfrage von Piwik Pro. Doch dass Konformität und ihre Marketingaktivitäten vereinbar seien, gaben 90 Prozent der…

    mehr lesen: 86 Prozent finden DSGVO-Umsetzung schwierig