Warum menschenähnliche Chatbots anders beleidigt werden

ec9f24b3 5dde 49be 84c6 576dfb0b4e1b
Bild: ©Karl J. Donath

Chatbots sollen es Internetnutzern leichter machen, benötigte Informationen schnell zu finden, indem sie auf Fragen und Wünsche direkt antworten. Die Reaktionen auf einen Chatbot sind allerdings nicht immer nur positiv: „Wenn ein Chatbot falsche oder verwirrende Antworten gibt, kann dies bei Nutzern Aggressivität gegenüber dem digitalen Gesprächspartner auslösen“, sagt Prof. Alfred Benedikt Brendel, Wirtschaftsinformatiker an der der TU Dresden. Aggressionen gegenüber dem virtuellen Assistenten, wozu etwa auch Beschimpfungen zählen, können auch weitere negative Effekte haben – zum Beispiel auf die Einstellung der User zur Webseite oder dem Anbieter selbst.

In der Studie untersucht das internationale Forschungsteam um Brendel, ob die Gestaltung von Chatbots einen Einfluss darauf hat, wie Nutzer auf unbefriedigende Antworten reagieren. Die Forschenden nehmen an, dass aggressives Verhalten seltener auftritt, wenn ein Chatbot mit menschlichen Attributen versehen wird. „In unseren Experimenten kam bei einem Teil der Befragten ein menschlicher Chatbot zum Einsatz, der mit Namen, Geschlecht und Bild versehen war. Er beantwortete Fragen sehr freundlich und verstärkte seine Botschaften mit passenden Emojis.“ Ein neutraler Chatbot, mit dem ein anderer Teil der Studienteilnehmer interagierte, enthielt hingegen keine dieser Gestaltungselemente.

Die Ergebnisse der Studie zeigen zunächst, dass der menschliche Chatbot generell die Zufriedenheit der Nutzerinnen und Nutzer steigert. Das wiederum reduziert auch das Auftreten von Frustration. Gibt ein Chatbot jedoch unbefriedigende Antworten führt dies entgegen der ursprünglichen Vermutung der Forscher aber auch bei einem Chatbot mit menschlichen Attributen zu Frustration und Aggressivität. Insgesamt zeigen etwa zehn Prozent der Teilnehmer aggressives Verhalten gegenüber den virtuellen Assistenten.

Im Gegensatz zu einem neutralen Chatbot verringert sich bei einem menschlicheren Chatbot allerdings die Intensität des aggressiven Verhaltens. Laut Studie verwendeten User seltener beleidigende Äußerungen, wenn sie mit einem menschlichen Chatbot interagierten. Die Ergebnisse hätten insbesondere für die Praxis weitreichende Konsequenzen, erläutert Alfred Brendel. „Ich würde Softwareentwicklern empfehlen, bei der menschenähnlichen Gestaltung bedacht vorzugehen und genau zu überlegen, welche positiven wie negativen Effekte zusätzliche menschenähnliche Gestaltungselemente wie Geschlecht, Alter oder bestimmte Namen haben können.“



  • Neue Vice President Channel & Marketing bei Schneider Electric DACH

    Neue Vice President Channel & Marketing bei Schneider Electric DACH

    Mit der Zusammenlegung von Marketing und Channel-Organisation stellt Schneider Electric die Kommunikationsarbeit in der DACH-Region neu auf.

    mehr lesen: Neue Vice President Channel & Marketing bei Schneider Electric DACH

  • Erwerbstätige sind beim KI-Einsatz geteilter Meinung

    Erwerbstätige sind beim KI-Einsatz geteilter Meinung

    Rund die Hälfte der vom Branchenverband Bitkom befragten Erwerbstätigen würde Routineaufgabe an eine KI abgeben. Die andere Hälfte lehnt dies jedoch ab. Zudem sehen nur wenige der Befragten keinerlei Nachteile…

    mehr lesen: Erwerbstätige sind beim KI-Einsatz geteilter Meinung

  • Technologiemonitor weist Weg zur klimaneutralen Produktion

    Technologiemonitor weist Weg zur klimaneutralen Produktion

    Fraunhofer IAO und IPA sowie das IAT und EEP der Universität Stuttgart haben gemeinsam mit der Umwelttechnik BW in Stuttgart eine Studie vorgestellt: Die ’Roadmap Klimaneutrale Produktion’ soll Unternehmen in…

    mehr lesen: Technologiemonitor weist Weg zur klimaneutralen Produktion

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Autobauer sehen sich im Aufwind

    Autobauer sehen sich im Aufwind

    Die deutschen Autobauer blicken wieder zuversichtlicher auf die kommenden Monate. Laut aktueller Zahlen des Ifo Instituts fallen vor allem die Exportaussichten positiv auf.

    mehr lesen: Autobauer sehen sich im Aufwind

  • Deutsche Fertiger setzen vermehrt auf KI

    Deutsche Fertiger setzen vermehrt auf KI

    Rockwell Automation liefert in der neunten Ausgabe des ’State of Smart Manufacturing’-Reports Einblicke in Trends, Herausforderungen und Pläne für Hersteller. Demnach ist künstliche Intelligenz in der Fertigung angekommen.

    mehr lesen: Deutsche Fertiger setzen vermehrt auf KI

  • Silo AI und AppliedAI wollen KI-Ökosystem aufbauen

    Silo AI und AppliedAI wollen KI-Ökosystem aufbauen

    Die KI-Initiative AppliedAI startet eine Partnerschaft mit dem privaten KI-Labor Silo AI. Die Partner wollen ein europäisches Ökosystem zur KI-Implementierung aufbauen und Unternehmen damit eine Anlaufstelle bieten.

    mehr lesen: Silo AI und AppliedAI wollen KI-Ökosystem aufbauen

  • Auftragseingang im Maschinenbau: Flaute hält an

    Auftragseingang im Maschinenbau: Flaute hält an

    Auch im Februar sind die Bestellungen im Maschinen- und Anlagenbau prozentual zweistellig gesunken: Die Auftragseingänge blieben abermals um real 10% unter dem Vorjahresniveau.

    mehr lesen: Auftragseingang im Maschinenbau: Flaute hält an

  • Drei Prokuristen für Knapp Systemintegration

    Drei Prokuristen für Knapp Systemintegration

    Ab April unterstützen Gerald Rosspeintner, Thomas Pötsch und Werner Lichtenegger als Prokuristen die Geschäftsleitung von Knapp Systemintegration in Loeben.

    mehr lesen: Drei Prokuristen für Knapp Systemintegration

  • Christoph Kull wird President ERP+ bei Proalpha

    Christoph Kull wird President ERP+ bei Proalpha

    Proalpha strukturiert das Führungsteam der ERP Business Unit neu und ernennt Christoph Kull zum President ERP+. Er berichtet an CEO Eric Verniaut.

    mehr lesen: Christoph Kull wird President ERP+ bei Proalpha

  • Horváth-Studie untersucht KI-Standortfaktoren für Deutschland

    Horváth-Studie untersucht KI-Standortfaktoren für Deutschland

    95 Prozent der 102 von Horváth befragten Führungskräfte sprechen sich in der Studie für staatliche Unterstützung beim Ausbau von Studiengängen und ähnlichen Weiterbildungsformen mit KI-Schwerpunkten aus.

    mehr lesen: Horváth-Studie untersucht KI-Standortfaktoren für Deutschland

  • VDMA gründet Forum Manufacturing-X

    VDMA gründet Forum Manufacturing-X

    Mit der Gründung des Forums Manufacturing-X will der VDMA sämtliche Aktivitäten zu diesem Thema in Richtung seiner Mitgliedsunternehmen und Stakeholder bündeln und koordinieren. Die Arbeit des Forums fußt dabei auf…

    mehr lesen: VDMA gründet Forum Manufacturing-X