Warum menschenähnliche Chatbots anders beleidigt werden

ec9f24b3 5dde 49be 84c6 576dfb0b4e1b
Bild: ©Karl J. Donath

Chatbots sollen es Internetnutzern leichter machen, benötigte Informationen schnell zu finden, indem sie auf Fragen und Wünsche direkt antworten. Die Reaktionen auf einen Chatbot sind allerdings nicht immer nur positiv: „Wenn ein Chatbot falsche oder verwirrende Antworten gibt, kann dies bei Nutzern Aggressivität gegenüber dem digitalen Gesprächspartner auslösen“, sagt Prof. Alfred Benedikt Brendel, Wirtschaftsinformatiker an der der TU Dresden. Aggressionen gegenüber dem virtuellen Assistenten, wozu etwa auch Beschimpfungen zählen, können auch weitere negative Effekte haben – zum Beispiel auf die Einstellung der User zur Webseite oder dem Anbieter selbst.

In der Studie untersucht das internationale Forschungsteam um Brendel, ob die Gestaltung von Chatbots einen Einfluss darauf hat, wie Nutzer auf unbefriedigende Antworten reagieren. Die Forschenden nehmen an, dass aggressives Verhalten seltener auftritt, wenn ein Chatbot mit menschlichen Attributen versehen wird. „In unseren Experimenten kam bei einem Teil der Befragten ein menschlicher Chatbot zum Einsatz, der mit Namen, Geschlecht und Bild versehen war. Er beantwortete Fragen sehr freundlich und verstärkte seine Botschaften mit passenden Emojis.“ Ein neutraler Chatbot, mit dem ein anderer Teil der Studienteilnehmer interagierte, enthielt hingegen keine dieser Gestaltungselemente.

Die Ergebnisse der Studie zeigen zunächst, dass der menschliche Chatbot generell die Zufriedenheit der Nutzerinnen und Nutzer steigert. Das wiederum reduziert auch das Auftreten von Frustration. Gibt ein Chatbot jedoch unbefriedigende Antworten führt dies entgegen der ursprünglichen Vermutung der Forscher aber auch bei einem Chatbot mit menschlichen Attributen zu Frustration und Aggressivität. Insgesamt zeigen etwa zehn Prozent der Teilnehmer aggressives Verhalten gegenüber den virtuellen Assistenten.

Im Gegensatz zu einem neutralen Chatbot verringert sich bei einem menschlicheren Chatbot allerdings die Intensität des aggressiven Verhaltens. Laut Studie verwendeten User seltener beleidigende Äußerungen, wenn sie mit einem menschlichen Chatbot interagierten. Die Ergebnisse hätten insbesondere für die Praxis weitreichende Konsequenzen, erläutert Alfred Brendel. „Ich würde Softwareentwicklern empfehlen, bei der menschenähnlichen Gestaltung bedacht vorzugehen und genau zu überlegen, welche positiven wie negativen Effekte zusätzliche menschenähnliche Gestaltungselemente wie Geschlecht, Alter oder bestimmte Namen haben können.“



  • IAB-Arbeitsmarktbarometer legt weiter zu

    IAB-Arbeitsmarktbarometer legt weiter zu

    Der Frühindikator des Instituts für Arbeitsmarkt- und Berufsforschung (IAB) setzt seine trendmäßige Verbesserung im März fort. Das Arbeitsmarktbarometer klettert um 0,4 Punkte auf nun 100,6 Punkte und erreicht damit den…

    mehr lesen: IAB-Arbeitsmarktbarometer legt weiter zu

  • IT-Anwender mit der Digitalisierung ‚einigermaßen zufrieden‘

    IT-Anwender mit der Digitalisierung ‚einigermaßen zufrieden‘

    Wie bewerten IT-Entscheider den Stand der Digitalisierung in Deutschland? Dieser Frage geht der CIO-Barometer des IT-Anwenderverbands Voice nach. Demnach werden vor allem interne Faktoren positiv bewertet. Die externen Rahmenbedingungen kommen…

    mehr lesen: IT-Anwender mit der Digitalisierung ‚einigermaßen zufrieden‘

  • Neue Finance Vice President DACH bei Schneider Electric

    Neue Finance Vice President DACH bei Schneider Electric

    Seit Februar ist Elisabeth Skorna neue Finance Vice President DACH des Tech-Konzerns. Zusätzlich ist sie Teil des DACH-Managementteams. Skorna ist in ihrer neuen Position für die strategische Finanz- und Budgetplanung…

    mehr lesen: Neue Finance Vice President DACH bei Schneider Electric

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • IoT-Einsatz steigt sprunghaft an

    IoT-Einsatz steigt sprunghaft an

    Nach Angaben der Eclipse Foundation verzeichnete die IoT-Einführung im Jahr 2023 einen sprunghaft Anstieg. 64 Prozent der insgesamt Befragten setzen mittlerweile entsprechende Lösungen ein – ein Plus von 11 Prozentpunkten.

    mehr lesen: IoT-Einsatz steigt sprunghaft an

  • Fraunhofer IWU erprobt wasserstoffbasierte Energiesysteme

    Fraunhofer IWU erprobt wasserstoffbasierte Energiesysteme

    In der Forschungsfabrik am Fraunhofer Institut für Werkzeugmaschinen und Umformtechnik IWU wird an einer energie- und ressourceneffizienten Produktion gearbeitet. Das dortige Wasserstoff-Kraftwerk soll Impulse zur dezentralen, stationären Energieversorgung von Fabriken…

    mehr lesen: Fraunhofer IWU erprobt wasserstoffbasierte Energiesysteme

  • BSI schult Dienstleister für den CyberRisikoCheck

    BSI schult Dienstleister für den CyberRisikoCheck

    Um kleine und mittlere Unternehmen (KMU) beim Thema Cybersicherheit zu unterstützen, hat das Bundesamt für Sicherheit in der Informationstechnik (BSI) gemeinsam mit Partnern den CyberRisikoCheck entwickelt. Er bietet KMU eine…

    mehr lesen: BSI schult Dienstleister für den CyberRisikoCheck

  • Logimat mit Besucherwachstum

    Logimat mit Besucherwachstum

    Die Logimat 2024 ist vorüber und laut Veranstalter Euroexpo kamen mehr Besucher und mehr Aussteller – hier etwa jeder Dritte aus dem Ausland – nach Stuttgart.

    mehr lesen: Logimat mit Besucherwachstum

  • Copa-Data Deutschland wird 25

    Copa-Data Deutschland wird 25

    2024 wird für Copa-Data Deutschland zum Jubiläumsjahr: Seit 1999 ist die Tochter des österreichischen Softwareanbieters in der Bundesrepublik aktiv.

    mehr lesen: Copa-Data Deutschland wird 25

  • Anzeige
    Zukunft Anlagenbau: Kollaboration in digitalen Workflows

    Zukunft Anlagenbau: Kollaboration in digitalen Workflows

    Im Zuge der digitalen Transformation sehen sich Planer, Anlagenbauer und Betreiber im Steuerungs- und Schaltanlagenbau mit der Herausforderung konfrontiert, die Kollaboration innerhalb digitaler Workflows neu zu definieren.

    mehr lesen: Zukunft Anlagenbau: Kollaboration in digitalen Workflows

  • Ifo Geschäftsklimaindex steigt

    Ifo Geschäftsklimaindex steigt

    Ist das der Silberstreif am Horizont? Zumindest hellt sich die Stimmung der Wirtschaft im aktuellen Ifo Geschäftsklimaindex auf. Der Indexwert steigt um 2 Punkte.

    mehr lesen: Ifo Geschäftsklimaindex steigt

  • KI-gestützte Verfahren verbessern Molekülforschung

    KI-gestützte Verfahren verbessern Molekülforschung

    Das Fraunhofer-Institut für Integrierte Schaltungen IIS startet gemeinsam mit der Universität Augsburg im Rahmen des Munich-Quantum-Valleys das Projekt KID-QC^2. Ziel ist es, durch die Erforschung von Methoden der künstlichen Intelligenz…

    mehr lesen: KI-gestützte Verfahren verbessern Molekülforschung