Warum menschenähnliche Chatbots anders beleidigt werden

ec9f24b3 5dde 49be 84c6 576dfb0b4e1b
Bild: ©Karl J. Donath

Chatbots sollen es Internetnutzern leichter machen, benötigte Informationen schnell zu finden, indem sie auf Fragen und Wünsche direkt antworten. Die Reaktionen auf einen Chatbot sind allerdings nicht immer nur positiv: „Wenn ein Chatbot falsche oder verwirrende Antworten gibt, kann dies bei Nutzern Aggressivität gegenüber dem digitalen Gesprächspartner auslösen“, sagt Prof. Alfred Benedikt Brendel, Wirtschaftsinformatiker an der der TU Dresden. Aggressionen gegenüber dem virtuellen Assistenten, wozu etwa auch Beschimpfungen zählen, können auch weitere negative Effekte haben – zum Beispiel auf die Einstellung der User zur Webseite oder dem Anbieter selbst.

In der Studie untersucht das internationale Forschungsteam um Brendel, ob die Gestaltung von Chatbots einen Einfluss darauf hat, wie Nutzer auf unbefriedigende Antworten reagieren. Die Forschenden nehmen an, dass aggressives Verhalten seltener auftritt, wenn ein Chatbot mit menschlichen Attributen versehen wird. „In unseren Experimenten kam bei einem Teil der Befragten ein menschlicher Chatbot zum Einsatz, der mit Namen, Geschlecht und Bild versehen war. Er beantwortete Fragen sehr freundlich und verstärkte seine Botschaften mit passenden Emojis.“ Ein neutraler Chatbot, mit dem ein anderer Teil der Studienteilnehmer interagierte, enthielt hingegen keine dieser Gestaltungselemente.

Die Ergebnisse der Studie zeigen zunächst, dass der menschliche Chatbot generell die Zufriedenheit der Nutzerinnen und Nutzer steigert. Das wiederum reduziert auch das Auftreten von Frustration. Gibt ein Chatbot jedoch unbefriedigende Antworten führt dies entgegen der ursprünglichen Vermutung der Forscher aber auch bei einem Chatbot mit menschlichen Attributen zu Frustration und Aggressivität. Insgesamt zeigen etwa zehn Prozent der Teilnehmer aggressives Verhalten gegenüber den virtuellen Assistenten.

Im Gegensatz zu einem neutralen Chatbot verringert sich bei einem menschlicheren Chatbot allerdings die Intensität des aggressiven Verhaltens. Laut Studie verwendeten User seltener beleidigende Äußerungen, wenn sie mit einem menschlichen Chatbot interagierten. Die Ergebnisse hätten insbesondere für die Praxis weitreichende Konsequenzen, erläutert Alfred Brendel. „Ich würde Softwareentwicklern empfehlen, bei der menschenähnlichen Gestaltung bedacht vorzugehen und genau zu überlegen, welche positiven wie negativen Effekte zusätzliche menschenähnliche Gestaltungselemente wie Geschlecht, Alter oder bestimmte Namen haben können.“



  • Der AI Act im Überblick

    Der AI Act im Überblick

    Die Europäische Union (EU) hat mit dem AI Act ein transnationales Regelwerk für einen sicheren und vertrauenswürdigen Einsatz von KI verabschiedet. Was genau in der Verordnung ausgeführt ist, welche Chancen…

    mehr lesen: Der AI Act im Überblick

  • Phoenix Contact: Dirk Görlitzer folgt auf Frank Stührenberg

    Phoenix Contact: Dirk Görlitzer folgt auf Frank Stührenberg

    Frank Stührenberg übergibt den Vorsitz der Geschäftsführung von Phoenix Contact an Dirk Görlitzer. Bis zum Ausscheiden Stührenbergs zum Jahresende 2024 teilen sich beide den den Posten.

    mehr lesen: Phoenix Contact: Dirk Görlitzer folgt auf Frank Stührenberg

  • Anstieg der Kurzarbeit in der Industrie gestoppt

    Anstieg der Kurzarbeit in der Industrie gestoppt

    Die deutsche Industrie hat im Winterhalbjahr wieder vermehrt Kurzarbeit gefahren. Laut Ifo Institut ist in den nächsten Monaten zwar mit einem erhöhten Niveau zu rechnen, eine weitere Verschärfung zeichnet sich…

    mehr lesen: Anstieg der Kurzarbeit in der Industrie gestoppt

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Wenn Excel-Listen etwas vorgaukeln

    Wenn Excel-Listen etwas vorgaukeln

    „Manipulierte Phantomzahlen in Excel können über Jahre hinweg ein florierendes Unternehmen vorgaukeln, das in Wahrheit kurz vor der Insolvenz steht“, sagt Jane Enny van Lambalgen. Die CEO von Planet Industrial…

    mehr lesen: Wenn Excel-Listen etwas vorgaukeln

  • NTT Data erwirbt Mehrheitsbeteiligung an ProvenTech

    NTT Data erwirbt Mehrheitsbeteiligung an ProvenTech

    Mit einer Mehrheitsbeteiligung an ProvenTech will NTT Data seine Marktreichweite im Bereich Life Sciences steigern. Das indische Unternehmen beschäftigt rund 350 Mitarbeiter.

    mehr lesen: NTT Data erwirbt Mehrheitsbeteiligung an ProvenTech

  • Ein Exoskelett für das Raumfahrttraining

    Ein Exoskelett für das Raumfahrttraining

    Bei Weltraummissionen werden Astronautinnen und Astronauten oft mit feinmotorischen Aufgaben wie Reparaturen oder Experimenten konfrontiert, die durch die Schwerelosigkeit im All erschwert werden.

    mehr lesen: Ein Exoskelett für das Raumfahrttraining

  • MKG wird Teil von Proalpha

    MKG wird Teil von Proalpha

    Proalpha übernimmt das Unternehmen MKG. Der niederländische ERP-Anbieter ist im Bereich der metallverarbeitenden Industrie tätig.

    mehr lesen: MKG wird Teil von Proalpha

  • Augenlicht aus dem 3D-Drucker

    Augenlicht aus dem 3D-Drucker

    Noch während der Operation eine neue Hornhaut ausdrucken und damit die Sehfunktion wiederherstellen: Diesen Schritt im Kampf gegen Hornhauterkrankungen soll künftig ein laserbasiertes Verfahren mit maßgeschneiderter Biotinte ermöglichen. Entwickelt haben…

    mehr lesen: Augenlicht aus dem 3D-Drucker

  • Die passende Software finden

    Die passende Software finden

    ’Mehrwert durch Software’ heißt der neue Branchenführer der VDMA-Gruppe Software und Digitalisierung. Der Branchenführer steht ab sofort zum Download bereit.

    mehr lesen: Die passende Software finden

  • PSI besetzt CTO-Posten mit Erol Bozak

    PSI besetzt CTO-Posten mit Erol Bozak

    Der Softwarehersteller PSI verstärkt das Management im Bereich Technologie und Entwicklung und ernennt Erol Bozak zum CTO.

    mehr lesen: PSI besetzt CTO-Posten mit Erol Bozak

  • Snowflake-Kunden im Visier von Cyberkriminellen

    Snowflake-Kunden im Visier von Cyberkriminellen

    Wie der Security-Spezialist Mandiant berichtet, haben es Bedrohungsakteure auf Kunden des Cloud-Anbieters Snowflake abgesehen. Die Unternehmen raten dazu, die Multi-Faktor-Authentifizierung zu aktivieren.

    mehr lesen: Snowflake-Kunden im Visier von Cyberkriminellen