Warum menschenähnliche Chatbots anders beleidigt werden

ec9f24b3 5dde 49be 84c6 576dfb0b4e1b
Bild: ©Karl J. Donath

Chatbots sollen es Internetnutzern leichter machen, benötigte Informationen schnell zu finden, indem sie auf Fragen und Wünsche direkt antworten. Die Reaktionen auf einen Chatbot sind allerdings nicht immer nur positiv: „Wenn ein Chatbot falsche oder verwirrende Antworten gibt, kann dies bei Nutzern Aggressivität gegenüber dem digitalen Gesprächspartner auslösen“, sagt Prof. Alfred Benedikt Brendel, Wirtschaftsinformatiker an der der TU Dresden. Aggressionen gegenüber dem virtuellen Assistenten, wozu etwa auch Beschimpfungen zählen, können auch weitere negative Effekte haben – zum Beispiel auf die Einstellung der User zur Webseite oder dem Anbieter selbst.

In der Studie untersucht das internationale Forschungsteam um Brendel, ob die Gestaltung von Chatbots einen Einfluss darauf hat, wie Nutzer auf unbefriedigende Antworten reagieren. Die Forschenden nehmen an, dass aggressives Verhalten seltener auftritt, wenn ein Chatbot mit menschlichen Attributen versehen wird. „In unseren Experimenten kam bei einem Teil der Befragten ein menschlicher Chatbot zum Einsatz, der mit Namen, Geschlecht und Bild versehen war. Er beantwortete Fragen sehr freundlich und verstärkte seine Botschaften mit passenden Emojis.“ Ein neutraler Chatbot, mit dem ein anderer Teil der Studienteilnehmer interagierte, enthielt hingegen keine dieser Gestaltungselemente.

Die Ergebnisse der Studie zeigen zunächst, dass der menschliche Chatbot generell die Zufriedenheit der Nutzerinnen und Nutzer steigert. Das wiederum reduziert auch das Auftreten von Frustration. Gibt ein Chatbot jedoch unbefriedigende Antworten führt dies entgegen der ursprünglichen Vermutung der Forscher aber auch bei einem Chatbot mit menschlichen Attributen zu Frustration und Aggressivität. Insgesamt zeigen etwa zehn Prozent der Teilnehmer aggressives Verhalten gegenüber den virtuellen Assistenten.

Im Gegensatz zu einem neutralen Chatbot verringert sich bei einem menschlicheren Chatbot allerdings die Intensität des aggressiven Verhaltens. Laut Studie verwendeten User seltener beleidigende Äußerungen, wenn sie mit einem menschlichen Chatbot interagierten. Die Ergebnisse hätten insbesondere für die Praxis weitreichende Konsequenzen, erläutert Alfred Brendel. „Ich würde Softwareentwicklern empfehlen, bei der menschenähnlichen Gestaltung bedacht vorzugehen und genau zu überlegen, welche positiven wie negativen Effekte zusätzliche menschenähnliche Gestaltungselemente wie Geschlecht, Alter oder bestimmte Namen haben können.“



  • Wie kann ein passendes Produkt-Service-System aussehen?

    Wie kann ein passendes Produkt-Service-System aussehen?

    Die Grenze zwischen Produkt und ergänzender Dienstleistung verschwimmen zunehmend und produzierende Unternehmen vollziehen den Wandel vom Produkt- zum Service- bzw. Lösungsanbieter. Wie sich solche sogenannten Produkt-Service-Systeme (PSS) entwickeln und damit…

    mehr lesen: Wie kann ein passendes Produkt-Service-System aussehen?

  • Sinkendes Vertrauen unter Cyberkriminellen

    Sinkendes Vertrauen unter Cyberkriminellen

    Der IT-Security-Anbieter Trend Micro hat Erkenntnisse zu cyberkriminellen Aktivitäten sowie dem Handel mit Produkten und Dienstleistungen im Cyberuntergrund veröffentlicht.

    mehr lesen: Sinkendes Vertrauen unter Cyberkriminellen

  • Unternehmen mit steigenden Erwartungen

    Unternehmen mit steigenden Erwartungen

    Nach dem Rückgang im vergangenen Monat legt der Ifo-Geschäftsklimaindex im Mai wieder zu. Dabei haben sich vor allem die Erwartungen für die kommenden Monate verbessert.

    mehr lesen: Unternehmen mit steigenden Erwartungen

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • PLM-Lösungen im Vergleich

    PLM-Lösungen im Vergleich

    Im Marktspiegel ‘Business Software PLM/PDM 2020/2021‘ werden mehr als 40 PLM-Lösungen hinsichtlich ihrer Funktionen untersucht.

    mehr lesen: PLM-Lösungen im Vergleich

  • „Das hohe Maß an Flexibilität und Kreativität sollte uns positiv in die Zukunft blicken lassen“

    „Das hohe Maß an Flexibilität und Kreativität sollte uns positiv in die Zukunft blicken lassen“

    Die Corona-Krise stellt die Globalisierung auf den Prüfstand. Für VDI-Präsident Volker Kefer ist die Situation Herausforderung und Chance zugleich. Im Interview spricht er über die Lage des Technikstandorts Deutschland heute…

    mehr lesen: „Das hohe Maß an Flexibilität und Kreativität sollte uns positiv in die Zukunft blicken lassen“

  • Die digitale Version der XR Expo geht online

    Die digitale Version der XR Expo geht online

    Ab sofort können sich Aussteller und Besucher auf einer digitalen Plattform für die XR Expo Virtual 2020 am 25. und 26. Juni registrieren.

    mehr lesen: Die digitale Version der XR Expo geht online

  • Vernetzte Systeme im Vorfeld testen

    Vernetzte Systeme im Vorfeld testen

    Wechselnde Umgebungsbedingungen durch Ad-hoc-Vernetzung, ständige Rekonfigurationen bedingt durch kleine Losgrößen und Softwareupdates im Feld sind Indikatoren dafür, dass das Testen von Systemen im laufenden Betrieb zunehmend an Bedeutung gewinnt. Um…

    mehr lesen: Vernetzte Systeme im Vorfeld testen

  • Unternehmen gewichten Technologie und Qualifizierung gleich

    Unternehmen gewichten Technologie und Qualifizierung gleich

    Unternehmen mit KI-Projekten sind dann am erfolgreichsten, wenn die Qualifizierung der eigenen Mitarbeiter den gleichen Stellenwert wie Investitionen in intelligente Technologien hat. Dazu gehört auch das Schaffen einer Lernkultur, die…

    mehr lesen: Unternehmen gewichten Technologie und Qualifizierung gleich

  • Wie ist der Stand der Industrie 4.0?

    Wie ist der Stand der Industrie 4.0?

    Von Februar bis April befragte der Digitalverband Bitkom Industrieunternehmen nach dem Stand der Digitalisierung. Im Vergleich zur Studie von vor zwei Jahren zeigt sich eine positive Entwicklung.

    mehr lesen: Wie ist der Stand der Industrie 4.0?

  • Weniger Ausfuhren, Entspannungstendenzen aus China

    Weniger Ausfuhren, Entspannungstendenzen aus China

    Aufgrund der Corona-Pandemie sind die Exporte der deutschen Maschinenbauer im ersten Quartal gesunken — im Vergleich zum Vorjahr um 6,6 Prozent.

    mehr lesen: Weniger Ausfuhren, Entspannungstendenzen aus China

  • Unternehmen wollen nach Corona digitaler werden

    Unternehmen wollen nach Corona digitaler werden

    63 Prozent der KMU rechnen laut einer McKinsey-Befragung mit einem Umsatzrückgang im aktuellen Quartal. Dennoch blicken 77 Prozent nach wie vor positiv in die Zukunft.

    mehr lesen: Unternehmen wollen nach Corona digitaler werden