Warum menschenähnliche Chatbots anders beleidigt werden

ec9f24b3 5dde 49be 84c6 576dfb0b4e1b
Bild: ©Karl J. Donath

Chatbots sollen es Internetnutzern leichter machen, benötigte Informationen schnell zu finden, indem sie auf Fragen und Wünsche direkt antworten. Die Reaktionen auf einen Chatbot sind allerdings nicht immer nur positiv: „Wenn ein Chatbot falsche oder verwirrende Antworten gibt, kann dies bei Nutzern Aggressivität gegenüber dem digitalen Gesprächspartner auslösen“, sagt Prof. Alfred Benedikt Brendel, Wirtschaftsinformatiker an der der TU Dresden. Aggressionen gegenüber dem virtuellen Assistenten, wozu etwa auch Beschimpfungen zählen, können auch weitere negative Effekte haben – zum Beispiel auf die Einstellung der User zur Webseite oder dem Anbieter selbst.

In der Studie untersucht das internationale Forschungsteam um Brendel, ob die Gestaltung von Chatbots einen Einfluss darauf hat, wie Nutzer auf unbefriedigende Antworten reagieren. Die Forschenden nehmen an, dass aggressives Verhalten seltener auftritt, wenn ein Chatbot mit menschlichen Attributen versehen wird. „In unseren Experimenten kam bei einem Teil der Befragten ein menschlicher Chatbot zum Einsatz, der mit Namen, Geschlecht und Bild versehen war. Er beantwortete Fragen sehr freundlich und verstärkte seine Botschaften mit passenden Emojis.“ Ein neutraler Chatbot, mit dem ein anderer Teil der Studienteilnehmer interagierte, enthielt hingegen keine dieser Gestaltungselemente.

Die Ergebnisse der Studie zeigen zunächst, dass der menschliche Chatbot generell die Zufriedenheit der Nutzerinnen und Nutzer steigert. Das wiederum reduziert auch das Auftreten von Frustration. Gibt ein Chatbot jedoch unbefriedigende Antworten führt dies entgegen der ursprünglichen Vermutung der Forscher aber auch bei einem Chatbot mit menschlichen Attributen zu Frustration und Aggressivität. Insgesamt zeigen etwa zehn Prozent der Teilnehmer aggressives Verhalten gegenüber den virtuellen Assistenten.

Im Gegensatz zu einem neutralen Chatbot verringert sich bei einem menschlicheren Chatbot allerdings die Intensität des aggressiven Verhaltens. Laut Studie verwendeten User seltener beleidigende Äußerungen, wenn sie mit einem menschlichen Chatbot interagierten. Die Ergebnisse hätten insbesondere für die Praxis weitreichende Konsequenzen, erläutert Alfred Brendel. „Ich würde Softwareentwicklern empfehlen, bei der menschenähnlichen Gestaltung bedacht vorzugehen und genau zu überlegen, welche positiven wie negativen Effekte zusätzliche menschenähnliche Gestaltungselemente wie Geschlecht, Alter oder bestimmte Namen haben können.“



  • Dr. Marianne Janik übernimmt bei Microsoft Deutschland

    Dr. Marianne Janik übernimmt bei Microsoft Deutschland

    Zum 1. November wird Dr. Marianne Janik die Leitung von Microsoft Deutschland von Sabine Bendiek übernehmen, die zu SAP wechseln wird.

    mehr lesen: Dr. Marianne Janik übernimmt bei Microsoft Deutschland

  • Fraunhofer-Außenstelle in Schweinfurt eröffnet

    Fraunhofer-Außenstelle in Schweinfurt eröffnet

    Unter der Überschrift ‘KI-noW‘ (Künstliche Intelligenz (KI) für eine nachhaltig optimierte Wertschöpfung) wollen Forscher des Fraunhofer IPA neueste Erkenntnisse der angewandten Forschung in die industrielle Praxis überführen. Zur Veranschaulichung zeigt…

    mehr lesen: Fraunhofer-Außenstelle in Schweinfurt eröffnet

  • Lagebericht der IT-Sicherheit

    Lagebericht der IT-Sicherheit

    Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat Mitte Oktober seinen Bericht zur Lage der IT-Sicherheit in Deutschland 2020 veröffentlicht. Dazu erklärt Susanne Dehmel, Mitglied der Bitkom-Geschäftsleitung: „Zu Beginn…

    mehr lesen: Lagebericht der IT-Sicherheit

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Cognizant erweitert IoT-Portfolio

    Cognizant erweitert IoT-Portfolio

    Mit der Übernahme des IoT-Spezialisten Bright Wolf, will der IT-Dienstleister Cognizant seine Expertise im Bereich Internet of Things erweitern.

    mehr lesen: Cognizant erweitert IoT-Portfolio

  • Schutz von Workstations

    Schutz von Workstations

    Stormshield erweitert seine Produktpalette mit Endpoint Security Evolution. Dabei handelt es sich um eine Lösung zum Schutz von Workstations, die speziell auf aktuelle Cybersicherheitsprobleme zugeschnitten ist.

    mehr lesen: Schutz von Workstations

  • Schutz industrieller Netzwerke und Automatisierungssysteme

    Schutz industrieller Netzwerke und Automatisierungssysteme

    Die Siemens-Netzwerkkomponenten der Scalance-SC-600-Familie zielen auf den Schutz von industriellen Netzwerken und Automatisierungssystemen durch die Segmentierung des Netzwerkes und sichere Kommunikationskanäle ab. Mit dem neuen Modell Scalance SC622-2C präsentiert der…

    mehr lesen: Schutz industrieller Netzwerke und Automatisierungssysteme

  • Stabilisierung, aber noch kein Ende der Krise

    Stabilisierung, aber noch kein Ende der Krise

    In vielen Ländern Europas scheint sich der Arbeitsmarkt zu stabilisieren. Darauf deuten die Zahlen des Europäischen Arbeitsmarktbarometers hin, das nun erstmals veröffentlicht wurde.

    mehr lesen: Stabilisierung, aber noch kein Ende der Krise

  • GBTEC und Proalpha arbeiten zusammen

    GBTEC und Proalpha arbeiten zusammen

    GBTEC und Proalpha haben angekündigt, zukünftig in den Bereichen Process Mining und Business Intelligence zusammenzuarbeiten. Kunden sollen so einen Mehrwert bei der digitalen Transformation erhalten.

    mehr lesen: GBTEC und Proalpha arbeiten zusammen

  • Mehr Schadprogramme, mehr Digitalisierung

    Mehr Schadprogramme, mehr Digitalisierung

    Mehr als eine Milliarde Schadprogramme verzeichnet das Bundesamt für Sicherheit in der Informationstechnik im aktuellen Lagebericht. Und auch die Corona-Pandemie wirkt sich auf die aktuelle Sicherheitslage aus.

    mehr lesen: Mehr Schadprogramme, mehr Digitalisierung

  • Zwischen digitaler Transformation und steigender Komplexität

    Zwischen digitaler Transformation und steigender Komplexität

    CIOs setzen auf Automatisierung und KI, um wachsende Kluft zwischen begrenzten IT-Ressourcen und steigender Cloud-Komplexität zu überbrücken. Dies geht aus einer Studie von Dynatrace hervor.

    mehr lesen: Zwischen digitaler Transformation und steigender Komplexität

  • Aktuelle Lage verbessert, Erwartungen gehen zurück

    Aktuelle Lage verbessert, Erwartungen gehen zurück

    Die Erwartungen an die wirtschaftliche Entwicklung gehen laut aktueller ZEW-Zahlen im Oktober zurück. Die Einschätzung der aktuellen konjunkturellen Lage hat sich jedoch erneut verbessert.

    mehr lesen: Aktuelle Lage verbessert, Erwartungen gehen zurück