Warum menschenähnliche Chatbots anders beleidigt werden

ec9f24b3 5dde 49be 84c6 576dfb0b4e1b
Bild: ©Karl J. Donath

Chatbots sollen es Internetnutzern leichter machen, benötigte Informationen schnell zu finden, indem sie auf Fragen und Wünsche direkt antworten. Die Reaktionen auf einen Chatbot sind allerdings nicht immer nur positiv: „Wenn ein Chatbot falsche oder verwirrende Antworten gibt, kann dies bei Nutzern Aggressivität gegenüber dem digitalen Gesprächspartner auslösen“, sagt Prof. Alfred Benedikt Brendel, Wirtschaftsinformatiker an der der TU Dresden. Aggressionen gegenüber dem virtuellen Assistenten, wozu etwa auch Beschimpfungen zählen, können auch weitere negative Effekte haben – zum Beispiel auf die Einstellung der User zur Webseite oder dem Anbieter selbst.

In der Studie untersucht das internationale Forschungsteam um Brendel, ob die Gestaltung von Chatbots einen Einfluss darauf hat, wie Nutzer auf unbefriedigende Antworten reagieren. Die Forschenden nehmen an, dass aggressives Verhalten seltener auftritt, wenn ein Chatbot mit menschlichen Attributen versehen wird. „In unseren Experimenten kam bei einem Teil der Befragten ein menschlicher Chatbot zum Einsatz, der mit Namen, Geschlecht und Bild versehen war. Er beantwortete Fragen sehr freundlich und verstärkte seine Botschaften mit passenden Emojis.“ Ein neutraler Chatbot, mit dem ein anderer Teil der Studienteilnehmer interagierte, enthielt hingegen keine dieser Gestaltungselemente.

Die Ergebnisse der Studie zeigen zunächst, dass der menschliche Chatbot generell die Zufriedenheit der Nutzerinnen und Nutzer steigert. Das wiederum reduziert auch das Auftreten von Frustration. Gibt ein Chatbot jedoch unbefriedigende Antworten führt dies entgegen der ursprünglichen Vermutung der Forscher aber auch bei einem Chatbot mit menschlichen Attributen zu Frustration und Aggressivität. Insgesamt zeigen etwa zehn Prozent der Teilnehmer aggressives Verhalten gegenüber den virtuellen Assistenten.

Im Gegensatz zu einem neutralen Chatbot verringert sich bei einem menschlicheren Chatbot allerdings die Intensität des aggressiven Verhaltens. Laut Studie verwendeten User seltener beleidigende Äußerungen, wenn sie mit einem menschlichen Chatbot interagierten. Die Ergebnisse hätten insbesondere für die Praxis weitreichende Konsequenzen, erläutert Alfred Brendel. „Ich würde Softwareentwicklern empfehlen, bei der menschenähnlichen Gestaltung bedacht vorzugehen und genau zu überlegen, welche positiven wie negativen Effekte zusätzliche menschenähnliche Gestaltungselemente wie Geschlecht, Alter oder bestimmte Namen haben können.“



  • Vier neue Vertriebspartner für Universal Robots

    Vier neue Vertriebspartner für Universal Robots

    Universal Robots (UR) baut sein Vertriebsnetz in Deutschland aus. Mit SCS Robotik, JDT Robotics, PTS Automation sowie der Somack sind vier neue Partner hinzugekommen.

    mehr lesen: Vier neue Vertriebspartner für Universal Robots

  • Cyberangriffe gefährden die Digitalisierung

    Cyberangriffe gefährden die Digitalisierung

    Im seinem neuen Lagebericht zur IT-Sicherheit in Deutschland fordert das Bundesamt für Sicherheit in der Informationstechnik der Cybersicherheit eine stärkere Bedeutung beizumessen. Die Gefährdungslage sei hoch, so Bundesinnenminister Horst Seehofer.

    mehr lesen: Cyberangriffe gefährden die Digitalisierung

  • Materialise eröffnet Metall-Kompetenzzentrum für 3D-Druck

    Materialise eröffnet Metall-Kompetenzzentrum für 3D-Druck

    Der 3D-Druck-Spezialist Materialise vergrößert seinen Bremer Standort und hat ein Metall-Kompetenzzentrum für 3D-Druck eröffnet, das künftig 120 Mitarbeitern Platz bieten soll.

    mehr lesen: Materialise eröffnet Metall-Kompetenzzentrum für 3D-Druck

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Moxa und Crosser arbeiten zusammen

    Moxa und Crosser arbeiten zusammen

    Mit dem Ziel Komplettlösungen für das Industrial Internet of Things anbieten zu können, arbeiten Moxa Europe und Crosser zukünftig zusammen. Dazu integriert Moxa den Low-Code-Ansatz von Crosser in seine Lösungen.

    mehr lesen: Moxa und Crosser arbeiten zusammen

  • Neuer Geschäftsführer bei Sage

    Neuer Geschäftsführer bei Sage

    Christoph Stoica verantwortet als neuer Geschäftsführer zukünftig die Landesgesellschaften in Zentraleuropa von Sage. Er übernimmt das Amt zum 1. November.

    mehr lesen: Neuer Geschäftsführer bei Sage

  • Höchstes Budget für Nachhaltigkeit im Maschinenbau

    Höchstes Budget für Nachhaltigkeit im Maschinenbau

    68 Prozent der deutschen Maschinen und Anlagenbauer haben Nachhaltigkeit in der Unternehmensstrategie verankert, 39 Prozent von ihnen – und damit mehr im Vergleich zu anderen Branchen – stellen spezielles Budget…

    mehr lesen: Höchstes Budget für Nachhaltigkeit im Maschinenbau

  • Aras ernennt Roque Martin zum CEO

    Aras ernennt Roque Martin zum CEO

    Roque Martin wird neuer CEO beim Low-Code-Spezialisten Aras. Der bisherige CEO und Unternehmensgründer Peter Schroer wechselt in das Board of Directors.

    mehr lesen: Aras ernennt Roque Martin zum CEO

  • Angriffsflächen-Management verbessert IT-Sicherheit

    Angriffsflächen-Management verbessert IT-Sicherheit

    Unter der digitalen Angriffsfläche versteht man alle Angriffsvektoren, über die ein unautorisierter Nutzer versuchen kann, Daten einzubringen oder zu entwenden.

    mehr lesen: Angriffsflächen-Management verbessert IT-Sicherheit

  • Neuer CEO bei IoT Inspector

    Neuer CEO bei IoT Inspector

    Jan C. Wendenburg übernimmt die Leitung von IoT Inspector der Analyse-Plattform für Sicherheit im Internet der Dinge (IoT). Er kommt von Cergate zum IoT-Spezialisten.

    mehr lesen: Neuer CEO bei IoT Inspector

  • Verbände fordern Schulterschluss zwischen Autobauern und Zulieferern

    Verbände fordern Schulterschluss zwischen Autobauern und Zulieferern

    Die Branchenverbände IBU, IMU, DSV und VDFI sehen in einem gemeinsam veröffentlichten Brandbrief den „Standort Deutschland gefährdet“. Die Lieferkette der Automobilindustrie stehe vor dem Kollaps, heißt es darin.

    mehr lesen: Verbände fordern Schulterschluss zwischen Autobauern und Zulieferern

  • Interaktion zwischen Mensch und KI verbessern

    Interaktion zwischen Mensch und KI verbessern

    Im Forschungsprojekt ’GeMeKI’ entwickelt das Fraunhofer-Institut für Produktiontsechnologie IPT aus Aachen gemeinsam mit elf Partnern drei KI-gestützte Assistenzsysteme für das Fügen, Trennen und Umformen, die komplexes menschliches Expertenwissen in ihre…

    mehr lesen: Interaktion zwischen Mensch und KI verbessern