Warum menschenähnliche Chatbots anders beleidigt werden

ec9f24b3 5dde 49be 84c6 576dfb0b4e1b
Bild: ©Karl J. Donath

Chatbots sollen es Internetnutzern leichter machen, benötigte Informationen schnell zu finden, indem sie auf Fragen und Wünsche direkt antworten. Die Reaktionen auf einen Chatbot sind allerdings nicht immer nur positiv: „Wenn ein Chatbot falsche oder verwirrende Antworten gibt, kann dies bei Nutzern Aggressivität gegenüber dem digitalen Gesprächspartner auslösen“, sagt Prof. Alfred Benedikt Brendel, Wirtschaftsinformatiker an der der TU Dresden. Aggressionen gegenüber dem virtuellen Assistenten, wozu etwa auch Beschimpfungen zählen, können auch weitere negative Effekte haben – zum Beispiel auf die Einstellung der User zur Webseite oder dem Anbieter selbst.

In der Studie untersucht das internationale Forschungsteam um Brendel, ob die Gestaltung von Chatbots einen Einfluss darauf hat, wie Nutzer auf unbefriedigende Antworten reagieren. Die Forschenden nehmen an, dass aggressives Verhalten seltener auftritt, wenn ein Chatbot mit menschlichen Attributen versehen wird. „In unseren Experimenten kam bei einem Teil der Befragten ein menschlicher Chatbot zum Einsatz, der mit Namen, Geschlecht und Bild versehen war. Er beantwortete Fragen sehr freundlich und verstärkte seine Botschaften mit passenden Emojis.“ Ein neutraler Chatbot, mit dem ein anderer Teil der Studienteilnehmer interagierte, enthielt hingegen keine dieser Gestaltungselemente.

Die Ergebnisse der Studie zeigen zunächst, dass der menschliche Chatbot generell die Zufriedenheit der Nutzerinnen und Nutzer steigert. Das wiederum reduziert auch das Auftreten von Frustration. Gibt ein Chatbot jedoch unbefriedigende Antworten führt dies entgegen der ursprünglichen Vermutung der Forscher aber auch bei einem Chatbot mit menschlichen Attributen zu Frustration und Aggressivität. Insgesamt zeigen etwa zehn Prozent der Teilnehmer aggressives Verhalten gegenüber den virtuellen Assistenten.

Im Gegensatz zu einem neutralen Chatbot verringert sich bei einem menschlicheren Chatbot allerdings die Intensität des aggressiven Verhaltens. Laut Studie verwendeten User seltener beleidigende Äußerungen, wenn sie mit einem menschlichen Chatbot interagierten. Die Ergebnisse hätten insbesondere für die Praxis weitreichende Konsequenzen, erläutert Alfred Brendel. „Ich würde Softwareentwicklern empfehlen, bei der menschenähnlichen Gestaltung bedacht vorzugehen und genau zu überlegen, welche positiven wie negativen Effekte zusätzliche menschenähnliche Gestaltungselemente wie Geschlecht, Alter oder bestimmte Namen haben können.“



  • Eine Matte gegen Haltungsschäden

    Eine Matte gegen Haltungsschäden

    Wissenschaftler vom Fraunhofer-Institut für Produktionstechnik und Automatisierung IPA haben in Zusammenarbeit mit der Isoloc Schwingungstechnik GmbH eine Sensormatte für Steharbeitsplätze entwickelt. Sie erfasst die Fußposition eines Mitarbeiters und erkennt Gewichtsverlagerungen.

    mehr lesen: Eine Matte gegen Haltungsschäden

  • Verschlüsselungskomponenten, die Angreifern ausweichen

    Verschlüsselungskomponenten, die Angreifern ausweichen

    Verschlüsselungssoftware spielt auf dem Weg zu mehr Datenschutz eine wichtige Rolle, doch können Computersysteme auch auf physikalischem Wege angegriffen werden. Durch das Abfangen von Stromschwankungen oder das Auslösen von Fehlern…

    mehr lesen: Verschlüsselungskomponenten, die Angreifern ausweichen

  • Unternehmen sehen Notwendigkeit für mehr IoT-Sicherheit

    Unternehmen sehen Notwendigkeit für mehr IoT-Sicherheit

    Das Internet der Dinge ist für viele Unternehmen in Deutschland sowohl eine Chance als auch ein Risiko, so das Ergebnis einer aktuellen Studie im Auftrag von Palo Alto Networks.

    mehr lesen: Unternehmen sehen Notwendigkeit für mehr IoT-Sicherheit

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Gaia-X-Mitglieder unterzeichnen Gründungsurkunde

    Gaia-X-Mitglieder unterzeichnen Gründungsurkunde

    Die Gründungsmitglieder der Gaia-X-Initiative haben die Gründungsurkunden zur Gaia-X AISBL unterzeichnet. Interessierte Unternehmen und Initiativen sind aufgerufen, sich an der gemeinnützigen Vereinigung zu beteiligen.

    mehr lesen: Gaia-X-Mitglieder unterzeichnen Gründungsurkunde

  • TÜV-Verband fordert Regulierung von KI-Anwendungen

    TÜV-Verband fordert Regulierung von KI-Anwendungen

    Der TÜV-Verband fordert in einem Positionspapier KI-gestützte Anwendungen und Systeme — etwa automatisierte Fahrzeuge oder Roboter — in Abhängigkeit vom Risiko zu regulieren.

    mehr lesen: TÜV-Verband fordert Regulierung von KI-Anwendungen

  • Was es bei der Container-Nutzung zu beachten gilt

    Was es bei der Container-Nutzung zu beachten gilt

    Die Nutzung von Containertechnologien steigt, was aber gilt es bei der Auswahl zu beachten? Der Software-Entwickler Red Hat gibt Antworten darauf.

    mehr lesen: Was es bei der Container-Nutzung zu beachten gilt

  • Kulturelle Werte ebenso wichtig wie die technologische Innovation

    Kulturelle Werte ebenso wichtig wie die technologische Innovation

    Wenn Unternehmen Digitalisierungsprojekte angehen, tun sie dies oft mit einem externen Partner. Die Frage ist nur mit welchem? IFS hat in einer Studie ermittelt, welche Faktoren bei der Auswahl eine…

    mehr lesen: Kulturelle Werte ebenso wichtig wie die technologische Innovation

  • Software-as-a-Service für die Fertigung

    Software-as-a-Service für die Fertigung

    Die Komplexität des Maschinenparks erschwert es oft, geeignete Parameter für den optimalen Betrieb zu definieren. Hier kommt das Startup FactoryPal ins Spiel, das mit seiner KI-basierten Lösung Abhilfe schaffen will.

    mehr lesen: Software-as-a-Service für die Fertigung

  • Karl Tucholski ist Head of Business Development bei Prime Computer

    Karl Tucholski ist Head of Business Development bei Prime Computer

    Karl Tucholski ist neuer Head of Business Development bei Prime Computer für Deutschland und Österreich.

    mehr lesen: Karl Tucholski ist Head of Business Development bei Prime Computer

  • Nachhaltige Industrie durch neue Technologien

    Nachhaltige Industrie durch neue Technologien

    Bitkom-Studie Nachhaltige Industrie durch neue Technologien Deutsche Unternehmen gehen davon aus, dass Industrie 4.0-Technologien zu einer Reduktion des CO2-Ausstoßes beitragen können. Viele Unternehmen haben sich bereits eine Selbstverpflichtung zu Senkung…

    mehr lesen: Nachhaltige Industrie durch neue Technologien

  • Nach dem Lockdown setzt Erholung ein

    Nach dem Lockdown setzt Erholung ein

    Die Deutsche Wirtschaft erholt sich langsam. Bis das Vorkrisenniveau erreicht wird, könnte es laut Bundeswirtschaftsministerium noch bis 2022 dauern.

    mehr lesen: Nach dem Lockdown setzt Erholung ein