Warum menschenähnliche Chatbots anders beleidigt werden

ec9f24b3 5dde 49be 84c6 576dfb0b4e1b
Bild: ©Karl J. Donath

Chatbots sollen es Internetnutzern leichter machen, benötigte Informationen schnell zu finden, indem sie auf Fragen und Wünsche direkt antworten. Die Reaktionen auf einen Chatbot sind allerdings nicht immer nur positiv: „Wenn ein Chatbot falsche oder verwirrende Antworten gibt, kann dies bei Nutzern Aggressivität gegenüber dem digitalen Gesprächspartner auslösen“, sagt Prof. Alfred Benedikt Brendel, Wirtschaftsinformatiker an der der TU Dresden. Aggressionen gegenüber dem virtuellen Assistenten, wozu etwa auch Beschimpfungen zählen, können auch weitere negative Effekte haben – zum Beispiel auf die Einstellung der User zur Webseite oder dem Anbieter selbst.

In der Studie untersucht das internationale Forschungsteam um Brendel, ob die Gestaltung von Chatbots einen Einfluss darauf hat, wie Nutzer auf unbefriedigende Antworten reagieren. Die Forschenden nehmen an, dass aggressives Verhalten seltener auftritt, wenn ein Chatbot mit menschlichen Attributen versehen wird. „In unseren Experimenten kam bei einem Teil der Befragten ein menschlicher Chatbot zum Einsatz, der mit Namen, Geschlecht und Bild versehen war. Er beantwortete Fragen sehr freundlich und verstärkte seine Botschaften mit passenden Emojis.“ Ein neutraler Chatbot, mit dem ein anderer Teil der Studienteilnehmer interagierte, enthielt hingegen keine dieser Gestaltungselemente.

Die Ergebnisse der Studie zeigen zunächst, dass der menschliche Chatbot generell die Zufriedenheit der Nutzerinnen und Nutzer steigert. Das wiederum reduziert auch das Auftreten von Frustration. Gibt ein Chatbot jedoch unbefriedigende Antworten führt dies entgegen der ursprünglichen Vermutung der Forscher aber auch bei einem Chatbot mit menschlichen Attributen zu Frustration und Aggressivität. Insgesamt zeigen etwa zehn Prozent der Teilnehmer aggressives Verhalten gegenüber den virtuellen Assistenten.

Im Gegensatz zu einem neutralen Chatbot verringert sich bei einem menschlicheren Chatbot allerdings die Intensität des aggressiven Verhaltens. Laut Studie verwendeten User seltener beleidigende Äußerungen, wenn sie mit einem menschlichen Chatbot interagierten. Die Ergebnisse hätten insbesondere für die Praxis weitreichende Konsequenzen, erläutert Alfred Brendel. „Ich würde Softwareentwicklern empfehlen, bei der menschenähnlichen Gestaltung bedacht vorzugehen und genau zu überlegen, welche positiven wie negativen Effekte zusätzliche menschenähnliche Gestaltungselemente wie Geschlecht, Alter oder bestimmte Namen haben können.“



  • Smarte Lieferketten, Seewege und das IoT im Visier

    Smarte Lieferketten, Seewege und das IoT im Visier

    Am Montag stellt der TÜV Rheinland seine Cybersecurity Trends 2020 vor. Demnach könnten sich Cyberangriffe zunehmend auf persönliche Sicherheit sowie die Stabilität der Gesellschaft auswirken. Auch smarte Lieferketten stehen dabei…

    mehr lesen: Smarte Lieferketten, Seewege und das IoT im Visier

  • Ohne Überraschungen ins neue Jahr

    Ohne Überraschungen ins neue Jahr

    Der Auftragseingang im Maschinen- und Anlagenbau lag im Jahr 2019 um neun Prozent unter dem Vorjahreswert. Auch zum Jahresende verfehlten die Bestellungen das Vorjahresniveau.

    mehr lesen: Ohne Überraschungen ins neue Jahr

  • Raphael Binder übernimmt Geschäftsleitung von Syslogic

    Raphael Binder übernimmt Geschäftsleitung von Syslogic

    Wechsel an der Spitze von Syslogic. Raphael Binder hat zum 1. Januar die Geschäftsleitung der Embedded-Spezialistin übernommen.

    mehr lesen: Raphael Binder übernimmt Geschäftsleitung von Syslogic

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • SAP verlängert Support für Business Suite

    SAP verlängert Support für Business Suite

    SAP verlängert den Support für seine Business Suite um zwei Jahre bis Ende 2027. Zudem sagt der Softwarekonzern die Wartung für SAP S/4HANA bis 2040 zu.

    mehr lesen: SAP verlängert Support für Business Suite

  • Wechsel in der Geschäftsführung bei Balluff

    Wechsel in der Geschäftsführung bei Balluff

    Frank Paul Nonnenmann hat Anfang Februar Michael Unger als Geschäftsführer beim Sensor- und Automatisierungsspezialisten Balluff abgelöst.

    mehr lesen: Wechsel in der Geschäftsführung bei Balluff

  • Ethik ist wichtig, ethische Richtlinien aber noch selten

    Ethik ist wichtig, ethische Richtlinien aber noch selten

    Ethische Grundsätze gewinnen im Zusammenhang mit künstlicher Intelligenz (KI) immer mehr an Bedeutung. Wie aus einer Studie der Management und Technologieberatung BearingPoint hervorgeht, stecken entsprechende Richtlinien noch in den Kinderschuhen.

    mehr lesen: Ethik ist wichtig, ethische Richtlinien aber noch selten

  • Mitbestimmung in Zeiten der digitalen Transformation

    Mitbestimmung in Zeiten der digitalen Transformation

    Seit 100 Jahren gibt es das Betriebsrätegesetz. Zu diesem Jubiläum und vor dem Hintergrund der digitalen Transformation spricht sich die IG Metall für Modernisierung der Mitbestimmung aus.

    mehr lesen: Mitbestimmung in Zeiten der digitalen Transformation

  • Siemens: Umsatz leicht über Vorjahr

    Siemens: Umsatz leicht über Vorjahr

    Siemens hat seine Umsatzerlöse im ersten Geschäftsquartal um 1% auf 20,3Mrd.€ gesteigert. Der Gewinn lag nach Steuern bei 1,1Mrd.€ (-3% gegenüber Vorjahr).

    mehr lesen: Siemens: Umsatz leicht über Vorjahr

  • Deutsche Messe schreibt Hermes Award aus

    Deutsche Messe schreibt Hermes Award aus

    Noch bis zum 19. Februar können sich alle Unternehmen und Institutionen, die auf der Hannover Messe ausstellen oder sich in anderer Weise inhaltlich beteiligen, um den Hermes Award bewerben.  

    mehr lesen: Deutsche Messe schreibt Hermes Award aus

  • Peter Körte leitet Strategieabteilung bei Siemens

    Peter Körte leitet Strategieabteilung bei Siemens

    Die Siemens AG hat Peter Körte zum neuen Strategiechef ernannt. Der Konzern will damit seinen Fokus auf das industrielle Internet der Dinge richten.

    mehr lesen: Peter Körte leitet Strategieabteilung bei Siemens

  • Mit künstlicher Intelligenz dem Verschleiß auf der Spur

    Mit künstlicher Intelligenz dem Verschleiß auf der Spur

    Forscher am Karlsruher Institut für Technologie (KIT) haben ein System zur vollautomatischen Überwachung von Kugelgewindetrieben in Werkzeugmaschinen entwickelt. Dabei kommt eine direkt in die Mutter des Kugelgewindetriebs integrierte Kamera zum…

    mehr lesen: Mit künstlicher Intelligenz dem Verschleiß auf der Spur