Warum menschenähnliche Chatbots anders beleidigt werden

ec9f24b3 5dde 49be 84c6 576dfb0b4e1b
Bild: ©Karl J. Donath

Chatbots sollen es Internetnutzern leichter machen, benötigte Informationen schnell zu finden, indem sie auf Fragen und Wünsche direkt antworten. Die Reaktionen auf einen Chatbot sind allerdings nicht immer nur positiv: „Wenn ein Chatbot falsche oder verwirrende Antworten gibt, kann dies bei Nutzern Aggressivität gegenüber dem digitalen Gesprächspartner auslösen“, sagt Prof. Alfred Benedikt Brendel, Wirtschaftsinformatiker an der der TU Dresden. Aggressionen gegenüber dem virtuellen Assistenten, wozu etwa auch Beschimpfungen zählen, können auch weitere negative Effekte haben – zum Beispiel auf die Einstellung der User zur Webseite oder dem Anbieter selbst.

In der Studie untersucht das internationale Forschungsteam um Brendel, ob die Gestaltung von Chatbots einen Einfluss darauf hat, wie Nutzer auf unbefriedigende Antworten reagieren. Die Forschenden nehmen an, dass aggressives Verhalten seltener auftritt, wenn ein Chatbot mit menschlichen Attributen versehen wird. „In unseren Experimenten kam bei einem Teil der Befragten ein menschlicher Chatbot zum Einsatz, der mit Namen, Geschlecht und Bild versehen war. Er beantwortete Fragen sehr freundlich und verstärkte seine Botschaften mit passenden Emojis.“ Ein neutraler Chatbot, mit dem ein anderer Teil der Studienteilnehmer interagierte, enthielt hingegen keine dieser Gestaltungselemente.

Die Ergebnisse der Studie zeigen zunächst, dass der menschliche Chatbot generell die Zufriedenheit der Nutzerinnen und Nutzer steigert. Das wiederum reduziert auch das Auftreten von Frustration. Gibt ein Chatbot jedoch unbefriedigende Antworten führt dies entgegen der ursprünglichen Vermutung der Forscher aber auch bei einem Chatbot mit menschlichen Attributen zu Frustration und Aggressivität. Insgesamt zeigen etwa zehn Prozent der Teilnehmer aggressives Verhalten gegenüber den virtuellen Assistenten.

Im Gegensatz zu einem neutralen Chatbot verringert sich bei einem menschlicheren Chatbot allerdings die Intensität des aggressiven Verhaltens. Laut Studie verwendeten User seltener beleidigende Äußerungen, wenn sie mit einem menschlichen Chatbot interagierten. Die Ergebnisse hätten insbesondere für die Praxis weitreichende Konsequenzen, erläutert Alfred Brendel. „Ich würde Softwareentwicklern empfehlen, bei der menschenähnlichen Gestaltung bedacht vorzugehen und genau zu überlegen, welche positiven wie negativen Effekte zusätzliche menschenähnliche Gestaltungselemente wie Geschlecht, Alter oder bestimmte Namen haben können.“



  • Unternehmen können KI-Erwartungen des Managements nicht erfüllen

    Unternehmen können KI-Erwartungen des Managements nicht erfüllen

    Deutsche Führungskräfte wollen dem Hype um künstliche Intelligenz (KI) folgen, so das Ergebnis einer Studie von IFS. Die Unternehmen sind jedoch noch nicht in der Lage, die Erwartungen an die…

    mehr lesen: Unternehmen können KI-Erwartungen des Managements nicht erfüllen

  • Trumpf und SiMa.ai statten Lasersysteme mit KI-Chips aus

    Trumpf und SiMa.ai statten Lasersysteme mit KI-Chips aus

    Die Unternehmen Trumpf und SiMa.ai entwickeln KI-Chips und Software zur Verbesserung von Schweiß-, Schneid- und Markierprozessen. Die Technologie soll für effizientere Laseranwendungen sorgen.

    mehr lesen: Trumpf und SiMa.ai statten Lasersysteme mit KI-Chips aus

  • Werkzeugbahnen im virtuellen Raum planen und skizzieren

    Werkzeugbahnen im virtuellen Raum planen und skizzieren

    Werkzeugbahnen für Zerspanprozesse in CAM-Systemen zu planen erfordert Expertenwissen. Viele Parameter müssen bestimmt und geprüft werden, um die Bahnplanung Schritt für Schritt zu optimieren. Im Projekt CAMStylus arbeiten die Beteiligten…

    mehr lesen: Werkzeugbahnen im virtuellen Raum planen und skizzieren

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Automatisierungstreff wieder erfolgreich

    Automatisierungstreff wieder erfolgreich

    Die Agentur Strobl als Veranstalter des Automatisierungstreffs hat für die diesjährige Ausgabe im April ein positives Fazit gezogen.

    mehr lesen: Automatisierungstreff wieder erfolgreich

  • TXOne ernennt neuen CRO

    TXOne ernennt neuen CRO

    Stephen Driggers, zuletzt CRO bei Nozomi Networks, heuert bei TXOne Networks an und übernimmt dort ebenfalls die Position des Chief Revenue Officers.

    mehr lesen: TXOne ernennt neuen CRO

  • VDI-Kongress diskutiert Zukunftstrends der Industrie

    VDI-Kongress diskutiert Zukunftstrends der Industrie

    Auf dem 25. VDI-Kongress Automation haben die mehr als 350 Teilnehmenden unter dem Motto ’AI beats Automation?‘ über Zukunftstrends diskutiert.

    mehr lesen: VDI-Kongress diskutiert Zukunftstrends der Industrie

  • Neun Tipps für mehr OT-Sicherheit

    Neun Tipps für mehr OT-Sicherheit

    Durch NIS2 und KRITIS-Dachgesetz erweitert sich die Zahl der regulierten Organisationen auf über 30.000. Der Eco Verband gibt Unternehmen daher Tipps an die Hand, wie sie die Cyber-Resilienz ihrer industrieller…

    mehr lesen: Neun Tipps für mehr OT-Sicherheit

  • GenISys will Abfüllanlagen einfach konfigurierbar machen

    GenISys will Abfüllanlagen einfach konfigurierbar machen

    Im Projekt GenISys entwickeln Forschende der Bergischen Universität gemeinsam mit zwei Praxispartnern generative KI-Modelle, mit denen der Bau von Abfüllanlagen zukünftig intelligenter und ressourcenschonender vonstatten gehen soll.

    mehr lesen: GenISys will Abfüllanlagen einfach konfigurierbar machen

  • Maschinenbauer rechnen erst 2025 mit Erholung

    Maschinenbauer rechnen erst 2025 mit Erholung

    Die Stimmung im Maschinenbau hat sich eingetrübt, auch mit Blick auf das Gesamtjahr. Laut VDMA-Konjunkturumfrage werden die Investitionen erst 2025 wieder steigen.

    mehr lesen: Maschinenbauer rechnen erst 2025 mit Erholung

  • Babtec eröffnet Standort in Friedrichshafen

    Babtec eröffnet Standort in Friedrichshafen

    Vom Bodensee aus soll eine neue Entwicklungsabteilung die Teams des Wuppertaler Softwarespezialisten unterstützen.

    mehr lesen: Babtec eröffnet Standort in Friedrichshafen

  • Was Deskless Worker bewegt

    Was Deskless Worker bewegt

    Eine aktuelle Studie des Aachener Softwarespezialisten Inform unter Mitarbeitenden aus dem produzierenden Gewerbe zeigt, dass sich sogenannte Deskless Worker von ihren Arbeitgebern neben guter Bezahlung vor allem bessere Kommunikation und…

    mehr lesen: Was Deskless Worker bewegt