Warum menschenähnliche Chatbots anders beleidigt werden

ec9f24b3 5dde 49be 84c6 576dfb0b4e1b
Bild: ©Karl J. Donath

Chatbots sollen es Internetnutzern leichter machen, benötigte Informationen schnell zu finden, indem sie auf Fragen und Wünsche direkt antworten. Die Reaktionen auf einen Chatbot sind allerdings nicht immer nur positiv: „Wenn ein Chatbot falsche oder verwirrende Antworten gibt, kann dies bei Nutzern Aggressivität gegenüber dem digitalen Gesprächspartner auslösen“, sagt Prof. Alfred Benedikt Brendel, Wirtschaftsinformatiker an der der TU Dresden. Aggressionen gegenüber dem virtuellen Assistenten, wozu etwa auch Beschimpfungen zählen, können auch weitere negative Effekte haben – zum Beispiel auf die Einstellung der User zur Webseite oder dem Anbieter selbst.

In der Studie untersucht das internationale Forschungsteam um Brendel, ob die Gestaltung von Chatbots einen Einfluss darauf hat, wie Nutzer auf unbefriedigende Antworten reagieren. Die Forschenden nehmen an, dass aggressives Verhalten seltener auftritt, wenn ein Chatbot mit menschlichen Attributen versehen wird. „In unseren Experimenten kam bei einem Teil der Befragten ein menschlicher Chatbot zum Einsatz, der mit Namen, Geschlecht und Bild versehen war. Er beantwortete Fragen sehr freundlich und verstärkte seine Botschaften mit passenden Emojis.“ Ein neutraler Chatbot, mit dem ein anderer Teil der Studienteilnehmer interagierte, enthielt hingegen keine dieser Gestaltungselemente.

Die Ergebnisse der Studie zeigen zunächst, dass der menschliche Chatbot generell die Zufriedenheit der Nutzerinnen und Nutzer steigert. Das wiederum reduziert auch das Auftreten von Frustration. Gibt ein Chatbot jedoch unbefriedigende Antworten führt dies entgegen der ursprünglichen Vermutung der Forscher aber auch bei einem Chatbot mit menschlichen Attributen zu Frustration und Aggressivität. Insgesamt zeigen etwa zehn Prozent der Teilnehmer aggressives Verhalten gegenüber den virtuellen Assistenten.

Im Gegensatz zu einem neutralen Chatbot verringert sich bei einem menschlicheren Chatbot allerdings die Intensität des aggressiven Verhaltens. Laut Studie verwendeten User seltener beleidigende Äußerungen, wenn sie mit einem menschlichen Chatbot interagierten. Die Ergebnisse hätten insbesondere für die Praxis weitreichende Konsequenzen, erläutert Alfred Brendel. „Ich würde Softwareentwicklern empfehlen, bei der menschenähnlichen Gestaltung bedacht vorzugehen und genau zu überlegen, welche positiven wie negativen Effekte zusätzliche menschenähnliche Gestaltungselemente wie Geschlecht, Alter oder bestimmte Namen haben können.“



  • Bosch und Microsoft erarbeiten Einsatzmöglichkeiten generativer KI im Auto

    Bosch und Microsoft erarbeiten Einsatzmöglichkeiten generativer KI im Auto

    Gemeinsam mit Microsoft will Bosch generative KI ins Auto bringen, etwa um die Sicherheit für Verkehrsteilnehmer zu erhöhen. Beide Unternehmen wollen zunächst Möglichkeiten der Zusammenarbeit ergründen.

    mehr lesen: Bosch und Microsoft erarbeiten Einsatzmöglichkeiten generativer KI im Auto

  • T-Systems ernennt Christine Knackfuß-Nikolic zur CTO

    T-Systems ernennt Christine Knackfuß-Nikolic zur CTO

    Christine Knackfuß-Nikolic wechselt von der Telekom zu T-Systems und wird dort ab März die Position der CTO übernehmen.

    mehr lesen: T-Systems ernennt Christine Knackfuß-Nikolic zur CTO

  • Prozessdampf nachhaltiger machen

    Prozessdampf nachhaltiger machen

    Für technische Produktionsprozesse, etwa in der chemischen Industrie, kommt zur Wärmeversorgung sogenannter Prozessdampf zum Einsatz. Für die Dampferzeugung werden bisher zumeist fossile Brennstoffe verwendet. Ein Forschungsprojekt will diesen Prozess nun…

    mehr lesen: Prozessdampf nachhaltiger machen

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Autocrypt und MicroNova arbeiten zusammen

    Autocrypt und MicroNova arbeiten zusammen

    Im Rahmen einer strategischen Partnerschaft wollen die Unternehmen Autocrypt und MicroNova Testlösungen im Bereich der automobilen Cybersicherheit entwickeln.

    mehr lesen: Autocrypt und MicroNova arbeiten zusammen

  • Mehr Rechtssicherheit für die Cybersicherheitsforschung

    Mehr Rechtssicherheit für die Cybersicherheitsforschung

    Cybersicherheitsforschende können Datenschutzvorschriften oft nicht befolgen, da sie vor Beginn einer Forschungsaktivität nicht wissen, ob und welche personenbezogenen Daten sie genau verarbeiten werden.

    mehr lesen: Mehr Rechtssicherheit für die Cybersicherheitsforschung

  • Wibu-Systems lädt zum Informationstag

    Wibu-Systems lädt zum Informationstag

    Am 20. März 2024 veranstaltet Wibu-Systems einen Informationstag zum Thema IT-Security in der Fertigung.

    mehr lesen: Wibu-Systems lädt zum Informationstag

  • Mehr als 5.000 Besucher kamen zur Maintenance

    Mehr als 5.000 Besucher kamen zur Maintenance

    Mit einem Besucherzuwachs von 25 Prozent ziehen die Veranstalter der Messen Maintenance und Pumps & Valves ein positives Fazit und wollen die Veranstaltung auch im nächsten Jahr zeitgleich ausrichten.

    mehr lesen: Mehr als 5.000 Besucher kamen zur Maintenance

  • 8 von 10 Betrugsspezialisten wollen bis 2025 generative KI einsetzen

    8 von 10 Betrugsspezialisten wollen bis 2025 generative KI einsetzen

    Generative AI könnte in den nächsten Jahren eine zentrale Rolle bei der Betrugsbekämpfung spielen. So planen 83 Prozent der Teilnehmer am Anti-Fraud Technology Benchmarking Report, die Technologie innerhalb der nächsten…

    mehr lesen: 8 von 10 Betrugsspezialisten wollen bis 2025 generative KI einsetzen

  • Zero-Trust-Konzept für 5G-Campusnetze

    Zero-Trust-Konzept für 5G-Campusnetze

    Trend Micro hat auf dem Mobile World Congress 2024 in Barcelona einen plattformbasierten Ansatz zur Absicherung von 5G-Implementierungen vorgestellt. Für solche Produkte gründete der Anbieter letztes Jahr extra die Tochtergesellschaft…

    mehr lesen: Zero-Trust-Konzept für 5G-Campusnetze

  • Konsortium will Innovationen für die Klimaneutralität beschleunigen

    Konsortium will Innovationen für die Klimaneutralität beschleunigen

    Die EU strebt bis 2050 Klimaneutralität an. Das Projekt RISEnergy (Research Infrastructure Services for Renewable Energy) soll auf dem Weg dorthin die Entwicklung von Innovationen für erneuerbare Energien bis zur…

    mehr lesen: Konsortium will Innovationen für die Klimaneutralität beschleunigen

  • Pilotprojekt erforscht Kreislaufwirtschaft in der Fahrzeugproduktion

    Pilotprojekt erforscht Kreislaufwirtschaft in der Fahrzeugproduktion

    Wie eine nachhaltige und ressourceneffiziente Kreislaufwirtschaft für kleine und leichte Elektrofahrzeuge bzw. Leichtkraftfahrzeuge aussehen kann, erforschen Wissenschaftlerinnen und Wissenschaftler der Bergischen Universität Wuppertal sowie der Hochschule Bochum im Projekt Pilot4CircuLEV.

    mehr lesen: Pilotprojekt erforscht Kreislaufwirtschaft in der Fahrzeugproduktion