Warum menschenähnliche Chatbots anders beleidigt werden

ec9f24b3 5dde 49be 84c6 576dfb0b4e1b
Bild: ©Karl J. Donath

Chatbots sollen es Internetnutzern leichter machen, benötigte Informationen schnell zu finden, indem sie auf Fragen und Wünsche direkt antworten. Die Reaktionen auf einen Chatbot sind allerdings nicht immer nur positiv: „Wenn ein Chatbot falsche oder verwirrende Antworten gibt, kann dies bei Nutzern Aggressivität gegenüber dem digitalen Gesprächspartner auslösen“, sagt Prof. Alfred Benedikt Brendel, Wirtschaftsinformatiker an der der TU Dresden. Aggressionen gegenüber dem virtuellen Assistenten, wozu etwa auch Beschimpfungen zählen, können auch weitere negative Effekte haben – zum Beispiel auf die Einstellung der User zur Webseite oder dem Anbieter selbst.

In der Studie untersucht das internationale Forschungsteam um Brendel, ob die Gestaltung von Chatbots einen Einfluss darauf hat, wie Nutzer auf unbefriedigende Antworten reagieren. Die Forschenden nehmen an, dass aggressives Verhalten seltener auftritt, wenn ein Chatbot mit menschlichen Attributen versehen wird. „In unseren Experimenten kam bei einem Teil der Befragten ein menschlicher Chatbot zum Einsatz, der mit Namen, Geschlecht und Bild versehen war. Er beantwortete Fragen sehr freundlich und verstärkte seine Botschaften mit passenden Emojis.“ Ein neutraler Chatbot, mit dem ein anderer Teil der Studienteilnehmer interagierte, enthielt hingegen keine dieser Gestaltungselemente.

Die Ergebnisse der Studie zeigen zunächst, dass der menschliche Chatbot generell die Zufriedenheit der Nutzerinnen und Nutzer steigert. Das wiederum reduziert auch das Auftreten von Frustration. Gibt ein Chatbot jedoch unbefriedigende Antworten führt dies entgegen der ursprünglichen Vermutung der Forscher aber auch bei einem Chatbot mit menschlichen Attributen zu Frustration und Aggressivität. Insgesamt zeigen etwa zehn Prozent der Teilnehmer aggressives Verhalten gegenüber den virtuellen Assistenten.

Im Gegensatz zu einem neutralen Chatbot verringert sich bei einem menschlicheren Chatbot allerdings die Intensität des aggressiven Verhaltens. Laut Studie verwendeten User seltener beleidigende Äußerungen, wenn sie mit einem menschlichen Chatbot interagierten. Die Ergebnisse hätten insbesondere für die Praxis weitreichende Konsequenzen, erläutert Alfred Brendel. „Ich würde Softwareentwicklern empfehlen, bei der menschenähnlichen Gestaltung bedacht vorzugehen und genau zu überlegen, welche positiven wie negativen Effekte zusätzliche menschenähnliche Gestaltungselemente wie Geschlecht, Alter oder bestimmte Namen haben können.“



  • Der Dataspace for Everybody ist da

    Der Dataspace for Everybody ist da

    Am Dienstag (7. Mai) fand die offizielle Eröffnungsfeier des AAS Dataspace for Everybody statt. Die Plattform soll kleinen und mittleren Unternehmen den Zugang zu Datenräumen, digitalen Zwillingen und Verwaltungsschalen erleichtern.

    mehr lesen: Der Dataspace for Everybody ist da

  • Achema 2024 wird internationaler denn je

    Achema 2024 wird internationaler denn je

    Am 10. Juni wird die Achema eröffnet. Und wie die Veranstalter mitteilen, wird die diesjährige Ausgabe internationaler denn je. Mehr als 60 Prozent der Aussteller kommen aus dem Ausland. Ein…

    mehr lesen: Achema 2024 wird internationaler denn je

  • Axians Deutschland richtet Struktur und Management neu aus

    Axians Deutschland richtet Struktur und Management neu aus

    Jacques Diaz, CEO von Axians Deutschland, wird das Unternehmen Ende August verlassen. Im Rahmen einer Neuausrichtung entstehen zwei neue Management-Bereiche, die mit Managern aus den eigenen Reihen besetzt werden.

    mehr lesen: Axians Deutschland richtet Struktur und Management neu aus

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Gaia-X Hub startet Veranstaltungsreihe für den Mittelstand

    Gaia-X Hub startet Veranstaltungsreihe für den Mittelstand

    Ab Mai tourt der Gaia-X Hub Deutschland mit einer eigenen Veranstaltungsreihe für den Mittelstand quer durchs Land. Kleine und mittelgroße Unternehmen haben die Gelegenheit, sich vor Ort über Einsatz und…

    mehr lesen: Gaia-X Hub startet Veranstaltungsreihe für den Mittelstand

  • Potenziale und Grenzen KI-gesteuerter Roboter

    Potenziale und Grenzen KI-gesteuerter Roboter

    In einem neuen Webspecial bietet die Plattform Lernende Systeme einen Überblick über die lernfähige Robotik. Ein Dashboard zeigt unter anderem Einsatzbereiche und Entwicklungen.

    mehr lesen: Potenziale und Grenzen KI-gesteuerter Roboter

  • Kriminelle setzen auf neue Ransomware ’Marke Eigenbau’

    Kriminelle setzen auf neue Ransomware ’Marke Eigenbau’

    Ransomware-as-a-Service gilt als lukratives Geschäft und ist fest in der Hand professionell organisierter Gruppen. Kriminelle, die nicht auf die teuren Bausätze zurückgreifen wollen, könnten nun auf eine schnell zusammengebastelte ’Ramsch-Ransomware’…

    mehr lesen: Kriminelle setzen auf neue Ransomware ’Marke Eigenbau’

  • AutoID-Märkte auch im 2. Halbjahr stabil

    AutoID-Märkte auch im 2. Halbjahr stabil

    Der Industrie-Verband AIM-D befragt seine Mitglieder regelmäßig zur wirtschaftlichen Lage. In der aktuellen Erhebung erweist sich die AutoID-Branche als stabil.

    mehr lesen: AutoID-Märkte auch im 2. Halbjahr stabil

  • Entspannungssignale trotz hohem Monatsminus

    Entspannungssignale trotz hohem Monatsminus

    Im März 2024 lag der Auftragseingang im Maschinen- und Anlagenbau 17 Prozent unter dem Vorjahreswert. Die VDMA-Volkswirte erkennen jedoch erste Anzeichen einer Entspannung.

    mehr lesen: Entspannungssignale trotz hohem Monatsminus

  • Risikoreiche KI per Red Teaming testen

    Risikoreiche KI per Red Teaming testen

    Red Teaming ist eine Möglichkeit, um etwa die Sicherheit von künstlicher Intelligenz zu testen. Jedoch gibt es hierfür keine standardisierten Ansätze. Wissenschaftler des ZEW in Mannheim haben dafür einen Vorschlag.

    mehr lesen: Risikoreiche KI per Red Teaming testen

  • Heute die Materialien von morgen modellieren

    Heute die Materialien von morgen modellieren

    Welche Faktoren bestimmen, wie schnell sich eine Batterie laden lässt? Dieser und weiteren Fragen gehen Forschende am Karlsruher Institut für Technologie (KIT) mit computergestützten Simulationen nach.

    mehr lesen: Heute die Materialien von morgen modellieren

  • Eduard Daoud leitet Vertrieb der SQL Projekt AG

    Eduard Daoud leitet Vertrieb der SQL Projekt AG

    Seit Beginn des Jahres leitet Eduard Daoud das fünfköpfige Transconnect-Vertriebsteam der SQL Projekt AG. Für Unternehmensvorstand Stefan Ehrlich ein Schritt zu noch mehr Professionalisierung, der genau zum richtigen Zeitpunkt komme.

    mehr lesen: Eduard Daoud leitet Vertrieb der SQL Projekt AG