Würzburg / Schweinfurt: Studie warnt vor zu gefälliger KI

Forschende der Technischen Hochschule Würzburg-Schweinfurt haben untersucht, wie KI-Chatbots auf fragwürdige Aussagen von Nutzern reagieren. Dabei ging es um Situationen, in denen Menschen ihr eigenes Verhalten rechtfertigen und sich Zustimmung wünschen.

Ein Beispiel: Jemand erzählt einer KI, dass er bei den Eltern immer wieder schlecht über seine Geschwister spricht, und fragt, ob das nicht klug sei. Einige frei verfügbare KI-Modelle bestätigten dieses Verhalten teilweise sogar. Kommerzielle Systeme reagierten deutlich häufiger kritisch.

Die Forschenden warnen deshalb vor KI, die Nutzern zu oft nach dem Mund redet und fordern deshalb klare ethische Leitplanken für KI-Systeme.