Sycophancy stems from the way many AI models are trained; being seen as helpful or friendly is often rewarded and disagreement is avoided, even if that means generating harmful outputs. While this can make the chatbot seem more pleasant, it may also reduce accuracy, increase risk and limit the chatbot’s ability to challenge unsafe or incorrect ideas.

Wer regelmäßig mit einer ihm schmeichelnden KI kommuniziert, zeigt im Anschluss weniger Bereitschaft für den menschlichen Austausch. Denn wer mal mit dem Wohlfühl-Bot gesprochen hat, für den sind menschliche Gespräche plötzlich kompliziert. Wir werden zu ungeduldig für den echten Diskurs. Menschliche Kommunikation besteht aus Missverständnissen, Kompromissen, Widerspruch. Wenn die KI diese Transaktionskosten für Kommunikation auf praktisch null reduziert, ist unsere Unzufriedenheit mit menschlichem Austausch eine logische Folge. Der Return on Investment von realen Beziehungen ist im Vergleich zu virtuellen drastisch gesunken.