Zudem besteht die Gefahr des Anthropomorphismus – dem Zuschreiben menschlicher Eigenschaften an KI-Modelle (Deshpande et al. 2023). Obwohl sie Emotionen in einem gewissen Maße simulieren können, können sie menschliche Interaktion und Empathie nicht ersetzen. Es ist daher wichtig zu verstehen, dass diese Systeme keine echte semantische Sprachkenntnis besitzen. Ihre Antworten basieren auf statistischen Mustern ihrer Trainingsdaten, nicht auf einem echten Verständnis von Wortbedeutungen.