In den nächsten Jahren werden mehr und mehr KI-Systeme an Schulen und Hochschulen eingesetzt werden. Umso wichtiger ist es, ihren Einsatz vorher gut zu durchdenken und insbesondere auch das sozioinformatische Gesamtgefüge zu verstehen, das durch diesen Einsatz entsteht. In diesem Artikel wird am Beispiel von Sprachmodell-basierten Feedbacksystemen erklärt, warum es dafür zuerst wichtig ist, die grundlegende Technologie zu verstehen: ohne die Beschäftigung kann mit der Technologie nicht bewertet werden, ob KI-basierte Software prinzipiell in der Lage ist, ein Problem zuverlässig zu lösen. Ob der Einsatz von Software insgesamt erfolgreich ist, hängt aber auch von den genauen Bedingungen ab, unter denen sie eingesetzt wird. Daher wird kurz auf die sogenannte sozioinformatische Analyse eingegangen, die versucht, das Verhalten von Personengruppen in Bezug auf ein neu eingeführtes Softwaresystem vorherzusagen.