Schon bald sollen wir alle lästigen Aufgaben von intelligenten Chatbots wie ChatGPT und Co. in Form von KI-Agentensystemen erledigen lassen können. Doch wie genau funktionieren die Sprachmodelle: Haben sie intellektuelle Fähigkeiten, die denen von uns Menschen ähneln oder sie gar übersteigen? Katharina Zweig, vielfach ausgezeichnete Informatikprofessorin und Deutschlands führende KI-Erklärerin, zeigt, was ChatGPT und Co. wirklich können und was nicht. Denn Sprachmodelle können weder im menschlichen Sinne zusammenfassen, vergleichen, analysieren noch bewerten, auch wenn es oft so aussieht. Katharina Zweig zeigt, wie wichtig es ist, menschliche und maschinelle Leistungen nicht zu verwechseln und warnt eindrücklich vor spektakulären, vielleicht sogar fatalen Misserfolgen beim Einsatz von KI-Agentensystemen, die auf Sprachmodellen basieren.

Auch dumme Maschinen können Menschen schaden. Die stellen durchaus Texte her, die wir hier in Deutschland als Demokratie nicht sehen wollen. Wir müssen die Software im richtigen Kontext einsetzen, sonst kann es üble Konsequenzen haben. Natürlich hat es mich irritiert, dass hochrangige Forscher sagen, sie erkennen etwas Lebendiges, etwas Denkendes in den Systemen. Deswegen habe ich mir viel Zeit genommen und sogar noch mal eine kleine Ausbildung gemacht, weil ich dachte: Bin ich jetzt die Einzige, die nicht glaubt, dass die Maschinen hier das Denken lernen? Nach meiner ganzen Recherche ist dieses Buch dabei herausgekommen. Das sagt, hier wird nicht gedacht. Hier passiert etwas Interessantes, aber Denken ist es nicht, und Denken wird das System auf diese Art und Weise auch nicht lernen.