Bei einem herkömmlichen Computerprogramm kann man mit genügend Zeit prinzipiell jeden einzelnen Schritt nachvollziehen – bis hinunter zu den Nullen und Einsen. Da ist alles logisch und durchsichtig. Bei einem neuronalen Netz hingegen lernt eine Software, einen bestimmten Trick zu vollführen – ohne dass am Ende klar wäre, wie genau sie zum richtigen Resultat kommt. Ein Nachteil, den immer mehr Entwickler auf sich nehmen, weil neuronale Netze verflixt praktisch sind. Sie lernen schnell und können meisterhaft Muster erkennen – zum Teil besser als wir Menschen.

Wer die Neutralität von Algorithmen hervorheben will, vergleicht sie gerne mit Rezepten. Wie dort werde eine Anleitung Schritt um Schritt ausgeführt, und aus Milch, Mehl und Äpfeln entstehe ein Kuchen. Diese Analogie ist nicht unzutreffend, aber mangelhaft. Im Zeitalter von Prozeduren wie Machine Learning (ML) sind digitale Algorithmen nicht mehr einfach nur Rezepte. Wenn es schon eine Küchenanalogie sein soll, dann sind Algorithmen eher das gesamte Kochen. Warum? Rezepte sind linear, aber gerade Machine Learning ist nicht von A bis Z vorprogrammiert.