Wenn wir in eine Sackgasse geraten, drehen wir um und suchen nach der Stelle, an der wir falsch abgebogen sind. Ich habe die Behauptung aufgestellt, dass das Standardmodell der KI, bei dem die Maschinen ein festes Ziel optimieren, eine solche Sackgasse ist. Dabei besteht das Problem nicht darin, dass wir bei der Entwicklung von KI-Systemen keinen guten Job machen, sondern vielmehr darin, dass wir ihn möglicherweise zu gut machen. Unsere Definition für den Erfolg einer KI an sich ist falsch.
Gehen wir also bis zum Anfang zurück und versuchen wir zu verstehen, wie unser Konzept der Intelligenz überhaupt entstanden ist und wie es auf Maschinen übertragen wurde. Auf diesem Weg finden wir vielleicht eine bessere Definition für ein gutes KI-System.