Die Entwicklung von Programmen zur Erkennung von KI-generierten Texten (wie z.B. GPT-Zero) wird ein Wettrüsten zwischen KI-Textgenerierung und KI-Texterkennung auslösen, da KI-Textgenerierungsprogramme die verfügbaren Erkennungsprogramme als zusätzlichen Filter / Trainingsmöglichkeit nutzen werden (GAN-Netzwerk mit Erkennungsalgorithmus als Diskriminator). Es wird somit vermutlich langfristig nicht möglich sein, computergenerierte Texte zuverlässig automatisiert erkennen zu können.

Wenn aber ein Algorithmus in der Lage ist, automatisch zu erkennen, ob ein Text von einem Menschen oder von einer Maschine geschrieben wurde, dann ist es auch möglich, eine Maschine zu bauen, die ihre Texte so formuliert, dass ein Detektor keinen Unterschied bemerkt. Ähnliche Funktionen sind bereits in die oben genannten Marketing-Tools integriert. Sie haben einen automatischen Plagiat-Checker an Bord. Dieser prüft die generierten Texte daraufhin, ob sie nicht Wort für Wort irgendwo anders abgeschrieben worden sind. Per KI lassen sich Texte daraufhin so lange umformulieren, bis der Plagiat-Checker grünes Licht gibt.