/ en / Traditional / help

Beats Biblionetz - Aussagen

Jede automatisierte KI-Erkennung lässt sich auch automatisiert umgehen

iconDefinitionen

Der universelle TexterWenn aber ein Algorithmus in der Lage ist, automatisch zu erkennen, ob ein Text von einem Menschen oder von einer Maschine geschrieben wurde, dann ist es auch möglich, eine Maschine zu bauen, die ihre Texte so formuliert, dass ein Detektor keinen Unterschied bemerkt.
Von Hartmut Gieselmann in der Zeitschrift Der universelle Texter (2023) im Text Wer soll das alles lesen?

iconBemerkungen

Doris WeßelsEin IT-Fachmann aus meinem Bekanntenkreis grinst. „Lass sie das Zeug doch kaufen, das ist eh von gestern.“
Von Susanne Bach, Doris Weßels im Text Das Ende der Hausarbeit (2022)
ChatGPT und andere Computermodelle zur SprachverarbeitungForschende gehen von einem Wettlauf zwischen KI-Systemen zur Erzeugung und solchen zur Entdeckung künstlicher Texte aus (Heidt 2023).
Von Steffen Albrecht im Buch ChatGPT und andere Computermodelle zur Sprachverarbeitung (2023) im Text Auswirkungen von ChatGPT in Bildung und Forschung
Forschung & Lehre 7/23Obwohl LLMs einen elaborierten Schreibstil noch nicht perfekt imitieren können, ist also zu erwarten, dass natürliche und künstliche Texte nunterscheidbar werden und der hybride Text zur Norm wird.
Von Dirk Siepmann in der Zeitschrift Forschung & Lehre 7/23 im Text Vom Akkordarbeiter zum Gutachter (2023)
Do AI detectors work? In short, no, not in our experience. Our research into detectors didn't show them to be reliable enough given that educators could be making judgments about students with potentially lasting consequences.
Von OpenAI im Text How can educators respond to students presenting AI-generated content as their own? (2023)
Sich selbst könnte GPT-4 schon gar nicht überprüfen. Ebenso wenig kann eine Maschine entscheiden, ob ein Text von einer KI oder einem Menschen formuliert wurde. Das hat wohl auch OpenAI erkannt: Die Firma schaltete ihren Detektor für KI-Texte vor einigen Wochen ab. Er lieferte einfach keine verlässlichen Ergebnisse.
Von Hartmut Gieselmann in der Zeitschrift c't 21/2023 im Text Die 80-Prozent-Maschinen (2023) auf Seite  30
Künstliche Intelligenz - Mehr als nur ein Hype?Mike Sharples hält den Kampf gegen KI-Texte mit technischen Mitteln für vergeblich: «Jedes hinreichend leistungsfähige Programm, das feststellen kann, ob ein Text von einem Menschen oder einer Maschine geschrieben wurde, kann von einem ebenso leistungsfähigen KI-Textgenerator in einem sinnlosen rechnerischen Wettrüsten überlistet werden.»
Von Reto U. Schneider in der Zeitschrift Künstliche Intelligenz - Mehr als nur ein Hype? (2023) im Text Darf der Computer die Seminararbeit schreiben?
Doris WeßelsDer Untergang der klassischen Ghostwriter-Szene und der Anbieter von Plagiaterkennungssoftware ist wohl schon eingeläutet. Ein unvorstellbar mächtiges KI-Sprachmodell mit 175 Milliarden Parametern und dem sperrigen Namen „Generative Pretrained Transformer Model“ (kurz: GPT) von OpenAI aus San Francisco zeigt seine Sprengkraft immer deutlicher (aktuelle Version 3).
Von Susanne Bach, Doris Weßels im Text Das Ende der Hausarbeit (2022)
Beat Döbeli HoneggerDie Entwicklung von Programmen zur Erkennung von KI-generierten Texten (wie z.B. GPT-Zero) wird ein Wettrüsten zwischen KI-Textgenerierung und KI-Texterkennung auslösen, da KI-Textgenerierungsprogramme die verfügbaren Erkennungsprogramme als zusätzlichen Filter / Trainingsmöglichkeit nutzen werden (GAN-Netzwerk mit Erkennungsalgorithmus als Diskriminator). Es wird somit vermutlich langfristig nicht möglich sein, computergenerierte Texte zuverlässig automatisiert erkennen zu können.
Von Beat Döbeli Honegger im Text ChatGPT & Schule (2023)
Der universelle TexterWenn aber ein Algorithmus in der Lage ist, automatisch zu erkennen, ob ein Text von einem Menschen oder von einer Maschine geschrieben wurde, dann ist es auch möglich, eine Maschine zu bauen, die ihre Texte so formuliert, dass ein Detektor keinen Unterschied bemerkt. Ähnliche Funktionen sind bereits in die oben genannten Marketing-Tools integriert. Sie haben einen automatischen Plagiat-Checker an Bord. Dieser prüft die generierten Texte daraufhin, ob sie nicht Wort für Wort irgendwo anders abgeschrieben worden sind. Per KI lassen sich Texte daraufhin so lange umformulieren, bis der Plagiat-Checker grünes Licht gibt.
Von Hartmut Gieselmann in der Zeitschrift Der universelle Texter (2023) im Text Wer soll das alles lesen?
Forschung & Lehre 7/23Wird es künftig möglich sein, menschliche und KI-generierte Texte zu unterscheiden? Die Erwartung, dass das Kriterium sprachlicher Unvorhersehbarkeit zur Unterscheidung beitragen könnte (Hannes Bajohr), erweist sich als trügerisch. Erstens beruht sämtliche Prosa auf „wiederholter Rede“, die erfahrene Schreiber durch einige regelhaft beschreibbare Analogien und Deviationen anreichern. Zweitens sind LLMs auch kreativen Sprachgebrauchs fähig. Es wäre falsch anzunehmen, wie in den Medien häufig durch das Bild des stochastischen Papageis suggeriert wurde, dass LLMs lediglich Wörter nach ihrer Auftretenswahrscheinlichkeit kombinieren; vielmehr können sie auch Konstruktionen analysieren und auf dieser Basis akzeptable neue Formen erzeugen.
Von Dirk Siepmann in der Zeitschrift Forschung & Lehre 7/23 im Text Vom Akkordarbeiter zum Gutachter (2023)
Do AI detectors work?
  • In short, no, not in our experience. Our research into detectors didn't show them to be reliable enough given that educators could be making judgments about students with potentially lasting consequences.While other developers have released detection tools, we cannot comment on their utility.
  • Additionally, ChatGPT has no “knowledge” of what content could be AI-generated. It will sometimes make up responses to questions like “did you write this [essay]?” or “could this have been written by AI?” These responses are random and have no basis in fact.
  • To elaborate on our research into the shortcomings of detectors, one of our key findings was that these tools sometimes suggest that human-written content was generated by AI.
    • When we at OpenAI tried to train an AI-generated content detector, we found that it labeled human-written text like Shakespeare and the Declaration of Independence as AI-generated.
    • There were also indications that it could disproportionately impact students who had learned or were learning English as a second language and students whose writing was particularly formulaic or concise.
  • Even if these tools could accurately identify AI-generated content (which they cannot yet), students can make small edits to evade detection.
Von OpenAI im Text How can educators respond to students presenting AI-generated content as their own? (2023)

iconVorträge von Beat mit Bezug

iconZitationsgraph

Diese Grafik ist nur im SVG-Format verfügbar. Dieses Format wird vom verwendeteten Browser offenbar nicht unterstützt.

Diese Grafik fensterfüllend anzeigen (SVG)

iconZeitleiste

icon16 Erwähnungen  Dies ist eine nach Erscheinungsjahr geordnete Liste aller im Biblionetz vorhandenen Werke, die das ausgewählte Thema behandeln.

iconAnderswo suchen  Auch im Biblionetz finden Sie nicht alles. Aus diesem Grund bietet das Biblionetz bereits ausgefüllte Suchformulare für verschiedene Suchdienste an. Biblionetztreffer werden dabei ausgeschlossen.

iconBiblionetz-History Dies ist eine graphische Darstellung, wann wie viele Verweise von und zu diesem Objekt ins Biblionetz eingetragen wurden und wie oft die Seite abgerufen wurde.