Zusammenfassungen
Seismic advances in generative AI algorithms for imagery, text, and other data types has led to the temptation to use synthetic data to train next-generation models. Repeating this process creates an autophagous (self-consuming) loop whose properties are poorly understood. We conduct a thorough analytical and empirical analysis using state-of-the-art generative image models of three families of autophagous loops that differ in how fixed or fresh real training data is available through the generations of training and in whether the samples from previous generation models have been biased to trade off data quality versus diversity. Our primary conclusion across all scenarios is that without enough fresh real data in each generation of an autophagous loop, future generative models are doomed to have their quality (precision) or diversity (recall) progressively decrease. We term this condition Model Autophagy Disorder (MAD), making analogy to mad cow disease.
Von Sina Alemohammad, Josue Casco-Rodriguez, Lorenzo Luzi, Ahmed Imtiaz Humayun, Hossein Babaei, Daniel LeJeune, Ali Siahkoohi, Richard G. Baraniuk im Text Self-Consuming Generative Models Go MAD (2023)
Dieser Text erwähnt ...
![]() Personen KB IB clear | Tamay Besiroglu , Lennart Heim , Anson Ho , Marius Hobbhahn , OpenAI , Jaime Sevilla , Pablo Villalobos | |||||||||||||||||||||||||||
![]() Begriffe KB IB clear | Algorithmus algorithm
, Datenqualitätdata quality
, Generative Machine-Learning-Systeme (GMLS) computer-generated text
, model collapse / Model Autophagy Disorder (MAD)
| |||||||||||||||||||||||||||
![]() Texte |
|
Dieser Text erwähnt vermutlich nicht ... 
![]() Nicht erwähnte Begriffe | Chat-GPT, GMLS & Bildung, Künstliche Intelligenz (KI / AI) |
Zitationsgraph
Zitationsgraph (Beta-Test mit vis.js)
1 Erwähnungen 
- Schreibende KI - ein interdisziplinärer Diskurs - Perspektiven über den Sinn oder Unsinn von schreibender KI (Alke Martens, Clemens H. Cap)

- Einsatz KI-gestützter Systeme für Literaturreviews - Explorative Analyse und kritische Reflexion (Michael Fellmann, Henrik Bongertmann, Niklas Götz, Carl Pommerencke)

- Einsatz KI-gestützter Systeme für Literaturreviews - Explorative Analyse und kritische Reflexion (Michael Fellmann, Henrik Bongertmann, Niklas Götz, Carl Pommerencke)
Anderswo finden
Volltext dieses Dokuments
![]() | Self-Consuming Generative Models Go MAD: Artikel als Volltext ( : , 25809 kByte; : ) |
Anderswo suchen 
Beat und dieser Text
Beat hat Dieser Text während seiner Zeit am Institut für Medien und Schule (IMS) ins Biblionetz aufgenommen. Beat besitzt kein physisches, aber ein digitales Exemplar. Eine digitale Version ist auf dem Internet verfügbar (s.o.). Aufgrund der wenigen Einträge im Biblionetz scheint er es nicht wirklich gelesen zu haben. Es gibt bisher auch nur wenige Objekte im Biblionetz, die dieses Werk zitieren.


Algorithmus
Generative Machine-Learning-Systeme (GMLS)


, 25809 kByte;
)
Biblionetz-History