Aufmerksamkeit reicht

So funktionieren Sprach-KIs vom Typ „Transformer“

Erstpublikation in: c't 11/2022

Publikationsdatum: 27.04.2022

Diese Seite wurde seit mehr als 7 Monaten inhaltlich nicht mehr aktualisiert. Unter Umständen ist sie nicht mehr aktuell.

Abstracts

Nicht jede KI wird schlauer, wenn man sie auf gigantische Ausmaße aufbläst – der Textgenerator GPT-3 hingegen schon. Wir zeigen, wie die dahinter liegende Transformer-Technik funktioniert.

From Klappentext in the text Aufmerksamkeit reicht (2022)

This journal paper mentions...

Personen
KB IB clear

Aidan N. Gomez , Dirk Hecker , Llion Jones , Lukasz Kaiser , Pina Merkert , Gerhard Paaß , Niki Parmar , Illia Polosukhin , Noam Shazeer , Andrea Trinkwalder , Jakob Uszkoreit , Ashish Vaswani

Begriffe
KB IB clear

Daten

data ,

deepfake ,

DeepL ,

Generative Machine-Learning-Systeme (GMLS)

computer-generated text ,

Generative Pretrained Transformer 3 (GPT-3) ,

Google ,

GPT-2 , Informationsverarbeitung information processing ,

Künstliche Intelligenz (KI / AI)

artificial intelligence , Kurzzeitgedächtnis short-term memory ,

Modelle

model , Muster pattern ,

neuron ,

language ,

statistics ,

number ,

Books

Year		Cover	Title	Requests	IB	OB	KB	LB
2016			c't 6/2016	7, 3, 8, 8, 2, 3, 9, 3, 6, 6, 5, 2	1	74	2	463
2018			Neuronale Denkfehler	3, 9, 8, 4, 1, 2, 7, 3, 9, 7, 3, 5	3	43	5	426

Texts

Year	Title	Requests	IB	OB	KB	LB
2016	Netzgespinste (Andrea Trinkwalder)	4, 8, 9, 5, 1, 1, 5, 5, 5, 4, 2, 2	1	19	2	402
2018	Statistik ist nicht Denken (Pina Merkert)	2, 4, 5, 8, 3, 1, 4, 3, 4, 3, 1, 9	2	18	9	319
2022	KI-Co-Autor (Pina Merkert)	1, 1, 3, 6, 8, 3, 1, 4, 3, 3, 2, 4	1	8	4	87
2022	Sprachversteher (Dirk Hecker, Gerhard Paaß)	3, 3, 10, 5, 2, 2, 1, 7, 3, 2, 3, 6	2	4	6	141
2023	Attention Is All You Need (Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Lukasz Kaiser, Illia Polosukhin)		25	6	0	0

This journal paperdoes probably not mention...

Nicht erwähnte Begriffe

Chat-GPT, facebook, Generative Pretrained Transformer 4 (GPT-4), GMLS & Bildung, Langzeitgedächtnis

Citation Graph

Diese SVG-Grafik fensterfüllend anzeigen

Citation Graph(Beta-Test mit vis.js)

2 References

Skalierungshypothese vs. Neurosymbolik - Welche nächsten Schritte muss die KI-Forschung gehen? (Pina Merkert, Philipp Bongartz) (2022)
Das müssen Sie über KI wissen - c't 11/2024 (2024)
- Die Säulen der Moderne (Jan Mahn)

Fulltext of this document

Aufmerksamkeit reicht: Artikel als Volltext ( lokal

, 625 kByte; WWW

)

Search at other places

Beat and dieser Zeitschriftenartikel

Beat hat Dieser Zeitschriftenartikel während seiner Zeit am Institut für Medien und Schule (IMS) ins Biblionetz aufgenommen. Beat besitzt kein physisches, aber ein digitales Exemplar. Eine digitale Version ist auf dem Internet verfügbar (s.o.). Es gibt bisher nur wenige Objekte im Biblionetz, die dieses Werk zitieren.

Biblionetz-History

default1
default2
default3

Beats Biblionetz - Texts