Sign in

Klippen-Lernen

By Tony Wang and others
Wir untersuchen die Datenskalierung von Transferlernen aus Gründungsmodellen im Low-Downstream-Datenregime. Wir beobachten ein faszinierendes Phänomen, das wir Klippenlernen nennen. Klippenlernen bezieht sich auf Bereiche von Datenskalierungsgesetzen, in denen sich die Leistung schneller als die Potenzgesetzrate verbessert (dh Konkavitätsbereiche in einem Log-Log-Skalierungsdiagramm). Wir führen eine eingehende Untersuchung des Grundmodell-Klippenlernens durch und... Show more
June 7, 2023
=
0
Loading PDF…
Loading full text...
Similar articles
Loading recommendations...
=
0
x1
Cliff-Learning
Click on play to start listening