Die Open-Source-Bibliothek Opacus erweitert ihren Funktionsumfang um Fully Sharded Data Parallel (FSDP). Dadurch verbessert sich die Speichereffizienz und Skalierbarkeit beim privaten Training großer Sprachmodelle, was besonders für datenschutzkritische Anwendungsfälle relevant ist.
Opacus unterstützt speicher- und skalierungseffizientes Training privater großer Sprachmodelle
•