Mu - Microsoft führt Small Parameter Language Model zur Unterstützung von Windows Intelligentsia ein
Mu ist ein Small-Parameter-Sprachmodell von Microsoft mit nur 330 Millionen Parametern, das für die effiziente Ausführung auf NPUs und Edge-Geräten entwickelt wurde. Das Modell basiert auf einer Encoder-Decoder-Architektur und erreicht durch hardwarebewusste Optimierung, Modellquantisierung und aufgabenspezifische Feinabstimmung Antwortraten von über 100 Token pro Sekunde....