06.03.2024 11:45 Uhr, Quelle: Heise

Bitknauserei: Lassen sich Paramter von Sprachmodellen auf ein Bit reduzieren?

Um dem Hardwarehunger von großen Sprachmodellen Herr zu werden, setzt man auf Quantisierung. Einen neuen Ansatz stellen Microsoft-Forscher zur Diskussion.

Weiterlesen bei Heise