Shop wählen
Black Friday 2026: die Grafikkarten mit bester Preis-Leistung, zu heutigen Preisen. Zu den Angeboten →

← Alle Ratgeber

Grafikkarte für KI und lokale Sprachmodelle: Warum der Speicher zählt

Von best-gpu.com ·Veröffentlicht am 05.11.2026 · Aktualisiert am 05.11.2026 · 8 Min. Lesezeit

Wer Sprachmodelle oder Bildgeneratoren lokal auf dem eigenen Rechner laufen lassen will, kauft eine Grafikkarte nach anderen Regeln als ein Spieler. Hier entscheidet meist nicht die Rechengeschwindigkeit, sondern der Speicher. Dieser Ratgeber erklärt die Zusammenhänge und gibt Richtwerte.

Warum der Speicher entscheidet

Ein KI-Modell muss für die Berechnung vollständig oder zum großen Teil im Grafikspeicher liegen. Passt es nicht hinein, lagert die Software Teile in den Arbeitsspeicher aus, und die Geschwindigkeit sinkt auf einen Bruchteil. Eine schnelle Karte mit zu wenig Speicher kann also ein Modell gar nicht oder nur quälend langsam ausführen, während eine langsamere Karte mit mehr Speicher es problemlos lädt.

Wie viel Speicher ein Sprachmodell braucht

Die Faustformel: Ein Modell benötigt pro eine Milliarde Parameter etwa 2 GB im 16-Bit-Format und etwa 0,5 bis 0,7 GB, wenn es auf 4 Bit quantisiert ist. Dazu kommt Platz für den Kontext, also den bisherigen Gesprächsverlauf, der mit seiner Länge wächst.

ModellgrößeSpeicher bei 4-Bit-Quantisierung (grob)Sinnvolle Kartengröße
7 bis 8 Mrd. Parameter4,5 bis 6 GB8 GB
13 bis 14 Mrd. Parameter8 bis 10 GB12 bis 16 GB
30 bis 34 Mrd. Parameter18 bis 22 GB24 GB
70 Mrd. Parameterüber 40 GBmehrere Karten oder Auslagerung

Das sind Näherungswerte, die je nach Software, Quantisierung und Kontextlänge schwanken. Quantisierung spart Platz, kann die Qualität aber leicht verringern.

Bildgenerierung

Für Bildmodelle gilt Ähnliches. Ältere Modelle laufen mit etwa 4 bis 6 GB, neuere und größere verlangen 8 bis 12 GB und mehr, vor allem bei hoher Auflösung und zusätzlichen Erweiterungen. Auch hier hilft zusätzlicher Speicher, weil er größere Bilder und mehrere Zusatzmodelle gleichzeitig erlaubt.

Nicht nur der Speicher

  • Speicherbandbreite: Sprachmodelle sind häufig durch die Speichergeschwindigkeit begrenzt. Karten mit breiterem Speicherinterface erzeugen oft mehr Wörter pro Sekunde, als der reine TFLOPS-Wert vermuten lässt.
  • Software-Unterstützung: NVIDIA-Karten werden von den meisten KI-Werkzeugen am besten unterstützt (CUDA). AMD-Karten funktionieren mit zunehmend mehr Programmen, erfordern aber öfter Einrichtungsaufwand. Intel Arc ist in einzelnen Werkzeugen nutzbar, bleibt aber die Ausnahme. Mehr dazu in NVIDIA, AMD oder Intel Arc.
  • Leistungsaufnahme und Kühlung: Bei längeren Rechenaufgaben läuft die Karte stundenlang unter Last. Planen Sie Netzteil und Gehäuse entsprechend (Netzteil und Anschlüsse).

Was zählt in unserem Vergleich

Für KI-Aufgaben ist der Preis pro Gigabyte Speicher eine nützliche Zahl. Er steht in der Tabelle neben dem Preis pro TFLOP. Wer vor allem Modelle laden will, sortiert nach dem Preis pro Gigabyte und prüft dann die Rechenleistung. Eine ältere Karte mit 24 GB kann für KI sinnvoller sein als eine neuere mit 12 GB, auch wenn sie in Spielen langsamer ist. Unsere Zusammenstellung beste Grafikkarte für KI sortiert nach diesem Gesichtspunkt, ebenso die Seite Grafikkarten mit 24 GB.

Empfehlungen nach Zweck

  • Ausprobieren und kleine Modelle: 8 bis 12 GB reichen für Modelle bis etwa 8 Milliarden Parameter und für die meisten Bildmodelle.
  • Regelmäßige Nutzung mit mittelgroßen Modellen: 16 GB sind der Punkt, an dem die Auswahl deutlich größer wird.
  • Große Modelle und ernsthafte Experimente: 24 GB oder mehr. Hier lohnt auch der Blick auf gebrauchte Karten (Checkliste).

Noch ein Hinweis: Wer nur gelegentlich ein Modell nutzt, fährt mit einem Cloud-Dienst manchmal günstiger als mit einer neuen Karte. Wer regelmäßig und mit privaten Daten arbeitet, profitiert dagegen davon, dass alles lokal bleibt.

Weiterlesen

Links zu Amazon sind Affiliate-Links: Bei einem Kauf erhalten wir eine kleine Provision, der Preis für Sie bleibt gleich. Angaben zu Leistung und Speicher stammen aus den veröffentlichten Herstellerdaten; Preise ändern sich laufend und stehen im Vergleich.