VRAM vs. RAM und deren Bedeutung in der CFD

Der sog. VRAM ist der Speicher, den die GPU zur Speicherung von Daten während der Verarbeitung benötigt, während RAM (Random Access Memory) als Arbeitsspeicher der CPU dient. VRAM ist für die parallele Verarbeitung optimiert und besitzt eine hohe Bandbreite, die speziell auf die schnellen Anforderungen von Grafik- und Simulationsaufgaben abgestimmt ist. Im Gegensatz dazu ist CPU-RAM vielseitiger einsetzbar, aber weniger auf parallele Verarbeitung ausgelegt. Ebenfalls relevant ist der Umstand, dass CPU-RAM sehr einfach nachgerüstet werden kann, VRAM jedoch ist fest in die Architektur der jeweiligen Karte verankert und kann NICHT geändert werden. Es passt also nur begrenzt „Strömung“ auf eine GPU.

Der Speicherbedarf bei GPU-gestützten Berechnungen hängt primär von der Größe des Simulationsgitters, den verwendeten physikalischen Modellen (Energie, Strahlung, Turbulenz, Gitterbewegung, Spezies, VoF…) und der eingestellten Genauigkeit (Single/Double) ab. Große und komplexe Modelle beanspruchen den VRAM stärker. Die VRAM-Kapazität der Grafikkarte begrenzt also die Größe und Detailtiefe der Simulation – eine Herausforderung, die bei der Berechnung auf CPU auch gilt, jedoch seltener zum Tragen kommt, da CPU-Systeme einfacher nachgerüstet werden können.

Als Faustregel lässt sich sagen, dass ca. 1-3 GB an VRAM für eine Million Gitterelemente benötigt werden (s. Abbildung). Dieser Wert erhöht sich mit wechselnden Elementtypen (tet, hex, poly) und natürlich den weiteren Berechnungseinstellungen (Energie On/Off, Turbulenz, Festkörper-CHT, Strahlung, gekoppelter Löser). Inwieweit reicht also eine herkömmliche Grafikkarte und wann braucht es dezidierte Rechenkarten? Und wieviel kostet ein solcher Hardwareaufbau?

Desktop-GPU oder Server-GPU – eine Guideline

Zur Hand nehmen wir für diese Gegenüberstellung je eine Karte aus dem Desktop- (Nvidia RTX A4000) und eine aus dem Server-Segment (Nvidia A800). Die RTX A4000, eine typische Desktop-Karte, bietet eine solide Single-Precision-Leistung und eignet sich gut für kleinere bis mittelgroße Rechenmodelle. Die A800 hingegen, eine Server-Karte, ist auf komplexere Simulationen mit hoher Präzision ausgelegt und bietet eine höhere Rechenleistung und eine höhere VRAM-Kapazität. Die A800 ist sowohl für Single- als auch für Double-Precision-Berechnungen geeignet. Bei Double-Precision ist sie deutlich leistungsstärker als eine Desktop-Karte, was sie zur besseren Wahl für Simulationen macht, bei denen eine doppelte Genauigkeit erforderlich ist.

In der Anschaffung ist die A4000 günstiger als die A800. Für Anwendungen, die nicht zwingend Double Precision benötigen, bietet die RTX A4000 ein attraktives Preis-Leistungs-Verhältnis. Die RTX A4000 steht hier stellvertretend für die Klasse Desktop-Grafikkarten, die durchaus schon in bestehenden Systemen in einem Unternehmen zu finden sein können. Hier lohnt sich ein genaueres Hinsehen, da diese Karten im Leistungs-Äquivalent in der Größenordnung 20-60 CPU mitspielen und diese CPU-Systeme bereits schlagen können (siehe MIUPS bzw. 30 Kerne = 2h vs. 1 RTX A400 = 24min im ersten Abschnitt). Sie stellen häufig eine nicht gehobene Rechenressource in Unternehmen dar. In der Regel reichen bestehende HPC-Lizenzen und ein Upgrade auf die für GPU notwendige Enterprise-Lizenz aus, um eine solche Karte zu betreiben (siehe dazu auch im letzten Abschnitt).

Die A800 wiederum rechtfertigt ihren höheren Preis durch bessere Performance und größeren VRAM, was sie zu einer lohnenden Investition für anspruchsvolle Simulationen macht. In vielen Fällen ist der größere VRAM das eigentliche Kaufargument, da CFD-Simulationen eben erst ab einigen Millionen Berechnungselementen effizient auf einer GPU laufen und dies einen gewissen Speicher erfordert. Ebenso bedeutend ist der Umstand, dass Serverkarten über ein Kühlsystem für den Dauerbetrieb verfügen. Das ist, besonders bei Desktop-Karten, nicht zwingend der Fall. Je kühler die Karte bleibt, umso schneller ist sie. Was aber, wenn auch eine Serverkarte das Problem nicht „schlucken“ kann? Antwort: Viel hilft viel – Multi-GPU.