PNY RTX PRO 6000 Blackwell Server Edition 96GB Videokaart

Meer over dit product

AI-inferentie in de praktijk: tokens per seconde

In tests met het Qwen3-14B taalmodel haalde de kaart ongeveer 103,5 tokens per seconde bij een koude start en 107 tokens per seconde met een vooraf geladen model, ruim boven de circa 60 tokens per seconde van een NVIDIA H100 op hetzelfde model. Bij videogeneratie met Wan 2.2 14B duurde een 720p render op 24fps ongeveer 40 minuten in de standaard 300W-modus en circa 30 minuten in de 600W-boostmodus, met een gemeten temperatuur die onder de 83 graden Celsius bleef.

96GB GDDR7 met ECC: ruimte voor grote modellen

Het 96GB GDDR7-geheugen met ECC en een 512-bit geheugenbus levert tot 1.597GB/s bandbreedte, minder dan de 1.792GB/s van de Workstation Edition maar ruim voldoende om grote taalmodellen volledig in VRAM te laden zonder te swappen naar systeemgeheugen. Multi-Instance GPU splitst de kaart desgewenst op in maximaal vier geïsoleerde instances van 24GB, handig om één fysieke GPU te delen tussen meerdere workloads of gebruikers.

Passieve koeling en stroomaansluiting in de serverbuild

Waar de Workstation Edition actieve fans gebruikt, vertrouwt de Server Edition volledig op de luchtstroom van het serverchassis: geen ventilatoren aan boord, dus geen coil whine of fanruis, maar ook geen werkende koeling buiten een server met voldoende doorstroming. Het dual-slot FHFL-ontwerp (10,5 inch lang, 4,4 inch hoog) gebruikt één 16-pins stroomconnector die via een adapterkabel op de voeding van het serverplatform aansluit; reken op minimaal 800W systeemvoeding en realistisch 1000W of meer inclusief cpu en overige componenten.

Server Edition versus Workstation Edition en RTX 5090

Met 24.064 CUDA-cores heeft de Server Edition evenveel rekenkernen als de Workstation Edition, maar door de aangepaste koeloplossing en standaard 300W-modus ligt de RT-core prestatie op ongeveer 355 TFLOPS tegenover 380 TFLOPS bij de Workstation-versie. In de 600W-boostmodus lopen de kloksnelheden dicht tegen die van de Workstation Edition aan. Vergeleken met een RTX 5090 meten reviewers 15 tot 20 procent hogere prestaties bij modellen die volledig in het VRAM passen, plus stabielere werking zonder stofgevoelige fans.

Voor wie is deze kaart wel en niet geschikt

Deze kaart is geschikt voor bedrijven en cloudproviders die meerdere GPU’s dicht op elkaar willen inzetten voor LLM-hosting, rendering of wetenschappelijke berekeningen, waarbij passieve koeling en serverchassis-airflow een vereiste zijn. Voor thuisgebruik, gaming of een reguliere desktopkast is de kaart ongeschikt: zonder actieve koeling en zonder volwaardige Windows-driverondersteuning bij release functioneert hij alleen naar behoren in een server die voor deze koeling ontworpen is.

Waarde-oordeel voor serverdeployments

De prijs ligt fors hoger dan bij consumentenkaarten, maar in AI-inferentietaken zoals Qwen3-14B overtreft de Server Edition een NVIDIA H100 in doorvoersnelheid, wat de investering per token relatief aantrekkelijk maakt voor organisaties die al server-infrastructuur hebben staan. Voor kleinschalige of budgetbewuste AI-projecten is de kaart overkill; daar is een losse workstation-GPU met actieve koeling vaak praktischer.

Redactie PCBuildMate

Deze producttekst is samengesteld met AI-ondersteuning op basis van fabrieksspecificaties en onafhankelijke reviews, en wordt geredigeerd volgens onze redactieregels. Prijzen en beschikbaarheid komen rechtstreeks van de webshops en worden dagelijks bijgewerkt. Wij testen hardware niet zelf.