V100 vs RTX 5090 – Porównanie wydajności GPU

Bezpośrednie porównanie wydajności między V100 i RTX 5090 w 12 znormalizowanych testach wydajności AI zebranych z naszej floty produkcyjnej. Testy pokazują, że V100 wygrał 0 z 12 testów (0% wskaźnik wygranych), podczas gdy RTX 5090 wygrał 12 testów. Wszystkie 12 wyników testów są automatycznie zbierane z aktywnych serwerów wypożyczalni, zapewniając dane dotyczące wydajności w rzeczywistych warunkach, a nie testy syntetyczne.

Wydajność wnioskowania LLM: V100 wolniejszy o 52%

W testach wnioskowania modeli językowych na 4 różnych modelach, V100 jest średnio 52% wolniejszy niż RTX 5090. Dla wnioskowania gpt-oss:20b, V100 osiąga 113 tokenów/s, podczas gdy RTX 5090 osiąga 238 tokenów/s, co czyni V100 znacząco wolniejszym z 52% deficytem. Ogólnie rzecz biorąc, V100 wygrywa 0 z 4 testów LLM, ze średnią różnicą w wydajności wynoszącą 52%, co czyni RTX 5090 lepszą opcją dla zadań wnioskowania LLM.

Image Generation Performance: V100 64% slower

Evaluating AI image generation across 8 different Stable Diffusion models, the V100 is 64% slower than the RTX 5090 in this category. When testing sdxl, the V100 completes generations at 6.1 s/image while the RTX 5090 achieves 2.0 s/image, making the V100 substantially slower with a 67% deficit. Across all 8 image generation benchmarks, the V100 wins 0 tests with an average 64% performance difference, making the RTX 5090 the better choice for Stable Diffusion, SDXL, and Flux workloads.

O tych testach porównawczych V100 vs RTX 5090

Nasze testy porównawcze są zbierane automatycznie z serwerów wyposażonych w karty graficzne typu V100 i RTX 5090 w naszej flocie, przy użyciu standardowych zestawów testowych:

Inferencja LLM (Ollama i VLLM): Mierzy liczbę tokenów na sekundę dla V100 w porównaniu do RTX 5090 dla wnioskowania LLM przy użyciu różnych modeli (Llama, Qwen, itp.) zarówno na Ollama, jak i VLLM z kwantyzacją FP8.
Generowanie obrazów: Mierzy liczbę obrazów generowanych na minutę oraz czas generowania pojedynczego obrazu dla generowania obrazów AI na V100 w porównaniu do RTX 5090.
CPU: Liczba operacji jednowątkowych i wielowątkowych na sekundę reprezentująca serwery GPU dostępne do wynajęcia z V100 lub RTX 5090
NVMe: Prędkości odczytu i zapisu w MB/s dla wydajności przechowywania danych na serwerach GPU, zazwyczaj wyposażonych w V100 lub RTX 5090

Uwaga: Wyniki testów AI dla V100 i RTX 5090 mogą się różnić w zależności od obciążenia systemu, konfiguracji i konkretnych wersji sprzętu. Te wyniki stanowią wartości medianowe z wielu uruchomień testów V100 i RTX 5090.