Nvidia cmp 170HX 64GB HBM2e - Qwen3-235B AI LLM → Обява 56865922

UPDATE 10.08.2026: PCIe Gen2 ×4 unlock вече е успешен и стабилен — измерени ~1.69 GB/s H2D, 45+ минути stress test без AER грешки, link drops или CUDA проблеми.

Цена: €2690 за 1 карта
Наличност: 1 брой.
Прочете надолу има и тестове на големи модели за 2 карти !!!

Продавам тествани NVIDIA CMP 170HX compute карти с отключени приблизително 64GB HBM2e видеопамет на карта.

Картите са подходящи основно за:

локални LLM модели;
AI inference;
RAG и vector search;
обработка на големи контексти;
CUDA/PyTorch задачи;
локални AI сървъри с една или повече карти.

Това е CMP 170HX с GA100 чип, а не A100. Режимът с 64GB е реализиран чрез специализиран Linux драйвер/unlock.

Основни характеристики
GPU: NVIDIA GA100 / CMP 170HX
Видеопамет след unlock: приблизително 65 536 MiB
Памет: HBM2e
Compute Capability: 8.0
CUDA и PyTorch работят
Измерена скорост на четене от паметта: 1 175 GB/s
Препоръчителен power limit за LLM inference: 225 W
Пасивен сървърен радиатор
Задължително е силно насочено принудително охлаждане
Реални тестове с една карта

Всички посочени резултати са измерени реално с llama.cpp и CUDA, при пълно зареждане на моделите върху GPU.

Qwen3.6 35B-A3B MoE Q4_K_M

писане: 111 токена/секунда - четене на prompt: 2 312 токена/секунда

Gemma 3 27B Q4_K_M

писане: 35.5 токена/секунда - четене: 921 токена/секунда

Qwen3 32B Q4_K_M

писане: 31.9 токена/секунда - четене: 770 токена/секунда

Qwen2.5 Coder 32B Q4_K_M

писане: 31.3 токена/секунда - четене: 780 токена/секунда

Llama 3.3 70B Q4_K_M

моделът работи изцяло на една карта
писане: 16.9 токена/секунда - четене: 360 токена/секунда

DeepSeek-R1-Distill-Llama-70B Q4_K_M

моделът работи изцяло на една карта
16.5–17 токена/секунда при 225 W
8K prompt: 344 токена/секунда
32K prompt: 302 токена/секунда
64K prompt: 259 токена/секунда
при 64K prompt използва 61 082 MiB VRAM
без OOM или CUDA грешки

Qwen2.5-72B Instruct Q4_K_M

работи изцяло на една карта
16.3 токена/секунда - 45GB файл на модела
Реални тестове с две карти – 128GB обща VRAM

Qwen2.5-72B-Instruct Q8_0

Истински 32K контекст за всеки от четири паралелни клиента:

конфигурация: -c 131072 --parallel 4
контекст на клиент: 32 768 токена
1 клиент: 12.27 токена/секунда
4 клиента: 37.95 токена/секунда общо
9.53 токена/секунда на клиент
TTFT с 1 клиент: 0.22 секунди
TTFT с 4 клиента: 0.46 секунди
VRAM: 58 206 + 56 666 MiB
остава свободна памет и на двете карти
температура по време на теста: 43–44°C
без OOM или CUDA грешки

Qwen3-235B-A22B-Instruct Q3_K_S

Модел с 235 милиарда общи параметъра, работещ върху две карти:

писане: 24.6 токена/секунда
четене на prompt: 391 токена/секунда
зареждане: 158 секунди
VRAM: 50 + 49GB
температура: 45°C

Измерването е направено с реални llama-server timings, тъй като използваният multi-shard GGUF не се зарежда коректно от llama-bench.

RAG и vector search

При тест с 512-мерни FP32 вектори една отключена карта побира:

28 милиона вектора
около 53.8 GiB използвана VRAM
без OOM или CUDA срив

Подходящо за големи локални embedding бази, RAG системи и GPU vector processing.

Стабилност и проверка

Картите са тествани с:

nvidia-smi;
CUDA;
PyTorch;
llama.cpp;
продължително натоварване;
големи LLM модели;
запълване на почти цялата отключена VRAM;
работа с една и две карти;
паралелни клиенти;
32K и 64K контекст.

При сериозен интерес мога да предоставя:

пълен HTML доклад;
сурови CSV резултати;
nvidia-smi логове;
дистанционна демонстрация;
тест с избран от купувача съвместим GGUF модел.
Важно преди покупка
Картата е compute accelerator, а не стандартна gaming видеокарта.
Не я предлагам за игри или монитор.
64GB режимът използва специфична Linux и драйверна конфигурация.
Необходимо е силно принудително охлаждане през радиатора.
На тестовата машина картите работеха на PCIe Gen1 ×4. Това влияе основно върху зареждането и трансфера на модели, а значително по-малко върху скоростта на генериране след зареждането.
Основните тестове са за inference.

Намират се в Добрич. Възможен е тест на място или дистанционна демонстрация.