Недавно я собрал ML сервер всего за один день. Начал с выбора видеокарт: у меня были две RTX 2060 и одна RTX 1060. Оказалось, что 1060 устарела, и результаты её работы были значительно ниже, чем у 2060. Сравнение показало, что RTX 2060 поддерживает современные фреймворки, имеет встроенные Tensor Cores и значительно большую пропускную способность памяти.

Материнская плата Gigabyte Z390-D позволила без проблем использовать две видеокарты, а настройки BIOS обеспечили максимальную производительность. Создание дисковой системы с RAID 1 оказалось сложным, но важным шагом для обеспечения надежности.

Установил Python 3.12 и необходимые библиотеки, такие как PyTorch и CUDA, что позволило связать Python с GPU. Провел тестирование, и результаты показали, что обе карты работают без конфликтов. Генерация изображений с помощью Stable Diffusion заняла 38 секунд, а YOLOv8 обрабатывает видео в реальном времени с 22 FPS.

Итог: я создал локальный ML сервер, который эффективно генерирует и анализирует изображения, готов к интеграции с другими системами. Затраты составили всего ₽0, а время сборки — один день.