Нейросети пришли и к нам. (14 онлайн)

[evgeny26]

Как раз собираюсь покупать себе GeForce RTX 5060. Скромненько по сравнению с 3090, но расчёты делать должна.

если там 8GB памяти, то для ИИ-дел будет слабовато, минимум 16, и то со скрипом,
там важно количество самой VRAM памяти, если модель полностью не влезет, будет или медленно работать с CPU offload, или вообще не заработает.

 

[Ilya Prokhorov]

если модель полностью не влезет

Если надо 32 Гб, то можно NVLINK и две карты по 16.
Надо исследовать.