Самая дешёвая видео карта с CUDA

[Alexius_Tee]

Сабж. Интересует, сколько сейчас по минимуму может стоить вкатиться в нейромоделирование профилей оборудования с помощью таких платформ как NAM, ToneX, Proteus и тому подобных.
Везде для тренировок профилей требуется видео карта с поддержкой этой технологии. Перерыл все компьютеры, но ни на одном подобной "игровой" карты не нашел. Так что пока что практический потолок для меня это примерно 100 эпох NAM в час. С использованием же облачных вычислений через Google это - 8 минут. Но знаю, что на GeForce 3050 этот результат примерно столько же - около 10 минут. Подобная карта на вторичке стоит порядка 15-20 тысяч. Вот стало интересно - можно ли подобрать что то ещё дешевле.
Как я понял, самое главное это такая видео карта, а сам процессор - достаточно просто современного от intel, core серии.

 

[basЫl]

есть подозрение что подойдет и 1030 - будет точно дешевле

 

[Sandello1973]

@Alexius_Tee, что касается Nvidia, то CUDA поддерживает всё, начиная с древнейшего GeForce 8600. Так что мне как-то удивительно ваше "перерыл все компьютеры"...
У меня сейчас стоит GF GTX1660Ti, так прекрасно поддерживает. Правда, нейросетями я ее как-то не озадачивал... Так только, VST-плагины иногда покрутить... да и то, сейчас без нее ресурсов хватает (тьфу-тьфу ;o))) )

 

[basЫl]

@Sandello1973, там для обучения нужен питорч лайт, а хз, какую куду он потребует (надо гуглить, а мне лень), а от куды уже и модельки видях пляшут

 

[robotgard]

Какую видюху выбрать? AMD vs NVidia

на озоне появились 4060 8G около 30круб. На свой страх и ужас. Если нужен DLSS 3, есть PCI 4.0, и есть вера, что в будущем NVidia допилит и прикрутит сюда Neural Texture Compression, что позволит компенсировать объем памяти 8 Gb. Однако за ту же цену 3060 12G выглядит привлекательнее за счет...

rmmedia.ru

 

[basЫl]

есть и такие варианты - чисто нейросетки гонять на 16 гиг по 300 бачей. Если с СШАшки есть вариант привезти.
Amazon product ASIN B0CJ9VSCVF

 

[VR.j]

про 1030 - да, с Cuda наверно самая дешевая, но вот там (что удивительно) нет NvEncoder, т.е. то что например для ffmpeg можно использовать как h264_nvenc . Не всегда ясно зачем этот энкодер (ну кроме медиа) нужен - но вот я столкнулся. И в части плагинов как-то странно вывод видео подглючивал. А так да, куда есть и работает. и потребление у 1030 конечно крохи. Бывает важно.
Ну и памяти в видюхе конечно нужно поболее чем 1(или2)гига. я бы меньше 4 и не заглядывал, для расчета хоть чего-угодно.

 

[Kokarev Maxim]

что касается Nvidia, то CUDA поддерживает всё, начиная с древнейшего GeForce 8600

про 1030 - да, с Cuda наверно самая дешевая

Судя по всему, эти CUDA ещё и разные бывают. Или решает не только она. К примеру, UVR не работает с 1030: там в минимальных требованиях GTX 1060 6Gb. Так что, аккуратнее с экономией - лучше всё же посмотреть в требованиях софта, с чем именно он может работать.
Я б в 2024 брал 3050 c 8гб памяти. Не супер экономия, конечно, но больше памяти, чем обычно в затычках, больше производительность и относительно актуальная, поддерживающая кучу полезной мелочёвки.

 

[VR.j]

эти CUDA ещё и разные бывают

Ну да, версии. Как и OpenCL. Смотреть совместимость или просто переплатить и не парится.

 

[Evgenioni]

а почему бы не взять p40 24Gb, на вторичке той же? По опыту для нейронок 16Gb это практический минимум. Особенно если что-либо обучать.

Torch свежий имеет неплохую поддержку Intel ARC, а это по железу тоже довольно прикольная карта. Пока CUDA лучше реализована в разных ИИ либах, но есть надежда что Интел за эту тему серьезно взялась.

Torch это вот эти все UVR RVS MSST...

Последний ЗЫ: как по мне проще купить Colab Pro, или аналогичные ресурсы в Kaggle и других площадках, оно и дешевле и мощнее. За цену карты на пару лет хватит.