MI traineléshez milyen videokártyát érdemes megvenni?

Segíteni nem tudok, de talán némi támpontot tudok adni amerre el tudsz indulni:

Szerintem ennek érdemes lenne Ai hardverrel foglalkozó fórumokban vagy oldalakon utánanézni, legalábbis annak hogy mi az ami szoftveres oldalról támogatott.

A Radeon Instinct Mi25 szinte fillérekért van ebayen ( 70$ körül), de a Mi50-ből is rengeteg van 170$ körül. Nvidia Tesla V100-at kapsz már 700-800$ között, ennek a teljesítménye valamivel több mint a klasszik Radeon VII-é de utóbbit már 100-110 000 körül megkapod hardveraprón is, egy Tesla V100 árából kijön két Radeon VII..

Innen lehet felfelé lépegetni a Teslák, RTX Axxxx-ek világában és határ a csillagos ég.

Szerintem a GPU teljesítménye nem lesz kritikus, több olcsó kártya együtt egész jól megy, akik nagyban nyomják azok az energiahatákonyság miatt használják a legújabb és legtutibb cuccokat ( nyilván a bruitál drága kutatásokhoz kell a compute powaaa is ). Én arra figyelnék, hogy mi a memóriaigény. Ha kell a nagy sávszél akkor klasszik GDDR-es kártyákat nem szabad megvenni, ott a HBM-es lesz a befutó.

Hát ez sok mindentől függ. Egyáltalán mit szeretnél trainelni az sem mindegy? Mekkora modell? Mennyi gpu ram kell neki? Én cloud gpu-t szoktam használni ilyenekre mert sokkal gazdaságosabb. Ott általában 4090-et vagy ha több memória kell akkor A100 vagy ahogy az előttem lévő is írta A5000 pl. Ezeket párszáz forintért/óra lehet bérelni.

Nyilván ha szeretnél saját AI céget indítani akkor kell saját gpu park is, de túl sok részletet azért nem írtál ...