Skocz do zawartości

Rekomendowane odpowiedzi

Opublikowano

Mój aktualny zestaw:

Płyta główna GIGABYTE B550 Gaming X V2

Obudowa ENDORFY Ventum 200 Air

Procesor AMD Ryzen 5 5600 OEM

Pamięć RAM GoodRam/G.skill/Patriot/HyperX/Adata, DDR4, 16GB (2x8GB), 3200MHz, CL16

Karta graficzna Power Color Radeon RX 6600 Fighter 8GB GDDR6

Zasilacz MSI MAG A550BN 550W 80Plus Bronze

Chciałbym wymienić kartę na coś mocniejszego pod odpalanie lokalnych LLM - myślę o używanej 3090 24gb.
Byłbym wdzięczny za radę, jakiej wersji szukać i jaki zasilacz do tego dobrać - chyba coś 850w-1000w by się przydało?

Opublikowano
Godzinę temu, JacekRTX napisał(a):

Jaki budżet? Brałbym jednak coś nowego.

Powiedzmy, że max 4000 no może 4500 za całość, ale z tego, co czytam pod LLM im więcej VRAM tym lepiej, a Nvidia > AMD

Opublikowano
W dniu 18.04.2025 o 13:24, JacekRTX napisał(a):

Do 5600 to chyba max bym wsadził 5070, ewentualnie RX 9070. Za resztę możesz zmienić cpu na 5700x3d :)

Przeczytaj do czego ma to służyć:

W dniu 18.04.2025 o 11:25, rebuzus napisał(a):

Chciałbym wymienić kartę na coś mocniejszego pod odpalanie lokalnych LLM - myślę o używanej 3090 24gb.

 

Opublikowano (edytowane)

Pod LLM rozważ też 128GB Ramu, bo mógłbyś wtedy używać dużych modeli. Parę warstw załadowanych na GPU Vram reszta na ramie systemowym.

Aczkolwiek optymalnie by wtedy mieć GPU z interfejsem PCIE 5.0.

 

Co do RTX 3090 to obecnie dobry wybór, dopóki AMD nie wypuści RX 9070 XTX 32GB.

 

Co do zasilacza jeśli zrobisz karcie RTX 3090 undervolt I ograniczysz TDP twój obecny zasilacz starczy, nie wpłynie to zauważalnie na szybkość LLM.

Co do wersji RTX 3090 bierz najtańszą dostępną bo pod LLM nie robi to różnicy.

Edytowane przez deathrabit

Jeśli chcesz dodać odpowiedź, zaloguj się lub zarejestruj nowe konto

Jedynie zarejestrowani użytkownicy mogą komentować zawartość tej strony.

Zarejestruj nowe konto

Załóż nowe konto. To bardzo proste!

Zarejestruj się

Zaloguj się

Posiadasz już konto? Zaloguj się poniżej.

Zaloguj się
  • Ostatnio przeglądający   0 użytkowników

    • Brak zarejestrowanych użytkowników przeglądających tę stronę.
×
×
  • Dodaj nową pozycję...