RTX 50x0 (Blackwell) - wątek zbiorczy

[oldfashioned 955]

43 minuty temu, Kadajo napisał(a):

Ale biorąc pod uwagę ogólność to nie różnisz się niczym o tych lolków co lecą na otwarcie sklepu aby nakupować philipsa 32" bo będzie "w promocji" 

Natomiast w aktualnej sytuacji jesteś nikim innym jak skalperem który wykorzystuje sytuacje rynkowa dla własnej korzyści finansowej a to już jest nieetyczne.

 

1. Nigdzie nie musialbym leciec i stac w kolejce, po prostu wszedlbym na strone i kupil to co jest po cenie, ktora jest. Wiec porownanie troche z czapy. Ja nie stoje pod drzwiami i nie czekam na karpia w promce.

2. Jakbym sie w to bawil dlugoterminowo i robił to hurtowo, pewnie tak. W przypadku zakupu paru DOSTEPNYCH kart jednorazowo - to ciezko tutaj mowic o scalpingu. Dostepnosc to clue w tym temacie. Jezeli nie bedzie to limitowane ,a Wy wszyscy macie racje ze nikt tak drogich kart nie kupi (xD) to przeciez powinny wisiec w sklepie latami
 

[galakty 5 737]

2 minuty temu, Kadajo napisał(a):

Ich poziom zaawansowania nie będzie rósł ? 

Nie dojdziemy do momentu gdzie takie ilości pamięci do niczego ciekawego się nam nie przydadzą ?

Nie rozumiem.

W tej chwili JUŻ na takich 12/16 nic nie zrobisz sensownego, więc to że są drogie jest dla mnie irracjonalne bo do AI tego się nie wykorzystuje, chyba że generowanie obrazków. Żadnego kodu Ci to nie napisze, za mało miejsca. 

 

Wymówka że AI jest wygodna, ale gdyby chcieli zachować twarz to by dali normalne ceny i karty, a do profesjonalnego użytku drogie. No ale jest jak jest. 

[Kadajo 11 148]

Czyli nie ma co liczyć na zmiany.

 

 

[galakty 5 737]

Teraz, Kadajo napisał(a):

Czyli nie ma co liczyć na zmiany.

 

 

Jak pisałem, dopóki AI bazuje na VRAM to raczej nie. 

Są już jakieś pokrętne sposoby podziału i załadowania dużych modeli nawet na 12GB, testowałem ale to trwa wieki, głupie zapytanie czyta 5-10 minut, nie mówiąc o odpowiedzi. Pewnie za jakiś czas albo wymyślą nowy sposób na optymalizację, albo nic się nie zmieni. Centra bazodanowe cały czas będą się rozrastać.

 

Noooo chyba że po aferze z chińskim szpiegiem coś się zmieni  

[MaxaM 2 075]

Godzinę temu, Kadajo napisał(a):

Z biznesowego punktu widzenia dla Nvidii nieporównywalnie większy profit daje AI wiec po co klepać "tanio" zwykle karty RTX jak można PRO znacznie drożej.

Nie do końca. Odpady też dobrze byłoby sprzedać, a na rynku pro nie mają zbytnio sensu, więc można pchać je na konsumencki.

[bofff 239]

1 godzinę temu, galakty napisał(a):

Jak pisałem, dopóki AI bazuje na VRAM to raczej nie. 

Są już jakieś pokrętne sposoby podziału i załadowania dużych modeli nawet na 12GB, testowałem ale to trwa wieki, głupie zapytanie czyta 5-10 minut, nie mówiąc o odpowiedzi. Pewnie za jakiś czas albo wymyślą nowy sposób na optymalizację, albo nic się nie zmieni. Centra bazodanowe cały czas będą się rozrastać.

 

Noooo chyba że po aferze z chińskim szpiegiem coś się zmieni  

no właśnie zmieniło  się, MOE na silnikach starta/maya i przydzielają dynamicznie expertów między  RAM/VRAM
25%VRAM/75% RAM  na model+cache ok 100gb potrafi decode na 100t/s

więc takie karty po 24gb/32gb to  imo dopiero  teraz nabierają sensu
śmiesznie robi się nieco  dalej, na PC prawie domowym 192/256gbRAM +32/64gb VRAM
można uruchomić deepseek 1017 flash,  a to już b. mocny model, świetny w 3d

 

w ogóle imo dotarliśmy lekko do ściany, nie bez przyczyny było STOP PACE

zahamowanie budowy nowych centr danych, przeskalowanie AI  w dół na mnijesze/localne + super spec dla centr badawczych/laboratoriów kompletnie zmieniłoby profil produkcji NVIDII i podobnych

więcej 6090 z 64GB zamiast GB200/GB300

Edytowane 1 godzinę temu przez bofff

[galakty 5 737]

10 minut temu, bofff napisał(a):

na PC prawie domowym 192/256gbRAM +32/64gb VRAM

Chyba leków nie wziąłeś jak to nazywasz prawie domowym PC. 

[Fenrir_14 1 499]

7 minut temu, galakty napisał(a):

Chyba leków nie wziąłeś jak to nazywasz prawie domowym PC. 

Hahaha no dzisiaj trudno się nie zgodzić ale ponad rok temu kto kumał co nadciąga i się dobrze obkupił ten dzisiaj patrzy na to inaczej. Także nic się nie zmieniło, punk widzenia dalej zależy od punktu siedzenia 😀 

[galakty 5 737]

2 minuty temu, Fenrir_14 napisał(a):

Hahaha no dzisiaj trudno się nie zgodzić ale ponad rok temu kto kumał co nadciąga i się dobrze obkupił ten dzisiaj patrzy na to inaczej. Także nic się nie zmieniło, punk widzenia dalej zależy od punktu siedzenia 😀 

Mało kto 32GB RAM miał, a tu setki... Zejdźcie na ziemię.

[Fenrir_14 1 499]

5 minut temu, galakty napisał(a):

Mało kto 32GB RAM miał, a tu setki... Zejdźcie na ziemię.

Że co? Nikt z moich znajomych nie miał mniej niż 32gb w głównym kompie, a sporo osób kupiło więcej jak AI zaczęło się kręcić i umożliwia zabawę w domu. Za 2k spokojnie mogłeś te 192/256gb szybkiej pamięci kupić więc kto był zainteresowany ten się zdążył zabezpieczyć. Tak samo z kartami. Przestańcie zaklinać rzeczywistość że nie szło nic kupić w normalnych cenach. 

[bofff 239]

fakt, mierzę swoją miarą i bańką w której  wniosowanie w domu nie jest  niczym nadzwyczajnym

ale nie wiem czy  odważyłbym się szacować obecnie ile PC ma 32+12 a ile 128+24/32 a ile 192 + 48
czy  jest  to 99 do 1? a może 95 do 5%

na pewno  jest  dość duża społeczność, idąca już w tysiące userów localAI z tym większym hardware

[galakty 5 737]

5 minut temu, Fenrir_14 napisał(a):

Że co? Nikt z moich znajomych nie miał mniej niż 32gb w głównym kompie

U mnie większość znajomych NIE MA kompa wcale, a Ty wyskakujesz że mają po kilka  

Nawet według Steam 32GB i więcej to 43-48%. A tutaj 128GB jest domowym kompem, ludzie kochani błagam Was  

 

Poza tym RAM nie jest tu na tyle istotny co VRAM, a tu już jest dużo gorzej bo 16GB i więcej to tylko 32%!!!!

 

A poniżej 24GB nie ma sensu nic lokalnie stawiać, chyba że proste modele do sklecenia 2 zdań na bazie obrazka. 

[Dimazz 870]

Cytat

U mnie większość znajomych NIE MA kompa wcale, a Ty wyskakujesz że mają po kilka  

U mnie podobnie. 

[Fenrir_14 1 499]

@galakty No chodziło mi o osoby które się kompami interesują. Zrozumiałe że statystyczny Mietek nie będzie miał w domu rtx 5090 i 64gb do przeglądania neta i grania w jakieś podstawowe gierki. Miałem na myśli ludzi którzy traktują temat hobbystycznie lub się zwyczajnie interesują. 

W zasadzie od 2 połowy ubiegłego roku było głośno o tym że czekają nas bardzo poważne zmiany w kwestii cen i dostępności ale sprzęt był wciąż dostępny. Ludzie mają różne potrzeby i priorytety więc cześć postanowiła przeczekać ten okres a inni chcieli i mogli się zabezpieczyć lub zbudować stanowiska do zabawy z AI w rozsądnych pieniądzach z dzisiejszej perspektywy. I tyle w temacie, takie fakty. 

[sideband 3 623]

Wraz z wejściem DDR5 32GB stało się standardem 

To, że później rynek oszalał to już inny temat.

[galakty 5 737]

2 minuty temu, sideband napisał(a):

Wraz z wejściem DDR5 32GB stało się standardem 

To, że później rynek oszalał to już inny temat.

AM4 było zbyt dobre i tanie, gdyby nie to to więcej osób by siedziało na AM5 i 32GB, a że działało to super to potrzeby nie było  

A potem wiemy co się stało. 

 

5 minut temu, Fenrir_14 napisał(a):

W zasadzie od 2 połowy ubiegłego roku było głośno o tym że czekają nas bardzo poważne zmiany w kwestii cen i dostępności ale sprzęt był wciąż dostępny.

Przewidując kryzys co roku w końcu trafisz. 

Zazwyczaj było tak że ceny wracały do normy, to nie był pierwszy "kryzys". 

[bofff 239]

@galakty

uparłeś się na dense, MOE na 64+16 to  Strata + Qwen3.8flash IQ3S - potrafi pisać sensowny kod, testowałem pythona, three.js

na 128+24 GLM flash 3,05 turboderp o półke wyżej
na 192 +32 DS4 1017 flash tu  już chyba 3 półki  wyżej,  poziom opus4.8  z duzop  lepszym 3D

[galakty 5 737]

3 minuty temu, bofff napisał(a):

Qwen3.8flash IQ3S - potrafi pisać sensowny kod, testowałem pythona, three.js

OK, dla mnie nie. 

 

4 minuty temu, bofff napisał(a):

poziom opus4.8

To dopiero uznałbym za sensowne minimum. 

[Radio Tirana 1 851]

4 godziny temu, Dimazz napisał(a):

Przeciętny Kowalski nie kupi karty za kilkanaście tysięcy żeby pograć w CoDa i Fifę

to całkiem inny profil kupującego. 

Co więcej: przeciętny Kowalski nawet nie zdaje sobie sprawy, że to on będzie najbardziej dojechany przez trwający kryzys. 

 

Podczas kryproszału 2020-2022 skutecznie zlikwidowano ofertę kart graficznych do 1000 złotych. Obecnie poszli dalej i zlikwidowali rynek kart graficznych do 1500 złotych.

 

Nawet gdy sytuacja się uspokoi to ceny nie wrócą do poziomu xx60 za 1200 i xx60 Ti za 1500 zł. 

[Dimazz 870]

przeciętny Kowalski to będzie miał gdzieś PC. Laptopa do prac biurowych o ile potrzeba a cała reszta to jak streaming wejdzie cały na biało to będzie Kowalski płacił abonament i sobie grał.

Dziś komputer nie jest potrzebny jak 10 czy 20 lat temu. Wszystko zrobisz na telefonie. CV napiszesz na telefonie, drukować do paczkomatu nie musisz bo albo trzeba napisać kilka cyfr odręcznie albo nic nie trzeba tylko zdjęcie kodu z telefonu. Przy wysyłce kurierem zaznaczasz że nie masz drukarki i oni się tym zajmują.  A drukarki z wifi potrzebny tylko telefon.

teraz telefon zastąpił pcta

[bofff 239]

7 minut temu, galakty napisał(a):

OK, dla mnie nie. 

 

To dopiero uznałbym za sensowne minimum. 

absolutnie tak, 99% tego  co  robie to i  tak opus5.5

ale widzę jak iteracja po i iteracji (wraz rozwojem silników) setup domowy  staje się w zupełności  użyteczny 

@Dimazz pesymistycznie, USA i chiny zamkną granice i  najtańsze abo na AI  będzie nie 20  a 500usd

optymistycznie STOP PACE przesunie moc obliczeniową na inferencję zamiast  trenowania i tokeny będą prawie darmowe, wtedy  Twój scenariusz spełni się

Edytowane 53 minuty temu przez bofff

[galakty 5 737]

1 minutę temu, Dimazz napisał(a):

przeciętny Kowalski to będzie miał gdzieś PC. Laptopa do prac biurowych o ile potrzeba a cała reszta to jak streaming wejdzie cały na biało to będzie Kowalski płacił abonament i sobie grał.

Dziś komputer nie jest potrzebny jak 10 czy 20 lat temu. Wszystko zrobisz na telefonie. CV napiszesz na telefonie, drukować do paczkomatu nie musisz bo albo trzeba napisać kilka cyfr odręcznie albo nic nie trzeba tylko zdjęcie kodu z telefonu. Przy wysyłce kurierem zaznaczasz że nie masz drukarki i oni się tym zajmują.  A drukarki z wifi potrzebny tylko telefon.

teraz telefon zastąpił pcta

Otóż to.

Mój ojciec sobie kupił X lat temu laptopa chyba z RTX 3060 i mu to wystarcza, gra w gierki i jest OK. 99% rzeczy i tak robi na telefonie. 

To nie czasy że żeby zalogować się do banku czy poczty trzeba było mieć blaszaka podpiętego na stałe do neta. 

 

2 minuty temu, bofff napisał(a):

absolutnie tak, 99% tego  co  robie to i  tak opus5.5

ale widzę jak iteracja po i iteracji (wraz rozwojem silników) setup domowy  staje się w zupełności  użyteczny 

 

Sam żałuję że nie brałem 4090/5090, ale kto wiedział co się wydarzy. 128+24/32 i da się żyć, ale takie setupy to garstka niestety (głównie przez GPU)

[Kadajo 11 148]