Skocz do zawartości

RAMU ZABRAKNIE!!! - temat panika kolejnego nadmuchanego problemu pierwszego świata sztucznie wykreowanego przez korporacyjnych dyrektorów. (Wątek zbiorczy)

Lameismyname

Przez Lameismyname
w Pamięci RAM

 Udostępnij

Rekomendowane odpowiedzi

  • Odpowiedzi 3,1 tys.
  • Dodano
  • Ostatniej odpowiedzi

Top użytkownicy w tym temacie

Popularne dni

Top użytkownicy w tym temacie

Popularne dni

Popularne posty

SmogSmok
SmogSmok
Stjepan
Stjepan
Reddzik
Reddzik

Tak było.     

Opublikowane grafiki

LeBomB

LeBomB 2 265

Opublikowano
Opublikowano

@VRman właścicielem instalacji jest Orlen. Całość jest zlokalizowana w Odolanowie. To stacja odazotowania i skraplania helu. Aktualne ceny i moce produkcyjne nie są mi znane, ale bodajże korzystają z lokalnych złóż gazu i skompresowanego gazu odazotowanego w innych odazotowniach m.in. w Grodzisku Wielkopolskim.

 

  • Like 2
allas

allas 28

Opublikowano
Opublikowano (edytowane)

A jednak da się zrobić pamięć DDR5 16GB w jednym module , korzystając z modułów 2GB BGA 102  .Sam zrobiłem podobną pamięć ale tylko 8GB  , nie udało mi się zrobić kości dwustronnej 16GB. Bo takie nigdy nie były produkowane , koleś rozwalił system.

Edytowane przez allas
  • Upvote 1
VRman

VRman 3 323

Opublikowano
Opublikowano

Ktoś inwestorom chyba musi powiedzieć, że RAMu do Ajajów to by się przydało i milion razy więcej, więc to nic nie zmieni.

 

No chyba, że modele wideo wymagające 1TB RAMu nagle się uda upchać w domowych kartach z 32GB, to wtedy może faktycznie byłby sens panikować i wyprzedawać akcje jakie posiadają.

deathrabit

deathrabit 93

Opublikowano
Opublikowano (edytowane)

Dobre wieści dla ceny ramów. 

 

Open AI , obniżyło prognozę ile wydana na serwery w tym roku z 1,6bln$ do 600mld$, a więc nie wykupią 40% zapowiedzianej w tym roku produkcji tylko ok 15% tak więc producenci będę musieli sprzedać gdzieś pozostałe 25% co powinno obniżyć ceny ramu w drugiej połowie roku :)

 

Dodatkowo Google wypuściło coś ciekawego TurboQuant+ KV cache czyli kompresje dla LLM, KV cache to pamięć nasze interakcji z modelem i odpowiada od 10% w przypadku prostego zapytania do ponad 80% zużycia Ramu w przypadku dużych zadań i długiej interakcji. Gogle zapowiada do 6x obniżenia zużycia Ramu i 8x przyspieszenia przetwarzania tej części pracy z LLM. 

Przykład model LLM 140GB + 300GB  KV cache z TurboQuant będzie to 140GB + 50GB bez utraty jakości.  

Link https://pressreleases.responsesource.com/news/107226/turbo-quant-doesn-t-impact-dimm-count/

Faktyczne pierwsze testy potwierdzają to przy kompresji 3,74 na ta chwilę 

Link https://varjosoft.com/kv-cache-compression.html

 

I jedna zła wieść związku z blokada cieśniny hormuz zwiększy się niedobór Helu na rynku światowym co wpłynie negatywnie na cenę wszystkich chipów. 

Edytowane przez deathrabit
rdk

rdk 39

Opublikowano
Opublikowano (edytowane)
16 godzin temu, deathrabit napisał(a):

Dobre wieści dla ceny ramów. 

 

Open AI , obniżyło prognozę ile wydana na serwery w tym roku z 1,6bln$ do 600mld$, a więc nie wykupią 40% zapowiedzianej w tym roku produkcji tylko ok 15% tak więc producenci będę musieli sprzedać gdzieś pozostałe 25% co powinno obniżyć ceny ramu w drugiej połowie roku :)

 

To wszystko prawda ...tyle, że nie ;)

Po pierwsze, cięcia są z 1,4blnS, nie 1,6. Po drugie, mówimy o pieniądzach które miały być wydane do 2030r i cięcia są bardziej prognoz wydatków w kolejnych latach i przyszłych zamówień, bieżące wydatki nie maleją aż o tyle. Także przekonanie o tym, że ktoś w 2030 wyda na sprzęt nie np 250 a 100mld$ wpłynie dziś na ceny RAM może okazać się złudne. Bardziej to wpływa na kursy akcji i wartość producentów pamięci. Może okazać się, że Samsung miał rację twierdząc iż nie buduje na boomie kolejnych fabryk pamięci RAM bo sytuacja ustabilizuje się za 2-3 lata. Oby teraz Micron i Hynix nie poszli w jego ślady i nie zrewidowali planów.

OpenAI nie miało też zamówionej "40% produkcji" w żaden sposób, podpisało jedynie listy intencyjne w sprawie zapewnienia sobie możliwości zakupu dużych ilości RAM (mogących stanowić nawet właśnie te mityczne 40%) i tyle. Nie ma też żadnych "pozostałych 25%" które trzeba gdzieś sprzedać (czyli nadwyżek), jedynie NIEDOBÓR na rynku pamięci DRAM będzie ewentualnie mniejszy. I są też informacje o większym zapotrzebowaniu innych firm ;)

 

Generalnie na tą chwilę uwidacznia się brak mocy na rynku wszelkich chipów, po hypie akceleratorów AI okazuje się, że potrzeba więcej serwerów i infrastruktury sieciowej (a w zaawansowanych routerach i switchach też są procki i RAM ;) ). TSMC i cała reszta towarzystwa znów podnoszą ceny.

To co ewentualnie daje nadzieję to fakt, że na rynku SPOT wygląda na to iż ceny osiągnęły sufit (zwłaszcza DDR4). Ale ten sufit nadal jest wyżej niż większość cen w naszych sklepach i SPOT to tylko kilka % rynku, a ceny kontraktowe nadal rosną...

Do tego ceny ropy nie pomagają, a za nimi ceny frachtu też idą do góry.

 

Jak już pisałem wcześniej, bez krachu na rynku AI to nie ma raczej co liczyć na jakieś większe spadki cen pamięci przynajmniej przez rok, a pewnie i dłużej. Czas pokaże.

Edytowane przez rdk
  • Like 1
  • Upvote 1
leven

leven 1 089

Opublikowano
Opublikowano (edytowane)
W dniu 31.03.2026 o 21:48, deathrabit napisał(a):

Dobre wieści dla ceny ramów. 

 

Open AI , obniżyło prognozę ile wydana na serwery w tym roku z 1,6bln$ do 600mld$, a więc nie wykupią 40% zapowiedzianej w tym roku produkcji tylko ok 15% tak więc producenci będę musieli sprzedać gdzieś pozostałe 25% co powinno obniżyć ceny ramu w drugiej połowie roku :)

 

Dodatkowo Google wypuściło coś ciekawego TurboQuant+ KV cache czyli kompresje dla LLM, KV cache to pamięć nasze interakcji z modelem i odpowiada od 10% w przypadku prostego zapytania do ponad 80% zużycia Ramu w przypadku dużych zadań i długiej interakcji. Gogle zapowiada do 6x obniżenia zużycia Ramu i 8x przyspieszenia przetwarzania tej części pracy z LLM. 

Przykład model LLM 140GB + 300GB  KV cache z TurboQuant będzie to 140GB + 50GB bez utraty jakości.  

Link https://pressreleases.responsesource.com/news/107226/turbo-quant-doesn-t-impact-dimm-count/

Faktyczne pierwsze testy potwierdzają to przy kompresji 3,74 na ta chwilę 

Link https://varjosoft.com/kv-cache-compression.html

 

I jedna zła wieść związku z blokada cieśniny hormuz zwiększy się niedobór Helu na rynku światowym co wpłynie negatywnie na cenę wszystkich chipów. 

To "może" jest szansa, że taki np. 6060Ti będzie mieć DDR7 16GB Vram, a wyższy model 6070 co najmniej 16GB Vram, a nie takie kwiatki, jakie są od serii 30xx :) 

Edytowane przez leven
Mistral85

Mistral85 11

Opublikowano
Opublikowano

Turboquant to nie jedyny powód do obniżki cen. Kilka dni temu wyszedł nowy model AI Bonsai 8B - jest to model z około 8 razy większą gęstością niż obecne modele.

Wynik ? Tam gdzie inne modele potrzebują kilkunastu Gigabajtów pamięci, żeby w ogóle zacząć działać, to Bonsai potrzebuje zaledwie 2 GB (porównanie widać na stronie w tabelce)
https://prismml.com/news/bonsai-8b
 

A tutaj szacunkowe wyliczenia co się stanie jeśli wykorzystamy Turboquant oraz Bonsai jednocześnie
https://old.reddit.com/r/LocalLLaMA/comments/1sadadw/is_1bit_and_turboquant_the_future_of_oss_a/

 

Nic dziwnego że ceny zaczynają spadać

 

Jeśli chcesz dodać odpowiedź, zaloguj się lub zarejestruj nowe konto

Jedynie zarejestrowani użytkownicy mogą komentować zawartość tej strony.

Zarejestruj nowe konto

Załóż nowe konto. To bardzo proste!

Zarejestruj się

Zaloguj się

Posiadasz już konto? Zaloguj się poniżej.

Zaloguj się
 Udostępnij
Tematy

  • Ostatnio przeglądający   0 użytkowników

    • Brak zarejestrowanych użytkowników przeglądających tę stronę.
×
×
  • Dodaj nową pozycję...
{literal} {/literal}