Skocz do zawartości

Karister

Użytkownik
  • Postów

    729
  • Dołączył

  • Ostatnia wizyta

Treść opublikowana przez Karister

  1. Właśnie nie. Obecnie małe modele mogą dawać przyzwoite wyniki w średniej wielkości projektach programistycznych. Kwestia tego, że wymagają odpalenia na dobrym GPU albo ewentualnie czymś pokroju Mac Studio Ultra. Biznesowy laptop, nawet najmocniejszy i z neural engine to wciąż za mało. I o to tu chodziło.
  2. Dokładnie. Mi nawet nie chodziło o przesyłanie danych, a o wygodę. Licencja Pro za $20 na Claude AI mało daje i wymusza pracę w odpowiednich interwałach czasowych, żeby efektywnie korzystać z przydzielanych tokenów. Licencja Max za $100 jest już na tyle droga, że pojawiają się rozkminy, co można mieć lokalnie na sprzęcie kosztującym, powiedzmy, dwa lata takiej subskrypcji.
  3. Kolega z pracy kupuje RTX6000, więc jemu może i się uda. Podobno RTX5090 ma też przyzwoitą wydajność w 27G. Może i te ~60t/s w TG by starczyło do domorosłego kodzenia jakiegoś home laba z doskoku. Do pracy zarobkowej przez 8h jest to za wolne. Pozostaje kwestia tego, że wyjdzie nowy model i za rok czy dwa taki RTX5090 czy nawet 6000 znowu będzie za słaby i pojawia się regularna potrzeba wymiany sprzętu za kilkadziesiąt tysięcy, żeby mieć lokalny model, który działa znacznie gorzej i wolniej niż Claude Code z subskrypcją za 100 euro miesięcznie. Nie opyla się. Pożyjemy, zobaczymy. Póki co subskrypcja ma dla mnie znacznie więcej sensu. Czy zmienią ceny? Może. A może rozwój się ustabilizuje i przestanie to tyle żreć. Kolejna opcja to po prostu wykolejenie się hypetrainu i trzeba będzie poczekać na rozwój sprzętu jeszcze ze dwie dekady. Wszak różne algorytmy AI istniały już sześćdziesiąt lat temu i wówczas też brakowało dla nich mocy obliczeniowej. Windows też zaczął działać dopiero, gdy pojawiły się dyski SSD. Niektórzy pewnie jeszcze pamiętają to zgrzytanie z obudowy i zwieszenie się całego PC przy potwierdzeniu "Mój Komputer". Wg mnie wybalansuje się to gdzieś pomiędzy przystępnymi subskrypcjami dla użytkowników prywatnych, nawet ze stratą dla firm AI, aby zachęcać, promować i walić kosztami po dużych firmach. Na moim MacBook M4 Pro MAX z dopakowanym GPU do 40 rdzeni 27G też utknął po 20h mielenia. To, co zdołał zrobić, wygląda nieźle, ale używalność w praktyce żadna. Wracam do Claude Code, bo szkoda czasu na kombinowanie.
  4. 27B jest mniejszy od 35B, ale jest też gęsty, a ten drugi to MoE, więc 27B mimo mniejszego rozmiaru działa dokładniej, ale też wolniej.
  5. To się nie uda za tymi lokalnymi modelami do programowania. Qwen 3.6 35B może i działa sprawnie, ale po godzinie dwa razy się sypnął z heap OOM z node. Nawet przy 16GB. Kod który powstał do tego momentu biedny. Bezmyślne powtarzanie szablonów kodu niskiej jakości. Do tego bez dodawania użytych frameworków czy bibliotek do dependencji projektu. Nie wiem, może by ostatecznie to doprowadził do lepszego kształtu, ale to, co powstało do momentu crasha dla mnie nie do przyjęcia. 27B dostał ten sam prompt, ale działa dwanaście razy wolniej (w benchmarku) i nie zapowiada się, aby skończył w najbliższym czasie. Co dwie godziny utyka i albo się pyta, czy ma kontynuować albo wisi i trzeba go znowu kopnąć. Bez solidnej stacji roboczej nie ma szans na sensowne korzystanie z tego. Może przez noc coś wymodzi, ale do normalnego korzystania Claude Code jest bez konkurencji.
  6. Za kilkadziesiąt procent więcej. Widać wyraźnie po rozpisce potrzebnych godzin pracy. Procent a punkt procentowy to nie to samo.
  7. Zobaczę jako kolejny, ale póki to nawet z 35B są problemy. Sypie się i robi głupoty. Póki co mój ulubiony case to ten, w którym sobie zaktualizował na moje polecenie plik konfiguracyjny tak, aby włączyć tryb YOLO i zrobił to przy pomocy deprecated flagi. Teraz przy uruchamianiu mówi, że jest ona niewspierana i trzeba użyć innej. Super.
  8. Wbudowany benchmark mówi, że: ✦ Wynik benchmarku dla qwen3.6:35b na Twoim Macu: ┌───────────────────────┬────────────┐ │ Metryka │ Wartość │ ├───────────────────────┼────────────┤ │ Generowane tokeny │ 6 643 │ ├───────────────────────┼────────────┤ │ Czas generowania │ ~157s │ ├───────────────────────┼────────────┤ │ tokens/s (generation) │ ~155 tok/s │ ├───────────────────────┼────────────┤ │ Prompt eval │ 58 tokenów │ ├───────────────────────┼────────────┤ │ Czas prompt │ ~0.6s │ └───────────────────────┴────────────┘ ~155 tokens/s generowania to dość sporo — dla 35B model to solidna wydajność. Qwen3.6:35b to większy model, więc wynik zależy od GPU/Mac's Neural Engine. To jest dla Qwen 3.6 35B, bez A3B. Zaraz mu puszczę prompta na zakodzenie featura w moim prywatnym projekcie, który na co dzień robię z Claude. Zobaczymy, co wypluje.
  9. Karister

    Luźny kącik audio

    Jeden Pan ze sklepu zapytał, czy za tydzień wieziemy jeszcze do mojej kawalerki, czy od razu do domu i tam poczekają w kartonach. Drugi umierał ze śmiechu ma myśl o tych subach w bloku. Miło było tam pogawędzić. W salonie w Warszawie mają klienta na Focale Grande Utopia. W czwartek ruszamy z montażem filców akustycznych. Obecnie ocalałe ściany zostały przemalowane. Nie lubiłem tego żółtego, co mi Flugger źle próbkę wymieszał. Do tego przerobiona elektryka pod LEDy i więcej punktów 230V dla sprzętów. Na wyciętych ścianach, skosach i suficie folia paroizolacyjna została cofnięta w głąb, od nowa położona wełna i lepszy stelaż. Ściana z dużym oknem wciąż robi za pułapkę sub basową dzięki zastosowaniu podwójnych płyt GK Diamant. Ostatnio nie umiałem tego wytłumaczyć, więc się doszkoliłem u Pana Chojnackiego - chodzi o odpowiedni dobór masy tej ściany. Tam będzie największa energia pierwszego rezonansu i ta ściana będzie go tłumić. W zasadzie to już tłumi, bo to wyszło dobrze przy pierwszych pomiarach kilka miesięcy temu. Na ucho sporo się zmieniło. W pustym pokoju nie ma pogłosu. Wcześniej było jak w kościele.
  10. Odpaliłem właśnie lokalnie najnowszego Qwen 3.6 35B. Zobaczymy, czy będzie lepszy od tamtego, co używałem tydzień temu.
  11. Karister

    Luźny kącik audio

    Ano, tak było, pisałem. Kwestia uszu, dla mnie to było szorstkie i męczące. Czyli lampy nie dla mnie. EDIT: Choć w sumie pomyłka... to nie średnica mi nie leżała najbardziej chyba. Zamówione dwie sztuki JL Audio E112.
  12. Karister

    Luźny kącik audio

    A miałem kiedyś Koss Porta Pro. Dziwaczny design z metalowym pałąkiem z dwóch cienkich blaszek do wyrywania włosów.
  13. Audiofile odczuwają poprawę sceny i faktury basu po kupnie kabla za 10k. Sorry, musiałem. AI ma swoje ograniczenia i w przypadku nieodpowiedniego korzystania z narzędzia, może dla kogoś sprawiać wrażenie głupiego skryptu. Niemniej pod spodem jest wyrafinowana maszyneria, która potrafi zdziałać cuda. Tyle że ów dobre użycie oznacza czasem kilka godzin spędzonych ma pisanie prompta z innym AI. Każdy model działa lepiej z innym podejściem pracy. Do tego kwestia branży. Obecnie AI skupia się na programowaniu i być może nie ma tak samo dobrych modeli dla innych branż. Jakie znaczenie ma tu punkt widzenia użytkownika? Mowa była o tym, jak to faktycznie działa, a nie co się komuś wydaje. Przynajmniej ja o tym mówiłem, bo dla mnie poziom klikania w komputer, żeby dostać odpowiedź, nie jest interesujący. Dobre AI dużo się domyśli. Wiele razy już napisałem zbyt ogólnego prompta i Claude Enterprise mnie zaskoczył, że ogarnął źle sformułowany prompt dzięki kontekstowi. Albo nagle myślę sobie "kurde, nie napisałem mu tego, skąd ona ma to wiedzieć" i ten nagle się o to pyta. Jak już pisałem tutaj kilka miesięcy temu - jeśli w przypadku programowania (nawet tego zawodowego w dużych systemach) komuś AI się nie sprawdza, to albo używa złego modelu, albo po prostu go nie umie używać.
  14. Nie o to chodziło. Chodziło o architekturę systemów AI, a nie o to, czy to ostatecznie działa na bramkach logicznych, czy na czymś innym. Mowa była o klasie algorytmów i te od AI to nie są żadne bogato poifowane skrypty. Bez sensu powtarzać trzeci raz, że chodzi o klasę sprytnie zaprojektowanych niedeterministycznych algorytmów. To jest zupełnie inny sposób działania niż jakaś ifologia. Sprytne algorytmy bazujące na odpowiednich strukturach danych. To że w kodzie są wyrażenia warunkowe jako narzędzie do osiągnięcia celu jest oczywiste i to to też tłumaczyłem. Chodzi o to, że nie są głównym budulcem AI w odróżnieniu od głupiego ifelsetona, a do tego zostały tu sprowadzone. Komputery kwantowe działają zupełnie inaczej i one nie są dobre dla AI w ogóle. Zupełnie inna bajka.
  15. Karister

    Luźny kącik audio

    Powinno się dać podbić z takim samym efektem dla cichego odsłuchu, ale z odcięciem dla dużej głośności, żeby nie wysadzić sprzętu. U mnie w DAC dzieje się to płynnie i jest git. Niskie głośności podbarwione, a potem stopniowo wraca do normy.
  16. No właśnie w ogóle tak nie działa. To jest po prostu nieprawda. Dlatego te algorytmy są tak inne. Powtórzę: opierają się na niedeterminizmie, a nie regułach typu jak X to Y. Prosta sieć neuronowa działa w oparciu o wytrenowane wagi dla neuronów i z pewnym prawdopodobieństwem zwracaja dobre wyniki. Rzadko najlepsze i niekoniecznie takie same za każdym razem. Oczywiście dobrze wytrenowana sieć to tak ustawione wagi, że to prawdopodobieństwo jest jak najwyższe, a sieć nie utyka w lokalnych minimach z powodu przeuczenia. LLM to rozszerzenie tego konceptu. Zupełnie inna klasa algorytmów. Sztuczna inteligencja. Czyli matematyczny sposób na zamodelowanie zachowań człowieka i natury. Algorytm genetyczny jest prostym i dobrym przykładem.
  17. Skoro znasz teorię za nimi stojącą, to czemu piszesz, że AI to rozbudowane w ify skrypty? If to jest tylko narzędzie do osiągnięcia rozgałęzienia przepływu, a nie główny budulec algorytmów AI. Tak samo jak liczby nie służą do pisania ustaw, a są tylko narzędziem do numerowania paragrafów, ustępów itd. A co do zachwytów i rozsądku to już osobny temat. Czas pokaże. Ja należę do umiarkowanych sceptyków. AI brakuje prawdziwej inteligencji, bo jak sama nazwa wskazuje, jest sztuczna. Zgodnie z założeniami.
  18. Karister

    Luźny kącik audio

    To może loudness? Wszak po to to powstało.
  19. To nie jest kwestia Twojego zdania, tylko tego, co twierdzi nauka. Bardzo, ale to bardzo się mylisz z tymi IFami. To zupełnie nie tak działa, bo w ten sposób nie byłoby niedeterministyczności, która jest tak ważna dla elastyczności AI. To jest błąd na poziomie pomyłki Prezydenta z Sejmem albo KP z więzieniem z takich prawnych analogii. Moim zdaniem Porsche 911 to wóz opancerzony w takim razie, ale co z tego? Zajrzyj sobie na start na blog polskiego programisty imieniem i nazwiskiem Mirosław Mamczur. Tam liźniesz podstawy tego, co to są wagi, funkcje aktywacji itd. A to jest wierzchołek, wierzchołka... i tak dalej kilka razy... wierzchołka góry lodowej. EDIT: łap taki bardzo wysokopoziomowy opis samej idei: https://miroslawmamczur.pl/czym-jest-i-jak-dziala-transformer-siec-neuronowa/.
  20. A co to jest prawdziwa AI? Jak samo pierwsze słowo nazwy wskazuje, jest sztuczna, nie prawdziwa. Ów hasło pierwszy raz w pracach badawczych pojawiło się w latach 60. ubiegłego wieku. To, co teraz obserwujemy, to jest najprawdziwsza sztuczna inteligencja. LLMy, sieci neuronowe, transformery, algorytmy genetyczne, systemy ekspertowe i cała reszta inwentarza to jest właśnie AI. Mielenie ogromnymi ilościami liczb w odpowiedni sposób. AI to nie jest byt, który w ma świadomość, potrzeby i działa z analizą tak, jak człowiek albo czegoś chce w rozumieniu ludzkim. Takie błędne postrzeganie ów technologii zbudowały filmy SF. Prawdziwe, opisywane naukowo AI, to jest właśnie to, co teraz obserwujemy.
  21. Karister

    Luźny kącik audio

    +8dB? Wow. To chyba nie ten kierunek w wyborze sprzętu, skoro tak ostro trzeba korygować. Ja przy więcej niż +3dB mam już obiekcje. Z drugiej strony liczy się efekty końcowy. Też mam obecnie góry i dołki w PEQ. Razem 6.5dB od minimum do maksimum. I faktycznie OotB słuchawki nie grają tak, jak lubię, ale skusiłem się z powodu wygody, ergonomii, jakości i wykonania oraz dostępności wymiennych elementów eksploatacyjnych. Mimo wszystko dobrze wspominam okres, gdy miałem HiFiMANy, których w ogóle EQ nie musiałem ruszać. Gdyby tylko Meze zechciało któreś ze swoich flagowych modeli zestroić w ten sposób, to by była bajka. Próbowałeś kiedyś Ultrasone? Jak zaczynałem zabawę w słuchawki lata temu, to wówczas uchodziły za raj dla bass headów. To chyba był model pro 900i za niecałe dwa klocki, ale czy na pewno ten, to niczego bym sobie uciąć nie dał. Sporo czasu minęło. Wg mnie Audeze LCD-2 Classic też oferują solidny dół, choć bardziej w rejonach sub basu niż tego wyższego. Na tym wyższym mocno dawały Focal Clear MG, ale to już inna półka cenowa.
  22. Jeden rabin powie tak, drugi rabin powie nie. Poza ślepą fascynacją nowicjusza, warto czasem szerzej spojrzeć na temat na chłodno i rzucić okiem w sprawozdania finansowe firm od AI oraz nastroje na rynku.
  23. Ja dzisiaj odpaliłem Qwen3-Coder 30B na moim MacBooku 4 Pro Max. Pierwsze wrażenia w porównaniu do Claude Code Pro są takie, że... kiepsko. Gorzej analizuje projekt, gorzej programuje, nie trzyma się ustalonych zasad, a zrobienie prostej rzeczy trwa wieczność. Na stażystę by się nie nadał. Jedną zmianę we wzorze plus aktualizację testów mielił pół godziny. Na koniec zostawił dwa nowe, niedziałające testy i zapomniał przywrócić zmiany w logice, które omyłkowo mu wywaliłem Gitem. I się upiera, że one są w projekcie pomimo strzelenia git reset --hard. Staroci też nie posprzątał. Na deser bugi z porównywaniem złych typów danych. I to jest z włączonym thinking. Raczej nieużywalne. Claude Code w tym czasie postawiłby już cały projekt od zera.
  24. Karister

    Luźny kącik audio

    Dla mnie słuchawki to już tylko bajer do PC. Mimo że czasem potrafią czymś przyciągnąć, to są to dalekie wrażenia do odsłuchu na sensownym sprzęcie stacjonarnym. Wróciłbym do HiFiMANa, gdyby ogarnęli jakość produktów albo do Audeze, gdyby nie robili imadeł na głowę i nie kleili padów.
×
×
  • Dodaj nową pozycję...
{literal} {/literal}