Sztuczna inteligencja AI - (OpenAI, ChatGPT, Midjourney, DALL-E) - Temat ogólny

[GordonLameman 10 154]

.

Edytowane 24 Czerwca przez GordonLameman

[LeBomB]

@Karister ok, niedeterministyczny algorytm jest przy generowaniu odpowiedzi na dane zagadnienie, czyli mechanizm znajdujący się "pod maską" danego LLM. Jednak z punktu widzenia użytkownika jest to dalej działanie na zasadzie pytanie - odpowiedź. Przy czym często sprowadza się to jeszcze do prowadzenia takiego LLM "za rączkę", bo analizując zapytanie/polecenie rzadko domyśli się pewnych rzeczy. No i przede wszystkim ma specyficzne "rozumowanie" pozbawione kreatywności, co sprawia, że zapytanie musi być bardzo precyzyjne by uzyskać lepsze efekty.

[Karister]

27 minut temu, GordonLameman napisał(a):

Może. Ja to jednak odczuwam inaczej bo zbyt często AI zawodzi  

Audiofile odczuwają poprawę sceny i faktury basu po kupnie kabla za 10k.  Sorry, musiałem. AI ma swoje ograniczenia i w przypadku nieodpowiedniego korzystania z narzędzia, może dla kogoś sprawiać wrażenie głupiego skryptu. Niemniej pod spodem jest wyrafinowana maszyneria, która potrafi zdziałać cuda. Tyle że ów dobre użycie oznacza czasem kilka godzin spędzonych ma pisanie prompta z innym AI. Każdy model działa lepiej z innym podejściem pracy. Do tego kwestia branży. Obecnie AI skupia się na programowaniu i być może nie ma tak samo dobrych modeli dla innych branż.

 

24 minuty temu, LeBomB napisał(a):

@Karister ok, niedeterministyczny algorytm jest przy generowaniu odpowiedzi na dane zagadnienie, czyli mechanizm znajdujący się "pod maską" danego LLM. Jednak z punktu widzenia użytkownika jest to dalej działanie na zasadzie pytanie - odpowiedź. Przy czym często sprowadza się to jeszcze do prowadzenia takiego LLM "za rączkę", bo analizując zapytanie/polecenie rzadko domyśli się pewnych rzeczy. No i przede wszystkim ma specyficzne "rozumowanie" pozbawione kreatywności, co sprawia, że zapytanie musi być bardzo precyzyjne by uzyskać lepsze efekty.

Jakie znaczenie ma tu punkt widzenia użytkownika? Mowa była o tym, jak to faktycznie działa, a nie co się komuś wydaje. Przynajmniej ja o tym mówiłem, bo dla mnie poziom klikania w komputer, żeby dostać odpowiedź, nie jest interesujący. Dobre AI dużo się domyśli. Wiele razy już napisałem zbyt ogólnego prompta i Claude Enterprise mnie zaskoczył, że ogarnął źle sformułowany prompt dzięki kontekstowi. Albo nagle myślę sobie "kurde, nie napisałem mu tego, skąd ona ma to wiedzieć" i ten nagle się o to pyta. Jak już pisałem tutaj kilka miesięcy temu - jeśli w przypadku programowania (nawet tego zawodowego w dużych systemach) komuś AI się nie sprawdza, to albo używa złego modelu, albo po prostu go nie umie używać.

Edytowane 15 Maja przez Karister

[LeBomB]

@Karister No i się wyjaśniło, mówimy o dwóch różnych zastosowaniach AI

Ty patrzysz na to od strony profesjonalnych zastosowań i korzystania w praktyce już z narzędzi biznesowych i z wyspecjalizowanych agentów. Druga strona medalu to zwykli internetowi użytkownicy zadający w większości banalne, proste i mało wymagające pytania w darmowych modelach, które mają mocne ograniczenia kontekstu. 

Stąd różne spojrzenie na mechanizm działania AI. Ty widzisz to od strony mocno technicznej, a wcześniej została opisana strona czysto użytkowa w tej prostszej formie.

[galakty]

Nie no @LeBomB nie masz racji i @Karister w miarę dobrze pisze  

 

OD początku była mowa o technicznym działaniu, a nie co Kowalski sobie myśli. LLMy są zaawansowane, może sprowadzanie ich do prostego IF nie ma sensu, ale to wciąż nie jest prawdziwa sztuczna inteligencja. 

[Karister]

xD, jak grochem o ścianę.

[oldfashioned]

Chyba niektórzy muszą trochę poczytać o CNNach. Tak naprawdę do tej pory nie wiemy jak sieci neuronowe dochodzą do pewnych wniosków. Jakby to bylo nawet najbardziej zlozone if-owanie, to by takiego problemu nie bylo  

[Paarthurnax]

Zgodnie z definicją to jest AI, ale funkcjonuje jak autystyczny 2 latek w społeczeństwie.

W kontekście użytkowym porównanie AI do kodu warunków IFów też jest trafne.

 

 

[GordonLameman]

Ja zdaję sobie sprawę z tego, że nawet twórcy nie bardzo wiedzą czemu ich AI działa czasem w określony sposób, ale dla mnie w użytkowaniu to dalej sprawia wrażenie dość głupiego studenta. Wciąż za mało inteligencji w tej inteligencji  

[Zas]

Jak to "nie wiedzą"? Ja odniosłem wrażenie, że to "nie wiedzą", to takie uproszczenie dla gawiedzi/próba budowania mitu. Przecież naukowcy wiedzą, czym są sieci neuronowe, wiedzą, czym są transformery, wiedzą, jakie algorytmy tam wsadzają, jak je tuningują, na jakich danych jest to wszystko uczone itp. itd. Co dokładnie oznacza to "nie wiedzą"? Bo na pewno nie to, że stworzono jakieś magiczne pudełko, które wypluwa z siebie kolejne strony tekstu bez wytłumaczenia. To nie jest przecież żadna ciemna materia ani niedeterministyczne procesy kwantowe. 

Edytowane 15 Maja przez Zas

[hubio]

Ten sam model - wczoraj godzina czasu nie ogarnął, dzisiaj 2 min i też nie ogarnął ale mnie chociaż dobrze naprowadził  

 

4 godziny temu, Paarthurnax napisał(a):

Zgodnie z definicją to jest AI, ale funkcjonuje jak autystyczny 2 latek w społeczeństwie.

Nie 2 latek a 40 latek jak w RainMan  Od miesiąca kiedy codziennie gadam po klika godzin od nowych projektów biznesowych, poprzez ustawienie SimHuba, a skończywszy na tematach filozoficznych takie mam właśnie zdanie  Rozczula mnie też jak kompletnie nie ogarnia czasu - coś co dla ludzi jest oczywiste. A najlepsze jak 2 modele się kłócą. Bo dostałem dosyć sprzeczne prawie zerojedynkowe wnioski od 2 różnych modeli i jeden "jechał" po drugim. Natomiast generalnie chat gpt to dla mnie jest słaby i to nawet zanim nie zejdę do niższej wersji. Co ciekawe chat gpt linkuje bezpośrednio pod zakupy komercyjne, a google nie. Przynajmniej u mnie. 

Edytowane 15 Maja przez hubio

[GordonLameman]

58 minut temu, Zas napisał(a):

Jak to "nie wiedzą"? Ja odniosłem wrażenie, że to "nie wiedzą", to takie uproszczenie dla gawiedzi/próba budowania mitu. Przecież naukowcy wiedzą, czym są sieci neuronowe, wiedzą, czym są transformery, wiedzą, jakie algorytmy tam wsadzają, jak je tuningują, na jakich danych jest to wszystko uczone itp. itd. Co dokładnie oznacza to "nie wiedzą"? Bo na pewno nie to, że stworzono jakieś magiczne pudełko, które wypluwa z siebie kolejne strony tekstu bez wytłumaczenia. To nie jest przecież żadna ciemna materia ani niedeterministyczne procesy kwantowe. 

Jakie dokładnie procesy prowadzą do odpowiedzi tej konkretnej. Szczególnie przy halucynacjach. Co zawodzi  

 

niby ma być explainability, ale to nie do końca tak działa. 

[Wu70]

Generalnie inteligencja nie musi być na poziomie człowieka żeby być "sztuczną inteligencją".

 

GPT 3 był tragiczny w porównaniu do dzisiejszych modeli a już wtedy to bylo "prawdziwe AI".

To były czasy kiedy kwestionowało się sens AI, dzisiaj rozmawia się tylko o wdrożeniach 

 

51 minut temu, hubio napisał(a):

Natomiast generalnie chat gpt to dla mnie jest słaby i to nawet zanim nie zejdę do niższej wersji. Co ciekawe chat gpt linkuje bezpośrednio pod zakupy komercyjne, a google nie. Przynajmniej u mnie. 

OpenAI ma reklamy w darmowych planach.

W darmowej wersji nie masz w ogóle dostępu do pełnego modelu. Płatny jest daleko przed googlem który aktualnie najbardziej halucynuje. Wszyscy czekają na nowy model googla bo aktualny został mocno w tyle.

[LeBomB]

@galakty ale ja się zgadzam z @Karister i to całkowicie.

Mi tylko chodzi o to, że prócz technicznego punktu widzenia, który mają osoby które znają temat lub go zgłębiają w jakiś sposób, są osoby zupełnie nietechniczne, które też korzystają z tych narzędzi i dla których jest to proste działanie na zasadzie: krok 1. Zapytanie/prompt, krok 2. odpowiedź i traktują to jako prosty mechanizm, bo znają go całkowicie powierzchownie.

5 godzin temu, Paarthurnax napisał(a):

W kontekście użytkowym porównanie AI do kodu warunków IFów też jest trafne.

No i dokładnie o to mi chodzi, że od strony prostego, nietechnicznego użytkownika, tym dla niego będzie AI, nie ważne będzie to co dzieje się gdzieś tam "po drugiej stronie kabla".

[Zas]

3 godziny temu, GordonLameman napisał(a):

Jakie dokładnie procesy prowadzą do odpowiedzi tej konkretnej.

Ale to chyba raczej nie jakie procesy prowadzą do odpowiedzi, tylko jak - w każdym konkretnym przypadku - przebiegają - nie jesteśmy ich w stanie z zewnątrz nagrać czy zasymulować, ze względu na ich złożoność i - pewnie użyję złego, potocznego terminu - "losowość"? Ja to rozumiem trochę jak sytuację (chyba nawet realną kilkadziesiąt lat temu) typu ">Nie wiemy< dlaczego woda płynie dokładnie tak, bo nie jesteśmy w stanie zasymulować w czasie rzeczywistym jej złożonej fizyki - no ale wiemy, że są siły grawitacji i wewnętrzne wynikające z oddziaływań atomowych, które w konsekwencji dają nam określony rezultat." Albo ">Nie wiem<, dlaczego na kostce wypadła szóstka, gdy ją rzuciłem, ale wiem przecież, jak działa rzucanie kostką".

 

No chyba, że jestem w błędzie, ale kiedyś sam się łapałem na to "nie wiedzą", natomiast mam wrażenie, że (chyba słusznie) doszedłem do wniosku, iż jest to taki skrót myślowy dla szaraczków, którzy i tak nie ogarną złożoności technologii, ale dodatkowe stwierdzenie, że nawet specjaliści od AI nie wiedzą, co robi AI, jest a) prostsze, b) bardziej amazing c) ładnie podbija pierwiastek "I" - no bo gdyby naukowcy wiedzieli, to nie byłaby żadna inteligencja, tylko właśnie algorytm.

Edytowane 15 Maja przez Zas

[sabaru128]

Jest jakaś promocja na chatgpt plus na miesiąć ale tak czy siak trzeba podać kartę kredytową. ech.

[AndrzejTrg]

Podajesz, zaraz anulujesz suba i cała filozofia  

[oldfashioned]

Godzinę temu, Zas napisał(a):

Ale to chyba raczej nie jakie procesy prowadzą do odpowiedzi, tylko jak - w każdym konkretnym przypadku - przebiegają - nie jesteśmy ich w stanie z zewnątrz nagrać czy zasymulować, ze względu na ich złożoność i - pewnie użyję złego, potocznego terminu - "losowość"? Ja to rozumiem trochę jak sytuację (chyba nawet realną kilkadziesiąt lat temu) typu ">Nie wiemy< dlaczego woda płynie dokładnie tak, bo nie jesteśmy w stanie zasymulować w czasie rzeczywistym jej złożonej fizyki - no ale wiemy, że są siły grawitacji i wewnętrzne wynikające z oddziaływań atomowych, które w konsekwencji dają nam określony rezultat." Albo ">Nie wiem<, dlaczego na kostce wypadła szóstka, gdy ją rzuciłem, ale wiem przecież, jak działa rzucanie kostką".

 

No chyba, że jestem w błędzie, ale kiedyś sam się łapałem na to "nie wiedzą", natomiast mam wrażenie, że (chyba słusznie) doszedłem do wniosku, iż jest to taki skrót myślowy dla szaraczków, którzy i tak nie ogarną złożoności technologii, ale dodatkowe stwierdzenie, że nawet specjaliści od AI nie wiedzą, co robi AI, jest a) prostsze, b) bardziej amazing c) ładnie podbija pierwiastek "I" - no bo gdyby naukowcy wiedzieli, to nie byłaby żadna inteligencja, tylko właśnie algorytm.

I tak i nie.

mechanizm działania znamy, problemem jest pełne wyjaśnienie konkretnego wyniku. Wiec nie traktowalbym tego jako skrot myslowy dla szaraczkow, raczej wlasnie jako uproszczona analogie, jak ta Twoja woda. Wiemy jakie 'mechanizmy' zachodza w sieci na poszczegolnych warstwach, ale nie jestesmy w stanie wyjasnic czemu AI wyrzucil akurat dany wynik. 

Ja przynajmniej mialem to tak tlumaczone jak konczylem kodolamacza od sages'u.



 

[Karister]

Odpaliłem właśnie lokalnie najnowszego Qwen 3.6 35B. Zobaczymy, czy będzie lepszy od tamtego, co używałem tydzień temu.

[Wu70]

Ile tokenów na sekundę?

 

Z tego co widzę ludziom nieźle działa na przeciętnym sprzęcie:

 

 

[Karister]

Wbudowany benchmark mówi, że:

 

  ✦ Wynik benchmarku dla qwen3.6:35b na Twoim Macu:


    ┌───────────────────────┬────────────┐
    │ Metryka               │ Wartość    │
    ├───────────────────────┼────────────┤
    │ Generowane tokeny     │ 6 643      │
    ├───────────────────────┼────────────┤
    │ Czas generowania      │ ~157s      │
    ├───────────────────────┼────────────┤
    │ tokens/s (generation) │ ~155 tok/s │
    ├───────────────────────┼────────────┤
    │ Prompt eval           │ 58 tokenów │
    ├───────────────────────┼────────────┤
    │ Czas prompt           │ ~0.6s      │
    └───────────────────────┴────────────┘


    ~155 tokens/s generowania to dość sporo — dla 35B model to solidna wydajność. Qwen3.6:35b to większy model, więc wynik
    zależy od GPU/Mac's Neural Engine.

 

To jest dla Qwen 3.6 35B, bez A3B. Zaraz mu puszczę prompta na zakodzenie featura w moim prywatnym projekcie, który na co dzień robię z Claude. Zobaczymy, co wypluje.

Edytowane 17 Maja przez Karister

[some1]

35b jest szybki, ale mało dokładny, porównaj sobie z 27b (dense model). Ten drugi jest lepszy do programistycznych zadań.

[Karister]

Zobaczę jako kolejny, ale póki to nawet z 35B są problemy. Sypie się i robi głupoty. Póki co mój ulubiony case to ten, w którym sobie zaktualizował na moje polecenie plik konfiguracyjny tak, aby włączyć tryb YOLO i zrobił to przy pomocy deprecated flagi. Teraz przy uruchamianiu mówi, że jest ona niewspierana i trzeba użyć innej. Super.

[JeRRyF3D]

było?

 

 

[Karister]

To się nie uda za tymi lokalnymi modelami do programowania. Qwen 3.6 35B może i działa sprawnie, ale po godzinie dwa razy się sypnął z heap OOM z node. Nawet przy 16GB. Kod który powstał do tego momentu biedny. Bezmyślne powtarzanie szablonów kodu niskiej jakości. Do tego bez dodawania użytych frameworków czy bibliotek do dependencji projektu. Nie wiem, może by ostatecznie to doprowadził do lepszego kształtu, ale to, co powstało do momentu crasha dla mnie nie do przyjęcia. 27B dostał ten sam prompt, ale działa dwanaście razy wolniej (w benchmarku) i nie zapowiada się, aby skończył w najbliższym czasie. Co dwie godziny utyka i albo się pyta, czy ma kontynuować albo wisi i trzeba go znowu kopnąć. Bez solidnej stacji roboczej nie ma szans na sensowne korzystanie z tego. Może przez noc coś wymodzi, ale do normalnego korzystania Claude Code jest bez konkurencji.

Edytowane 17 Maja przez Karister