Skocz do zawartości

Sztuczna inteligencja AI - (OpenAI, ChatGPT, Midjourney, DALL-E) - Temat ogólny


Rekomendowane odpowiedzi

Opublikowano
2 godziny temu, Wu70 napisał(a):

Modele są mega dobre w reverse engineeringu, takie projekty lecisz praktycznie na pełnym automacie i hubio nawet sam by miał wysokie szanse :D

Kurde ostatnio tak sobie myślę że sam bym coś chciał ogarnąć, ale brak mi pomysłów co by można, a przy okazji zarobić nieco grosza :E 

 

Problem taki że dzięki/przez AI prawie wszystko jest już za darmo dostępne. Miałem pomysł na apkę co bierze przepisy z filmu YT i robi do tego książkę kucharską, ale to już jest za friko XDDD

Opublikowano

Zaczyna się koniec bezkarności AI:

https://next.gazeta.pl/internet/7,188935,33056289,agenty-ai-atakuja-firmy-i-strony-rzadowe-prokurator-wkracza.html

https://www.ppe.pl/news/428240/openai-zatrzymuje-gpt-6-1-astra-nowy-model-robil-co-chcial.html

 

Jeśli samochód BMW kogoś zabije (wg mediów) to odpowiada kierowca. Tu jest nim bezkarny haker, ale to tak jakby sprzedawać każdemu RPG czy snajperki, nawet w USA nielegalne. Przypominam, że legalne firmy typu Euro RTV czy Media Expert mają wszystko legalne, zero podróbek czy lewych faktur. Tylko "firmy" krzak z Allegro czy Olx mają przekręty (też rzadsze niż kiedyś).

 

Więc to nie tak, że agenci Google będą się dopuszczać przestępstw bezkarnie (czy pomagać w nich). Kasa tu nie pomoże tylko opóźni proces, nawet miliarderzy trafiają do więzień (nie tylko Epstein). Póki co przestępcy od AI mają potężną obronę idioty Trumpa, ale jego władza się skończy za 2 lata (już po 3 listopada może mieć jej mało).

Opublikowano (edytowane)

Taka ciekawostka o czasach z AI i wiecznych oszczędnościach na sprzęcie. Od jakiegoś czasu buduję sobie w domu klaster Kubernetes (K8s) oparty o kilkanaście sztuk Raspberry Pi 5 8GB z aktywnym chłodzeniem i dyskami SSD NVMe. Foto poglądowe, o czym mowa:

 

rpi.thumb.jpg.0e7051a40a483ca250c458ef4c4c417b.jpg

 

Ma to konkurować wydajnościowo z normalnie działającą produkcyjnie chmurą, czyli obsługa milionów rekordów w bazach danych i tysięcy użytkowników jednocześnie. Ostatnio zeszło mi trochę czasu na rozkminę, czemu raz mi system przepuszcza 2300 zapytań na sekundę (RPS), a raz są problemy z 2000 RPS. Wyszło mi takie cuś w benchmarkach posiadanych RPi:

 

Node             Board    SoC  Bootloader  Kernel  L3 write (1.5MB)  DRAM write (64MB)
master           Rev 1.0  C1   2024-09-23  6.8     17.7              11.0
platform-1       Rev 1.0  C1   2024-09-23  6.8     19.0              10.8
worker-3         Rev 1.0  C1   2024-09-23  6.8     22.8              11.4
worker-4         Rev 1.0  C1   2024-09-23  6.8     29.6              12.4
db-1             Rev 1.0  C1   2024-09-23  6.8     31.0              12.2
db-2             Rev 1.0  C1   2024-09-23  6.8     28.2              13.1
observability-1  Rev 1.0  C1   2024-09-23  6.8     25.8              10.1
observability-2  Rev 1.0  C1   2024-09-23  6.8     21.0              11.2
worker-1         Rev 1.1  D0   2026-09-25  6.8      7.8               6.6
worker-2         Rev 1.1  D0   2025-06-13  6.17    10.3               6.8
worker-5         Rev 1.1  D0   2025-06-13  6.8      8.1               6.8
observability-3  Rev 1.1  D0   2025-08-28  6.8     14.5               8.1

 

Node to po prostu moje nazwy kolejnych RPi służących do tego i owego w chmurze opartej o K8s. Jeśli ktoś przeciera oczy ze zdumienia, to tak, dobrze wyczytał. Nowa rewizja malinek jest znacznie wolniejsza. Nie wiadomo, co się kupuje, ale nietrudno się domyślić, które rewizje będą przyjeżdżać z upływem czasu coraz częściej, gdy poprzednia się powoli kończy w magazynach.

 

Operation                      C1          D0          D0 vs C1
Pure CPU                       -           -           same
L2 read  (256 KB)              38 GB/s     38 GB/s     same
L2 write (256 KB)              57 GB/s     53 GB/s     ~7% slower
L3 read  (1.5 MB)              26 GB/s     24 GB/s     ~9% slower
L3 write (1.5 MB)              24.4 GB/s   10.2 GB/s   ~58% slower (2.4x)
DRAM read  (64 MB)             12.3 GB/s   10.6 GB/s   ~14% slower
DRAM write (64 MB)             11.5 GB/s    7.1 GB/s   ~38% slower (1.6x)
JVM app CPU per request        2.4 ms      2.95 ms     +10-23% CPU

 

Oczywiście nowy chip jest bardziej efficient, oszczędny itd., itp. Trochę szperania po sieci i inni też już to zauważyli. Nowsze RPi 5 mają znacznie mniejsze kości krzemu: https://www.jeffgeerling.com/blog/2024/new-2gb-pi-5-has-33-smaller-die-30-idle-power-savings/. Marketingowo wygląda świetnie, a w praktyce, gdy aplikacja wyciska ostatnie soki ze sprzętu i K8s wrzuci ją na nowszą maszynę, traci się nawet 20% mocy przerobowej. Tak to wygląda ta optymalizacja kosztów i bycie eko w XXI wieku.

Edytowane przez Karister

Jeśli chcesz dodać odpowiedź, zaloguj się lub zarejestruj nowe konto

Jedynie zarejestrowani użytkownicy mogą komentować zawartość tej strony.

Zarejestruj nowe konto

Załóż nowe konto. To bardzo proste!

Zarejestruj się

Zaloguj się

Posiadasz już konto? Zaloguj się poniżej.

Zaloguj się
  • Ostatnio przeglądający   0 użytkowników

    • Brak zarejestrowanych użytkowników przeglądających tę stronę.

×
×
  • Dodaj nową pozycję...