Sztuczna inteligencja AI - (OpenAI, ChatGPT, Midjourney, DALL-E) - Temat ogólny

[ODIN85 3 501]

https://ithardware.pl/aktualnosci/sztuczna_inteligencja_oswiadczyny-42743.html

 

[Dimazz 565]

[Áltair 270]

Bawi się ktoś aplikacją HeyGen? W płatnym planie 24$/m ile można wygenerować ruchomych awatarów? W sensie wgrywa się zdjęcie i zmienia je na film, plus dodaje głos z tekstu. W pakiecie jest taki opis i nie wiem, jak to rozumieć: 

 

5 minutes of Avatar IV videos per month. Features you'll love: 1 Custom Video Avatar, 1 Custom Interactive Avatar. 

 

Czyli można zrobić filmik z dwoma awatarami, każdy po 5 minut?

Jak tak, to trochę słabo jak na taką kasę. 

Edytowane 24 Czerwca przez Áltair

[Camis 5 886]

 

[bbandi 452]

 

[Wu70 739]

Dostaliśmy budżet developerski do api bardzo fajnego modelu video:

 

Demo 

 

 

Edytowane 30 Czerwca przez Wu70

[kanon7 599]

Jakie AI obecnie jest najlepsze (darmowa wersja) pod względem wyszukiwania trafnych odpowiedzi pisemnych, w przypadku bardziej specjalistycznych gałęzi? 
 

Chciałbym potestować jak na dzisiaj działa AI w kategoriach prawnych, budownictwa, czy też technologii komputerowej: jestem ciekaw jak skutecznie i co napiszę na moje pytania  

 

PS. Po polsku AI, aby wziął pod uwagę polskie przepisy prawa.

Tylko i wyłącznie do zabawy, więc może być chińczyk jakiś - nic prywatnego / zawodowego (poufnego) nie będę pytać / podawać 

Edytowane 30 Czerwca przez kanon7

[Paarthurnax 410]

@Karister

 

Kurde, a ja na studiach musiałem pisać kod na kartce papieru, a za brak jednego nawiasu od razu była poprawka.

Na pytanie dlaczego nie obniżenie oceny otrzymałem odpowiedź "ponieważ pętla się nie wykona" i teraz pytanie, czy wykładowca był idiotą, czy wizjonerem?

[Camis 5 886]

1 godzinę temu, Wu70 napisał(a):

Demo 

 

 

[Karister 162]

2 godziny temu, Norrberrto napisał(a):

@Karister

 

Kurde, a ja na studiach musiałem pisać kod na kartce papieru, a za brak jednego nawiasu od razu była poprawka.

Na pytanie dlaczego nie obniżenie oceny otrzymałem odpowiedź "ponieważ pętla się nie wykona" i teraz pytanie, czy wykładowca był idiotą, czy wizjonerem?

Miałem takiego samego. Woził się i wywyższał, bo przez dwie dekady opanował rozwiązywanie jednego zadania na trzy tuziny sposobów. Zamiast skupić się na rozwiązywaniu problemów, myśleniu, analizie czy choćby jakości kodu, koleś wolał się czepić nawiasu, który w praktyce z każdym IDE poprawisz w dwie sekundy. W pracy kod piszesz na kartce? Oczywiście, że był idiotą. Do takiego wniosku wystarczy miesiąc stażu w sensownej firmie IT. 

[Camis 5 886]

Cytat

Wchodzi Ernie - to największy chiński model sztucznej inteligencji po DeepSeek

Chiński gigant wyszukiwania Baidu ogłosił, że 30 czerwca udostępni swój model generatywnej sztucznej inteligencji Ernie jako open source, stanowiąc zagrożenie dla OpenAI, Anthropic i własnego chińskiego rywala DeepSeek.

Cytat

Kolejny szok w branży IT. DeepSeek to przy nim mrzonka

W poniedziałek 30 czerwca chiński gigant technologiczny planuje udostępnić swoje AI w formie otwartego dostępu. To posunięcie może być przełomem od czasu DeepSeek.

https://www.fxmag.pl/technologia/kolejny-szok-w-branzy-it-deepseek-to-przy-nim-mrzonka

 

https://ernie.baidu.com - można testować

 

I już jest, Chińczyki wymiatają w AI i do tego udostępniają to w open-source.

 

 

https://huggingface.co/collections/baidu/ernie-45-6861cd4c9be84540645f35c9

 

 

[VRman 2 635]

Wybaczcie mi brak wiedzy o tym jak to działa, ale czy danie tego jako open source oznacza, że każdy może sobie to posawić na domowym kompie czy że każda firma dysponująca sprzętem z petabajtem pamięci i tysiącami GPU może?

Chodzi mi o czas generowania poniżej 20 minut na jeden prompt.

 

edit: Chodzi mi o lżejsze sprawy oczywiście. Tekst, może grafika choć tu podejrzewam, że kilkadziesiąt GB domowego kompa to za mało do czegoś wszechstronnego. O wideo nie śmiem nawet mieć nadziei.

Edytowane 2 Lipca przez VRman

[Camis 5 886]

Tak, stawiasz lokalnie.

[galakty 3 312]

Chcesz to na swoim PC to postawisz, ja się bawiłem w generowanie obrazów, wideo i LLM pokroju GPT na kompie totalnie offline. Działa. 

24 minuty temu, VRman napisał(a):

Chodzi mi o czas generowania poniżej 20 minut na jeden prompt.

Ty tak serio? To zajmuje kilka sekund do kilku minut

[Wu70 739]

Mamy farta że chińczycy dali się wrobić w open source

 

28 minut temu, VRman napisał(a):

ale czy danie tego jako open source oznacza, że każdy może sobie to posawić na domowym kompie czy że każda firma dysponująca sprzętem z petabajtem pamięci i tysiącami GPU może?

To wszystko zależy od tego jak duży jest model, tych największych nie masz szans uruchomić ale jak open source to publikują też małe wersje (bo po co upubliczniać coś tylko dla innych korpo), zobacz ten link wyżej, liczba parametrów:

 

ERNIE-4.5-VL-424B-A47B-Base-PT

ERNIE-4.5-300B-A47B-Base-Paddle

ERNIE-4.5-VL-28B-A3B-Base-PT

ERNIE-4.5-21B-A3B-PT

ERNIE-4.5-0.3B-PT

 

Ten 0.3B odpalisz na ..telefonie 

 

Na 3090 z 24GB vram powinienem odpalić ten 28B ale ogólnie te małe modele będą po prostu bardzo słabe w porównaniu do gigantów, to jest bardziej dla zainteresowanych osób albo konkretnych zastosowań, na ogół szkoda zachodu i lepiej sobie użyć API modeli gigantów łatwo dostępnych za grosze.

[VRman 2 635]

Mówisz teraz o obrazie/video, tak? 

 

 

Próbowałem jednej stronki do wspomagania pisania. Fajna. Nawet bardzo. Ale kosztuje 30$ miesięcznie i to jest za czas poza tym że za credits, czyli jak nie masz akurat czasu/weny to przepada. 

Szkoda, że nie ma czegoś typu "wykupujesz i masz aż zużyjesz" i czegoś bez konieczności bawienia się w anulowanie subskrypcji.

 

Niestety mniejsze modele to przy tym porażka, a pełny GPT ma debilną cenzurę tak mocną, że denerwuje (cykl o Wiedźminie Sapkowskiego by nawet przez to nie przeszedł, nie żartuję  )

Chińczyki się nie przejmują - chcesz napisać scenę ala Wiedźmin, z flakami fruwającymi podczas walki - to nie ma problemu. Chcesz napisać, że postać miała i tak kijowe życie, żeby czytelnikowi nie było za smutno przy scenie gdy ta się poświęca by ratować innych? Chinol pozwoli. Te zachodnie za to napisze, że to scena samobójstwa (lol) i że tak nie wolno.  (i do tego jeszcze napisze 3 rozdziały książki nie na temat, bo dorzuci coś o walce z depresją  )

 

A daj pan spokój.

Wiem, że pewnie można sobie z tym poradzić, ale ja to traktuję zabawę i nie po to bym siadał, się pobawić, żeby zamiast tego pracować nad tym jaki prompt dać, żeby przeszło, żeby te debilne AI zrozumiało o co mi chodzi. 

 

Ponoć modele odpalane lokalnie nie mają takiego problemu z cenzurą, ale nie wiem jak duże są te "duże" i czy ten news o jakimś chińskim w open source to coś, z czego mam się cieszyć czy nie. 

Cenzura tam gdzie ma sens mi nie przeszkadza - tekstów dla Trynkiewiczów pisać nie zamierzam, ani żadnych scen XXX. Tylko, żeby nie wkurzało przeginaniem na poziomie zakonnicy w latach 90tych domagającej się zakazu gier typu Doom czy Mortal Kombat bo to dzieło szatana.

 

 

A jak widzicie szanse na generatory obrazu i wideo  zachowujące prywatność? W sensie - bardzo chętnie bym się pośmiał robiąc jakieś przeróbki z własną twarzą czy głosem, ale niekoniecznie chcę to od razu udostępniać całemu światu i nakarmić tym trenowanie jakiegoś AI, przez co potem ktoś ma moją twarz, głos czy pomysły na skecz lub parodię.

Zakładając, że jestem baaaaaaardzo cierpliwy (używanie RAMu zamiast pamięci na karcie, gówniane GPU), mam tylko np. RTX 3060 12GB i w kompie 64 do 128GB RAMu, można liczyć na cokolwiek czy jedynie bardzo wykrojone zastosowania typu "ten model potrafi generować spadające owoce i nic poza tym"?

[galakty 3 312]

Lokalne mają ten problem, że odpalisz tylko mały rozmiar i ich możliwości są duuuużo mniejsze (próbowałem jakiegoś chińskiego open source to nie potrafił prostego Tetrisa w Python napisać....)

[Camis 5 886]

1 godzinę temu, VRman napisał(a):

Szkoda, że nie ma czegoś typu "wykupujesz i masz aż zużyjesz" i czegoś bez konieczności bawienia się w anulowanie subskrypcji.

https://aistudio.google.com/prompts/new_chat

https://ai.google.dev/gemini-api/docs/pricing?hl=pl

[Wu70 739]

5 godzin temu, VRman napisał(a):

Mówisz teraz o obrazie/video, tak? 

Cokolwiek, realnie pewnie wszystko poza video.

 

6 godzin temu, VRman napisał(a):

Próbowałem jednej stronki do wspomagania pisania. Fajna. Nawet bardzo. Ale kosztuje 30$ miesięcznie i to jest za czas poza tym że za credits, czyli jak nie masz akurat czasu/weny to przepada. 

Szkoda, że nie ma czegoś typu "wykupujesz i masz aż zużyjesz" i czegoś bez konieczności bawienia się w anulowanie subskrypcji.

Gemini jak wyżej, masz za darmo topowe modele i nic więcej nie potrzebujesz. OpenAI możesz doładować 10$ i ważność to rok.

 

Generalnie zajrzyj do źródła - dostawców modeli a nie jakieś stronki które szukają subskrypcji.

 

No i zawsze jest ITHardwareGPT 

 

6 godzin temu, VRman napisał(a):

A jak widzicie szanse na generatory obrazu i wideo  zachowujące prywatność?

Jedyna szansa to lokalne modele. Wszystko co trafi do internetu - zostanie w internecie i będzie służyło do nauki AI, nikt się nawet z tym nie kryje. Możesz korzystać za darmo z topowych modeli google właśnie dlatego że wszystko zostanie wykorzystane.

 

Generalnie - korzystać ale bez udostępniania prywatnych danych.

[VRman 2 635]

28 minut temu, Wu70 napisał(a):

Jedyna szansa to lokalne modele. Wszystko co trafi do internetu - zostanie w internecie i będzie służyło do nauki AI, nikt się nawet z tym nie kryje. Możesz korzystać za darmo z topowych modeli google właśnie dlatego że wszystko zostanie wykorzystane.

no wiem, ale mi chodziło czy są szanse, żeby to się pojawiło na współczesnych komputerach stacjonarnych, a nie za 20 lat, bo wtedy to nic mi po tym.

 

Nie wiem czy model do generowania video jak te, które mnie wyrwały z kapci w ostatnich miesiącach, to jest coś co potrzebuje np. 100GB RAMu czy raczem 100TB RAMu

 

 

 

 

Co do gemini - przeleciałem po różnych modelach i niestety do pisania jednak lepsze były

gpt 4 - o ile nie natknie się na coś, co mu się nie podoba

deepseek - taki se

cloude i jego wariacje specjalnie dostosowywane pod pomoc w pisaniu opowiadań/książek - zdecydowanie lepiej

 

bo gemini jakoś nie pamiętam, czyli musiał odpaść dość szybko. Albo walił klisze albo strona z chatemgpt, gdzie pytałem, nie wymieniła go jako dającego swobodę zamiast zbytnich restrykcji cenzury. 

 

Nie pamiętam już za wiele bo to było pod koniec zeszłego roku. Były jeszcze jakieś modele z 70b w nazwach, ale to było słabe. 

 

 

 

Co do stronek to masz rację, ale ta akurat naprawdę jest spoko, w sensie, że bardzo intuicyjna, masz odpowiednie menu do fabuły, postaci, stylu pisania, masz opcje typu "rozbuduj scenę z tego tekstu", "przepisz uwzględniając taką i taką zmianę", masz sekcję gdzie możesz wrzucać luźno wszelkie pomysły bez informowania o jaką kategorię chodzi, masz sekcje story outline itp. generowanie rozdziałów, planowanie zależności. No tak zrobione, że wyobrażam sobie, że to naprawdę przydatne narzędzie dla ludzi piszących profesjonalnie, a nie znających się na programowaniu ani promptach.

Ja się chcę pobawić na znacznie niższym poziomie niż amatorsko, ale za to mam swoje własne pomysły i oczekuję kreatywności a nie po prostu walenia mi sugestiami na podstawie tego co AI nauczyło się w 5 książkach z danego gatunku. AI musi być że tak powiem "błyskotliwe" (w swojej sztuczności, oczywiście) najlepiej jakby potrafiło tworzyć coś nowego w oparciu o grę słów i analogie, bez kopiowania już istniejących żartów. Nie wiem czy takie coś już istnieje, ale pewnie kiedyś zaistnieje, a skoro AI mnie już tyle razy zaskakiwało to nic już nie wykluczam

 

Najczęściej problem jest z tym, że AI nie słucha co mu każesz robić, tylko leci tym co najczęściej występowało w treningu albo w promptach innych użytkowników. I jak chcesz napisać coś co jest popularne to spoko. Nawet lepiej. Ale jak chcesz np. humor + abstrakcję + nietypowe podejście do zarysów i sposobu mówienia  postaci, to się robi problem. Na początku myślałem, że po prostu nie umiem tych promptów i konfiguracji pisać, ale się okazało po przejściu na inne modele, że nagle AI rozumie o co prosiłem i potrafi się stosować, potrafi pamiętać itp.

 

 

OK, Spróuję tego Gemini i wykupienia tańszej opcji w OpenAI.

 

PS. Ty mi o bocie ITharware już lepiej nic nie pisz, bo ja i bez AI walę ściany tekstu. Jak jeszcze poproszę go o pomoc z napisaniem opowiadania czy książki to się przepali i popsuje.

Edytowane 2 Lipca przez VRman

[Wu70 739]

Jak gemini patrzyłeś rok temu to bylo słabe, google późno nadrobiło ale teraz jest konkurencyjne, 2.5 Pro sprawdź. 

 

10 minut temu, VRman napisał(a):

Nie wiem czy model do generowania video jak te, które mnie wyrwały z kapci w ostatnich miesiącach, to jest coś co potrzebuje np. 100GB RAMu czy raczem 100TB RAMu

Generowanie video to moze później ale z prywatnymi obrazkami możesz już lokalnie robić co chcesz. 

 

12 minut temu, VRman napisał(a):

Co do stronek to masz rację, ale ta akurat naprawdę jest spoko, w sensie, że bardzo intuicyjna, masz odpowiednie menu do fabuły, postaci, stylu pisania, masz opcje typu "rozbuduj scenę z tego tekstu", "przepisz uwzględniając taką i taką zmianę", masz sekcję gdzie możesz wrzucać luźno wszelkie pomysły bez informowania o jaką kategorię chodzi, masz sekcje story outline itp. generowanie rozdziałów, planowanie zależności. No tak zrobione, że wyobrażam sobie, że to naprawdę przydatne narzędzie dla ludzi piszących profesjonalnie, a nie znających się na programowaniu ani promptach.

Myślę że sobie z promptami poradzisz bez problemu, to tylko prosta treść, za fajniejsze stronki które to opakowały w ładne UI właśnie trzeba płacić. 

 

16 minut temu, VRman napisał(a):

Najczęściej problem jest z tym, że AI nie słucha co mu każesz robić

Tak, tak samo zapominają wraz z długością kontekstu i to nawet jest mierzone przez ludzi, jedna z większych porażek to llama 4, kontekst gigant 10M ale już po 120k i tak nie ogarnia 

Z gemini 2.5 pro będziesz zadowolony, super kontekst 1M, mozesz wrzucić całą treść jakiejś książki. 

 

18 minut temu, VRman napisał(a):

PS. Ty mi o bocie ITharware już lepiej nic nie pisz, bo ja i bez AI walę ściany tekstu. Jak jeszcze poproszę go o pomoc z napisaniem opowiadania czy książki to się przepali i popsuje.

Podrzuć jakieś pomysły lepiej co mu dodać 

[LeBomB 2 053]

@Yahoo86 tu jest bardziej właściwy wątek do zapytań o lokalne postawienie jakiegoś modelu i @Wu70 może mieć do tego odpowiednią wiedzę jaki model wybrać i jak to zrobić.

 

@Bono_UG słusznie zwrócił uwagę, że do przetwarzania danych poufnych, nawet lokalnie, może być potrzeba spełnienia innych wymogów bezpieczeństwa, wcale nie podlegających pod poświadczenia bezpieczeństwa o dopuszczeniu do informacji niejawnych, a choćby ze względu na przepisy dotyczące cyberbezpieczeństwa, którym może podlegać firma w której pracujesz lub którą prowadzisz. Po prostu weź to pod uwagę wybierając model językowy, urządzenie na którym go umieścisz i sposób instalacji.

 

To z jakich danych będziesz korzystał, to oczywiste że to Twoja sprawa, ale przy wdrażaniu danego modelu to również jest istotne, bo nie każdy model może sobie poradzić z językiem technicznym lub urzędowym, albo po prostu trzeba wybrać "cięższy" model.

Skoro wchodzisz dopiero w temat, to po prostu dobrze brać pod uwagę takie rzeczy, żeby potem np. przy ocenie ryzyka w firmie nagle nie wyszło, że nawet stawiając lokalnie model powstała jakaś poważna luka. 

 

 

 

 

[VRman 2 635]

Tak sobie myślę, że jeśli taki AI-wy laik jak ja potrafi dość trafnie wyłapywać boty/trolownie/ludzi co piszą przez AI, to może dałoby się zaprząc AI do analizy i typowania co może być botem?

A potem niech to pokazuje adminom, ci niech rzucają raz na miesiąc okiem i niech się zbiera, aż się uzbiera na tyle, że pojawi się pewność, że można machnąć banhammerem.

 

Nie zawsze, jak przed chwilą, konto piszące AI-jem się demaskuje niechcący poprzez  pisanie długich myślników, ale da się rozpoznać na podstawie sposobu wypowiedzi i kilku innych rzeczy, w tym po aktywności w 90-100% w wątkach politycznych.

Edytowane 10 Lipca przez VRman

[Yahoo86 335]

@LeBomB

Nie zwrócił słusznie uwagi, analizy/opracowania/schematy/itd są równoznaczne z przetwarzaniem - czyli przetwarzam takie dane już od wielu lat w domu/biurach/stacjach/zakładach, wszędzie tam gdzie znajduję się wyznaczone do tego miejsce w świetle prawa i podlegają kontroli.

Dzięki za polecenie osoby która jest w temacie.

 

@Wu70

Witam

szukam pomocy w wyborze modelu Ai o profilu inżynieryjno-analitycznym w izolowanym zamkniętym środowisku (temat energetyka).

Wymagania to:

• wsparcie dla 4 sztuk posiadanych i kurzących się od 2 lat RTXów A4500 (20GB ampera) (platforma jeszcze nie wybrana, rozważam Xeon-a lub Threadripper-a z minimum 32 jajkami i przynajmniej 512GB RAM, po taniości może to być nawet poprzednia generacja) 
• otwarty kod źródłowy
• pochodzenie UE
• pełne wsparcie dla języków PL/ENG/DE/FR
• obowiązkowe działanie bez dostępu do sieci
• obsługa mnogiej opcji formatów (szkice, rysunki, schematy, modele, plany zagosp. przestrz., raporty, itd...) (CAD i 3ds Max to podstawa)
• wsparcie dla różnych źródeł danych
• wielojęzykowy żargon techniczny
• absolutna odporność na manipulację 
• adaptacyjność do zmian w bazie danych
• uwzględnienie i ścisłe opieranie się na zasadach fizyki
• matematyka (wiadomo)
• absolutne przestrzeganie prawa i regulacji
• bardzo wysoka precyzja predykcji (wykrywanie ryzyka awarii urządzeń, czynnika ludzkiego, itd...)
• zmienne warunki pogodowe (sezonowość)
• wielo-czynnikowe działania zewnętrzne
• detekcja i predykcja anomalii
• radzić sobie z niekompletnym oraz zakłóconym strumieniem danych
• skalowalna i elastyczna architektura
• zgodne z RODO, NIS2, ISO 27001
• ma być transparentne i audytowalne

To tak z grubsza aby było wiadomo czego szukam.

 

Plan działania w fazach jest następujący (przejście do kolejnej FAZY modelu pod warunkiem uzyskania niemal 100% precyzji):

FAZA-1. Dane ogólnodostępne w PL

FAZA-2. Dodanie danych ogólnodostępnych w UE

FAZA-3. Próba akredytacji jako narzędzie dydaktyczno-szkoleniowe dla nowych pracowników (zajmie to lata)

FAZA-4. Dane niejawne - jeśli dożyję to pewnie braknie chęci na kontynuowanie (nic pewnego)

 

Na chwilę obecną jest to jedynie zarys i ciekawostka, chcę się przekonać czy te całe Ai (skrypt) podoła moim oczekiwaniom.

Od kilku dni poznaję Ai (sprawdziłem ChatGPT, Claude i Gemini które kompletnie się nie nadają, są niesamowicie podatne na manipulację).

 

Może coś polecisz na poziomie, które spełni moje "widzimisię" . 

PS: rekomendacja co do sprzętu też mile widziana.

[Camis 5 886]