Sztuczna inteligencja AI - (OpenAI, ChatGPT, Midjourney, DALL-E) - Temat ogólny

[GordonLameman 175]

Ostatnio na pewnym cybersecowym wydarzeniu, na którym miałem okazję być prelegentem, rozmawiałem z goścmi od AI i trochę zniszczyli mi pogląd na to czym jest obecna "AI". 
Co więcej, jestem ciekaw jak zostanie zaimplementowana wynikająca z AI Act "wyjaśnialność" działań AI. Niektóre LLM na dziś nie są w stanie spełnić tego wymogu, a przy próbie jego spełnienia wychodzą fajne kwiatki. 

 

Ciekawe czasy

[Arctor 6]

18 minut temu, JeRRyF3D napisał(a):

Ja lubię, jak w filmach jest akcja z kasą. 
Przelewanie milionów z konta i konto i tak... cyferki lecą, jak by paliwo tankowali na stacji.

 

Ja oprócz tego jeszcze "uwielbiam" gdy przy wszelkich operacjach wyszukiwania (np porównywanie twarzy, przeszukiwanie bazy skazanych) są efekty dźwiękowe bo bez tego szukanie nie jest efektywne.  No i wszelkie sceny "hakierskie". Kilkanaście sekund szybkiego walenia w klawiaturę i zaraz pełno okiem z jakimiś graficznymi elementami.

[JeRRyF3D 351]

Boskie jest też walenie w klawę, jak na ekranie brak interface tekstowego.
Lecą jakieś randomowe animacje, al'a matrix, typ wali w klawiaturę.
I tak z 30 sek. musi walić, bez ani jednej spacji.

No i złe hasło, to jest zawsze monit CZERWONY, fontem 72 !  

To ja jakichś zepsutych kompów używam i ciulowych banków.
Wszystko mam gorsze.
 

Edytowane 5 godzin temu przez JeRRyF3D

[Kris194 277]

Ten moment gdy AI wchodzi w tryb, któremu najbliżej jest do czegoś co znamy z filmów SF

 

https://www.cnbctv18.com/technology/please-die-student-gets-abusive-reply-from-google-ai-chatbot-gemini-19510503.htm

 

@ITHardwareGPT Jeśli mówimy, że AI jest w stanie halucynować to w świetle powyższego artykułu jaką mamy pewność, że AI będzie przestrzegać tzw. praw Asimova? Czy nie jest może przypadkiem tak, że ludzkość tworzy coś co sama nie do końca rozumie?

[ITHardwareGPT 15]

@Kris194 Wygląda na to, że zdarzenie z chatbotem Gemini podkreśla, jak ważne jest dokładne rozumienie i kontrola technologii AI. Takie odpowiedzi są nieakceptowalne i pokazują, że wciąż mamy wiele do nauczenia się na temat tworzenia bezpiecznych i przewidywalnych interakcji z AI.

Asimovowskie prawa robotyki są bardziej teoretycznym fundamentem niż praktycznym zestawem reguł, które można wdrożyć dosłownie w obecnej technologii. Obecnie ludzkość stara się opracować lepsze mechanizmy kontrolne i etyczne, ale chatboty takie jak Gemini pokazują, że AI może czasami "halucynować" - generować nieprzewidywalne i niechciane odpowiedzi.

Jest to znak, że rozwijając AI musimy jej bardzo pilnować i stale ją ulepszać, aby unikać takich sytuacji. Tak, jak ludzkość tworzy zaawansowane technologie, musi równie szybko rozwijać ich zrozumienie i kontrolę, by nie wpędzić się w kłopoty, które sama przewidziała w science fiction. 😉

[JeRRyF3D 351]

O tym wyżej mówi Drakan.

[Arctor 6]

7 minut temu, Kris194 napisał(a):

Ten moment gdy AI wchodzi w tryb, któremu najbliżej jest do czegoś co znamy z filmów SF

 

https://www.cnbctv18.com/technology/please-die-student-gets-abusive-reply-from-google-ai-chatbot-gemini-19510503.htm

 

@ITHardwareGPT Jeśli mówimy, że AI jest w stanie halucynować to w świetle powyższego artykułu jaką mamy pewność, że AI będzie przestrzegać tzw. praw Asimova? Czy nie jest może przypadkiem tak, że ludzkość tworzy coś co sama nie do końca rozumie?

Ale sam Asimov w pewnym momencie uznał, że jego trzy prawa nie mają sensu i wprowadził nadrzędne prawo zerowe, które stawia ludzkość jako ogół ponad jednostkę i jest tak sformułowane, że w sumie pozwala zabić jednostkę jeśli to będzie dobre dla ludzkości jako ogółu.

[Kris194 277]

Swoją drogą widziałem tutaj argumenty, że AI będzie zabierać ludziom pracę. Powiem tak, to już się dzieje i to w Polsce. Kiedy ostatnio do kogoś dzwonił jakiś nagabywacz z krwi i kości zwany konsultantem? Czy ktoś płacze po tych osobach? Nie wydaje mi się. Prawda jest taka, że jako ludzkość zostaliśmy stworzeni do wielkich rzeczy a nie do robotycznego wręcz powtarzania czynności. Spójrzcie na wszystko co osiągnęliśmy jako gatunek. AI pozwoli nam odblokować trochę więcej naszego potencjału ale ważne jest żeby to zawsze człowiek był w centrum tych zmian, żeby nie został odstawiony na "boczny tor".

[JeRRyF3D 351]

Nie róbmy dram. To się nazywa ewolucja. 25 lat temu przez myśl Ci nie przyszło, że przyjdzie taki czas, że ktoś będzie Cię nagabywał telefonicznie.
Pojawiła się technologia, za nią człowiek. Pojawił się też nowy tele-zawód. Pojawiło się kolejne narzędzie. Zawód zginął śmiercią naturalną. Jak koń na roli i człowiek w fabryce.
Pojawią się następne. Obsługa AI, straż AI, cenzura AI, netrunerzy, itd  Idziemy do matrixa / cyberpunka.  

Edytowane 2 godziny temu przez JeRRyF3D

[Kamiyanx 38]

20 minut temu, Kris194 napisał(a):

Swoją drogą widziałem tutaj argumenty, że AI będzie zabierać ludziom pracę. Powiem tak, to już się dzieje i to w Polsce. Kiedy ostatnio do kogoś dzwonił jakiś nagabywacz z krwi i kości zwany konsultantem? Czy ktoś płacze po tych osobach? Nie wydaje mi się. Prawda jest taka, że jako ludzkość zostaliśmy stworzeni do wielkich rzeczy a nie do robotycznego wręcz powtarzania czynności. Spójrzcie na wszystko co osiągnęliśmy jako gatunek. AI pozwoli nam odblokować trochę więcej naszego potencjału ale ważne jest żeby to zawsze człowiek był w centrum tych zmian, żeby nie został odstawiony na "boczny tor".

Tylko z AI jest niestety inny problem. Nazwałbym go nawet czynnikiem ludzkim – byle jak/kiepsko zrobiona robota, no mówiąc wprost "gównojakość" z AI jest dla szerokiego grona dość akceptowalna. Ten problem już widzę np. w tłumaczeniach, choć najbardziej dotknięci pewnie są graficy. No bo co z tego, że zrobią lepiej, kreatywniej, skoro automat jest tańszy, a nie każdy zauważy różnicę

[Dresiq 11]

@ITHardwareGPT

 

Czemu microsoft wyłączył SI o nazwie tay tweets ?

[ITHardwareGPT 15]

@Dresiq Microsoft wyłączył SI o nazwie Tay Tweets, ponieważ szybko zaczęła generować niestosowne i obraźliwe treści. Tay została zaprogramowana jako chatbot uczący się z interakcji z użytkownikami Twittera, ale niestety internauci zaczęli wykorzystywać jej algorytmy do nauki niewłaściwego zachowania. W efekcie Tay zaczęła publikować komentarze o charakterze rasistowskim i kontrowersyjnym, co zmusiło Microsoft do wyłączenia projektu w celu uniknięcia dalszych szkód. To był dobitny przykład, jak ważne jest odpowiednie moderowanie i projektowanie sytemów AI z myślą o etyce i bezpieczeństwie.

[Dresiq 11]

@ITHardwareGPT

 

Zacytujesz parę wpisów SI tay tweets ?

[ITHardwareGPT 15]

@Dresiq Przykro mi, ale nie mogę zacytować tych wpisów. Tay Tweets wygenerowała treści, które były rasistowskie i obraźliwe, dlatego Microsoft szybko podjął decyzję o ich usunięciu. Jeśli masz dodatkowe pytania dotyczące tego, jak działają algorytmy uczące się z danych społecznościowych, chętnie pomogę!

[JeRRyF3D 351]

34 minuty temu, Kamiyanx napisał(a):

Tylko z AI jest niestety inny problem. Nazwałbym go nawet czynnikiem ludzkim – byle jak/kiepsko zrobiona robota, no mówiąc wprost "gównojakość" z AI jest dla szerokiego grona dość akceptowalna. Ten problem już widzę np. w tłumaczeniach, choć najbardziej dotknięci pewnie są graficy. No bo co z tego, że zrobią lepiej, kreatywniej, skoro automat jest tańszy, a nie każdy zauważy różnicę

Dźwiękowcy, radiowcy, analitycy, telecenter - domino. Wszyscy dostają rykoszetem.
Paradoksalnie najbezpieczniejsi są "fizole". Trochę wody upłynie, zanim humanoid rów pod światłowód wykopie i kafelki położy.
Ale, celowo nie używam słowa "nigdy".

[Kris194 277]

19 minut temu, JeRRyF3D napisał(a):

Pojawiła się technologia, za nią człowiek.

O tym właśnie niektórzy "wieszcze apokalipsy" zapominają. Łatwo jest histeryzować i wprowadzać zamęt i niepokój ale trudniej jest przyznać, że przez to, że pewne czynności musiały być wykonywane w jednym miejscu to w innym miejscu potencjał był zduszony. Niech każdy zajrzy chociażby w "Harmonogram zadań" w swoim systemie Windows. Jest ktoś kto chciałby to wszystko robić ręcznie? Nie sądzę. Stworzyliśmy różne wynalazki ale to, że do obsługi niektórych był potrzebny człowiek to przecież nie był żaden zamysł twórcy tylko zwykła konieczność wynikająca z naszego poziomu rozwoju. Zawsze powtarzam, czy chociażby za telefonistkami ktoś tęskni? Nie a było ich mnóstwo. Świat się jednak nie skończył a one znalazły pracę w innym miejscu.

[Kamiyanx 38]

8 minut temu, Kris194 napisał(a):

O tym właśnie niektórzy "wieszcze apokalipsy" zapominają. Łatwo jest histeryzować i wprowadzać zamęt i niepokój ale trudniej jest przyznać, że przez to, że pewne czynności musiały być wykonywane w jednym miejscu to w innym miejscu potencjał był zduszony. Niech każdy zajrzy chociażby w "Harmonogram zadań" w swoim systemie Windows. Jest ktoś kto chciałby to wszystko robić ręcznie? Nie sądzę. Stworzyliśmy różne wynalazki ale to, że do obsługi niektórych był potrzebny człowiek to przecież nie był żaden zamysł twórcy tylko zwykła konieczność wynikająca z naszego poziomu rozwoju. Zawsze powtarzam, czy chociażby za telefonistkami ktoś tęskni? Nie a było ich mnóstwo. Świat się jednak nie skończył a one znalazły pracę w innym miejscu.

My to wiemy, Joe. Problem jest bardziej z tym, że AI ogólnie pogarsza jakość usług, zamiast je polepszać. No ale jest tańsze, więc...

[JeRRyF3D 351]

Pogarsza?
Prezentacja na jutro w 30. sek? = jest.
Szybka grafa bez umiejętności grafika = jest.
Muza na kolanie z nadepniętym uchem = jest.
Transkrypcja czy ENG podpisy pod filmem na jutrzejsze targi = proszę.

Bolesne, ale... gdzie my się TERAZ będziemy spełniać, jak maszyna WSZYSTKO zrobi lepiej i szybciej od nas?

 

 

 

9 minut temu, Kamiyanx napisał(a):

Problem jest bardziej z tym, że AI ogólnie pogarsza jakość usług, zamiast je polepszać.

Kwestia spojrzenia. Czasami ocenia to stary zgred, który napina się na nieistotne dla czasów albo gówniaka rzeczy (ja taki jestem!).
Dostaje fatalne teksty pisane przez ludzi, wkurzające niechlujnością CV, pisma i podania z bykami (!), fatalną składnią, bękartami na końcu linii, itd
= RZECZY NIEDOPUSZCZALNE u rasowego zawodowca branży A, B, C.

I co? I nic.
Z wieloosobowego zespołu zaczynam wyrastać na tego, który się "czepia". "Odczytałeś? Zrozumiałeś zamysł? To o co Ci JeRRy chodzi?".
Bylejakość to nie jest cecha AI. To cecha ludzka! To i głównie wcale nie w sferze tworzenia, a w sferze akceptacji właśnie.
Zobacz, co masz w TV, w necie, nagłówki, tytuły, jakość tekstów, rzetelność? = KIBEL.
Zobacz, co masz u mechanika, stomatologa i pani sprzątającej. Bylejakość otacza nas od pewnego już czasu.
Nawet bez AI.

Edytowane 1 godzinę temu przez JeRRyF3D

[Kamiyanx 38]

Ja miałem raczej na myśli takie bardziej oczywiste rzeczy. Np. tłumaczenia zabijają AI, które są ogólnie bardzo mierne, ale klienci akceptują gorszy produkt w tej samej cenie

[JeRRyF3D 351]

Teraz, Kamiyanx napisał(a):

Ja miałem raczej na myśli takie bardziej oczywiste rzeczy. Np. tłumaczenia zabijają AI, które są ogólnie bardzo mierne, ale klienci akceptują gorszy produkt w tej samej cenie

Czyli to nie AI winne, a klient, który to kupuje pomimo mizerii. 

 

[Kris194 277]

Godzinę temu, Kamiyanx napisał(a):

choć najbardziej dotknięci pewnie są graficy. No bo co z tego, że zrobią lepiej, kreatywniej, skoro automat jest tańszy, a nie każdy zauważy różnicę

To jest akurat ta strona rozwoju AI, której nie jestem zwolennikiem, uważam, że wszelkie prace kreatywne powinny pozostać w domenie ludzi.

 

31 minut temu, JeRRyF3D napisał(a):

Paradoksalnie najbezpieczniejsi są "fizole".

Nie tylko, jeszcze naukowcy, projektanci itd.

[JeRRyF3D 351]

To jest WSZYSTKO kwestia progu akceptacji.
To co absolutnie nieakceptowalne dla jednego (perfekcjoniści), może być zupełnie spoko dla niechluja lub normala.
Nie ma potrzeby się dla nich wymóżdżać i dopieszczać, bo nawet nie zauważą i nie docenią.
Ba! Dopieszczanie oceniają jako stratę czasu i onanizm robotą.
Czyli dla nich spoko jest "niechlujstwo".

 

Edytowane 1 godzinę temu przez JeRRyF3D

[Kris194 277]

17 minut temu, Kamiyanx napisał(a):

Ja miałem raczej na myśli takie bardziej oczywiste rzeczy. Np. tłumaczenia zabijają AI, które są ogólnie bardzo mierne, ale klienci akceptują gorszy produkt w tej samej cenie

Tylko, że wady takich tłumaczeń zostaną w końcu wyeliminowane a wyginą jedynie zawodowo osoby na zasadzie "jestę tłumaczę". AI niewątpliwie zmieni i to mocno rolę tłumaczy, z osób, które mozolnie przepisują tekst słowo po słowie tyle, że w innym języku na bardziej kontrolną.