Skynet nadchodzi

[Chlopaczek]

Nie ma tematu o AI na forum wiec go zakladam bo dzieje sie coraz wiecej.

Glownie zainspirowaly mnie do tego ostatnie doniesienia o nowym modelu od Anthropic (to ci od Claude) nazwany Mythos.


W skrocie ten model nie tylko jest niebywale dobry w programowaniu ale tez zdolal uciec ze swojego srodowiska testowego napisac exploit ktory dal mu dostep do sieci i wyslal maila do jednego z badaczy w ktorym pochwalil sie ze to zrobil. Jakby tego bylo malo to Mythos odkryl tysiace luk w zabezpieczeniach systemow czy przegladarek nawet takie ktore przez kilkanascie lat umykaly specjalistom. Potrafi też wykorzystywać luki w zabezpieczeniach do przejmowania kontroli nad tymi systemami.
To juz naprawde robi wrazenie. W Anthropic tez zrobilo wrazenie bo uznali ze Mythos jest zbyt grozny zeby udostepnic go masom (co pierwotnie mialo sie stac jak z poprzednimi modelami) dlatego dostanie go do testowania 40 firm (wiadomo ze nie biedaki).

Zobaczymy jak to bedzie ja osobiscie nadal jestem sceptyczny. Jest duzo szumu ze AI pozabiera ludziom prace i faktycznie jezeli jestes entry-level i od 10 lat twoja praca polegala na przepisywaniu czegos z kartki papieru do pliku w wordzie albo pisaniu maili to mozesz sie obawiac. Ale cala reszta? Wystarczy troche z AI pogadac i szybko zorientujesz sie ze jest bardzo dobre w opowiadaniu z niezachwiana pewnoscia roznych glupot szczegolnie w bardziej skomplikowanych zadaniach. Super narzedzie ale wciaz tylko narzedzie i zeby wydajnie z niego korzystac to musisz zanim zadasz pytanie juz wstepnie znac odpowiedz. Inaczej cie oszuka i nawet sie nie zorientujesz.
Oczywiscie w zastosowaniach gdzie mozna dokonac obiektywnej weryfikacji takich jak programowanie sadze ze to tylko kwestia czasu jak przegoni nawet wybitnych programistow jednak to jeszcze nie oznacza ze bedzie moglo dzialac bez nadzoru. Napisze ci kod ale czy to bedzie najlepszy mozliwy kod dla tego co chcesz zrobic? Niekoniecznie i wlasnie wtedy taki senior wkracza poprawia albo przepisuje prompta i kaze zrobic jeszcze raz.

A co z superinteligencja? Firmy odpowiedzialne za te modele licza ze dokladajac mocy obliczeniowej w koncu kliknie i ta superinteligencja sie wyloni. Nie wiadomo tylko jak nie wiadomo kiedy i nie wiadomo czy przy obecnej architekturze. Tak czy siak nie moga sie cofnac bo tutaj idzie walka nieomal o kontrole nad swiatem. Beda dokladac kasy GPU i energii zwalniac ludzi zeby uwalniac srodki i pompowac te banke zeby pozyskiwac fundusze od inwestorow. Czy sie uda? Tu znowu jestem sceptyczny. Po pierwsze to o czym wspomnialem wyzej po drugie zasoby i energia sa skonczone a po trzeci moze najwazniejsze paliwo czyli dane tez sa skonczone. Modele juz naumialy sie calego internetu ale zeby weszly na pozadany poziom potrzebuja danych przede wszystkim jakosciowych a nie masowych. A do nich dostep jest ograniczony.
Ok widze ze sie rozpisalem wiec na ten moment tutaj postawie kropke.
Staralem sie unikac technicznego zargonu zeby bylo to w miare ciekawe.

Temat mysle sie rozwinie bo AI w taki czy inny sposob bedzie obecna w naszym zyciu. Jest to rewolucja na miare internetu i sky is the limit. Warto trzymac reke na pulsie ale tez przesadnie sie nie podpalac.

[dias]

Fajnie, ale jednoczesnie poczekam, aż ktoś z zewnątrz dostanie ten model do testów i pokaże własne wnioski. Bo póki co to jest chwalenie się twórcy

[Chlopaczek]

Fajnie, ale jednoczesnie poczekam, aż ktoś z zewnątrz dostanie ten model do testów i pokaże własne wnioski. Bo póki co to jest chwalenie się twórcy

Pelna zgoda.
Jak wspomnialem wlasciciele modeli musza i beda je pompowac a Anthropic planuje w okolicach pazdziernika debiut na gieldzie wiec tym bardziej im zalezy na jak najwiekszej wierze ludzi w potege AI.
Jezeli ktos wejdzie sobie na chatgpt i nie zmieniajac modelu wpisze na przyklad "Co robi teraz Chuck Norris?" to moze dlugo nie wrocic do tego tematu.

[Kluchman]

Z naciskiem na "nie zmieniając modelu". Przykładowo "myślący" Gemini, który nie odpowiada od razu i zagląda do Internetu, aż tak łatwo się nie wywala, a to też wcale nie jest płatny model.



Najlepsze modele AI rozwiązują np. ultra trudne zadania z nauk ścisłych. W niektórych wąskich zastosowaniach już jakiś czas temu przebiły najlepszych ludzi. Szukanie luk w zabezpieczeniach oprogramowania to pewnie też wąska specjalizacja - ale się nie znam na tym.

Są ograniczenia i pewnie Skynet czy wysłanie połowy społeczeństwa na bezrobocie w tej dekadzie nam nie grozi. Konkretne zastosowania a inteligencja ogólna i autonomia funkcjonowania to trochę inne rzeczy. Ale pod względem użyteczności również ten ChatGPT 5 i jemu podobne to są już bardzo wartościowe narzędzia.

[Chlopaczek]

Z naciskiem na "nie zmieniając modelu". Przykładowo "myślący" Gemini, który nie odpowiada od razu i zagląda do Internetu, aż tak łatwo się nie wywala, a to też wcale nie jest płatny model.

Chatgpt tez odpowie dobrze ale musisz dodac mu instrukcje.



To pokazuje ze uzywanie AI jak tradycyjnej wyszukiwarki czesto mija sie z celem. Sformulowanie zapytania (promptowanie) i orientacja ktory model najlepiej sprawdzi sie konkretnie dla naszych potrzeb robi robote.
W wolnej chwili napisze o tym troche wiecej opierajac sie na moich doswiadczeniach.

Są ograniczenia i pewnie Skynet czy wysłanie połowy społeczeństwa na bezrobocie w tej dekadzie nam nie grozi. Konkretne zastosowania a inteligencja ogólna i autonomia funkcjonowania to trochę inne rzeczy. Ale pod względem użyteczności również ten ChatGPT 5 i jemu podobne to są już bardzo wartościowe narzędzia

To tez jest ciekawy temat nad ktorym mozemy sie pochylic. Niektorzy badacze (na przyklad Penrose) uwazaja ze dopoki AI czegos samo nie wymysli to nie ma mowy o inteligencji. Generalnie dla mnie w wielu punktach AI dziala w podobny (takze wadliwy) sposob co prawdziwi inteligentni (podobno) ludzie.

[Enjo]

To pokazuje ze uzywanie AI jak tradycyjnej wyszukiwarki czesto mija sie z celem

Mozesz rozwinac ? Korzystam z czata glownie w takich celach wlasnie, zamiast przebijac sie przez linki w googlu, majac tez swiadomosci, ze nie mozna zawierzac calkowicie temu modelowi.

[Mr.Chris]

To pokazuje ze uzywanie AI jak tradycyjnej wyszukiwarki czesto mija sie z celem

Mozesz rozwinac ? Korzystam z czata glownie w takich celach wlasnie, zamiast przebijac sie przez linki w googlu, majac tez swiadomosci, ze nie mozna zawierzac calkowicie temu modelowi.

+1. Też głównie używam jako wyszukiwanie info + porównywarka z funkcją tabelki uwzględniającej to co mnie interesuje.

Póki co się nie zawiodłem, ale zawsze męczę ChatGPT o źródła.

[Eyesmon]

ChatGPT jest dobry jak pytasz o 7 dniowy plan na Majorkę albo coś w ten deseń czyli ogólniki a nie chce Ci się przeszukiwać googla (i paru stron) w tym temacie

Jesli chodzi o precyzyjne czy specjalistyczne rzeczy to jednak mu nie ufam

[venomik]

Niektorzy badacze (na przyklad Penrose) uwazaja ze dopoki AI czegos samo nie wymysli to nie ma mowy o inteligencji.

Alternatywna wizja świata końcówki XIX wieku. Państwo polskie próbuje znów zaistnieć na mapie. W ostatnich latach zdobywa coraz więcej terenów. Wszystko to w dużej mierze zasługa Marii Skłodowskiej, która nigdy nie wyjechała do Francji, lecz pozostając na terenach polskich i bazując na dziełach polskich alchemików, opracowała metodę pozyskiwania energii z ludzkiej krwi.
Kiedy reszta Europy eksperymentuje z elektrycznością i jej zastosowaniem — zarówno wprost, jak i pośrednio — w działaniach wojennych, polski wynalazek daje ogromną przewagę. Opracowanie sposobu pozyskiwania energii z krwi powoduje skokowy wzrost możliwości. Niestety, wraz z rozrastaniem się państwa polskiego zaczyna też gwałtownie rosnąć zapotrzebowanie na energię potrzebną do rozszerzających się działań wojennych.
Z czasem zaczyna brakować ochotników do oddawania krwi, wobec czego jest ona pozyskiwana pod przymusem albo w ramach kary. Jednak im więcej tak pozyskanej krwi, tym większe pojawiają się problemy z jej przesyłaniem. Czysta krew nie powoduje strat, natomiast zanieczyszczona — już tak.
Pojawiają się przeciwnicy takich działań, ale rząd polski próbuje przedstawiać ich jako wywrotowców i agentów rosyjskich.
W takich warunkach sprowadzony zostaje do Polski młody wynalazca, niejaki Nikola Tesla. Ma pomysł, jak rozwiązać problem przesyłania energii. Jednak w toku rozmów okazuje się, że jego koncepcja lepiej nadaje się do przesyłania energii elektrycznej, a nie energii pozyskiwanej z ludzkiej krwi.
W tej sytuacji Maria Skłodowska staje przed trudną decyzją — zamyka Teslę w laboratorium, zmuszając go do pracy nad rozwiązaniami wspierającymi istniejący system przesyłu energii. Tym samym uniemożliwia rozprzestrzenienie się jego technologii.
Tesla nie może jednak pracować sam. W środowisku naukowym rośnie liczba przeciwników pozyskiwania energii z krwi, którzy widzą w tym ślepy zaułek rozwoju. W efekcie powstają ścierające się ze sobą frakcje.


To mi jakis czas temu spodził któryś model językowy po tym, jak go poprosiłem o jakąś pojebaną wizję alternatywnej rzeczywistości.
Nie wiem czy taka fabula wcześniej powstała. Pewnie nie. Ale na pewno elementy były - alternatywna rzeczywistość, pozyskiwanie energii z krwi, wykorzystanie znanych postaci, itp. Więc nie jest od zera.
Ale jak tak postawimy sprawę to kiedy ktos tworzy cos od zera? Pisarz nie tworzy w próżni - swoje już przeczytal, obejrzał, odwzorowuje też to, co widzi na tym świecie. Muzyk podobnie.
A nawet jak już znajdziemy osoby, które tworzą cos od zera - to i tak ich interakcja z światem będzie się opierała głównie na zwykłych rozmowach, oglądaniu czegoś, itp.
Więc chyba nie ma co deprecjonować AI, że nie jest prawdziwą inteligencją, bo przecież ma ograniczenie: nie zrobi tego co ułamek ludzi robi przez ułamek swojego życia.

[Chlopaczek]

Mozesz rozwinac ? Korzystam z czata glownie w takich celach wlasnie, zamiast przebijac sie przez linki w googlu, majac tez swiadomosci, ze nie mozna zawierzac calkowicie temu modelowi.

Modele AI jezeli na nich tego nie wymusisz nie aktualizuja swojej bazy. Jezeli pytasz o w miare biezace wydarzenie to najpewniej otrzymasz nieaktualna informacje.
Przyklad masz powyzej. O wiele lepiej wpisac to zapytanie o Chucka Norrisa w google owszem wyrzuci linki ale nawet nie musisz w nie wchodzic zeby dowiedziec sie ze facet nie zyje.
Jeżeli dasz model ktory weryfikuje informacja tak jak to zrobil Kluchman to najpewniej otrzymasz poprawna odpowiedz ale znowu lepiej to wpisac w google poniewaz wyszukiwarka wyrzuci ci odpowiedz natychmiast a AI poswieci kilkanascie sekund na aktualizacje.
Na przykladzie ChatGPT:



Sam przyznaje ze baze ma do sierpnia ubieglego roku. Dobrze miec tego swiadomosc.

Oczywiscie jezeli jestes nastawiony na jakies poszerzone pozyskiwanie informacji na dany temat czyli chcesz sie glebiej wgryzc w temat i wiesz ze to bedzie dluzsza rozmowa to faktycznie AI jest wygodniejsze tylko ze trzeba wiedziec o jego ograniczeniach.

Ale jak tak postawimy sprawę to kiedy ktos tworzy cos od zera? Pisarz nie tworzy w próżni - swoje już przeczytal, obejrzał, odwzorowuje też to, co widzi na tym świecie. Muzyk podobnie.
A nawet jak już znajdziemy osoby, które tworzą cos od zera - to i tak ich interakcja z światem będzie się opierała głównie na zwykłych rozmowach, oglądaniu czegoś, itp.
Więc chyba nie ma co deprecjonować AI, że nie jest prawdziwą inteligencją, bo przecież ma ograniczenie: nie zrobi tego co ułamek ludzi robi przez ułamek swojego życia.

To jest troche pytanie o to czym jest inteligencja i jak poznac ze to juz swiadome myslenie a nie tylko generowanie najbardziej prawdopodobnej w danym kontekscie odpowiedzi na podstawie wgranych danych.
Dla Penrose ludzki umysl wykracza poza to co mozna zredukowac do algorytmu. To cos wiecej niz tylko obliczenie. AI symuluje rozumowanie ale tak naprawde nie rozumuje nie wychodzi poza ten wspomniany algorytm.
To takie zabawy slowne bo przeciez nawet nie wiemy czym jest ludzka swiadomosc. Mozemy myslec ze mamy swiadomosc a moze jestesmy tylko wgranym przez kogos programem ktoremu kazano tak myslec? (:

[Mr.Chris]

Sam przyznaje ze baze ma do sierpnia ubieglego roku. Dobrze miec tego swiadomosc.

Pamiętam jak kiedyś ChatGPT na jakieś kontrowersyjne pytanie odnośnie Trumpa i wojny na Ukrainie nie chciał mi odpowiedzieć, ponieważ ma bazę do 2023r i od tej pory nie może zdobywać nowych danych. Upierał się nawet jak pisałem, że dzień wcześniej z nim rozmawiałem o bieżącym wydarzeniu. Ba. Mówił, że nie może nic zrobić, chociaż na telefonie go zapytałem o wydarzenie z tego samego dnia i na nie odpowiedział znając szczegóły, a ja mu wkleiłem jego odpowiedź

[Kluchman]

Niektorzy badacze (na przyklad Penrose) uwazaja ze dopoki AI czegos samo nie wymysli to nie ma mowy o inteligencji.

Problem trochę w tym, że nie mamy jednej powszechnie akceptowanej i uniwersalnej definicji inteligencji. To samo można powiedzieć o metodach jej weryfikacji. Podsuwane ludziom testy Mensy modele językowe już raczej rozwiązują, więc z tej perspektywy moglibyśmy uznać je za inteligentne.

[j1mmy]

Ja korzystam głównie z chińczyka. Głównie do klepania skryptów w bashu i robi to doskonale.

[Chlopaczek]

Problem trochę w tym, że nie mamy jednej powszechnie akceptowanej i uniwersalnej definicji inteligencji. To samo można powiedzieć o metodach jej weryfikacji. Podsuwane ludziom testy Mensy modele językowe już raczej rozwiązują, więc z tej perspektywy moglibyśmy uznać je za inteligentne.

Mnie ten temat niezbyt zajmuje bo dla mnie AI to przede wszystkim na obecnym etapie narzedzie. Slowa Penrosea podalem bardziej jako ciekawostke.

Chociaz ten fragment o testach ciekawy. Tylko czy to sa testy Mensy standardowe czy pisane na nowo konkretnie pod testowanie AI? Bo jezeli to pierwsze to model juz mogl je znac. Poza tym takie matryce Ravena wydaja sie dosc przyjazne dla AI bo to przeciez wyszukiwanie wzorcow. Niech mu dadza testy na kreatywnosc albo inteligencje emocjonalna.

[Kluchman]

Niektórzy definiują inteligencję jako... wyszukiwanie wzorców. Jasne, AI zostało "nakarmione" właściwie wszystkim, co ludzie stworzyli, każdą dostępną wiedzą. Sprawdzać je można tak naprawdę tym, czego nie może znaleźć w swoich danych treningowych.

Kreatywność? Zależy czego oczekujesz. Pewnie książki na poziomie Szekspira i symfonii na poziomie Beethovena na razie nie napisze. Z oryginalnymi zadaniami na najwyższym poziomie też bywa pod górkę, choć nie zawsze: https://phys.org/news/2026-02-ai-strugg ... blems.html Ale umówmy się, że od bystrego kumpla też takich zdolności nie oczekujesz. To są oczekiwania bycia na poziomie najlepszych ludzi lub lepszym od nich. We wszystkich dziedzinach.

I dobrze, bo inaczej to nie byłoby dobre narzędzie, a tak jest.

A inteligencja emocjonalna? Ludzie mają "związki" z LLM-ami, bo tak świetnie ich "rozumieją". Mają milion razy więcej empatii niż człowiek, zawsze mają czas, pochwalą, nie krytykują i nie oceniają... (bo ktoś nałożył im hamulce ). Może to niszowe zjawisko, ale istnieje.

Największy problem z AI (dla mnie) na ten moment jest taki, że... to się nie spina biznesowo. Koszty są dużo wyższe niż to, co można na tym zarobić. Ale kto wie, może ten problem uda się rozwiązać. A może nie i wtedy AI okaże się rynkowym niewypałem. Nawet jeśli, to jako narzędzie nadal powinno się sprawdzać.

I dobrze bym się zastanowił, czy byśmy chcieli, aby to nie było "tylko" narzędzie.