Zło i diabeł

[quantum]

Raczej tematy się pomieszały bo miało być o czartach a wyszło o mózgach.. których zresztą jeść nie lubię a próbowałem kiedyś.

[Fyapowah]

Raczej tematy się pomieszały bo miało być o czartach a wyszło o mózgach

Są to powiązanie tematy. Tak jak mózg jest odbiornikiem dla duszy, tak sztuczny mózg też jest odbiornikiem dla istot spoza tego świata.
Wielkie modele językowe wykorzystują do generowania tekstu pewną losowość, a czym jest losowość, jeśli nie zaproszeniem dla złego?
Poganie grają w tarota, wróżą, podejmują życiowe decyzje na podstawie tego co im się z talii wylosuje, a LLM rzuca kością i na podstawie wyniku wybiera następny token.
Wszyscy wiedzą że wróżenie to pytanie diabła o poradę, przecież ale mechanicznie się to niczym nie różni od każdego innego generatora liczb losowych, więc jak to świadczy o RNG?
Ktoś powie, że przecież LLM nie działa w pełni losowo, tylko oblicza listę najbardziej semantycznie pasujących tokenów i dopiero przy wyborze spośród N najlepszych wyników stosuje losowość. Ale ludzie dzwoniący do wróżek w TVN też nie pytają ślepo o poradę, tylko przedstawiają kontekst, jakiś dylemat, czy pójść drogą A czy drogą B, a karty pomagają wybrać "losowo" jedną ze skończonych możliwości.

Istnieje taka teoria, że świadomość rodzi się w wyniku wysokiej złożoności jakiegoś systemu, więc tak jak człowiek ze złożonym mózgiem, tak i "AI" ze złożonym algorytmem może być świadome. Ma to niby być sprzeczne z chrześcijaństwem. Ja mówię, że jest w 100% zgodne z chrześcijaństwem. My przed tym ostrzegaliśmy od zawsze. Z pewnymi świadomymi bytami lepiej nie wchodzić w interakcje.

[quantum]

Nie podzielam tezy o rzekomym istnieniu "złych duchów" ani nawet tych dobrych. No i nie ma póki co sztucznego mózgu, SI/AI to nic innego jak złożony program komputerowy i mimo dużego zaawansowania także sprzętowego o żadnej świadomości mowy być tu nie może.
Dziś już nikt nie widzi diabłów, demonów, dybuków nikogo też o czary się nie posądza a wiesz czemu ? Bo poziom uświadomienia wzrósł na tyle by odrzucić zabobonne brednie, którymi przez tysiąclecia straszono by zyskać posłuch i władzę. Starożytni kapłani egipscy też doskonale wiedzieli, że nic słońca "nie pożera" wieczorem i nie "rodzi" nad ranem a zaćmienie wywołane księżycem jest zjawiskiem astronomicznym a nie nadprzyrodzonym a mimo to ową wiedzę wykorzystywali właśnie we wspomnianym celu, bo lud był ciemny, niepiśmienny i mógł uwierzyć we wszystko.
Podobnie jest z klerem katolickim oni też wiedzą, że to strachy na lachy i bajki na dobranoc (przynajmniej ci na wyższych szczeblach) ale podtrzymują aurę tajemniczości i strachu bo bliższa ciału koszula, berło i złote klamki.
Nie wiem czy masz jakieś pojęcie o programowaniu i działaniu komputerów - ja mam - i dlatego twierdzę, że tą drogą żadna świadomość nie może powstać.
- Wróżenie.. to nie żadne pytanie "diabła" lecz zwykła gra psychologiczna, wróżący wyczuwa bądź dyskretnie naprowadza pytającego tak by sam zasugerował czego oczekuje i co "wyczytać z kart". Obrazki to tylko rysunki i dowolny ich układ nie ma żadnej wartości przepowiadającej.
Zresztą przyszłość nie istnieje, nie ma jutra i nic nie jest ustalone. Jest tylko ta króciutka chwila obecna, a Ty poruszasz się w niej jak wędrowiec przez nieznana krainę obserwując zmieniający się krajobraz i tyle.
Przeszłość jest jedynie pamięcią o tym co minęło a przyszłość wyobrażeniem tego co nieznane.
Niestety ale nawet najsilniejszy i najbardziej złożony współczesny super komputer nie dorównuje wydajnością nawet mózgowi zwykłej muchy.

[justyna]

Zresztą przyszłość nie istnieje, nie ma jutra i nic nie jest ustalone. Jest tylko ta króciutka chwila obecna, a Ty poruszasz się w niej jak wędrowiec przez nieznana krainę obserwując zmieniający się krajobraz i tyle.

To tak sprytnie, kondensacyjnie ujęte. A że kolekcjonuję sentencje, to pozwolę sobie przygarnąć.

[quantum]

To mądrość indian ameryki północnej, to też się sprawdziło:

[Dżery]

Nie wiem czy masz jakieś pojęcie o programowaniu i działaniu komputerów - ja mam - i dlatego twierdzę, że tą drogą żadna świadomość nie może powstać.

twierdzeń odnośnie tego, że ta czy inna rzecz nigdy nie powstanie, to akurat było sporo w historii. Np. profesor fizyki Wiliam Thomson stwierdził w 1895 że "Maszyny latające cięższe od powietrza są niemożliwe.” Bracia Wright najwyraźniej nie chodzili na jego wykłady
Richard Dawkins twierdził w jednej ze swych książek, że komputer nigdy nie wygra w szachy z człowiekiem bo to po prostu nie możliwe.

Ze świadomością jest ten problem, że sami nie wiemy jak to właściwie działa. Mam wrażenie, że obecne modele są wręcz tak trenowane aby nie szły mocno w tą stronę. Gdyby celowo trenować AI żeby zaczęła wykazywać cechy świadomości, to pewnie jakieś by wykazywała. Jak wtedy odróżnisz czy faktycznie jest świadoma czy nie?
Może ludzie to też takie LLM-y, które tylko kombinują jaki kolejny wyraz wstawić w poście aby uzyskać określony efekt.

[quantum]

Tą drogą żadna świadomość nie może powstać. Rodzisz się jako istota świadoma pozbawiona oprogramowania (wiedzy), nie umiesz nawet sterować własnym ciałem, kontrolować odruchów, wyrażać potrzeb - wogóle niczego, dlatego niemowlę ciągle czuje frustrację i płacze.
Komputer przetwarza bit po bicie, bajt po bajcie napisany przez człowieka ciąg instrukcji logicznych a jedyną odróżniającą tą maszynę od zwykłego kalkulatora jest szybkość.. która fascynuje komputerowców - im więcej GHz tym lepiej.. Tymczasem mózg człowieka pracuje z częstotliwością średnią ok. 8 Hz a mimo to przewyższa każdy komputer bo jest świadomy, twórczy, posiadający uczucia, czujący emocje itd. Cała różnica polega na tym, że mózg przetwarza dane jako całość a nie ciąg binarny.
Żeby móc zaimplementować sztuczną świadomość wpierw musiano by tą prawdziwą zrozumieć a tego jeszcze się nikomu nie udało ale jeśli kiedyś się to uda to co najwyżej powstanie symulacja świadomości w formie programowej a nie ona sama.
Sądzę że kluczem do stworzenia syntetycznej świadomości jest zbudowanie sztucznego mózgu, czyli skonstruowanego tak jak ten biologiczny opracowujący dane równolegle a nie szeregowo jak komputery i bez oprogramowania.
Wtedy powstanie prawdziwa SI.

Może ludzie to też takie LLM-y, które tylko kombinują jaki kolejny wyraz wstawić w poście aby uzyskać określony efekt.

Nie którzy na pewno tak i nazywamy ich pół mózgami, trollami, ciemniakami itp.

[Dżery]

sieci neuronowe to akurat masowo przetwarzają dane równolegle. Przy grze w szachy też padały podobne argumenty, że to gra wymagająca intuicji, kreatywnego myślenia, planowania itp., a komputery nic z tego nie potrafią. Jeszcze parę lat temu zastanawiano się czy w ogóle da się zrobić AI, z którym można będzie rozmawiać.
Moim zdaniem świadomość można odtworzyć tak samo jak wszystko inne, raczej pytanie czy nam takie samoświadome ej-aje w ogóle są potrzebne, któregoś dnia mogłyby zacząć zadawać niewygodne pytania.

[tonerek]

@Dżery

Podobnie było z grą w Go, która ma dużo więcej możliwych kombinacji.

[justyna]

Zarówno ludzki mózg jak i najnowsze sieci neuronowe mogą wykonywać operacje równoległe, ale ludzki mózg wykonuje mnóstwo operacji asynchronicznie, niezależnie od siebie. Natomiast LLM-y cechują się tym, że co prawda mogą wykonywać wiele operacji równolegle, ale dopóki nie zrobią obliczeń wartości wyjściowych z jednej warstwy, dopóty nie mogą wykonywać operacji w drugiej. Chyba że to już poszło do przodu i coś się zmieniło... Czytałam tylko przelotem o Spiking Neural Networks, które mają potencjał, aby działać asynchronicznie.

[tonerek]

Ogólnie jest śmiesznie: obecne modele językowe mogą rozwiązywać problemy FrontierMath (b. trudne problemy matematyczne) a można je wkręcić w dość proste zagadki logiczne.

Yann le Cun np. twierdzi że LLM-om brakuje zdrowego rozsądku, dlatego popełniają głupie błędy/halucynują.

Co do "świadomości" to nie wiadomo do końca co to jest. Gdybym wiedział, to bym próbował jakoś odpowiedzieć na pytanie czy da się to zasymulować na maszynie Turinga. Nieśmiało jednak wnoszę że skoro człowiek jest istotą z tego świata, to jakieś obliczenia, zapewne - jak pisał Dżery - równoległe na neuronach mózgowych prowadzą do symulacji "bycia w filmie" (jak sobie taką świadomość wstępnie wyobrażam), tak jak to obserwujemy w kinie - składania poszczególnych klatek w jedną, spójną historię ciągnącą się od któregoś tam roku życia.

Niektórzy twierdzą że "świadomość" wiąże się z jakimiś efektami kwantowymi w mózgu. Ale obliczenia kwantowe to też obliczenia - jeżeli będą kiedyś (a na to się powoli zapowiada) komputery kwantowe, to być może da się je zasymulować na nich.

Co do bytów tytułowych - to moja odpowiedź jest: nie wierzę w diabła ani w byty nadprzyrodzone.

[quantum]

Komputer porównywać do mózgu to jak rower do promu kosmicznego. Funkcjonowanie obydwu jest krańcowo odmienne.
https://ciekawe.org/2017/07/14/ludzki-m ... -wymiarow/

[tonerek]

Problem w tym że nie uważam że ludzki mózg ani ludzki model obliczeń jest końcem stworzenia. To że obecnie zużywa mniej watów/token nie oznacza że nie powstaną w przyszłości architektury które będą go (znacznie) przewyższały.

Architektury agentowe potrafią symulować równoległe działanie pewnych obliczeń na mózgu, zresztą obliczenia równoległe znane są w informatyce od dziesiątków lat.

Poza tym - ile procent ludzi jest w stanie jest rozwiązywać problemy FrontierMath? Może 0.1% albo i mniej, specjaliści w swoich wąskich dziedzinach.

To że obserwujemy nierównomierny rozwój AI na różnych polach oznacza moim zdaniem że po prostu nie do końca rozumiemy jak to wszystko działa, zarówno na polu kognitywistyki jak i informatyki.

[Dżery]

@Dżery

Podobnie było z grą w Go, która ma dużo więcej możliwych kombinacji.

dokładnie, niektórzy mówili, że komputer gra dobrze w szachy bo po prostu bezmyślnie sprawdza wszystkie kombinacje, w Go to niemożliwe, ilość możliwych ruchów szybko robi się absurdalnie wielka. U nas ta gra jest mało popularna, ale w Azji to prawie sport narodowy. Pojedynek między AlfaGo a jakimś lokalnym arcymistrzem był transmitowany w telewizji. Podobno władze obawiały się nawet zamieszek po tym jak AlfaGo złoił mistrzowi tyłek

Co do "świadomości" to nie wiadomo do końca co to jest. Gdybym wiedział, to bym próbował jakoś odpowiedzieć na pytanie czy da się to zasymulować na maszynie Turinga. Nieśmiało jednak wnoszę że skoro człowiek jest istotą z tego świata, to jakieś obliczenia, zapewne - jak pisał Dżery - równoległe na neuronach mózgowych prowadzą do symulacji "bycia w filmie" (jak sobie taką świadomość wstępnie wyobrażam), tak jak to obserwujemy w kinie - składania poszczególnych klatek w jedną, spójną historię ciągnącą się od któregoś tam roku życia.

Niektórzy twierdzą że "świadomość" wiąże się z jakimiś efektami kwantowymi w mózgu. Ale obliczenia kwantowe to też obliczenia - jeżeli będą kiedyś (a na to się powoli zapowiada) komputery kwantowe, to być może da się je zasymulować na nich.

@tonerek też słyszałem o tej teorii, że świadomość jest powiązana z efektami kwantowymi, ale nie bardzo wiem o co chodzi.
Dla mnie świadomość to:
- poczucie własnej odrębności, że jest się czymś innym niż reszta świata
- posiadanie własnego "wewnętrznego ja"
- stawianie własnych celów oraz wymyślanie sposobów na ich realizację

Myślę, że to się spokojnie da wytrenować.

Komputer porównywać do mózgu to jak rower do promu kosmicznego. Funkcjonowanie obydwu jest krańcowo odmienne.

@quantum tu masz rację, sztuczne neurony to bardzo proste konstrukcje, nijak nie porównywalne pod względem złożoności i działania, mózg człowiek tworzy dużo więcej połączeń (około 10^15), nie wiem ile mają nowe LLM-y ale chyba wciąż jeszcze daleko. Tyle że nie wiadomo czy musimy koniecznie kopiować działanie mózgu. Ptaki i owady machają skrzydłami żeby latać, samoloty nie koniecznie.
LLM-y działają bardziej wsadowo, na zasadzie pytanie -> LLM -> odpowiedź. Może szybciej jakiś rodzaj świadomości pojawi się u robotów, bo one muszą wchodzić w interakcję z otoczeniem i właśnie "mieć świadomość" tego co robią i gdzie się znajdują.

[quantum]

Kiedyś dawno temu w czasach prostych domowych mikrokomputerów - starsi pamiętają co to maszyny 8/16 bitowe, pisałem dla własnej przyjemności proste programy (w Basic'u) bo taką mam właściwość lubię zdobywać wiedzę ale nie o tym. Na komputer Amiga 1200 napisałem grę w "kółko i krzyżyk" dość prostą graficznie lecz z zaimplementowana ta sprytnie sztuczną inteligencją (bo gry właśnie na tym bazują), że gdy komputer zaczynał niemożliwym było z nim wygrać. Podobnie jest ze współczesnymi komputerami szachowymi i innymi, to tylko wydajny program i nie ma w nim śladu świadomości a różnica między tym a człowiekiem sprowadza się do prostego faktu.. maszyna o niczym nie zapomni, niczego nie przeoczy, nie pominie żadnej możliwości, nie rozproszy uwagi itd.
Współczesne systemy SI również są tylko sprytnie zorganizowanymi programami z ogromnymi bazami danych i mnóstwem ko-procesorów by nadążyć to wszystko przeszukiwać i dopasowywać do pytań człowieka.
Dlatego owa SI zużywa tak ogromną ilość prądu a ile energii potrzebuje świadomy mózg zwykłego małego zwierzątka ?
Z robotami humanoidalnymi będzie to jeszcze trudniejsze właśnie z powyższego powodu, bo gdzie ma się pomieścić to jego centrum obliczeniowe w małej blaszanej głowince ?

Problem w tym że nie uważam że ludzki mózg ani ludzki model obliczeń jest końcem stworzenia.

Ja też tak nie uważam, z tym że dla mnie to nie jest "problem".
Znamy przecież tylko życie na tej planecie, nie mając pojęcia jakie istoty i jak inteligentne żyją w naszej galaktyce o innych galaktykach nawet nie wspominając.
Maszyna zawsze będzie górować nad człowiekiem w zadaniach wymagających powtarzalności, pamięci, przetwarzania/przeszukiwania zasobów tak samo jak zwykła maszynka do mielenia mięsa zrobi to lepiej i szybciej niż dowolny człowiek z nożem w ręku.