Tropiciel nieprawomyślności

[tonerek]

Ale co to znaczy częściowo? W 1/10, 1/5, czy może w 5%, a może w 20%+-10%? Bo częsciowo to bardzo ogólne stwierdzenie.

Niech przemówi Lem:

[Patrycjusz]

Jak możliwe jest żeby wpuścić na produkcję rozwiązanie które nikt nie wie dlaczego działa?

Niemożliwe. Dlatego też jeśli to rozwiązanie jest wpuszczane na produkcję, to oznacza ni mniej, ni więcej niż tyle, że są odpowiedni ludzie, którzy wiedzą, jak to działa. Weźmy np. takie data science. Wcześniej i tak było to top informatyki, ale nie było tam za bardzo rozwiązań AI, a teraz bez nich branża mocno by podupadła. Są już konkretne biblioteki, które trzeba znać, ludzie, którzy mogą w tym przeszkolić nowicjusza i tyle. Problem w tym, że wymagania na wejściu są tak wysokie, że pojawia się pytanie, jak w ogóle można zacząć to robić. I na to pytanie nie umiem odpowiedzieć. Być może trzeba spędzić kupę czasu, wykorzystując wszechwiedzące encyklopedie AI, żeby nauczyła nas samej siebie. Inne rozwiązanie - oprócz wybrania się na kierunkowe studia i konkretną specjalizację - mi do głowy nie przychodzi.

Jak można mówić o AGI bez robotyki? Moim zdaniem nie można. Co oddala datę AGI. Popatrzcie tylko jako nawet najnowsze roboty (typu Figure) są niezdarne. I jak one mają zastąpić poruszających się jak frygi kelnerów w restauracjach?
Gdzie są miliony autonomomicznych samochodów? Okazuje się że nawet ta czynność, zaliczona pewnie przez Kahnemena jako przykład myślenia szybkiego nie jest w stanie być opanowana przez AI na tyle, żeby 4 i 5 stopień autonomiczności został osiągnięty.

A to fakt. Pamiętam, że w jakimś 2019 zapoznawałem się z osiągnięciami Boston Dynamics i do tej pory niewiele się zmieniło. No dobra, może i powstały modele, które potrafią w jakiś sposób skakać między przeszkodami jak małpy, ale nadal nie radzą sobie w nowych środowiskach, do których nie są zaprogramowane. Identyczny problem istnieje właśnie przy autonomicznych samochodach. Kombinacji różnych sytuacji na drogach jest tyle, że bez jakiegoś pomysłu na efektywne uczenie się algorytmów, nie ma co mówić o jakimkolwiek bezpieczeństwie. Co najwyżej można zaprogramować je w ten sposób, żeby wybierały "mniejsze zło": https://www.moralmachine.net/ I teraz t ... d-examples
W jakimś sensie faktycznie algorytmy są psychopatami, dlatego że nie ma tu mowy o posiadaniu emocji, uczuć itd.

Pomijam jakieś metapoziomy tłumaczeń tego, bo przyznam się szczerze że filozofię mam głęboko w d i uważam że nic albo prawie nic nie wnosi.

Akurat do tematu religii wnosi bardzo dużo. Właśnie dlatego, że to ją łączy z religią, że jej postulatów nie da się w pełni udowodnić. Pamiętam, że jako ateista, obcując z filozofami (z wykształcenia, lub ludźmi, którzy nie tyle się tym po prostu interesowali, co przyjmowali to jako najwyższą mądrość i kierunkowskaz życia), cały czas miałem wrażenie, że wśród nich nie ma twardych ateistów. Powiedzenie, że coś "na pewno nie istnieje", dla nich było po prostu zbyt daleko posuniętym dogmatem.

Niech przemówi Lem:

Niech przemówi, Lema warto posłuchać, ale "nauka nie potrafi odpowiedzieć na prawie żadne pytanie" to kompletna bzdura. Już w roku, w którym to mówił, wcale tak nie było, a co dopiero dalej. Gdyby dokończył to np. w ten sposób: "nauka nie potrafi odpowiedzieć na prawie żadne pytanie filozoficzne lub religijne", dopiero wtedy miałoby to sens. Czy to miał na myśli? Nie wydaje mi się. W książce "Śledztwo", puenta miała przekonać czytelnika, że próba rozumowania przyczynowo-skutkowego, korelacyjnego i w ogóle cała statystyka to bujdy na resorach. Cały czas obcując z jego wypowiedziami, miałem wrażenie, że posiadał on bardzo duże rozumienie filozofii nauki, ale nie samej nauki, przez co bardzo otwierało to głowę, ale nie uczyło niczego "twardego". Krótko mówiąc, Lem to antyteza typu "hard" sci-fi.

[Patrycjusz]

Skoro już piszemy o człowieku, to tu trzeba wziąć pod uwagę to, że jakoś możemy na siebie wpływać, wiadomo, że w ograniczonym stopniu. Jakbyśmy odeszli na chwilę od biologicznego organizmu, który nas zmusza do pewnych rzeczy; można sobie np. wybrać fryzurę, to, w co się ubierzemy, itd. Problem z wolną wolą pojawia się w momencie istnienia jakiegoś ciężkiego nałogu, ale ludzie i tak mogą próbować z tym walczyć.

To prawda. Wydaje mi się, że o ile z prawidłami np. fizyki i biologii walczyć nie możemy, o tyle mamy bardzo duże pole manewru, jeśli chodzi o tzw. życie osobiste czy "styl życia". Zresztą, to raczej na tej podstawie ocenia się ludzi, czyli według tego, jak przebiegają ich życia osobiste, interakcja ze społeczeństwem, sposób pokazania się, indywidualne wybory itd. Oczywiście według np. wzrostu czy predyspozycji do bycia chudym/grubym również, patrz rynek matrymonialny, który jest dość bezlitosny. Ale fakt faktem, że sporo możemy wybrać na poziomie bardziej kulturowym. Problem polega na tym, że zaraz i tak przyszedłby kulturoznawca czy socjolog, i powiedziałby Ci o mechanizmach, które warunkują całe społeczeństwa, narody, subkultury, grupy/klasy itd. I zacząłbyś te uwarunkowania zauważać. Przykładowo, mogę znajdować wiele argumentów za tym, że nie pasuję do polskiego społeczeństwa, albo za tym, że mam w sobie wiele cech płci przeciwnej, ale gdyby tak jednak próbować ludzi pogrupować, okazałoby się, że nie mogę walczyć z tym, że jestem mężczyzną z Polski.

Są osoby, które twierdzą, że wszystko i tak jest wcześniej z góry zdeterminowane (tutaj po stronie ewolucji, jak i kreacjonizmu). Kojarzy się to siłą rzeczy z kartezjańską koncepcją mechanicyzmu. Jakieś trybiki się obracają i tyle? Moim zdaniem to zbyt dalece posunięte uproszczenie.

Wiesz, jeśli za każdym razem, kiedy udaje się dokonać jakiegoś nowego odkrycia, okazuje się, że polega na to na obracaniu się trybików, niezależnie od ich rodzaju, to można zacząć w ten sposób postrzegać świat. A jeśli coś nie jest do wyjaśnienia koncepcją trybików, to przyjmuje się to jako najbardziej prawdopodobną opcję, czekając cierpliwie na wyjaśnienie w ten sposób. Problem polega na tym, że prawie zawsze to wygrywa. Czy to mecz piłkarski, szachy, polityka, czy cokolwiek innego.

Mój detektor intencji sugeruje, że masz ochotę podzielić się jakąś swoją kreacją. Please share

Raz to zrobiłem, zostało przyjęte do czasopisma z MIT, ale poza tą grupką ludzi nikomu nie chciało się w to zagłębiać. Tyle to jest warte. To już lepiej pisać popularnonaukowe posty na forach internetowych, jest z tego większa frajda, większe grono odbiorców (siłą rzeczy, czytających jest dość sporo) i zdecydowanie większe pole do dyskusji, w dodatku bardziej rozwijającej. Tutaj nauki bronił nie będę, jej formalna strona (uczelnie, czasopisma, tytuły) to morderstwo na ciekawości poznawczej, dokonane z premedytacją i ze świadkami dookoła, którzy nie chcą zeznawać.

Dlaczego nie? To sugeruje, że organizmy ewoluują w stronę większych zdolności kognitywnych, a jak już wcześniej ustaliliśmy, zgodnie z tą teorią, zawsze trzeba coś wcześniej poświęcić (tutaj owa nieśmiertelność), by uzyskać daną przewagę. Życie jako jeden nieśmiertelny prostszy organizm jakoś wydaje mi się nudne. Trzeba założyć, że celem ewolucji byłoby zróżnicowanie, ewentualnie coraz mocniej rozbudowane poznanie natury rzeczywistości. Rozumiem, że Tobie przeszkadza śmiertelność, czy też różne wady naszych biologicznych avatarów, stąd uważasz, że "inteligentny projekt" jest niedoskonały. W sumie można by się na tym zatrzymać, ale jak ktoś się uprze, to dojdzie też do wniosku, że niedoskonałość mogła zostać wpisana w całość, zatem jest jedynie pozorną zmienną, której nie ogarniamy z naszego punktu widzenia.

Może i życie tego prostego organizmu jest nudne, ale nuda lub jej brak nie mogą być kryteriami skuteczności ewolucyjnej. Weźmy tych rozwiniętych ludzi. Nudna ścieżka rozwoju i zawodowa, nudny związek z tylko jedną osobą, nudna opieka nad dziećmi (w porównaniu do innych, bardziej "hedonistycznych" działań) i nudne dążenie do zarabiania pieniędzy i bezpieczeństwa (np. zdrowotnego) - maksymalna korzyść ewolucyjna. "Ciekawe" zmiany zawodowe, zmiany partnerów, działania ryzykowne - niekorzyść ewolucyjna.
Zróżnicowanie jest potrzebne po to, żeby niektóre organizmy mogły przetrwać, a inne wyginąć, podczas zmian środowiska, które są nieuniknione.
Co to tego rozwiniętego poznania, to jaką korzyść ewolucyjną może dać filozofia? Sztuka, w prymitywnej formie, znajdzie jeszcze zastosowanie, ale filozofia nie.
Nie przeszkadza mi śmiertelność, wręcz odwrotnie. Uważam tylko, że ten postulowany projekt jest niedoskonały, dlatego że świat jest bardzo słabo zoptymalizowany, jak pierwsza wersja beta gry komputerowej. Niezliczona ilość bugów (w tym spora część takich, które można wykorzystywać do nieuczciwej gry), bardzo słabo rozwinięte ścieżki dialogowe, zbugowani NPC, ogromna przewaga liczebna NPC nad aktywnymi graczami, nieobecni moderatorzy, niejasne możliwości rozwoju skilli, system płatny (im więcej kupujesz "pomocy" za kasę, tym lepiej ci idzie), i tak można wymieniać, i wymieniać. Brakuje tylko tego, żeby dało się dojść na tzw. koniec mapy, który nagle urywa się i nie ma nic dalej. W ogóle by mnie to nie zdziwiło. Jedyny plus, który znajduję, to brak możliwości wykorzystania botów, cheatów, kodów, trainerów i modów. Co tak w zasadzie tylko potęguje trudność tej gry, przez co jest jeszcze gorzej zoptymalizowana. Wrzucamy Cię do świata jak Bezimiennego z Gothica I. Możesz posłuchać świetnej muzyki i chłonąć klimat niektórych miejsc. A co z resztą?
W dodatku nie ma save'a ani respawnu. Ocena na gryonline: 2/10 (powyżej 0 za muzykę i lokacje).

Da się to rozszerzyć na teorię ewolucji? Może to jest właściwe wytłumaczenie, być może w tym wszystkim chodzi m.in o bardziej złożone emocje?

Wydaje mi się to pochodną tych wyżej rozwiniętych zdolności poznawczych i niczym innym. Generuje to masę problemów, przez co jest "ciekawiej", ale mniej korzystnie.

[tonerek]

Jak możliwe jest żeby wpuścić na produkcję rozwiązanie które nikt nie wie dlaczego działa?

Niemożliwe. Dlatego też jeśli to rozwiązanie jest wpuszczane na produkcję, to oznacza ni mniej, ni więcej niż tyle, że są odpowiedni ludzie, którzy wiedzą, jak to działa.

A jednak wpuszczamy na produkcję ludzi bo mamy ufność w to że ich procesy kognitywne są wystarczające do danego zadania. Jednak nie wiemy jak dokładnie takie procesy kognitywne działają. Być może plusem rozwoju AI będzie ich głębsze poznanie.

A to fakt. Pamiętam, że w jakimś 2019 zapoznawałem się z osiągnięciami Boston Dynamics i do tej pory niewiele się zmieniło. No dobra, może i powstały modele, które potrafią w jakiś sposób skakać między przeszkodami jak małpy, ale nadal nie radzą sobie w nowych środowiskach, do których nie są zaprogramowane. Identyczny problem istnieje właśnie przy autonomicznych samochodach. Kombinacji różnych sytuacji na drogach jest tyle, że bez jakiegoś pomysłu na efektywne uczenie się algorytmów, nie ma co mówić o jakimkolwiek bezpieczeństwie.

Zmieniło się, powstały duże LLM-y (swoiste mózgi dla sterowanych algorytmami nie bazującymi na uczeniu maszynowym jak zdaje się w przypadku Boston Dynamics, albo przynajmniej nie w takim stopniu), które niestety halucynują i tak naprawdę chodzi o te parę procent sytuacji które model sam musiałby wykoncypować bez danych treningowych.

Aktywnie badany jest AI-bias: https://www.ibm.com/think/topics/sheddi ... d-examples
W jakimś sensie faktycznie algorytmy są psychopatami, dlatego że nie ma tu mowy o posiadaniu emocji, uczuć itd.

AI-bias to inna bajka, ludzie też są niezmiernie moim zdaniem zbiasowani. Na obecnym etapie AI już potrafi rozpoznawać ludzkie emocje. Skąd wiadomo że nie może ich odczuwać? I co to w ogóle by dokładnie znaczyło? Duże modele językowe wykazują cechy emergentne, które pozwalają im na nabywanie umiejętności których nie były uczone. Może zatem rozumienie ich może w jakiś sposób doprowadzić do ich odczuwania?

Akurat do tematu religii wnosi bardzo dużo. Właśnie dlatego, że to ją łączy z religią, że jej postulatów nie da się w pełni udowodnić. Pamiętam, że jako ateista, obcując z filozofami (z wykształcenia, lub ludźmi, którzy nie tyle się tym po prostu interesowali, co przyjmowali to jako najwyższą mądrość i kierunkowskaz życia), cały czas miałem wrażenie, że wśród nich nie ma twardych ateistów. Powiedzenie, że coś "na pewno nie istnieje", dla nich było po prostu zbyt daleko posuniętym dogmatem.

Ja pisałem na zasadzie: jeżeli wiarę opieramy na jakiś logicznych przesłankach to potkniemy się na pierwszym kamieniu. I możemy to uzasadniać jak kolega Fairytailed że Bóg jest poznawalny tylko częsciowo (co to miałoby znaczyć itd.). Filozofia nie podoba mi się na podobnej zasadzie co religia: buduje niefalsyfikowalne lub wewnętrznie sprzeczne konstrukty.

Niech przemówi, Lema warto posłuchać, ale "nauka nie potrafi odpowiedzieć na prawie żadne pytanie" to kompletna bzdura. Już w roku, w którym to mówił, wcale tak nie było, a co dopiero dalej. Gdyby dokończył to np. w ten sposób: "nauka nie potrafi odpowiedzieć na prawie żadne pytanie filozoficzne lub religijne", dopiero wtedy miałoby to sens. Czy to miał na myśli? Nie wydaje mi się. W książce "Śledztwo", puenta miała przekonać czytelnika, że próba rozumowania przyczynowo-skutkowego, korelacyjnego i w ogóle cała statystyka to bujdy na resorach. Cały czas obcując z jego wypowiedziami, miałem wrażenie, że posiadał on bardzo duże rozumienie filozofii nauki, ale nie samej nauki, przez co bardzo otwierało to głowę, ale nie uczyło niczego "twardego". Krótko mówiąc, Lem to antyteza typu "hard" sci-fi.

Wydaje mi się że miał na myśli to że obecna nauka nie jest w stanie dalej odpowiedzieć na bardzo wiele pytań, które mogłaby sobie postawić. I tak na przykład już 100 lat fizyka buja się z połączeniem ogólnej teorii względności i mechaniki kwantowej. Nie wiemy jak działa mózg itp. itd. A jakby sobie postawić takie pytanie że być może nasza ludzka inteligencja ma w sobie ograniczenia takie że nie jest w stanie tego po prostu wymyślić? I dopiero nasi robotyczni następcy będą to w stanie zrobić?

https://www.reddit.com/r/singularity/co ... are_button

[Patrycjusz]

AI-bias to inna bajka, ludzie też są niezmiernie moim zdaniem zbiasowani. Na obecnym etapie AI już potrafi rozpoznawać ludzkie emocje. Skąd wiadomo że nie może ich odczuwać? I co to w ogóle by dokładnie znaczyło? Duże modele językowe wykazują cechy emergentne, które pozwalają im na nabywanie umiejętności których nie były uczone. Może zatem rozumienie ich może w jakiś sposób doprowadzić do ich odczuwania?

Nawet jeśli, nie byłoby to w ogóle pożądane. Emocje powodują właśnie m.in. wspomniane biasy, które są nieobiektywne i niepożądane poznawczo, a co dopiero mówić o działaniu AI. Jasne, byłyby wtedy bardziej "ludzkie", ale tego się od nich oczekuje, żeby przejmowały te najlepsze umysłowe cechy, a nie takie, które mogą spowodować błędy. Emocje są bardzo złym doradcą w sprawach czysto intelektualnych: nauce, biznesie, prawie itd. Dlatego też AI siłą rzeczy będzie najlepsze w dziedzinach ścisłych, rozumowaniu naukowym, obliczaniu strategii biznesowych, argumentowaniu tez itd.
Emocje potrzebne są do sztuki, dlatego też ta generatywna zawsze będzie pod tym względem słaba. Dobrze "zmałpuje" cechy sztuki ludzkiej, nawet wzbudzi te emocje, ale czegoś będzie tam brakowało. I tego akurat będę się trzymał do usranej śmierci.

Filozofia nie podoba mi się na podobnej zasadzie co religia: buduje niefalsyfikowalne lub wewnętrznie sprzeczne konstrukty.

W takim razie nie powinna też podobać Ci się matematyka, której nie można samej w sobie za bardzo udowodnić empirycznie. Tworzy też ona właśnie wewnętrznie sprzeczne konstrukty, tj. matematyczne paradoksy, weźmy chociażby zwykłe liczby urojone, które są nimi obarczone. A to mnie właśnie w matematyce fascynuje, że jest taka abstrakcyjna, jak i ta cała filozofia. Szczególnie świetne jest jej zastosowanie w epistemologii, czyli tutaj w poznaniu matematycznym.

Nie wiemy jak działa mózg

Bez przesady, dobrze wiemy, po prostu nie wiemy wszystkiego, zdecydowanie większy jest ten obszar niewiedzy w porównaniu do innych narządów. Ale i tak jest nieźle, przykładowo programy do analizy danych neuroobrazowych mają już zaimplementowane informacje o tym, jak dzielą się te obszary i za co odpowiadają. A zadaniem neuronaukowca jest bardziej powiązanie ich ze sobą i skorelowanie z funkcjami poznawczymi/wykonawczymi.
Z rzeczy specjalistycznych: droga słuchowa jest tak dobrze zbadana, że implanty słuchowe zyskują coraz większą efektywność.



Dorzucam ciekawostkę w temacie AI:
https://sakana.ai/ai-scientist/

Co prawda artykuły mają max kilkanaście stron i szczątkowe pozycje literaturowe, ale to i tak niezły wynik.

[tonerek]

Nawet jeśli, nie byłoby to w ogóle pożądane. Emocje powodują właśnie m.in. wspomniane biasy, które są nieobiektywne i niepożądane poznawczo, a co dopiero mówić o działaniu AI. Jasne, byłyby wtedy bardziej "ludzkie", ale tego się od nich oczekuje, żeby przejmowały te najlepsze umysłowe cechy, a nie takie, które mogą spowodować błędy. Emocje są bardzo złym doradcą w sprawach czysto intelektualnych: nauce, biznesie, prawie itd. Dlatego też AI siłą rzeczy będzie najlepsze w dziedzinach ścisłych, rozumowaniu naukowym, obliczaniu strategii biznesowych, argumentowaniu tez itd.
Emocje potrzebne są do sztuki, dlatego też ta generatywna zawsze będzie pod tym względem słaba. Dobrze "zmałpuje" cechy sztuki ludzkiej, nawet wzbudzi te emocje, ale czegoś będzie tam brakowało. I tego akurat będę się trzymał do usranej śmierci.

Można rozumieć emocje jako skrótowce w myśleniu: gdy nie ma pełnej wiedzy o czymś (a tak jest zazwyczaj) kierujemy się emocją. Nie wiem czy są niepożądane poznawczo, niektórzy twierdzą że możliwość popełniania błędów - szczególnie na wczesnym etapie uczenia - jest niezbędne do prawidłowego rozwoju AI, trochę jak u ludzi. I nie uważam jakoby AI miałoby być czymś w rodzaju "nieomylnego frankensztajna" - dodanie komponentu psychiczno-emocjonalnego uczłowieczyłoby moim zdaniem androidy i szybciej wkomponowałoby je w społeczeństwo.

Bez przesady, dobrze wiemy, po prostu nie wiemy wszystkiego, zdecydowanie większy jest ten obszar niewiedzy w porównaniu do innych narządów.

Z tego co się orientuję to wiedza ta bardziej ogranicza się bardziej do wiedzy o tym które części mózgi aktywują się przy określonych czynnościach mózgu. Brakuje natomiast wiedzy jak dokładnie poszczególne części mózgu współpracują ze sobą i dlaczego. Zresztą jak mielibyśmy taką wiedzę, to być może szybciej łatwiej byłoby konstruować roboty. Yann leCun (twórca sieci konwolucyjnych) proponuje architekturę Jepa, która miałaby naśladować ludzkie procesy kongitywne - ale co z tego wyjdzie - nie wiadomo. Na razie AI to bardziej eksplorowanie architektury transformerów, która nie wiadomo dlaczego dokładnie działa.

[Fyapowah]

[Patrycjusz]

Można rozumieć emocje jako skrótowce w myśleniu: gdy nie ma pełnej wiedzy o czymś (a tak jest zazwyczaj) kierujemy się emocją.

Niekoniecznie od razu emocją. Te skrótowce to heurystyki myślenia, które są szybkimi "obliczeniami" pozwalającymi na zaoszczędzenie czasu i energii, ale nie są bezpośrednio powiązane z emocjami. Dlatego można zaimplementować te heurystyki w algorytmach i tyle. Ale nikt tego nie robi, dlatego że wprowadzają one błędy.

Nie wiem czy są niepożądane poznawczo, niektórzy twierdzą że możliwość popełniania błędów - szczególnie na wczesnym etapie uczenia - jest niezbędne do prawidłowego rozwoju AI, trochę jak u ludzi. I nie uważam jakoby AI miałoby być czymś w rodzaju "nieomylnego frankensztajna" - dodanie komponentu psychiczno-emocjonalnego uczłowieczyłoby moim zdaniem androidy i szybciej wkomponowałoby je w społeczeństwo.

A dlaczego popełnianie błędów miałoby być związane z emocjami? Jasne, negatywna reakcja emocjonalna jest bezpośrednio powiązana z błędami, ale tak naprawdę można jej uniknąć i przyjąć negatywną informację zwrotną "na sucho". A przynajmniej tak potrafią algorytmy.
Człowiek po popełnieniu X błędów lub dostaniu zbyt wysokiej ilości negatywnych informacji zwrotnych się podda. Sztuczny system nie. I dlatego są takie efektywne.
Jaka dziedzina życia wymaga odporności najbardziej? Wojna. I prawdziwa jazda zacznie się wtedy, kiedy AI zostanie bezpośrednio zaimplementowane w taktykach, strategiach, przygotowaniach, infrastrukturze i sprzęcie wojennym. To już tak w zasadzie Terminator w realu. Trafność predykcyjna np. w szachach jest znacznie powyżej ludzkiej, a to jednak dość skomplikowany system. Krótko mówiąc - kto będzie dysponował lepszym AI na wojnie, po prostu ją wygra i będzie mógł przejąć władzę nad światem.

Z tego co się orientuję to wiedza ta bardziej ogranicza się bardziej do wiedzy o tym które części mózgi aktywują się przy określonych czynnościach mózgu. Brakuje natomiast wiedzy jak dokładnie poszczególne części mózgu współpracują ze sobą i dlaczego. Zresztą jak mielibyśmy taką wiedzę, to być może szybciej łatwiej byłoby konstruować roboty. Yann leCun (twórca sieci konwolucyjnych) proponuje architekturę Jepa, która miałaby naśladować ludzkie procesy kongitywne - ale co z tego wyjdzie - nie wiadomo. Na razie AI to bardziej eksplorowanie architektury transformerów, która nie wiadomo dlaczego dokładnie działa.

Ta współpraca poszczególnych miejsc mózgu ze sobą jest częściowo poznana, ale to fakt, że tutaj obszar niewiedzy jest największy. Za to posiadanie kompletnej wiedzy na ten temat może nie wnieść prawie nic do rozwoju AI, dlatego że "sztuczne sieci neuronowe" nie mają zbyt wiele wspólnego z tym, jak działają neurony biologiczne (potencjał czynnościowy, neuroprzekaźniki, neuroplastyczność i te wszystkie cechy związane z ich biologiczną naturą). To byłaby ślepa uliczka, żeby konstruować algorytmy na tej podstawie, znacznie lepiej sprawdzają się same obliczenia.
I z tym "nie wiadomo dlaczego dokładnie działa" w przypadku konkretnego rodzaju AI, np. transformerów, albo innych jej rodzajów, to po raz kolejny - żeby koło zadziałało i mogło jeździć, trzeba wiedzieć, dlaczego, podobnie most może zostać wybudowany w sposób odpowiedni przy odpowiedniej wiedzy na temat tego, jak budować mosty i dlaczego się zawalą lub nie. AI to inżynieria, tutaj jest podobnie, zero magii.
Jak pisałem jeden, jedyny algorytm generatywny, to musiałem mieć wgląd w każdą cyfrę, żeby popychać to do przodu. Różne "idee", metafory itd. niestety nie działały same z siebie.

Póki co mamy pokaz wywiadów z nieżyjącymi ludźmi i aż włos jeży się na głowie, a żadnej "ludzko-kognitywnej" architektury tam nie ma i nie będzie.

[tonerek]

Ale nikt tego nie robi, dlatego że wprowadzają one błędy.

Ale że co? Heurystyk się nie używa? Oczywiście że używa np. Monte Carlo do obliczeń, cały data science to jedna wielka heurystyka. Nie zawsze potrzebna nam jest super dokładna odpowiedź, czasem wystarczy rozwiązanie przybliżone (np. lokalne minimum funkcji zamiast globalnego).

A dlaczego popełnianie błędów miałoby być związane z emocjami? Jasne, negatywna reakcja emocjonalna jest bezpośrednio powiązana z błędami, ale tak naprawdę można jej uniknąć i przyjąć negatywną informację zwrotną "na sucho". A przynajmniej tak potrafią algorytmy. ....

Gry takie jak go czy szachy mają że tak powiem "pełną wiedzę o świecie". Jeżeli mamy niepełną wiedzę o świecie (co dzieje się zazwyczaj) to błędy będą popełniane i tutaj właśnie potrzebne są emocje, Post factum można powiedzieć że inna decyzja była bardziej racjonalna, ale jeżeli mamy do wyboru dwie równie racjonalne decyzje a nie wiemy jak sytuacja dokładnie wygląda, to kierujemy się emocją. Poza tym emocje są potrzebne w tego rodzaju sytuacjach:



Wojna to jedno, a gospodarka to drugie. Mocna gospodarka pozwoli szybko odbudować klasyczny arsenał wojskowy, a posiadanie zasobów broni masowego rażenia szachuje przeciwnika - co zresztą widać np. po Rosji która pomimo że ma duże zasoby broni jądrowej ma gospodarkę na poziomie powiedzmy Włoch. Więc nie wiem czy to jest najlepszy pomysł pakować nie wiadomo ile pieniędzy w technologie wojskowe. Sztuczna inteligencja na poziomie ASI (czyli najmądrzejszych ludzi) może być pewnie traktowana jako broń jądrowa - chociaż pewnie trzeba się będzie o tym kiedyś przekonać.

Za to posiadanie kompletnej wiedzy na ten temat może nie wnieść prawie nic do rozwoju AI, dlatego że "sztuczne sieci neuronowe" nie mają zbyt wiele wspólnego z tym, jak działają neurony biologiczne (potencjał czynnościowy, neuroprzekaźniki, neuroplastyczność i te wszystkie cechy związane z ich biologiczną naturą). To byłaby ślepa uliczka, żeby konstruować algorytmy na tej podstawie, znacznie lepiej sprawdzają się same obliczenia.

Potrzebne są metody śledzenia na jakiej podstawie są takie a nie inne odpowiedzi udzielana. W tym celu trzeba by mieć jakieś abstrakty obiektów świata rzeczywistego i ich interakcji. Rozumiem że taka odpowiedź mogłaby wyglądać np. tak: ponieważ zostałem wcześniej nauczony że to i to, to obiekt X skojarzył mi się z tym i z tym. Póki co, mamy potwierdzenie że wychwytywanie statystycznych zależności w tekście może prowadzić do mądrze brzmiących i często właściwych odpowiedzi. Ale nie możemy temu zaufać w pełni. Ale ludziom też nie możemy zaufać w pełni. Natomiast myślę że poznanie ludzkiego sposobu myślenia pozwoliłoby na rozwój takuch technik śledzenia jak LLM-y udzielają odpowiedzi (np. jak to chce robić leCun w projekcie Jepa).

Ogólnie wnioski są takie: kognitywiści ruszcie d...!

[Drimlajner]

Mocna gospodarka pozwoli szybko odbudować klasyczny arsenał wojskowy, a posiadanie zasobów broni masowego rażenia szachuje przeciwnika - co zresztą widać np. po Rosji która pomimo że ma duże zasoby broni jądrowej ma gospodarkę na poziomie powiedzmy Włoch.

Polskie czołgi pod Kurskiem strzelają do Koreańczyków północnych. Niet analoga w mirze. Nie wiem czy umysł SI to ogarnie, wszak to są prawdziwe szachy 5d, ale świat to ma trochę polewkę z Rosji, choć być może właśnie ten kto leży na podłodze i turla się ze śmiechu jest zaszachowany. Więcej info w moim temacie o hegemoniach.

[Patrycjusz]

Ale że co? Heurystyk się nie używa? Oczywiście że używa np. Monte Carlo do obliczeń, cały data science to jedna wielka heurystyka. Nie zawsze potrzebna nam jest super dokładna odpowiedź, czasem wystarczy rozwiązanie przybliżone (np. lokalne minimum funkcji zamiast globalnego).

Tak, ale te rozwiązania przybliżone to nadal operacja matematyczna. Minimum funkcji było chyba na matmie już w liceum. Monte Carlo to zwykłe prawdopodobieństwo (z losowaniem). Też było w liceum. A data science to jedna wielka... statystyka. Która z założenia ma dawać przybliżony obraz rzeczywistości, np. ignorując obserwacje odstające i tzw. dźwignie.
Mówiąc o heurystykach, miałem na myśli te opisane przez psychologię poznawczą. Czy modeluje się to w sposób matematyczny? Jasne, że tak. Ale Nobla temu, kto dojdzie, w jaki konkretnie sposób człowiekowi przychodzi do głowy w danym momencie ta myśl, a nie inna.

Gry takie jak go czy szachy mają że tak powiem "pełną wiedzę o świecie". Jeżeli mamy niepełną wiedzę o świecie (co dzieje się zazwyczaj) to błędy będą popełniane i tutaj właśnie potrzebne są emocje, Post factum można powiedzieć że inna decyzja była bardziej racjonalna, ale jeżeli mamy do wyboru dwie równie racjonalne decyzje a nie wiemy jak sytuacja dokładnie wygląda, to kierujemy się emocją.

Nadal nie wiem, gdzie tu jest miejsce na potrzebną rolę emocji. Przy niepełnej wiedzy o świecie (fakt, że zawsze poza systemem zamkniętym taka sytuacja ma miejsce), błędy popełniane są przez brak tej wiedzy i zgadywanie. Jeśli ktoś będzie musiał zgadnąć (np. w 1 z 10) odpowiedź na zadane pytanie, to z pewnością mogą mu pomóc heurystyki, ale emocje już niekoniecznie. Jest to broń obosieczna - zbyt duży lęk może paraliżować zawodnika, a zbyt duża pewność siebie prowadzić do zbyt ryzykownych zachowań w grze. Same problemy.

Poza tym emocje są potrzebne w tego rodzaju sytuacjach:

Dlaczego? Taki bot musiał zostać zaprogramowany w sposób "zawsze ustępuj". Gdyby było odwrotnie, czyli na zasadzie "nigdy nie ustępuj", mogłoby co prawda dojść do odwrotnej sytuacji, czyli przepychania się do przodu, ale w jakimś sensie jest to "sukces ewolucyjny".

Więc nie wiem czy to jest najlepszy pomysł pakować nie wiadomo ile pieniędzy w technologie wojskowe.

Co prawda AI też kosztuje, jak każda infrastruktura informatyczna, ale czym są te koszty przy infrastrukturze "analogowej"? Można też oczywiście zniszczyć nośniki danych, zakłócić połączenia, złamać hasła itd., ale jest to jednak znacznie trudniejsze niż zwykłe spowodowanie szkód pozacyfrowych.
Uważam, że III WŚ, o ile będzie, może mieć przebieg odwrotny do tego zaproponowanego przez Einsteina. Będzie nie na maczugi i kamienie, za to w znacznej większości (bo nie w pełni, ale prawie) wojną cyfrową.

Ogólnie wnioski są takie: kognitywiści ruszcie d...!

Tego już prawie nie ma. Są tam dwie "ścieżki": neuro i algorytmiczna. Neuro przeszła do biologii, a ta druga do informatyki. Cieszy mnie to, bo takimi trudnymi zagadnieniami powinni zajmować się specjaliści od nauk ścisłych, a nie ludzie z bazowym wykształceniem filozoficznym.

[tonerek]

Sieci neuronowe to poszukiwanie minimum funkcji wielu zmiennych a tego zdaje się jeszcze nie uczy w LO.

W zastosowaniu uczuć do rozwiązania konkretnego przy niepełnej wiedzy rozumiem znalezienie najbardziej podobnej sytuacji w historii własnych rozwiązań problemu, która by pasowała do konkretnej sytuacji i trzeba szybko rozwiązać problem. Czyli jak ktoś ma zakodowany strach przed czymś podobnym to powinien unikać danej sytuacji czy inaczej wiać. A jeżeli ma pozytywne wrażenia z przeszłości to wręcz przeciwnie, Przypuszczam że takie biasowe rozwiązania są skuteczniejsze niż losowe rzucanie monetą.

Co do robota to pokazuje on że gdyby androidy zachowywały się całkowicie deterministycznie i wg algorytmu (zachowanie typu "zawsze ustępuj" lub "zawsze przepuszczaj" lub "ustępuj co drugiej osobie") to ludzie odbieraliby to tak, że szybko znajdowaliby kontrstrategie danych zachowań. Zachowanie sterowane tak, że przypominałoby ludzkie (typu "wkurz się po paru ustąpieniach, albo jak ktoś jest niegrzeczny") byłoby odbierane znacznie pozytywniej. Tak samo inny android miałby głębszą rozkminę z jakim typem zachowania ma do czynienia, co przykładowo mogło uczyć go grzeczności albo po prostu "więcej analizować", co też jest pożądane.

Nie wiem na ile uczucia i ogólnie typy osobowości powinny być zaprogramowane czy pojawić się jako cechy emergentne modeli językowych - ale bez jakiejś "psychologizacji" androidów ludzie będą ich traktowali jak sztuczne, bezoosobowe twory. A my chcemy je przecież wkomponować do naszych procesów biznesowych, żeby były np. naszymi partnerami w pracy.

[Fairytaled]

Problemy współczesnego świata kwitną, jak pojawiające się tego typu nagłówki:

Szansa czy zagrożenie - wokół sztucznej inteligencji jest wiele niewiadomych. Choć powinna wspierać człowieka w pracy, to często mu ją zabiera. Zwolnienia dziennikarzy w Off Radio Kraków wywołały burzę - zastąpi ich bowiem AI.

https://www.bankier.pl/wiadomosc/Off-Ra ... 33207.html

Afera wokół "eksperymentu badawczo-medialnego" w OFF Radia Kraków trwa. Tymczasem słuchacze mogli we wtorek posłuchać wykreowanej przez AI rozmowy nieistniejącej dziennikarki Emilii z wygenerowanym głosem nieżyjącej Wisławy Szymborskiej.

https://wydarzenia.interia.pl/malopolsk ... Id,7841162

Megan Garcia wystosowała przeciwko firmie pozew cywilny. Jest przekonana, że jej 14-letni syn Sewell przed śmiercią obsesyjnie używał chatbota. Firmie zarzuca doprowadzenie chłopca do śmierci.

– Niebezpieczna aplikacja chatbota oparta na sztucznej inteligencji i sprzedawana dzieciom, żerowała na moim synu, manipulując nim, aby odebrał sobie życie – powiedziała Garcia w oświadczeniu dla mediów.

https://www.tvp.info/83166639/chatbot-d ... zywa-firme

Angel, Danger

[Agon]

Kompendium wiedzy, jak opozycja PO z pomocą lewicowych organizacji w latach 2019-2022 blokowała kluczowe inwestycje hydrotechniczne PiS, w tym zbiorniki retencyjne w Kotlinie Kłodzkiej i inwestycje na Odrze od 13.12.23.

1. W roku 2018 PiS planuje budowę 16 zbiorników retencyjnych na Ziemi Kłodzkiej.
2. Wody Polskie, spółka powołana przez PiS rozpoczyna działania przygotowacze.
3. W międzyczasie trwają też prace i plany inwestycji hydrotechnicznych PiS na polskim odcinku Odry, w tym przeciwpowodziowych.
4. W międzyczasie rozpoczęła się budowa 4 zbiorników retencyjnych.
5. Do wiosny 2019 roku Wody Polskie miały już wybrane lokalizacje.
6. Jak zwykle w przypadku planów inwestycyjnych PiS, rozlega się wpierw szmer niezadowolenia lewicowych aktywistów, w których prym wiodą Zieloni, z dzisiejszą wiceminister klimatu, Urszulą Zielińską.
7. Lewackie szury wysyłają apele o zatrzymanie planowanych inwestycji PiS do znajomych ze środowiska polityczno-medialnego ówczesnej opozycji.
8. Pierwsze artykuły na portalach typu Oko Press, Onet, Portal Komunalny mające zasiać ziarno niepewności w mieszkańcach miejsc, gdzie te inwestycje miały mieć miejsce.
9. "Wątpliwości" zaczynają powielać lokalne media, typu 24Kłodzko, co przechodzi na coraz większą populację regionu.
10. Przyjazdy lewackich aktywistów z transparentami i banerami o niszczeniu przyrody przez "zły rząd PiS" i tworzenie narracji o niedobrych wysiedleniach planowanych przez rząd.
11. Przyjazdy polityków opozycji z głównego nurtu Platformy Obywatelskiej, w tym aktualnej wicemarszałek Sejmu, Moniki Wielichowskiej, straszącej mieszkańców ogromnymi kosztami inwestycyjnymi i wysiedleniami.
12. Wysłanie przez PiS przedstawicieli Wód Polskich, takich jak Ryszard Malarski, w celu uspokojenia sytuacji i dojścia do konsensusu społecznego.
13. Na spotkaniach z przedstawicielami spółki, wysyłane są autentycznie bojówki lewicowych akywistów z magnetofonami, podjudzającymi mieszkańców i zagłuszającymi przedstawicieli Wód Polskich.
14. Sprawa staje się ogólnopolska, również dzięki wpływom głównych polityków opozycyjnych, przedstawiajace sytuację jako "chaos i bezład PiS".
15. Sytuacja staje się na tyle poważna komunikacyjnie i manipulacyjnie, że PiS decyduje się pozostać przy budowie 4 zbiorników i ugina się pod wpływem zmanpulowanych przez lewackich działaczy i polityków opozycji z PO, mieszkańców.
16. Uradowani swoim "sukcesem" i zaoraniem planów PiS, wierchuszka lewacka, zielonych i PO, zwraca swoją główną uwagę na plany inwestycyjne PIS na Odrze.
17. Potwórzenie ataku narracyjnego na Odrę jak wyżej - tworzenie PR o niszczeniu Odry, choć nadal wyczekiwali na najmocniejsze uderzenie, które przyszło w roku 2021.
18. Wykorzystanie pojawienia się w Odrze złotych alg i śnięte ryby, jako fundament ataku na PiS i ich działania w obrębie tych inwestycji.
19. Wymyślenie kłamliwej narracji o "rtęci w Odrze", jako efektu działań inwestycyjnych PiS na Odrze i jej uprzemysłowienia.
20. Coraz częściej pojawia się w mediach kłamiaca jak zaklęta Urszula Zielińska, która staje się najbardziej znanym krytykiem tych działań - za co zostaje później nagrodzona posadą wiceministra klimatu i środowiska przez Tuska.
21. Pojawienie się kolejnych lewackich aktywistów, w tym grupy WWF, sprzeciwiającej się inwestycjom PiS na Odrze, wraz z coraz większym wykorzystaniem Zielińskiej.
22. Mimo ataków PiS nadal kontynuuje działania na Odrze.
23. Utrata władzy przez PiS.
24. Błyskawiczne zaoranie planów inwestycyjnych na Odrze przez rząd Tuska i resort Hennig-Kloski i Zielińskiej.
A to był dopiero początek tragedii rozpoczętej przez rząd Tuska:
25. Wstrzymanie budowy zbiornika Stradomka Lubomierz.
26. Wstrzymanie budowy zbiornika Stradomka Zegartowice.
27. Wstrzymanie budowy zbiornika na rzece Młynówka.
28. Wstrzymanie budowy zbiornika na rzece Skodzierska.
29. Wstrzymanie budowy zabezpieczeń przed powodzią na terenach zlokalizowanych w zlewni zatoki potoku Młynówka.
30. Wstrzymanie rewitalizacji i przebudowy Zalewu Zemborzyckiego.
31. Wstrzymanie budowy zbiornika Kątki na Czarnej Wodzie.
32. Wstrzymanie odbudowy budowli regulacyjnych na Dolnej Wiśle.
33. Wstrzymanie budowy zbiornika Wielowieś Klasztorna.
34. Wstrzymanie budowy zbiornika Kąty-Myscowa.
35. Wstrzymanie budowy zbiornika Kotlarnia.
36. Wstrzymanie budowy zbiornika Kamieniec Ząbkowicki.
37. Wstrzymanie budowy zbiornika Oleśniki.
38. Wstrzymanie budowy zbiornika małej retencji "Tkaczewska Góra".
39. Wstrzymanie budowy zbiorników retencyjnych w dolinie rzeki Łęg.
40. Wstrzymanie budowy zbiornika małej retencji Bzin.

A to i tak nie wszystko.
Awersja tych nieudaczników i leni do jakichkolwiek aspektów inwestycyjnych, powala na łopatki.
Zniszczenie planów inwestycyjnych na Odrze, to jeden z największych skandali tej władzy.

[jubei]

Przez 8 lat rządów PIS mając większość w rządzie nawet nie rozpoczął budowy CPK, tylko grube ryby i grubi biskupi obławiały się tanio skupowanymi działkami, więc chłopie o czym my tu mówimy.