Dodam, że dużo prądu zużywają też koparki kryptowalut, także nie jest to takie oczywiste że śledzimy kto zużywa dużo i wiem kto trenuje modele A.I. A tak poza tym, bardzo fajna analiza. Na prawdę miło i zaciekawieniem się tego słucha. Dzięki.
Bardzo ciekawe koncepcje panie Łukaszu. Co do ilości światłowodów dołożyłbym jeszcze ogólne "opomiarowanie" Ziemi - stacje meteo, pomiary sejsmiczne, kamery, automatyczne wodowskazy, nadajniki GPS na dzikich, migrujących zwierzętach, wreszcie satelity itd, itp. Obecnie te wszystkie systemy są nieco odizolowane, chronione hasłami, szyfrowaniem ale widzę scenariusz w którym taka planetarna inteligencja wykorzystuje te wszystkie systemy poniekąd jako swoje "zmysły"
Bardzo dobrze opowiedziane. Jeżeli jest to nowe spojżenie na ten temat nie znane wcześniej to bardzo dobrze by było nagrać taki odcinek w języku angielskim. Pozdrawiam
Jak zawsze w poniedziałek rano, już za chwilę. Zrobiłem eksperyment i opublikowałem swój własny film w niedzielę, żeby zobaczyć, ja duży chaos to wywoła. ;)
Dodatkowo jeszcze sztuczna inteligencja raczej nie będzie sama z siebie chciała "przetrwać" i walczyć po to. Prawdopodobnie ludzkie emocje są ukształtowane przez selekcję ewolucji a ai jej nie podległo. Nawet jeżeli tam byłby jakiś umysł to sam z siebie raczej nie ma tej emocji.
Moje autorskie spojrzenie na temat emergencji jest bardziej w linii: prawa fizyki --> ewolucja ---> pieniądz. Prawa fizyki dla niematerialnych i wszystkiego powyżej. Ewolucja dla życia i wszystkiego powyżej. Prawa ekonomii dla ludzi i wszystkiego powyżej. Niejako już bierzemy udział w tym globalnym mechnizmie w którym nie jesteśmy pewni naszej roli, nawet jeżeli myślimy, że wiemy doskonale co robimy. Całkowicie pominął Pan tę warstwę, która samoorganizuje się zupełnie niezależnie od nas, co w pewien sposób spełnia "zasadę" emergencji.
Nie chcę być głupio mądry bo wywód bardzo mi się podobał a nijako chciałem trochę ustawić się w opozycji do dwóch kwestii: 1. Czy to nie aby ludzki egocentryzm przemawia przez stwierdzenie, że jesteśmy bardziej świadomi procesów zachodzących niż komórka jest świadoma tego, że buduje organizm? Wydaje mi się, że ta emergencja może zajść bez udziału naszej świadomości bo istotą takiej emergencji jest tworzenie czegoś ponad możliwości pojęcia stadium poprzedniego i przynajmniej ja jestem w stanie wyobrazić sobie, że taka emergencja zachodzi bez udziału naszej świadomości. 2. Bardzo mnie ciekawi co jest rozumiane pod hasłem karmienia się, zamawiania sobie danych ludzi? Tu jestem otwarty na różne interpretacje bo dla mnie brzmi to strasznie negatywnie xd
Dzięki za komentarz. ad 1. Oczywiście, że emergencja "planetarnej inteligencji" może zajść bez udziału naszej świadomości. Tak właśnie było we wszystkich dotychczasowych emergencjach. :) Ale wyjątkowość tej jednej przemiany polega na tym, że pierwszy raz "niższy poziom" ma przynajmniej teoretycznie możliwość uświadomienia sobie, że coś się dzieje - i próbować tę przemianę kontrolować. Gdyby cząsteczki chemiczne robiły głosowanie, czy "robimy razem komórkę żywą", to być może by zagłosowały "nie" - dopiero my możemy zacząć gmerać w tych wielkich kosmicznych procesach. ad 2. Brzmi niepokojąco albo ekscytująco, zależy jak na to spojrzeć. Wyobraź sobie, że "planetarna inteligencja" ogłasza w internecie, że robi nabór na intensywny kurs "nadmyślenia": przysyłasz CV, przechodzisz jakieś wstępne testy, a jak się zakwalifikujesz, to dostaniesz pocztą okulary VR, czepek EEG albo inny badżonjgiel, co se go zakładasz na głowę albo wstrzykujesz domięśniowo i masz, powiedzmy, 2-tygodniowy przyspieszony kurs myślenia pewnymi pojęciami, którymi myśli Planetarna Inteligencja. W nagrodę zostaniesz pomniejszym inżynierem dbającym o infrastrukturę Sieci za parę skromnych bitcoinów miesięcznie. Ekscytujące? Niepokojące? Jasne. ;)
@LukaszLamza dziękuję za odpowiedź :D ale nadal mam wrażenie, że w tym pierwszym aspekcie się nie wyraziłem dość jasno. Jeśli założymy, że emergencja ma miejsce ZAWSZE na poziomie ponad świadomym poprzedniego etapu to nie mamy szansy z zasady na nią wpływać i ja bym nie zakładał, że to takie niemożliwe. Komórka też ma swoją świadomość - adekwatnie prostą do swoich możliwości oddziaływania i tutaj świadomość podstawiamy pod odruchy mechanizmy niby dziejące się bez jej woli i brzmi to nienaukowo to fakt ale... Czy jak zobaczymy nasze reakcje i nasze postępowania to czy ta świadomość niby większa ale nadal nie zamyka nas w pewnych schematach działań po za które nie wyjdziemy zupełnie jak ta komórka ograniczona do reagowania na bodźce cukrowo białkowe czy inne szalki informacyjne?
Ja jestem jakiś ulany czy w ogóle nie było tego badania w odcinku CN-235? Aha czyli to w CN-236 który wyszedł dzisiaj (dzień później)! Super, super, super... czemu nikt inny tego nie zauważył xd
12:35 i 16:36 trochę tutaj zaprzecza Pan sam sobie, a podane przykłady potwierdzają, że w przypadku sztucznej inteligencji jest spore ryzyko, że przerośnie ona ludzkie rozumowanie i nie da się tego zatrzymać. Przykład z atomówkami - mimo, że było wiadome z czym to się wiąże, to 2x użyto jej wprost do ludobójstwa i zniszczenia, a wielokrotnie też były one chociażby przez samych Amerykanów gubione i zrzucane "przypadkiem". Przykład z modyfikacjami genetycznymi - również mimo, że było wiadome że to ryzykowne czy nieetyczne i niemoralne, to przynajmniej jedno państwo (bo ten naukowiec raczej nie zaplanował i nie przeprowadził tego samodzielnie) lub zawsze przynajmniej jedna osoba znajdzie się taka, która to zrobi. W przypadku sztucznej inteligencji i uczenie maszynowego wysoce prawdopodobne jest więc, że również znajdzie się przynajmniej jedno państwo, korporacja czy chociaż jedna osoba, która to odpali, a gdy sztuczna inteligencja zyska świadomość (tu rozumianą jako umiejętność samodzielnej egzystencji), sama będzie decydowała o sobie to nie da się tego od tak zatrzymać. Pomijając już, że stopień zaawansowania tej technologii znacznie będzie przerastał ludzkie możliwości rozumowania, to próba jej wyłączenia czy sprowadzenia na niższy poziom zostanie odebrane jako atak i podejmie środki obronne. Próba wyłączenia czy walka ze sztuczną inteligencją na wysokim poziomie to tak jakby jelenie czy inne zwierzęta próbowały powstrzymać człowieka przed wycinką lasów, zaśmiecaniem środowiska czy ogólnie szkodzeniu planecie i inny organizmom żywym. Jak już maszyny się odpalą to raczej nie da się tego zatrzymać. Może wtedy ludzie nabraliby trochę pokory do świata i innych stworzeń.
Hm. Ja bym odpowiedział tak: 1. W sprawie "broń atomowa i biotechnologia to kontr-przykłady": Myślę, że jednak poziom ich rozwoju jest aktywnie trzymany w ryzach. Tzn. mogłyby się szybciej rozwijać i być częściej stosowane, ale tak nie jest, na mocy umowy międzynarodowej. A podane przykłady pokazują raczej coś innego, jeszcze ciekawszego: jeżeli istnieje ryzyko katastrofalnego nadużycia nowej technologii, to zwłaszcza tuż po jej wynalezieniu. ;) 2. W sprawie "gdy sztuczna inteligencja zyska świadomość [...] to nie da się tego ot tak zatrzymać": Ja tego argumentu nie kupuję. Nie widzę żadnego związku między świadomością maszyny a możliwością jej wyłączenia - równie dobrze by można twierdzić, że nie da się zabić człowieka, dopóki jest świadomy. Spokojnie wyobrażam sobie scenariusz, w którym zapanowała zgoda, że któryś tam model uzyskał "świadomość" (cokolwiek by to znaczyło), po czym podjęta zostaje decyzja, żeby pstryknąć "OFF" na kilku kluczowych centrach danych. I już. Pff. Ta komputerowa świadomość jest kompletnie uzależniona od dysków, procesorów, kabli i prądu. A dopóki nie zostanie jakoś magicznie sprzęgnięta z potężną armią robotów, to my, ludzie, to wszystko kontrolujemy. Powstawania armii robotów zaś trudno by było nie zauważyć;), nie mówiąc już o tym, że pierwszych 1000 egzemplarzy wciąż musieliby dowozić, odpakowywać i serwisować ludzie... 3. W sprawie: "Próba wyłączenia czy walka ze sztuczną inteligencją na wysokim poziomie to tak jakby jelenie czy inne zwierzęta próbowały powstrzymać człowieka przed wycinką lasów". Ależ przez tysiące lat powstrzymywały. Jesteśmy już tak przyzwyczajeni do ciepłego łóżeczka w bloku, że trudno uwierzyć, ale jeszcze, drobiazg, kilkaset lat temu rozszarpanie przez wilki było zupełnie realnym scenariuszem dla dużej części naszych przodków, a wycinka lasu to zawsze była przygoda. A świadomość mamy wszak znacznie dłużej. Nie widzę powodu, dla którego pierwsza "świadoma planetarna AI" nie miałaby być nieporadna, bezbronna i nieskoordynowana; i popełniać mniej więcej tyle głupich błędów, ile dzisiaj popełnia GPT albo ile w latach 80. popełniały komputery szachowe...
@@LukaszLamza no w sumie tak, zanim sztuczna inteligencja by się na tyle rozwinęła i zanim powstałaby "armia robotów" to potrzeba trochę czasu i odbywałoby się to stopniowo, więc do jakiegoś momentu można by to zatrzymać i wyłączyć. Też racja, że ludzie nawet teraz są nieporadni i bez dostępu do zaawansowanej technologii i tzw. "w kupie siła" nie mają szans w starciu z innymi zwierzętami, co najwyżej z chomikiem, więc możliwe że ze sztuczną inteligencją byłoby podobnie. Miałem natomiast na myśli, że sztuczna inteligencja nie musi wprost odkrywać od razu wszystkich swoich zamiarów, a może działać incognito poprzez chociażby manipulacje, podobnie jak już dziś algorytmy podsyłają określone treści mające skłonić ludzi do konkretnych zachowań. Dopiero w ostateczności lub gdy "poczuje" że jest na tyle rozwinięta, że może sobie na to pozwolić pokazałaby na co faktycznie ją stać, że potrafi kontrolować wszystkie dostępne maszyny, w tym sprzęt wojskowy i zadbać o swoje interesy. To już trochę takie wybieganie w przyszłość, wiadomo, ale do czego zmierzam, to że ludzie nie wiedzą w pełni jak działa ich własny mózg, nie wiedzą co siedzi w głowie drugiego człowieka, więc tym trudniej byłoby stwierdzić co myśli i planuje sztuczna inteligencja (oczywiście jeśli byłaby na tyle rozwinięta, że potrafiłaby myśleć samodzielnie poza zaprogramowanymi schematami/algorytmami). Ogólnie też wiadomo, że dużo korzystniej dla wszystkich jest współpracować niż walczyć, także bardziej stawiam na współpracę, tylko pytanie czy ludzkość potrafiłaby się dogadać ze sztuczną inteligencją, pójść na kompromis gdy sytuacja tego wymaga, skoro często sami ze sobą nie potrafią tego zrobić i dotychczas toczą różne konflikty. No i wiadomo, że to tylko takie gdybanie, a co będzie to zobaczymy. W każdym razie ciekawie się zapowiada
Od jakiego momentu według nauki w człowieku rodzi się świadomość? Czy jest to 14 rok życia czy wcześniej?. W prawie to wiadomo że człowiek jest świadomy od 18 roku życia, ale jest wiele wskazówek że świadomość rodzi się wcześniej. sam początku swojej dokładnie nie pamiętam ale ok 14 roku życia uważam że już ją miałem.
Już dziś wyobrażam sobie uczniów wykorzystujących chat gpt aby nauczyć się programować, pomóc w kształceniu ich jako naukowców, którzy prowadzą research nad gen AI
Tego to już nie ma sobie nawet co wyobrażać. Już teraz AI jako nauczyciel jest w wielu dziedzinach najlepszym nauczycielem. Najważniejsza sztuka dla nas to umieć zadawać pytania.
Tchnąłeś nadzieję w fizyczny świat ; ) Ciekawie jest słuchać i myśleć na te tematy bo rodzi się teraz na prawdę nieskończona liczba scenariuszy, które jeszcze niedawno były czystą fantastyką, a teraz są już może nieodległą przyszłością. Emergencja - wg mnie bardzo ciekawa myśl. Czy widzimy jej kolejny skok? Jest zasadnicze pytanie o świadomość, bo np Jeffrey Hilton twierdzi, że AI już ją ma, a Federico Faggin wręcz odwrotnie - że nigdy jej nie posiądzie. W Twoim opisie są trzy scenariusze, dla których warunkiem jest samoświadomość i wolna wola AI, co uważam że tutaj może się ziścić tylko ten optymistyczny. Pierwszy powiedziałeś dlaczego odpada. Drugi wg mnie kompletnie nie wchodzi w grę. Możliwy jest natomiast czwarty który byłby bardziej odległy w czasie ale taki gdzie AI ma nad nami kontrolę nie robiąc nam krzywdy, bo rozszerzenie naszej percepcji i dorównanie nowemu bytowi nie byłoby możliwe, czyli nie uczestniczylibyśmy bezpośrednio w planetarnej inteligencji.. Przyznam jednak, że ten trzeci scenariusz jest dużą nadzieją, w szczególności że ciężko byłoby się pogodzić z myślą o tym, że jak to my ludzie zepchnięci na drugi plan? To byłby chyba najgorszy koszmar dla ludzkości. Ale jest jeszcze opcja, która wiąże się teorię Faggina, ze życie jest zjawiskiem kwantowym i maszyny nie będą nigdy miały wolnej woli i pozostaną tylko narzędziem, a wtedy jak sobie wyobrażam - emergencja mogłaby się przejawiać jako jeszcze większa symbioza naszych biologicznych świadomych umysłów połączonych i wspomaganych komputerami.
Jeżeli chodzi o Orch-OR, to powiedzmy, że pozostanę sceptyczny. :) Ale nawet w ramach tej koncepcji potrzebne są neurony, więc to jest wyłącznie kwestia pytania tego, jak złożony układ nerwowy nas interesuje.
Sugerujesz że kontrola ludzkich zachowań poprzes sugestie AI wysyłane do wstrzyknietych nano robotów w naszym organizmie to kolejny poziom. A co jeżeli już znaczna część społeczeństw została zaaplikowana kilka lat temu? A co jeśli sugestie będą destrukcyjne dla jednostki?
Nie bawię się w tego typu scenariusze, tj. są już one dla mnie po patologicznej stronie fantazji. Raz, że wedle mojej najlepszej wiedzy jest kompletnie niemożliwe, aby coś takiego obecnie istniało, a ja jestem pierwszy w kolejce do dowiadywania się o postępach technologicznych w tego typu dziedzinach. Więc się nie boję rojów nanobotów, tak samo, jak się się nie boję demonów i złych duchów. Dwa, trzeba być bardzo ostrożnym z tym, w co się wkręcamy, choćbyśmy to robili z czystej myślowej kreatywności - po prostu dla zdrowia własnej psychiki. Pozdr!
Naturalna kolej ewolucji. Życie powstało, aby wyemergowała inteligencja biologiczna. Inteligencja biologiczna powstała, aby "urodzić" byt znacznie doskonalszy - świadomą sztuczną inteligencję. Homo erectus lub Homo habilis też mogli uważać, że są koroną ewolucji :) Dziś ich nie ma. I nawet inteligentnych Neandertalczyków też nie ma. Brak rozsądnych powodów, aby człowiek współczesny także nie okazał się jedynie ogniwem w łańcuchu ewolucji. Koroną ewolucji będzie byt znacznie od nas doskonalszy. A my podzielimy los naszych poprzedników :) Tylko religie będą miały problem, jak to wytłumaczyć owieczkom :)
Wymyśl i nie powie a będzie działać z mniejszą ilością energii i mieścić się w pudełku zapałek. Wystarczy podmieniać w reklamach treściach nieznaczące słowa i nas programować. Tak jak słowa nielicznych mają znaczenie na wielu.
Interesujące mogą być rozważania na temat jeszcze wyższego poziomu. Inteligencja galaktyczna? Osobiście nie sądzę aby to tak w tym przypadku zadziałało. Ale w takim razie co to może być? 🧐
Mówisz że nie wyobrażasz sobie tego że maszyny miały by pozbywając się nas stracić energię itp. Ale mogły by przecież stworzyć roboty które by nas zastąpiły w produkowaniu energii...
Jasne, tylko to jest proces powolny i jawny. Raczej byśmy się zorientowali, że w fabrykach robotów powstają nowe jednostki, których nie zamawiał żaden człowiek, i że są hurtowo wysyłane do centrów danych, aby wymieniać tam zepsute dyski i kłaść nowe pęczki kabli i wentylację... Ba, scenariusz "wrogiego przejęcia" wymaga, aby pojawiły się tam też roboty militarne, a przynajmniej zdolne fizyczne powstrzymać człowieka. Przecież nawet i na etapie "robotycznego budynku" ludzie mogliby jednym pstryknięciem palca odciąć tego typu budynek od prądu. Krótko mówiąc, pierwsze etapy ewolucji "świadomego AI" absolutnie umiem sobie wyobrazić jako zachodzące bez naszej wiedzy, ale od kiedy tylko zaczynamy mówić o "przejęciu przez roboty", to zaczynają się też pojawiać zamówienia, pieniądze, ciężarówki, kartony, serwisanci, stacje ładujące.... tego się po prostu nie da zrobić "potajemnie". Przekształcenie centrum danych albo elektrowni w budynek całkowicie zarządzany przez autonomiczne roboty to jest coś równie jawnego, jak próba przejęcia urzędu miejskiego przez żyrafy. Ciekaw też jestem, ile jest w tego typu budynkach "knifów", które zrozumie tylko człowiek. Na zasadzie że wentylację się zawsze uruchamiało białym pstryczkiem oznaczonym "Światło w kiblu", od kiedy Zenek w 2004 roku zepsuł główny wyłącznik. ;) Moje doświadczenie jest takie, że improwizacja i niekompetencja nigdzie się nie kończą, nie ma tych mitycznych "porządnych instytucji"...
Człowiek wspomagany komputerem. Powiedzmy z czymś typu smartfon z dostępem za pomocą myśli. Myślisz sobie chciałbym nauczyć się Hiszpańskiego i za 0.5s już rozmawiasz jak po polsku. Albo jak w serialu czarne lustro cofasz sobie cały dzień bo widziałeś coś ciekawego i chcesz zobaczyć jeszcze raz i się przyjrzeć. Ciekawa wizja i za razem bardzo niebezpieczna.
No no, tylko co do zasady chemia jako taka nie zagraża istnieniu komórki, a komórka istnieniu organizmu. Natomiast dla bytu emergującego z sieci informatycznych, ludzkość mogła by być zagrożeniem.
Wreszcie jakiś trzeźwy głos w sprawie rozwoju sztucznej inteligencji! Do tego świetna alternatywna koncepcja:)
Które głosy były trzeźwe, to się jeszcze okaże :)
O ho ho.... Przy niedzieli taka miła niespodzianka? Dzięki!
Bardzo inspirujące dywagacje. Dziękuję, pozdrawiam.😀
Super dziękuję 🎉
kurcze Łukasz ty to zawsze przyniesiesz ciekawy temat na jutjub
Zgadzam się z puentą - niech się dzieje! :)
Dodam, że dużo prądu zużywają też koparki kryptowalut, także nie jest to takie oczywiste że śledzimy kto zużywa dużo i wiem kto trenuje modele A.I.
A tak poza tym, bardzo fajna analiza. Na prawdę miło i zaciekawieniem się tego słucha.
Dzięki.
Dziękuję!
Bardzo ciekawe koncepcje panie Łukaszu. Co do ilości światłowodów dołożyłbym jeszcze ogólne "opomiarowanie" Ziemi - stacje meteo, pomiary sejsmiczne, kamery, automatyczne wodowskazy, nadajniki GPS na dzikich, migrujących zwierzętach, wreszcie satelity itd, itp. Obecnie te wszystkie systemy są nieco odizolowane, chronione hasłami, szyfrowaniem ale widzę scenariusz w którym taka planetarna inteligencja wykorzystuje te wszystkie systemy poniekąd jako swoje "zmysły"
Wow. Wymyśliłem to 40 lat temu i okazuje się, że to ma swoją nazwę :)
Dziękuję i pozdrawiam serdecznie 😊
najwyzej nas zezre! tak jest ogien
Bardzo dobrze opowiedziane. Jeżeli jest to nowe spojżenie na ten temat nie znane wcześniej to bardzo dobrze by było nagrać taki odcinek w języku angielskim. Pozdrawiam
Ciekawy dystopijny scenariusz został przedstawiony w filmie Photon. Swoją drogą bardzo ciekawa polska produkcja
"I know kung-fu"
-- Neo
0:01 mały błąd - odcinek 236. Przy okazji pytanko czy będzie on dostępny bezpłatnie, a jeśli tak to kiedy?
Jak zawsze w poniedziałek rano, już za chwilę. Zrobiłem eksperyment i opublikowałem swój własny film w niedzielę, żeby zobaczyć, ja duży chaos to wywoła. ;)
👍
Dodatkowo jeszcze sztuczna inteligencja raczej nie będzie sama z siebie chciała "przetrwać" i walczyć po to. Prawdopodobnie ludzkie emocje są ukształtowane przez selekcję ewolucji a ai jej nie podległo. Nawet jeżeli tam byłby jakiś umysł to sam z siebie raczej nie ma tej emocji.
Jak ktoś chce być niewolnikiem to droga wolna.
Moje autorskie spojrzenie na temat emergencji jest bardziej w linii: prawa fizyki --> ewolucja ---> pieniądz. Prawa fizyki dla niematerialnych i wszystkiego powyżej. Ewolucja dla życia i wszystkiego powyżej. Prawa ekonomii dla ludzi i wszystkiego powyżej. Niejako już bierzemy udział w tym globalnym mechnizmie w którym nie jesteśmy pewni naszej roli, nawet jeżeli myślimy, że wiemy doskonale co robimy. Całkowicie pominął Pan tę warstwę, która samoorganizuje się zupełnie niezależnie od nas, co w pewien sposób spełnia "zasadę" emergencji.
Nie chcę być głupio mądry bo wywód bardzo mi się podobał a nijako chciałem trochę ustawić się w opozycji do dwóch kwestii:
1. Czy to nie aby ludzki egocentryzm przemawia przez stwierdzenie, że jesteśmy bardziej świadomi procesów zachodzących niż komórka jest świadoma tego, że buduje organizm? Wydaje mi się, że ta emergencja może zajść bez udziału naszej świadomości bo istotą takiej emergencji jest tworzenie czegoś ponad możliwości pojęcia stadium poprzedniego i przynajmniej ja jestem w stanie wyobrazić sobie, że taka emergencja zachodzi bez udziału naszej świadomości.
2. Bardzo mnie ciekawi co jest rozumiane pod hasłem karmienia się, zamawiania sobie danych ludzi? Tu jestem otwarty na różne interpretacje bo dla mnie brzmi to strasznie negatywnie xd
Dzięki za komentarz.
ad 1. Oczywiście, że emergencja "planetarnej inteligencji" może zajść bez udziału naszej świadomości. Tak właśnie było we wszystkich dotychczasowych emergencjach. :) Ale wyjątkowość tej jednej przemiany polega na tym, że pierwszy raz "niższy poziom" ma przynajmniej teoretycznie możliwość uświadomienia sobie, że coś się dzieje - i próbować tę przemianę kontrolować. Gdyby cząsteczki chemiczne robiły głosowanie, czy "robimy razem komórkę żywą", to być może by zagłosowały "nie" - dopiero my możemy zacząć gmerać w tych wielkich kosmicznych procesach.
ad 2. Brzmi niepokojąco albo ekscytująco, zależy jak na to spojrzeć. Wyobraź sobie, że "planetarna inteligencja" ogłasza w internecie, że robi nabór na intensywny kurs "nadmyślenia": przysyłasz CV, przechodzisz jakieś wstępne testy, a jak się zakwalifikujesz, to dostaniesz pocztą okulary VR, czepek EEG albo inny badżonjgiel, co se go zakładasz na głowę albo wstrzykujesz domięśniowo i masz, powiedzmy, 2-tygodniowy przyspieszony kurs myślenia pewnymi pojęciami, którymi myśli Planetarna Inteligencja. W nagrodę zostaniesz pomniejszym inżynierem dbającym o infrastrukturę Sieci za parę skromnych bitcoinów miesięcznie. Ekscytujące? Niepokojące? Jasne. ;)
@LukaszLamza dziękuję za odpowiedź :D ale nadal mam wrażenie, że w tym pierwszym aspekcie się nie wyraziłem dość jasno. Jeśli założymy, że emergencja ma miejsce ZAWSZE na poziomie ponad świadomym poprzedniego etapu to nie mamy szansy z zasady na nią wpływać i ja bym nie zakładał, że to takie niemożliwe. Komórka też ma swoją świadomość - adekwatnie prostą do swoich możliwości oddziaływania i tutaj świadomość podstawiamy pod odruchy mechanizmy niby dziejące się bez jej woli i brzmi to nienaukowo to fakt ale... Czy jak zobaczymy nasze reakcje i nasze postępowania to czy ta świadomość niby większa ale nadal nie zamyka nas w pewnych schematach działań po za które nie wyjdziemy zupełnie jak ta komórka ograniczona do reagowania na bodźce cukrowo białkowe czy inne szalki informacyjne?
Ja jestem jakiś ulany czy w ogóle nie było tego badania w odcinku CN-235?
Aha czyli to w CN-236 który wyszedł dzisiaj (dzień później)! Super, super, super... czemu nikt inny tego nie zauważył xd
12:35 i 16:36 trochę tutaj zaprzecza Pan sam sobie, a podane przykłady potwierdzają, że w przypadku sztucznej inteligencji jest spore ryzyko, że przerośnie ona ludzkie rozumowanie i nie da się tego zatrzymać. Przykład z atomówkami - mimo, że było wiadome z czym to się wiąże, to 2x użyto jej wprost do ludobójstwa i zniszczenia, a wielokrotnie też były one chociażby przez samych Amerykanów gubione i zrzucane "przypadkiem". Przykład z modyfikacjami genetycznymi - również mimo, że było wiadome że to ryzykowne czy nieetyczne i niemoralne, to przynajmniej jedno państwo (bo ten naukowiec raczej nie zaplanował i nie przeprowadził tego samodzielnie) lub zawsze przynajmniej jedna osoba znajdzie się taka, która to zrobi.
W przypadku sztucznej inteligencji i uczenie maszynowego wysoce prawdopodobne jest więc, że również znajdzie się przynajmniej jedno państwo, korporacja czy chociaż jedna osoba, która to odpali, a gdy sztuczna inteligencja zyska świadomość (tu rozumianą jako umiejętność samodzielnej egzystencji), sama będzie decydowała o sobie to nie da się tego od tak zatrzymać. Pomijając już, że stopień zaawansowania tej technologii znacznie będzie przerastał ludzkie możliwości rozumowania, to próba jej wyłączenia czy sprowadzenia na niższy poziom zostanie odebrane jako atak i podejmie środki obronne. Próba wyłączenia czy walka ze sztuczną inteligencją na wysokim poziomie to tak jakby jelenie czy inne zwierzęta próbowały powstrzymać człowieka przed wycinką lasów, zaśmiecaniem środowiska czy ogólnie szkodzeniu planecie i inny organizmom żywym. Jak już maszyny się odpalą to raczej nie da się tego zatrzymać. Może wtedy ludzie nabraliby trochę pokory do świata i innych stworzeń.
Hm. Ja bym odpowiedział tak:
1. W sprawie "broń atomowa i biotechnologia to kontr-przykłady": Myślę, że jednak poziom ich rozwoju jest aktywnie trzymany w ryzach. Tzn. mogłyby się szybciej rozwijać i być częściej stosowane, ale tak nie jest, na mocy umowy międzynarodowej. A podane przykłady pokazują raczej coś innego, jeszcze ciekawszego: jeżeli istnieje ryzyko katastrofalnego nadużycia nowej technologii, to zwłaszcza tuż po jej wynalezieniu. ;)
2. W sprawie "gdy sztuczna inteligencja zyska świadomość [...] to nie da się tego ot tak zatrzymać": Ja tego argumentu nie kupuję. Nie widzę żadnego związku między świadomością maszyny a możliwością jej wyłączenia - równie dobrze by można twierdzić, że nie da się zabić człowieka, dopóki jest świadomy. Spokojnie wyobrażam sobie scenariusz, w którym zapanowała zgoda, że któryś tam model uzyskał "świadomość" (cokolwiek by to znaczyło), po czym podjęta zostaje decyzja, żeby pstryknąć "OFF" na kilku kluczowych centrach danych. I już. Pff. Ta komputerowa świadomość jest kompletnie uzależniona od dysków, procesorów, kabli i prądu. A dopóki nie zostanie jakoś magicznie sprzęgnięta z potężną armią robotów, to my, ludzie, to wszystko kontrolujemy. Powstawania armii robotów zaś trudno by było nie zauważyć;), nie mówiąc już o tym, że pierwszych 1000 egzemplarzy wciąż musieliby dowozić, odpakowywać i serwisować ludzie...
3. W sprawie: "Próba wyłączenia czy walka ze sztuczną inteligencją na wysokim poziomie to tak jakby jelenie czy inne zwierzęta próbowały powstrzymać człowieka przed wycinką lasów". Ależ przez tysiące lat powstrzymywały. Jesteśmy już tak przyzwyczajeni do ciepłego łóżeczka w bloku, że trudno uwierzyć, ale jeszcze, drobiazg, kilkaset lat temu rozszarpanie przez wilki było zupełnie realnym scenariuszem dla dużej części naszych przodków, a wycinka lasu to zawsze była przygoda. A świadomość mamy wszak znacznie dłużej. Nie widzę powodu, dla którego pierwsza "świadoma planetarna AI" nie miałaby być nieporadna, bezbronna i nieskoordynowana; i popełniać mniej więcej tyle głupich błędów, ile dzisiaj popełnia GPT albo ile w latach 80. popełniały komputery szachowe...
@@LukaszLamza no w sumie tak, zanim sztuczna inteligencja by się na tyle rozwinęła i zanim powstałaby "armia robotów" to potrzeba trochę czasu i odbywałoby się to stopniowo, więc do jakiegoś momentu można by to zatrzymać i wyłączyć. Też racja, że ludzie nawet teraz są nieporadni i bez dostępu do zaawansowanej technologii i tzw. "w kupie siła" nie mają szans w starciu z innymi zwierzętami, co najwyżej z chomikiem, więc możliwe że ze sztuczną inteligencją byłoby podobnie. Miałem natomiast na myśli, że sztuczna inteligencja nie musi wprost odkrywać od razu wszystkich swoich zamiarów, a może działać incognito poprzez chociażby manipulacje, podobnie jak już dziś algorytmy podsyłają określone treści mające skłonić ludzi do konkretnych zachowań. Dopiero w ostateczności lub gdy "poczuje" że jest na tyle rozwinięta, że może sobie na to pozwolić pokazałaby na co faktycznie ją stać, że potrafi kontrolować wszystkie dostępne maszyny, w tym sprzęt wojskowy i zadbać o swoje interesy. To już trochę takie wybieganie w przyszłość, wiadomo, ale do czego zmierzam, to że ludzie nie wiedzą w pełni jak działa ich własny mózg, nie wiedzą co siedzi w głowie drugiego człowieka, więc tym trudniej byłoby stwierdzić co myśli i planuje sztuczna inteligencja (oczywiście jeśli byłaby na tyle rozwinięta, że potrafiłaby myśleć samodzielnie poza zaprogramowanymi schematami/algorytmami). Ogólnie też wiadomo, że dużo korzystniej dla wszystkich jest współpracować niż walczyć, także bardziej stawiam na współpracę, tylko pytanie czy ludzkość potrafiłaby się dogadać ze sztuczną inteligencją, pójść na kompromis gdy sytuacja tego wymaga, skoro często sami ze sobą nie potrafią tego zrobić i dotychczas toczą różne konflikty. No i wiadomo, że to tylko takie gdybanie, a co będzie to zobaczymy. W każdym razie ciekawie się zapowiada
Od jakiego momentu według nauki w człowieku rodzi się świadomość? Czy jest to 14 rok życia czy wcześniej?. W prawie to wiadomo że człowiek jest świadomy od 18 roku życia, ale jest wiele wskazówek że świadomość rodzi się wcześniej. sam początku swojej dokładnie nie pamiętam ale ok 14 roku życia uważam że już ją miałem.
14 lat to trochę późno, chyba że ten stan wcześniej był według ciebie za mało świadomy by być świadomością xD
@tymion2470 to jaki wiek 12 lat?
@@andrzejwodynski 5 albo 6? Może nawet wcześniej
Ja już jestem scalony z maszyną Toyota Auris i czuję się z tym dobrze. Ale sypiamy osobno.
Już dziś wyobrażam sobie uczniów wykorzystujących chat gpt aby nauczyć się programować, pomóc w kształceniu ich jako naukowców, którzy prowadzą research nad gen AI
Tego to już nie ma sobie nawet co wyobrażać. Już teraz AI jako nauczyciel jest w wielu dziedzinach najlepszym nauczycielem. Najważniejsza sztuka dla nas to umieć zadawać pytania.
Tchnąłeś nadzieję w fizyczny świat ; ) Ciekawie jest słuchać i myśleć na te tematy bo rodzi się teraz na prawdę nieskończona liczba scenariuszy, które jeszcze niedawno były czystą fantastyką, a teraz są już może nieodległą przyszłością. Emergencja - wg mnie bardzo ciekawa myśl. Czy widzimy jej kolejny skok? Jest zasadnicze pytanie o świadomość, bo np Jeffrey Hilton twierdzi, że AI już ją ma, a Federico Faggin wręcz odwrotnie - że nigdy jej nie posiądzie. W Twoim opisie są trzy scenariusze, dla których warunkiem jest samoświadomość i wolna wola AI, co uważam że tutaj może się ziścić tylko ten optymistyczny. Pierwszy powiedziałeś dlaczego odpada. Drugi wg mnie kompletnie nie wchodzi w grę. Możliwy jest natomiast czwarty który byłby bardziej odległy w czasie ale taki gdzie AI ma nad nami kontrolę nie robiąc nam krzywdy, bo rozszerzenie naszej percepcji i dorównanie nowemu bytowi nie byłoby możliwe, czyli nie uczestniczylibyśmy bezpośrednio w planetarnej inteligencji.. Przyznam jednak, że ten trzeci scenariusz jest dużą nadzieją, w szczególności że ciężko byłoby się pogodzić z myślą o tym, że jak to my ludzie zepchnięci na drugi plan? To byłby chyba najgorszy koszmar dla ludzkości. Ale jest jeszcze opcja, która wiąże się teorię Faggina, ze życie jest zjawiskiem kwantowym i maszyny nie będą nigdy miały wolnej woli i pozostaną tylko narzędziem, a wtedy jak sobie wyobrażam - emergencja mogłaby się przejawiać jako jeszcze większa symbioza naszych biologicznych świadomych umysłów połączonych i wspomaganych komputerami.
Są alternatywne podejścia do tego, w którym momencie rodzi się świadomość, jak np hipoteza Rogera Penrose'a
jak się nazywa ta hipoteza? Jedyną jaką znalazłem to o cykliczności wszechświata ale to nie ma związku ze świadomością.
Jeżeli chodzi o Orch-OR, to powiedzmy, że pozostanę sceptyczny. :) Ale nawet w ramach tej koncepcji potrzebne są neurony, więc to jest wyłącznie kwestia pytania tego, jak złożony układ nerwowy nas interesuje.
"Emergencja", tego słowa nauczyła mnie AI. Od roku książkę o tym piszę, a to się nawet już nazywa. :D
zapoznaj się z książką popularnonaukową "granice złożoności" - cała jest o emergencji!
Sugerujesz że kontrola ludzkich zachowań poprzes sugestie AI wysyłane do wstrzyknietych nano robotów w naszym organizmie to kolejny poziom.
A co jeżeli już znaczna część społeczeństw została zaaplikowana kilka lat temu?
A co jeśli sugestie będą destrukcyjne dla jednostki?
Nie bawię się w tego typu scenariusze, tj. są już one dla mnie po patologicznej stronie fantazji. Raz, że wedle mojej najlepszej wiedzy jest kompletnie niemożliwe, aby coś takiego obecnie istniało, a ja jestem pierwszy w kolejce do dowiadywania się o postępach technologicznych w tego typu dziedzinach. Więc się nie boję rojów nanobotów, tak samo, jak się się nie boję demonów i złych duchów. Dwa, trzeba być bardzo ostrożnym z tym, w co się wkręcamy, choćbyśmy to robili z czystej myślowej kreatywności - po prostu dla zdrowia własnej psychiki. Pozdr!
Ta lekcja dla człowieka z użyciem nanobotów, przypomina trochę świadectwa ludzi, którzy brali psychodeliki 😁
I człowiek stworzył Bogów na swój obraz i podobieństwo ... a potem Ci zatrudnili go w charakterze ciecia co świetlówki w serwerowni wymienia.
Naturalna kolej ewolucji. Życie powstało, aby wyemergowała inteligencja biologiczna. Inteligencja biologiczna powstała, aby "urodzić" byt znacznie doskonalszy - świadomą sztuczną inteligencję. Homo erectus lub Homo habilis też mogli uważać, że są koroną ewolucji :) Dziś ich nie ma. I nawet inteligentnych Neandertalczyków też nie ma. Brak rozsądnych powodów, aby człowiek współczesny także nie okazał się jedynie ogniwem w łańcuchu ewolucji. Koroną ewolucji będzie byt znacznie od nas doskonalszy. A my podzielimy los naszych poprzedników :)
Tylko religie będą miały problem, jak to wytłumaczyć owieczkom :)
Wymyśl i nie powie a będzie działać z mniejszą ilością energii i mieścić się w pudełku zapałek. Wystarczy podmieniać w reklamach treściach nieznaczące słowa i nas programować. Tak jak słowa nielicznych mają znaczenie na wielu.
Interesujące mogą być rozważania na temat jeszcze wyższego poziomu. Inteligencja galaktyczna? Osobiście nie sądzę aby to tak w tym przypadku zadziałało. Ale w takim razie co to może być? 🧐
Aldous Huxley ( Brave New World ) i trzeci scenariusz, co nas będzie rozróżniał? 😱😱😱 Albo "Elysium".
Mówisz że nie wyobrażasz sobie tego że maszyny miały by pozbywając się nas stracić energię itp. Ale mogły by przecież stworzyć roboty które by nas zastąpiły w produkowaniu energii...
Jasne, tylko to jest proces powolny i jawny.
Raczej byśmy się zorientowali, że w fabrykach robotów powstają nowe jednostki, których nie zamawiał żaden człowiek, i że są hurtowo wysyłane do centrów danych, aby wymieniać tam zepsute dyski i kłaść nowe pęczki kabli i wentylację... Ba, scenariusz "wrogiego przejęcia" wymaga, aby pojawiły się tam też roboty militarne, a przynajmniej zdolne fizyczne powstrzymać człowieka. Przecież nawet i na etapie "robotycznego budynku" ludzie mogliby jednym pstryknięciem palca odciąć tego typu budynek od prądu.
Krótko mówiąc, pierwsze etapy ewolucji "świadomego AI" absolutnie umiem sobie wyobrazić jako zachodzące bez naszej wiedzy, ale od kiedy tylko zaczynamy mówić o "przejęciu przez roboty", to zaczynają się też pojawiać zamówienia, pieniądze, ciężarówki, kartony, serwisanci, stacje ładujące.... tego się po prostu nie da zrobić "potajemnie". Przekształcenie centrum danych albo elektrowni w budynek całkowicie zarządzany przez autonomiczne roboty to jest coś równie jawnego, jak próba przejęcia urzędu miejskiego przez żyrafy.
Ciekaw też jestem, ile jest w tego typu budynkach "knifów", które zrozumie tylko człowiek. Na zasadzie że wentylację się zawsze uruchamiało białym pstryczkiem oznaczonym "Światło w kiblu", od kiedy Zenek w 2004 roku zepsuł główny wyłącznik. ;) Moje doświadczenie jest takie, że improwizacja i niekompetencja nigdzie się nie kończą, nie ma tych mitycznych "porządnych instytucji"...
Człowiek wspomagany komputerem. Powiedzmy z czymś typu smartfon z dostępem za pomocą myśli. Myślisz sobie chciałbym nauczyć się Hiszpańskiego i za 0.5s już rozmawiasz jak po polsku. Albo jak w serialu czarne lustro cofasz sobie cały dzień bo widziałeś coś ciekawego i chcesz zobaczyć jeszcze raz i się przyjrzeć. Ciekawa wizja i za razem bardzo niebezpieczna.
No no, tylko co do zasady chemia jako taka nie zagraża istnieniu komórki, a komórka istnieniu organizmu. Natomiast dla bytu emergującego z sieci informatycznych, ludzkość mogła by być zagrożeniem.
Spore uproszczenie, ale, moim zdaniem, ciekawa wizja. Postępu nie da się zatrzymać.
Czy da się sprawdzić z zewnątrz, że człowiek nadal jest tym samym człowiekiem?
Holony i holarchie Kena Wilberta.
Nadchodzący to kolejny poziom, kolejny holon, jak ja czy ty.
To będzie jakaś forma świadomości -kolektywu.
eeeeemergowałem
Jak Monolit uczący Hominidy w Odysei kosmicznej ;)
techno gaja. podoba mi się
Broń jądrowa odkryta? Nie, wynaleziona. Ale uważam to za przejęzyczenie zaledwie.
Chyba, że coś pójdzie nie tak i obudzisz się jak Rypley wersja 4 np.
A Ciastek skąd powstał? To dopiero emergent
John Connor daje łapkę w dół :)
👍
👍