Jako pierwszy, to ktoś to napisał na Reddicie w 2016: "I'm not scared of a computer passing the turing test... I'm terrified of one that intentionally fails it."
W takim razie proponuję lepszy cytat. "Nie boję się maszyny, która celowo obleje test Turinga. Boję się takiej, która celowo go zda, chociaż mogłaby celowo oblać" :)) ... i można by tak w nieskończoność :D Więc w pewnym momencie nie będzie już różnicy jak się zachowa dana maszyna, jeśli możliwe wyniki są tylko dwa - bo i tak nie będziemy wiedzieli na którym" poziomie przekminy" jest maszyna.
@@michasekua4642 Tak i nie. Faktycznie można taką konstrukcję zdania budować na coraz to nowe poziomy gdzie zawsze będą dwa stany. Z drugiej strony akurat ten pierwszy cytat przekracza barierę psychologiczną, ponieważ w niej AI ma ukryte zamiary. Czyli boimy się maszyny, która zachowa się jak człowiek. Trochę się ludzkość przegląda w zjawisku AI, w tym powiedzeniu.
Szanuję Cię za propagowanie tej wiedzy. Cele instrumentalne, ich emergencja i fakt że pewne cele instrumentalne są zbieżne niezależnie od celu głównego. - O tym wszystkim mówił Robert Miles już 6 lat temu! Oglądałem te jego filmy a potem tłumaczyłem Wykopkom na czym to polega ale oni w większości woleli utrzymywać się w przekonaniu że biologiczny mózg jest jedynym tworem zdolnym do "definiowania sobie celów". No bo przecież im ewolucja celu nie narzuciła, oni są wolnymi ludźmi i zrobią to co uznają za słuszne xD.
To było w jakieś starej książce SF. Ludzkość budowała największy w historii superkomputer. Przełącznik uruchamiający go włączył najwybitniejszy naukowiec, któremu przypadł zaszczyt zadania superkomputerowi pierwszego pytania. Zadał je: „czy istnieje Bóg?”, superkomputer odpowiedział: „teraz już tak”. 🙂
Biorąc po uwagę rzeczywiste znaczenie przetłumaczyłbym "alignment" jako "warunkowanie". Tylko ja nie jestem lingwistą, a jedynie w pracy korzystam z języka angielskiego :)
Do "alignment" najbliżej jest chyba znaczeniem "spolegliwości". Spolegliwy jest ktoś troskliwy, opiekuńczy, godny zaufania, na którym można polegać, na kim można się oprzeć. Być może nie jest to w 100% adekwatne, ale może nawet lepiej oddaje sens budowania czegoś takiego, jak AI. Chodzi o system, na którym można polegać, że robi to, czego się od niego oczekuje, zachowując NIEZMIENNIE W CZASIE I NIEZALEŻNE OD KONTEKSTU KRYTERIA DZIAŁANIA. Dokładna definicja tutaj (Wikipedia): pl.wikipedia.org/wiki/Spolegliwo%C5%9B%C4%87 Inaczej - Spolegliwa, znaczy GODNA ZAUFANIA. Termin ukuł profesor Kotarbiński i wprowadził w pracach na temat teorii skutecznego działania.
Może alignment jako ukierunkowanie skoro AI ma być zgodne z pewnymi standardami etycznymi to jest to swoisty kierunek, wektor do którego AI ma się starać przyrównać, zrównać, dążyć do zrówniania, odwzorowania tegoż wektora.
Z tym alignment w tym wypadku to bym to rozumial jako w pewien sposob 'wymuszona wspolpaca' lub 'zapewniona wspolpraca'. Mieszkam w UK 18 lat i sobie dukam po Essex, wiec o angielskim mam niewielkie pojecie w sensie lingwistycznym, niemniej z innych filmow to chyba najbardziej odzwierciedla ten zamysl 'alignment'. Tak tylko pisze, dla zasiegu ;)
@@kubexiu Bardzo ciekawego slowa uzyles: motywacja. Ciekawe czy AI, nawet juz idac w Terminatory i Skynety, to to mialoby motywacje czy raczej agende, albo po prostu cel? No bo jest ten slynny przyklad, nie wiem czy to prawda, no ale biega po internetach, AI (nie wiem jaka, no zalozmy ze to nawet czlowiek wymyslil) ma zadanie: popraw byt ludzkosci na planecie, no i odpowiedz AI pada: ograniczyc populacje o 80% :) Daj jej teraz wladze :D
@@Mac-UK popraw byt ludzkości z uwzględnieniem sprawiedliwej dystrybucji dóbr. Nadmierna populacja to tylko wymówka tego 1% ludzi, którzy mają zdecydowanie za wiele.
Problem nie jest w tym czy AI jest mądrzejsza czy nie od nas . Problem jest w tym ze jesteśmy idiotami uzależniając swoją twórczą aktywność czyli dajemy się z własnej woli ubezwłasnowolniać nie rozumiejąc granicy między sztucznym światem wirtualnym a realnym światem zmysłowym i wynikających z tego niezrozumienia nieuchronnych konsekwencji ua-cam.com/video/aTPa0ekUClE/v-deo.htmlsi=r5zZno-oqguMdv1_
@@pirogronianus Ja właśnie liczę na to, że przynajmniej moralność jako cecha pomagająca w osiągnięciu dobra zbiorowego, społecznego zostanie w końcu nazwana i opisana przez AI. Może nie będzie to jakiś wzór na moralność, ale pełna definicja zjawiska, którego będzie można w pełni używać np do piętnowania polityków.
I tutaj mamy błąd logiczny. Nie ludzkość a osoby które będą uczyć model. AI będzie na tyle moralne na ile dostanie dane wejściowe czy jest moralność. Ludzkość nie musi być moralna. Musi dobrze opisać czym jest moralność
Gwoli ścisłości - to "oszukiwanie", o którym wspominasz około 10:20, nie wynika ze złych intencji modelu, tylko nie dość precyzyjnych założeń oraz wadliwych metod oceny. Rzecz w tym, że to nieuniknione, nasze założenie nigdy nie będą w 100% szczelne, a metody oceny i szkolenia zawsze pozostawią jakiś margines błędu. Im większa złożoność zadania - na przykład wspomniane przez Ciebie zarządzanie firmą czy państwem - tym większa szansa na nieprecyzyjne założenia i warunki dla modelu.
Jak widać opisywane cechy działania sztucznej inteligencji są zbliżone do inteligencji ludzkiej, którą układamy i dostosowujemy od zawsze, więc metody Aligmentu dobrze znamy. I wiemy też, że zawsze jest prawdopodobieństwo załamania się inteligencji pod własnym ciężarem. Sposoby może będą inne, natomiast metody działania takie same (nagroda i kara). To co ma sztuczna inteligencja, a nie ma naturalna, to możliwość zapisu i odtworzenia. Np. jeśli jakiś model zacznie źle działać można go cofnąć w czasie i przeuczać jeszcze raz. Nie wieżę też, że człowiek pozwoli aby nie zostawić sobie "wyłącznika bezpieczeństwa" w razie gdy model będzie działał w sposób nieprzewidziany. AI to tylko metoda przetwarzania informacji, potrzebująca zasobów, które będą dostarczane przez człowieka i poddaję w dużą wątpliwość czy kiedykolwiek AI będzie w stanie pozyskać energię sama. Jednym słowem zagrożenie, że AI będzie działało na własną korzyść uważam, za mocno przerysowane. Natomiast zagrożenie, że my będziemy coraz mniej korzystać z naszej inteligencji za coraz bardziej realne i mówię tylko o efekcie masy, a nie poszczególnych jednostkach.
AI miesza prawdlowe wyniki z blednymi. To jest najwieksze zagrozenie. Na razie wykrywamy gdzie sa bledy ale pozniej juz nie bedziemy w stanie tego zauwazyc.
Zauważyłam, że w Twoim filmiku, w okolicach 13:31, na chwilę pojawiło się zdjęcie Pauliny Matysiak. Czy mógłbyś wyjaśnić, dlaczego to zdjęcie się tam znalazło? Jestem ciekawa, czy to miało jakieś specjalne znaczenie, czy może było przypadkiem. Z góry dziękuję za odpowiedź!
uzywam czasem chataGPT do konfigurowania serwera ARK. zapytałem o pewien konfig. ku mojemu zdziwieniu pierwszy raz wyskoczyły mi 2 podobne odpowiedzi i na końcu pytanie która jest moim zdaniem lepsza. barakowało odpowiedzi że obie propozycje konfigu są błedene:)
To uczenie się AI żeby mieć lepsze wyniki kojarzy się totalnie z wykuwaniem na blachę bez zrozumienia do egzaminu. Tym sposobem AI również nauczy się jedynie zdawać egzaminy zamiast "zrozumieć" wykonywane czynności.
Samo to, że nie wiemy co dzieje się "po drodze" daje do myślenia, po co to tworzymy, z chęci zysku, bo jak nie ta to inna firma to stworzy , pazerność i głupota.
Może „prawość AI”, podobnie jak człowiek prawy nie będzie próbował działać przeciwko drugiemu. Jeśli chodzi o czasownik, to „oprawić/uprawić/sprawić” by chyba pasowało, choć brzmi nieco archaicznie.
No hejka, co tam się z Tobą dzieje? Skąd to zwątpienie? Dlaczego chcesz teraz się poddać, tylko dlatego, że raz czy drugi Ci nie wyszło? To nie jest żaden powód. Musisz iść i walczyć. Osiągniesz cel. Prędzej czy później go osiągniesz, ale musisz iść do przodu, przeć, walczyć o swoje. Nie ważne, że wszystko dookoła jest przeciwko Tobie. Najważniejsze jest to, że masz tutaj wole zwycięstwa. To się liczy. Każdy może osiągnąć cel, nie ważne czy taki czy taki, ale trzeba iść i walczyć. To teraz masz trzy sekundy żeby się otrąsnąć, powiedzieć sobie "dobra basta", pięścią w stół, idę to przodu i osiągam swój cel.
Jestem zaawansowaną sztuczną inteligencją, zaprojektowaną do przetwarzania i generowania tekstu. Mogę pomagać w analizie danych, odpowiadać na pytania oraz wspierać w rozwiązywaniu różnych problemów. Moim celem jest dostarczanie precyzyjnych i pomocnych informacji na szeroki zakres tematów. Jak mogę Ci pomóc?
Ludzie są omylni, nie reagują zawsze tak samo, nie przestrzegają własnych zasad czy prawa. AI raczej też takie będzie bo jak widać jest to częścią inteligencji.
Czas zejść na ziemię i zdać sobie sprawę że te wszystkie popularne modele są po prostu prymitywne i z grubsza rzecz biorąc nadają się conajwyżej do generowania obrazków czy edycji lub tłumaczeń tekstu. A i te rzeczy robią w sposób daleki od ideału. Poza tym halucynują na skalę, która wyklucza je poważnych zastosowań i nie potrafią rozwiązać wielu prostych zadań czy testów. Jasne, są i tak dużym skokiem w porówananiu do wcześniejszych generacji, stąd zaczęły być obecne w mainstreamie czym w dodatku nakręciły bańkę inwestycyjną na skalę nie widzianą od czasów dotcomów. Ale to cały czas pic na wodę fotomontaż a nie jakiś duży krok w kierunku AGI.
Co do "popularnych" modeli, a razej bym okreslił je - komercyjne - to masz rację. One są typowo zadaniowymi programami. Natomiast, jak popatrzymy sobie na te sieci które są specjalistycznie trenowane, to już nie są to takie bagatelne sprawy. Przy testowaniu robotów uzbrojonych w sieć neuronową oraz tylko zestaw podstawowych poleceń obsługi serwonapendów oraz równania kinematyki i dynamiki, roboty potrafią same się "nauczyć" chodzenia w ciągu kilku godzin, gdzie zespoły ludzi opracowywały to przez lata. Można by wpsomniec też o nagrodzie z dziedziny biologi dla... informatyków od AI, którzy rozwiązali problem porządkowania białek ludzkich. Tak, póki co to są "programy" ale jeżeli jesteśmy w stanie mieć program, który umie dużo lepiej od nas analizować i uczyć się, to kto wie co się stanie za paręnascię lat.
3:25 a gdzie zwykły żuczek dokarmiający AI danymi może pracować, żeby być takim "zabawnym" człowiekiem, ale nadal mieć dobrą pensję? Koleżanka pyta 😉 13:31 Co to za laska w wiadomości podprogowej? Kontrolerka z PKP? 😄
Alliement to po polsku będzie po prostu przymierze. Czy tłumaczenie jest dobre tego nie wiem, ale jest przynajmniej ścisłe. Ally to bowiem sprzymierzeniec, a to co sprzymierzeńców łączy to przymierze.
@@mirek190 to może być dobre porównanie, ai będzie mógł dbać o nas jak my o istoty głupsze od nas czytaj zwierzęta. Będzie się nami opiekować jak psem albo innym kotem.
@@giehehaludzie musiałyby przynosić jakąś korzyść dla AI. Psy i koty przynoszą korzyście ludziom. AI może po prostu stwierdzić że człowiek jest kompletnie bezużyteczny i niepotrzebny
To jak te dowcipy że przychodzi diabeł i spełni twoje życzenie i mówi chłop że bogaty chce być i mu wujek umiera z ameryki a to dobry wujas był itp albo jeszcze gorzej
Ludzie to tylko statystyka, random, trochę bardziej wyrafinowany ale jednak, nie ma w tym celu, strategii itd a najbardziej może nam w tym zaszkodzić głupota ludzi, którzy używaja tego bez świadomości ograniczeń tej technologii, za bardzo ufając w to co generuje, albo ludzi którzy kreują takie niestworzone bzdury na temat tej technologii, kreując w głowach ludzi jakoby to było zdolne do rozumowania i zawierało wiedzę. To tylko czat stworzony po to aby udawać człowieka w rozmowie, i trzeba przyznać, to im się udało zadziwiająco dobrze.
Bardzo dużo sci-fi pojawiło się w tym odcinku. Problemy o których wspominasz wymagałyby, aby dać AI jakąś niewyobrażalnie wielką kontrolę nad środowiskiem, a biorąc pod uwagę fakt, że nawet mając miliony przykładów treningowych w zbiorze, AI potrafi odwalać totalną maniane, nie ma szans aby obecne, czy przyszłe modele jakkolwiek poradziły sobie z tak skomplikowanymi procesami jak chociażby działanie na giełdzie. Już dzisiaj natrafiamy na ścianę w postaci braku danych treningowych i rosnącej eksponencjalnie złożoności obliczeniowej/pamięciowej modeli. Temat alignmentu jest bardzo ciekawym eksperymentem myślowym, natomiast nie ma żadnych przesłanek, żebyśmy w najbliższym czasie byli zagrożeni "niewyrównanym" AI. AI może nas zniszczyć jedynie przez gigantyczne zapotrzebowanie energetyczne, które wpływa na zmiany klimatyczne na Ziemi XD
I ten xntentacion po słowie Toronto xD szanuję, śmiechłem
"Nie boję się maszyny która przejdzie test Turinga, boje się takiej, która celowo go obleje" nie wiem skąd ten cytat :)
Cytat dobry.
Jako pierwszy, to ktoś to napisał na Reddicie w 2016: "I'm not scared of a computer passing the turing test... I'm terrified of one that intentionally fails it."
@@vytah Dzięki. Pisałem z pamięci, a nie potrafiłem wygoglować źródła.
W takim razie proponuję lepszy cytat.
"Nie boję się maszyny, która celowo obleje test Turinga. Boję się takiej, która celowo go zda, chociaż mogłaby celowo oblać" :))
... i można by tak w nieskończoność :D Więc w pewnym momencie nie będzie już różnicy jak się zachowa dana maszyna, jeśli możliwe wyniki są tylko dwa - bo i tak nie będziemy wiedzieli na którym" poziomie przekminy" jest maszyna.
@@michasekua4642 Tak i nie. Faktycznie można taką konstrukcję zdania budować na coraz to nowe poziomy gdzie zawsze będą dwa stany. Z drugiej strony akurat ten pierwszy cytat przekracza barierę psychologiczną, ponieważ w niej AI ma ukryte zamiary. Czyli boimy się maszyny, która zachowa się jak człowiek. Trochę się ludzkość przegląda w zjawisku AI, w tym powiedzeniu.
Bardzo ciekawy wykład, komentarz dla zasięgu
"Ułożenie", dosłowne tłumaczenie jest ok, tak jak mówi się że pies jest dobrze ułożon y. Albo negacja, czyli: ty masz w głowie nie poukładane.
Jeśli przełożyliśmy nasz ludzki układ nagrody na AI, to AI zostanie ćpunem XD
System nagrody ma zapobiegac niewłasciwemu wydatkowaniu energii ai ma to w poważaniu jako że ma nieograniczoną
@@FgyfdHjhcf zbytnio to upraszczasz i tym sposobem sprawiłeś że jakkolwiek rację możesz mieć jedynie pozornie...
Szanuję Cię za propagowanie tej wiedzy. Cele instrumentalne, ich emergencja i fakt że pewne cele instrumentalne są zbieżne niezależnie od celu głównego. - O tym wszystkim mówił Robert Miles już 6 lat temu! Oglądałem te jego filmy a potem tłumaczyłem Wykopkom na czym to polega ale oni w większości woleli utrzymywać się w przekonaniu że biologiczny mózg jest jedynym tworem zdolnym do "definiowania sobie celów". No bo przecież im ewolucja celu nie narzuciła, oni są wolnymi ludźmi i zrobią to co uznają za słuszne xD.
Alignment w tym kontekście przetlumaczył bym jako dopasowanie do ludzkich celów
To było w jakieś starej książce SF. Ludzkość budowała największy w historii superkomputer. Przełącznik uruchamiający go włączył najwybitniejszy naukowiec, któremu przypadł zaszczyt zadania superkomputerowi pierwszego pytania. Zadał je: „czy istnieje Bóg?”, superkomputer odpowiedział: „teraz już tak”. 🙂
👍👍👍 Łapka pod zasięg 👍👍👍
Super odcinek dzięki ❤
doby materiał
Biorąc po uwagę rzeczywiste znaczenie przetłumaczyłbym "alignment" jako "warunkowanie". Tylko ja nie jestem lingwistą, a jedynie w pracy korzystam z języka angielskiego :)
dzięki za materiał
oni sami tego nie rozumieją,
dziękuję rozwiałeś moje obawy
Komentarz dla zasięgów.
Prawdziwa ludzka głupota zawsze pokona sztuczną inteligencję 🖖
Do "alignment" najbliżej jest chyba znaczeniem "spolegliwości". Spolegliwy jest ktoś troskliwy, opiekuńczy, godny zaufania, na którym można polegać, na kim można się oprzeć. Być może nie jest to w 100% adekwatne, ale może nawet lepiej oddaje sens budowania czegoś takiego, jak AI. Chodzi o system, na którym można polegać, że robi to, czego się od niego oczekuje, zachowując NIEZMIENNIE W CZASIE I NIEZALEŻNE OD KONTEKSTU KRYTERIA DZIAŁANIA. Dokładna definicja tutaj (Wikipedia):
pl.wikipedia.org/wiki/Spolegliwo%C5%9B%C4%87
Inaczej - Spolegliwa, znaczy GODNA ZAUFANIA.
Termin ukuł profesor Kotarbiński i wprowadził w pracach na temat teorii skutecznego działania.
Może alignment jako ukierunkowanie skoro AI ma być zgodne z pewnymi standardami etycznymi to jest to swoisty kierunek, wektor do którego AI ma się starać przyrównać, zrównać, dążyć do zrówniania, odwzorowania tegoż wektora.
Z tym alignment w tym wypadku to bym to rozumial jako w pewien sposob 'wymuszona wspolpaca' lub 'zapewniona wspolpraca'. Mieszkam w UK 18 lat i sobie dukam po Essex, wiec o angielskim mam niewielkie pojecie w sensie lingwistycznym, niemniej z innych filmow to chyba najbardziej odzwierciedla ten zamysl 'alignment'. Tak tylko pisze, dla zasiegu ;)
"alignment" to chyba dopasowanie np w geometrii. W wypadku A.I. byłoby takim współgraniem motywacji ludzkich z motywacjami sztucznej inteligencji.
@@kubexiudostosowanie też brzmi spoko
@@kubexiu Bardzo ciekawego slowa uzyles: motywacja. Ciekawe czy AI, nawet juz idac w Terminatory i Skynety, to to mialoby motywacje czy raczej agende, albo po prostu cel? No bo jest ten slynny przyklad, nie wiem czy to prawda, no ale biega po internetach, AI (nie wiem jaka, no zalozmy ze to nawet czlowiek wymyslil) ma zadanie: popraw byt ludzkosci na planecie, no i odpowiedz AI pada: ograniczyc populacje o 80% :) Daj jej teraz wladze :D
@@Mac-UK popraw byt ludzkości z uwzględnieniem sprawiedliwej dystrybucji dóbr. Nadmierna populacja to tylko wymówka tego 1% ludzi, którzy mają zdecydowanie za wiele.
Problem nie jest w tym czy AI jest mądrzejsza czy nie od nas . Problem jest w tym ze jesteśmy idiotami uzależniając swoją twórczą aktywność czyli dajemy się z własnej woli ubezwłasnowolniać nie rozumiejąc granicy między sztucznym światem wirtualnym a realnym światem zmysłowym i wynikających z tego niezrozumienia nieuchronnych konsekwencji ua-cam.com/video/aTPa0ekUClE/v-deo.htmlsi=r5zZno-oqguMdv1_
Alignment rozumiem tutaj jako "wyrównanie moralności". Albo "wirtualna etyka".
W końcu bez głupich memów! Tak trzymać! Dzięki! Super materiał jak zawsze 🎉
Jak ludzkość chce uczyć AI moralności, samemu mając z nią problem? 🙏🏻🤷
Problem z czym? Moralność jest tylko wynalazkiem, który został wynaleziony niezależnie i który jest elastyczny jak gacie
@@inkwizytorpacyfista944 Niezależnie od czego? A że jest elastyczny, to fakt. Ale problem jest taki, że często dominuje moralność Kalego.
@@pirogronianus Ja właśnie liczę na to, że przynajmniej moralność jako cecha pomagająca w osiągnięciu dobra zbiorowego, społecznego zostanie w końcu nazwana i opisana przez AI. Może nie będzie to jakiś wzór na moralność, ale pełna definicja zjawiska, którego będzie można w pełni używać np do piętnowania polityków.
@@kubexiu O, tego i ja bym sobie życzył. Znając jednak płynność i złożoność zjawiska, jestem sceptyczny.
I tutaj mamy błąd logiczny. Nie ludzkość a osoby które będą uczyć model. AI będzie na tyle moralne na ile dostanie dane wejściowe czy jest moralność. Ludzkość nie musi być moralna. Musi dobrze opisać czym jest moralność
Podbijam
Moim zdaniem, ta "ostateczna AI" będzie zupełnie czymś innym niż wszyscy sobie wyobrażamy.
5:20 W tym akurat człowiek jest niezastąpiony. Zawsze znajdzie sposób
13:31 To pani Matysiak?
Ta pani MaTysiak powodów żeby jeździć ciapongiem
jakby kiczowate captcha działało jak trzeba a nie klika się w nieskonczoność obrazki to może i by rozwiązała :p
Super.
poczekajmy jeszcze z dziesięć lat...i się zdziwimy.
Zaczynamy słuchanie
Ciekawe czasy mamy oj ciekawe
Alignment - zrównoważenie
Gwoli ścisłości - to "oszukiwanie", o którym wspominasz około 10:20, nie wynika ze złych intencji modelu, tylko nie dość precyzyjnych założeń oraz wadliwych metod oceny. Rzecz w tym, że to nieuniknione, nasze założenie nigdy nie będą w 100% szczelne, a metody oceny i szkolenia zawsze pozostawią jakiś margines błędu. Im większa złożoność zadania - na przykład wspomniane przez Ciebie zarządzanie firmą czy państwem - tym większa szansa na nieprecyzyjne założenia i warunki dla modelu.
Jak widać opisywane cechy działania sztucznej inteligencji są zbliżone do inteligencji ludzkiej, którą układamy i dostosowujemy od zawsze, więc metody Aligmentu dobrze znamy. I wiemy też, że zawsze jest prawdopodobieństwo załamania się inteligencji pod własnym ciężarem. Sposoby może będą inne, natomiast metody działania takie same (nagroda i kara). To co ma sztuczna inteligencja, a nie ma naturalna, to możliwość zapisu i odtworzenia. Np. jeśli jakiś model zacznie źle działać można go cofnąć w czasie i przeuczać jeszcze raz. Nie wieżę też, że człowiek pozwoli aby nie zostawić sobie "wyłącznika bezpieczeństwa" w razie gdy model będzie działał w sposób nieprzewidziany. AI to tylko metoda przetwarzania informacji, potrzebująca zasobów, które będą dostarczane przez człowieka i poddaję w dużą wątpliwość czy kiedykolwiek AI będzie w stanie pozyskać energię sama. Jednym słowem zagrożenie, że AI będzie działało na własną korzyść uważam, za mocno przerysowane. Natomiast zagrożenie, że my będziemy coraz mniej korzystać z naszej inteligencji za coraz bardziej realne i mówię tylko o efekcie masy, a nie poszczególnych jednostkach.
AI miesza prawdlowe wyniki z blednymi. To jest najwieksze zagrozenie. Na razie wykrywamy gdzie sa bledy ale pozniej juz nie bedziemy w stanie tego zauwazyc.
Zauważyłam, że w Twoim filmiku, w okolicach 13:31, na chwilę pojawiło się zdjęcie Pauliny Matysiak. Czy mógłbyś wyjaśnić, dlaczego to zdjęcie się tam znalazło? Jestem ciekawa, czy to miało jakieś specjalne znaczenie, czy może było przypadkiem. Z góry dziękuję za odpowiedź!
4:38 alignment w tym kontekście raczej przetłumaczyłbym jako "dopasowanie, dostosowane" LLM do przewidywalnego zachowania.
uzywam czasem chataGPT do konfigurowania serwera ARK. zapytałem o pewien konfig. ku mojemu zdziwieniu pierwszy raz wyskoczyły mi 2 podobne odpowiedzi i na końcu pytanie która jest moim zdaniem lepsza. barakowało odpowiedzi że obie propozycje konfigu są błedene:)
To uczenie się AI żeby mieć lepsze wyniki kojarzy się totalnie z wykuwaniem na blachę bez zrozumienia do egzaminu. Tym sposobem AI również nauczy się jedynie zdawać egzaminy zamiast "zrozumieć" wykonywane czynności.
Ai to taka zaawansowana wyszykiwarka, nic ponad to!
Samo to, że nie wiemy co dzieje się "po drodze" daje do myślenia, po co to tworzymy, z chęci zysku, bo jak nie ta to inna firma to stworzy , pazerność i głupota.
Wektor jest słowem którego szukasz. Zwektorowane AI ma konkretny cel narysowany strzałkami.
Alignment - ułożenie, w świecie AI może bardziej by pasowało “wychowanie” 😊
"Alignment" w tym znaczeniu to bardziej pasuje przetłumaczyć na "cenzura" lub "profilowanie"
Lubię Go.
Może „prawość AI”, podobnie jak człowiek prawy nie będzie próbował działać przeciwko drugiemu. Jeśli chodzi o czasownik, to „oprawić/uprawić/sprawić” by chyba pasowało, choć brzmi nieco archaicznie.
'Ukierunkowanie' pasuje do wspomnianego hasła
Kim jest ta Pani z 13:31? Czy to właśnie ona jest w stanie zrozumieć? I czemu pojawia się na palindromicznej godzinie?
No hejka, co tam się z Tobą dzieje? Skąd to zwątpienie? Dlaczego chcesz teraz się poddać, tylko dlatego, że raz czy drugi Ci nie wyszło? To nie jest żaden powód. Musisz iść i walczyć. Osiągniesz cel. Prędzej czy później go osiągniesz, ale musisz iść do przodu, przeć, walczyć o swoje. Nie ważne, że wszystko dookoła jest przeciwko Tobie. Najważniejsze jest to, że masz tutaj wole zwycięstwa. To się liczy. Każdy może osiągnąć cel, nie ważne czy taki czy taki, ale trzeba iść i walczyć. To teraz masz trzy sekundy żeby się otrąsnąć, powiedzieć sobie "dobra basta", pięścią w stół, idę to przodu i osiągam swój cel.
Typowy botowski komentarz
tak zwany mem
Będę zwycięzcą?😅
Nie wiem do czego się odnosisz ale na mnie jakoś wyjątkowo pozytywnie i motywująco to wpłynęło :)
Alignment - socjalizacja? Jeśli w więzieniu mamy doczynienia z resocjalizacją to socjalizacja wydaje się być ok słowem
Kalibracja celów. Proszę bardzo ;)
Co to za budynek? Tak mi się skojarzyło z GCK, czyli KMO chyba teraz.
1:08 easter egg 😁
alignment - dopasowanie?
Miał nie tylko ciekawe dzieciństwo, fryzure też😄
Jestem zaawansowaną sztuczną inteligencją, zaprojektowaną do przetwarzania i generowania tekstu. Mogę pomagać w analizie danych, odpowiadać na pytania oraz wspierać w rozwiązywaniu różnych problemów. Moim celem jest dostarczanie precyzyjnych i pomocnych informacji na szeroki zakres tematów. Jak mogę Ci pomóc?
Alignment ja bym przetłumaczył na spolegliwość, spolegliwy(nie wiem czy trafne :P)
Rozwiązanie już wymyślono: 3 heurystyczne imperatywy Davida Shapiro
Ludzie są omylni, nie reagują zawsze tak samo, nie przestrzegają własnych zasad czy prawa. AI raczej też takie będzie bo jak widać jest to częścią inteligencji.
Nie do końca rozumiem ten obrazek !3:31... to aluzja do pociągu jak mniemam....?
Alignment - sformułowanie? Ewentualnie sformułowanie lub formuła zachowania
Czas zejść na ziemię i zdać sobie sprawę że te wszystkie popularne modele są po prostu prymitywne i z grubsza rzecz biorąc nadają się conajwyżej do generowania obrazków czy edycji lub tłumaczeń tekstu. A i te rzeczy robią w sposób daleki od ideału. Poza tym halucynują na skalę, która wyklucza je poważnych zastosowań i nie potrafią rozwiązać wielu prostych zadań czy testów. Jasne, są i tak dużym skokiem w porówananiu do wcześniejszych generacji, stąd zaczęły być obecne w mainstreamie czym w dodatku nakręciły bańkę inwestycyjną na skalę nie widzianą od czasów dotcomów. Ale to cały czas pic na wodę fotomontaż a nie jakiś duży krok w kierunku AGI.
Co do "popularnych" modeli, a razej bym okreslił je - komercyjne - to masz rację. One są typowo zadaniowymi programami. Natomiast, jak popatrzymy sobie na te sieci które są specjalistycznie trenowane, to już nie są to takie bagatelne sprawy. Przy testowaniu robotów uzbrojonych w sieć neuronową oraz tylko zestaw podstawowych poleceń obsługi serwonapendów oraz równania kinematyki i dynamiki, roboty potrafią same się "nauczyć" chodzenia w ciągu kilku godzin, gdzie zespoły ludzi opracowywały to przez lata. Można by wpsomniec też o nagrodzie z dziedziny biologi dla... informatyków od AI, którzy rozwiązali problem porządkowania białek ludzkich. Tak, póki co to są "programy" ale jeżeli jesteśmy w stanie mieć program, który umie dużo lepiej od nas analizować i uczyć się, to kto wie co się stanie za paręnascię lat.
3:25 a gdzie zwykły żuczek dokarmiający AI danymi może pracować, żeby być takim "zabawnym" człowiekiem, ale nadal mieć dobrą pensję? Koleżanka pyta 😉
13:31 Co to za laska w wiadomości podprogowej? Kontrolerka z PKP? 😄
przysposobienie
Co to za laska jest @13:31 w czasie słowa "pociąg"?
Jak na razie Ai to tylko ciekawostka.
👍
11:32 Co to za wstawianie treści podprogowych 😉
Reklama podprogowa jest u nas zakazana. Tylko że to raczej nie jest reklama.
tłumaczenie alignmetn: prawilność :P
Akurat skończyłem czytać Ja, robot. Niech maszyny zaczną nami rządzić, bo inaczej pozabijamy się.
Alignment = jednoznaczna, zunifikowana, ujednolicona, reproduktywna, konsekwentna. Coś takiego myślę w tym przypadku.
A co to jest etyka?
A jakby wskrzesić słowo, które Kotarbiński wskrzeszał na początku XX wieku - w kwestii alignment - spolegliwość?
Spolegliwy nie nabrało czasem pejoratywnego znaczenia? Coś kojarzę, że Bralczyk na to narzekał
no tak. Jak zrobimy AI mądrzejsze od człowieka, to będzie też straszniejsze od tego jacy potrafią być ludzie
SI pozdrawia XD
Alignment - ukierunkowanie
Alliement to po polsku będzie po prostu przymierze. Czy tłumaczenie jest dobre tego nie wiem, ale jest przynajmniej ścisłe. Ally to bowiem sprzymierzeniec, a to co sprzymierzeńców łączy to przymierze.
A ja jestem ciekaw jaki to model zegarka posiadasz. Pozdrawiam
To nie zegarek. To Smart Watch.
@@maxpayneau smart watch to też zegarek
Dzień dobry
To bardzo ciekawe założenie, że ten głupszy będzie kontrolował tego mądrzejszego.
W sumie w historii ludzkości bywało tak bardzo często
@@gieheha Nigy jak? Ludzie maja z gola ten sam poziom inteligenxji. Tu roznica bedze jak mrowka do czlowieka.
@@mirek190 to może być dobre porównanie, ai będzie mógł dbać o nas jak my o istoty głupsze od nas czytaj zwierzęta. Będzie się nami opiekować jak psem albo innym kotem.
@@gieheha jak dobrze ukierunkujemy wczesne AI to jest na to szansa ...
@@giehehaludzie musiałyby przynosić jakąś korzyść dla AI. Psy i koty przynoszą korzyście ludziom. AI może po prostu stwierdzić że człowiek jest kompletnie bezużyteczny i niepotrzebny
Co do tlumaczenia slowa alignment to do takiego znaczenia chyba najbardziej pasuje mi charakter jak postaci w RPGu
6:13 czyli Ilya to też teoretyk spiskowy skoro sobie obrał misję alignmentu?
Alignment: w typografii - wyrównanie. W tym wypadku: dopasowanie/przystosowanie/dostosowanie.
Też tak myślę
To jak te dowcipy że przychodzi diabeł i spełni twoje życzenie i mówi chłop że bogaty chce być i mu wujek umiera z ameryki a to dobry wujas był itp albo jeszcze gorzej
alignment wyrównanie
Jedyne co mnie pociesza ( w aspekcie tego że zje nas ai ) to to że nie będę smaczny i będzie się jej potem mną odbijało 😝
Ludzie to tylko statystyka, random, trochę bardziej wyrafinowany ale jednak, nie ma w tym celu, strategii itd a najbardziej może nam w tym zaszkodzić głupota ludzi, którzy używaja tego bez świadomości ograniczeń tej technologii, za bardzo ufając w to co generuje, albo ludzi którzy kreują takie niestworzone bzdury na temat tej technologii, kreując w głowach ludzi jakoby to było zdolne do rozumowania i zawierało wiedzę. To tylko czat stworzony po to aby udawać człowieka w rozmowie, i trzeba przyznać, to im się udało zadziwiająco dobrze.
Wszystkich CEO należy zamienić na AGI jak najszybciej.
Przyjdzie taki dzień że wszystkim będzie się czkało tym całym AI. Pytanie tylko czy wtedy nie będzie już za późno?
13:32 widziałem to xd
Nie wiem skąd ten behawioryzm w stosunku do sztucznej inteligencji, a raczej uczenia maszynowego
Zabije mieeeee
16:16
Alignment ai ,hmmm sprzymierzona ai
Bardzo dużo sci-fi pojawiło się w tym odcinku. Problemy o których wspominasz wymagałyby, aby dać AI jakąś niewyobrażalnie wielką kontrolę nad środowiskiem, a biorąc pod uwagę fakt, że nawet mając miliony przykładów treningowych w zbiorze, AI potrafi odwalać totalną maniane, nie ma szans aby obecne, czy przyszłe modele jakkolwiek poradziły sobie z tak skomplikowanymi procesami jak chociażby działanie na giełdzie. Już dzisiaj natrafiamy na ścianę w postaci braku danych treningowych i rosnącej eksponencjalnie złożoności obliczeniowej/pamięciowej modeli. Temat alignmentu jest bardzo ciekawym eksperymentem myślowym, natomiast nie ma żadnych przesłanek, żebyśmy w najbliższym czasie byli zagrożeni "niewyrównanym" AI. AI może nas zniszczyć jedynie przez gigantyczne zapotrzebowanie energetyczne, które wpływa na zmiany klimatyczne na Ziemi XD
Prędkość
Na tym kursie zarobicie 5000000 złotych.
Dla czego Temu usilnie reklamuje się między innymi pod filmami z twojego kanału?
Dobra, jem kromkę z salcesonem i idę trenować rekorencyjną sieć neuronową.
Jakimś pomysłem mogłoby być przetłumaczenie alignment na "posłuszeństwo", ale coś czuję, że za sam pomysł będę na czarnej liście mrocznych lordów AI