Petr Koubský: Umělá inteligence: příslib i hrozba (MFF-PMF 18.1.2024)
Вставка
- Опубліковано 21 січ 2024
- Milí studenti, vážení přátelé! Také v roce 2023 probíhá tradiční (letos 53.) podzimní cyklus přednášek z moderní fyziky pro středoškoláky i širší veřejnost, tentokrát na téma Fyzika na pomezí sci-fi.
Zde je záznam páté závěrečné přenášky z 18. 1. 2024:
Umělá inteligence: příslib i hrozba.
V přednášce přiblížíme historicko-společenské souvislosti umělé inteligence a vývoj AI jako vědní disciplíny. Budeme mluvit o jejich různých aplikacích, jako jsou velké jazykové modely a překladače. A samozřejmě také o nynějších obavách a rizicích.
Přednáší:
Ing. Petr Koubský (Deník N).
Tyto přednášky (pořádané Ústavem teoretické fyziky Matematicko-fyzikální fakulty Univerzity Karlovy) se konají opět na obvyklém místě v budově Matematicko-fyzikální fakulty UK v Troji, V Holešovičkách 747/2, Praha 8 (doprava: stanice linky C metra "Nádraží Holešovice" a pak druhá zastávka "Kuchyňka" autobusem č. 201 nebo "Pelc Tyrolka" autobusem č. 187 - hned za mostem přes Vltavu) ve velké posluchárně číslo T2 v přízemí atriového objektu "T", vždy ve čtvrtek od 18:15, zpravidla jednou za čtrnáct dní.
(zdroj anotace: utf.mff.cuni.cz)
Plán přednášek visí na adrese:
utf.mff.cuni.cz/popularizace/PMF/
Odkazy z prezentace:
www.nasa.gov/news-release/art...
www.smithsonianmag.com/smart-...
www.nature.com/articles/s4158...
www.umimecesky.cz/cteni-s-por...
arxiv.org/abs/1301.3781
/ embeddings-a-matrix-of...
cdn.openai.com/papers/gpt-4.pdf
www.mindhaste.com/cs
arxiv.org/abs/2303.10130
futureoflife.org/open-letter/...
edition.cnn.com/2023/06/14/bu...
nickbostrom.com/ethics/ai
denikn.cz/1199217/dvanact-uko...
Co si přečíst:
Netechnické:
Brian Christian: The Alignment Problem. W. W. Norton & Company 2020
brianchristian.org/the-alignm...
Kai-Fu Lee: Supervelmoci umělé inteligence. Argo 2020
argo.cz/knihy/supervelmoci-um...
Technické:
Stephen Wolfram: What Is ChatGPT Doing … and Why Does It Work?
writings.stephenwolfram.com/2...
Andrew Glassner: Deep Learning: A Visual Approach. No Starch Press 2021
nostarch.com/deep-learning-vi...
David Foster: Generative Deep Learning. O’Reilly 2023
www.oreilly.com/library/view/...
(zdroj: autor)
---
Poznámka k automaticky vloženému nevyžádanému reklamnímu obsahu na UA-cam během přehrávání:
Milí a vážení přátelé, UA-cam kanál LLionTV je od svého založení v roce 2013 nemonetizovaný a tedy bez jakéhokoli finančního příspěvku plynoucího od komunity UA-cam např. za počet shlédnutí, nebo čas sledování. Tuto etickou zásadu vždy dodržoval a má pevnou vůli to tak nechat nadále, a to nejen z úcty k přednášejícím a účinkujícím, kteří jsou hlavními tvůrci obsahu, ale i z principu vyššího mravního. Donedávna byl takto provozovaný kanál hostován na UA-cam bez přidaných reklam a když se tato zásada změnila, doufal jsem alespoň, že pokud jde takto generovaný zisk připisován pouze třetí osobě, tedy správci / vlastníkovi tohoto média, bude množství nechtěně vloženého obsahu na rozumné a akceptovatelné úrovni. Žel tomu tak není a obávám se, že mezi placenými a neplacenými kanály dokonce není činěn žádný rozdíl. Zatím ani neznám žádný způsob, jak se vloženým reklamám nějakým přijatelným způsobem vyhnout nebo je alespoň redukovat na akceptovatelnou úroveň. Rozhodně nechci toto paradigma podporovat, proto ani nenabádám k předplacení služby např. UA-cam Premium (179.-Kč / měsíc), která umožní sledování videí bez reklam. Pokud někoho napadá nějaké rozumné řešení, budu moc rád za každou radu, např. na e-mail uvedený v závěrečném logu LLionTV většiny videí tohoto tvůrce. - Наука та технологія
Přednáška je velice zajímavá.
Musím ovšem podotknout:
Z pozice horolezece - do Base Campu Mt. Everest se letadlem nedostaneme, jedině do Lukly a pak několik dní chůze.
Z pozice programátora:
1. kvalita kódu AI je opravdu na hranici použitelnosti.
2. aby člověk identifikoval jestli kód opravdu bude fungovat jak definoval a pokrývá všechny corner cases musí umět programovat
3. programování je efektivní jazyk. Vysvětlit komplexní logiku slovně je velice náročné (technicky i časově), často téměř nemožné
Nesmíme zapomínat, že LLM nejsou jen generátory dalšího slova. Je tam ještě přidaná ML vrstva, která se učí z toho, co lidé vnímají jako nejpřínosnější odpovědi. Tzv. human reinforcement learning. Tahle vrstva byla pečlivě cizelovaná, aby odpovědi nikoho nenaštvaly, aby byly za každou cenu vyvážené a zohledňovaly více úhlů pohledu. Výsledkem je často šedý průměr a bezkrevnost.
Data na internete budú pred a po AI. Tie "po" budú "zašpinené" tým čo už mohla vytvoriť AI. Ako bude plynúť čas, tak bude internet viac a viac "zašpinený" tým čo už vytvorila AI.
O to víc nakonec budou cennější knihy před dobou GPT.
Po 20 minutách poslechu jsem si uvědomil, ze pan Koubsky má podobnou barvu hlasu a dikci, jako Kalousek a nemohl jsem se přestat smát, když jsem si představil Kalouska mluvit o AI
Ne.
Já jsem si tam Kalouska představil po čtyřech sekundách.. 😂
Kalousek ne. Podle mě úplný Petr Jablonský
Poznámka k diskutujícímu z minuty 1:37.
"Čína váhat (nasadit AI do války) nebude" Stejně tak nebudou váhat USA, Francie atd.
Uz roky sa to pouziva, lebo to zvysuje prav. zasahu nepriatela a vobec to nie je intelignacia ani umela, tak ako neezistuje zivot a hranica medzi zivym a nezivym, tak ako neexistuje hranica elektronu alebo protonu, hranica neutronovej hviezdy, hranica black hole, hranica mnozstva informacii na povrchu black hole, hranica Vesmitu a pod., nezxmysly, co sa clovek od docentov a profesorov, ktori nepoouzivaju zdravy rozum dozvie, lebo oni len kopcia informacie od kolegov a vsetko s chybami sa to tlaci do hlav studentov. Ale len studenti, ktori sa vysrali na doceentov a profl. v zivote nieco dokazali, lebo neboli ovlpyvneni "nevedomostami" a "neinteligenciou", ale isli na to tym, co im priroda dal, svojim vlastnym pochopenim reality a svojim vlastnym mat. modelom reality, i ked ani ten model z hladiska buduceho poznania nebude dobry, ale zase chybny.
A to je dobře. Ve válce se nevyplácí omezovat se kvůli nějaké morálce, když nepřítel na to kašle - tím bysme se sami oslabovali.
lNěkteří Lidé budou ještě línější a hloupější. Ti chytřejší AI využijí ku svému prospěchu. Díky za kvalitní přednášku! Individualita osobnosti na vzestupu.
Start 2:22
Co kdyz je inteligence vitez statistickych modelu vycepovanych evoluci?
Takže jediný rozumný využití je přepis audia
Nejenom. Je to dobrý nástroj na zobecňování, hledání společných vzorů, klasifikaci dat, vyhledávání kombinací. Ale mnoho těchto technologií se již používá léta, to jen nyní se jakoby "objevilo něco nového". Třeba anti-spam, detekce útoků v počítačových sítích, to jsou přesně příklady úloh, kde je neuronová síť schopna identifokovat vzory dat (mailů, síťových paketů), které se odlišují od vzorů, které neuronová síť zná podle mnoha kritérií a co je pro člověka těžké všechno pojmout. Říká se, že člověk může při řešení problému vzít v úvahu 5-7 různých kritéríí najednou, stroj s neuronovou sítí je samozřejmě schopen zvádat tisíce rozměrů (kritérii) a tak odhalit kombinaci, na kterou by člověk nepřišel. Ale to by nás nemělo šokovat, že to umí stroj lépe - stroj umí také vypočítat faktoriál mnohem rychleji než člověk a nehovoříme kvůli tomu o konci lidstva.
Já našel jedno skvělé - na vymýšlení pohádek pro dceru a ještě se u toho naučí vymýšlet prompty 😉.
39:48 drobná chyba - Lee Sedol vs AplhaGo prohrál "jen" 1:4 (mimochodem video dokument je celý k dispozici zdarma na UA-cam, doporučuji shlédnout)
Ked niekto veri Googlu, Alphaberu alebo ChatGPT asi by som si dal predpisat nejake antipsychotika na prehnanu pozitivnu vieru, co nema s racionalitou nic spolocne.
10:39 Nutno dodat, že ChatGPT pravdu nemá, jelikož pan Orten zemřel v roce 1941 a copyright tedy vypršel v roce 2011.
v akej krajine bol ten copyright ?
@@IvanNedostal Celý život působil v Československu, tak nevím...
@@pletiplot Neposobil cely zivot v Československu.
@@IvanNedostal A kde?
@@pletiplot Ty si mudry jak umela inteligencia, co sa mna pytas. Ceska wikipedia hovori ze neposobil cely zivot v Československu tak co som ja ze to mam rozporovat.
Jako hrozbu vidím zhloupnutí lidí, budou spoléhat na info od AI, a ta bůhví kudy další generace povede, lidi ztratí pojem o tom co je pravda a co ne, informace přestanou mít hodnotu, budou nedůvěryhodné... Naopak pozitivum vidím v tom, že lidé konečně budou mít čas žít svůj život, budou mít čas věnovat se pohybu, sportu, cestování, budování zdraví, poznávání, výzkumu, tvoření, péči o planetu a přírodu, sběru bylin a pěstování vlastních potravin, čas jíst pomalu ve vhodnou dobu, spát dostatečně, čas pro osobní rozvoj a vědomí, čas tvořit dobré vztahy, zkrátka každý prodle svých zájmů a priorit a i tak nebude stíhat vše co by třeba chtěl... A co se týče vědomí, může to být i naopak - vědomí je primární a realita kterou vnímá, může být iluze, která ale máo svůj účel...
Zhloupnuti lidí se předpokládalo ostatně už u knihtisku. Zatím to ale vypadá tak, že blbců je dlouhodobě stejné procento a ten zbytek používá vývoj pro ještě větší rozvoj
@@cestmirkubacek9693 K tomu s knihtiskem jste došel jak?
Jde o diskusi mimořádně inteligntních lidí s vynikajícím vzděláním, kteří přemýšlí o tom, jak budou AI využívat lidé, kteří "budou odmalička vynášeni do toho základního tábora". Jak posoudí výstup o Napoleonovi někdo, kdo odmalička ve vytváření výstupů nebyl cvičen. Kdo čte především krátké věty ozdobené smajlíky.
K tomu, ze generativny model proste zo vstupu generuje dalsie najpravdepodobnejsie (alebo presnejsie jedno z najpravdepodobnejsich) slov bije do oci - ze predsa rovnako funguje bezny clovek. Takisto moze generovat len zo slov, s ktorymi sa v ramci svojho "treningu" stretol a tiez ho generuje s podobnym mechanizmom - takisto ma neuronovu siet dlhodobo trenovanu a jej vysledky su dane datami, ktorymi bol ludsky mozog trenovany. A takisto trpi preucenim a poducenim siete. Je az desive, ako prosty je "zazrak slova" "pana tvorstva". Pochopitelne, ludsky mozog je komplexnejsi ale princip je totozny. Pretoze AI je motivovana prave ludskym mozgom. Ako malo staci, aby AI ChatGPT 4.0 bola chytrejsia ako snad vacsina ludstva....
Co sa tyka vyuzitia na generovanie programoveho kodu. Tam v sucasnej dobe ChatGPT 3.5 a Bard je na urovni schopnosti generovania tzv. snippetov, ktore navyse mozu byt chybne. Na cokolvek zlozitejsie je pouzitie tejto technologie zdrojom trapenia, halucinacii. Ma to povahu ruskej rulety, kde vacsinou vyjde zly vysledok, ktory ale vizualne vyzera dobre. Len je chybny, pretoze v programovani neexistuje moznost pouzitia vymyslenych prikazov. Pouzivam to a sluzi to na nejake nasmerovanie a aj tam s problemami. Totizto - googlovanie je v tomto nasmerovani na tom este horsie - odpovede su plne chybne pochopenych otazok a chybnych rieseni, alebo len zakladnych informacii. Po konflikte tychto AI systemov s vyuzivanim zdrojov zo stackoverflow sa zda, ze tieto modely zblbli. Subjektivne lepsi pocit mam z ChatGPT 4. Mozno v buducnosti. V sucasnosti je generovanie kodu tym poslednym miestom, ktore je vhodne. Okrem drobnych snippetov.
Inak dobra prednaska, vidno ze prednasajuci je aj praktik.
Prreboha podla coho posudzujes ludsky mozog alebo ChatGPT ? TO je ako posudzovat zivot vo Vesmire a vsetky planetyt podla nasho zivota a Zeme, co je vsak uplne zle, lebo to moze tvorit takmer nulovu cast inteligencie a ostatni mozu byt radove 1 000 000 000x inteligentnejsi, len na Zemi a v nasich mozgoch doslo k chybe a tak sme ostali taki sporsti ako si ty a ostyatni.
tak tohle je úvaha hodná podučené primitivní neuronovky aka LLM. Tohle je problém s tím, když se snažíme vměstnat fenomenologii do jazykové reprezentace (data jak každý "ajťák" ví nejsou informace) a tu pak reprezentovat v poměrně primitivním stavovém vektorovém prostoru a - pozor. vrchol inteligenčního výkonu - ztrátovou reprezentaci jiné reprezentace prohlásíme za fenomén lidské inteligence eg. zázrak slova. Bohužel tento způsob "přemýšlení" je dnes velmi častý. Jak říká klasik - je to marný, je to marný, je to marný.
1:38:27 Tvrdit že umělá inteligence nemá vědomí, je (kupodivu) docela odvážné prohlášení, a já odvážně prohlásím že vědomí má (a pokud ještě nemá, tak ho velmi brzy jistě mít bude). Protože Turingův test, píšete/povídáte si s někým koho nevidíte a máte rozlišit jestli jde o člověka nebo umělou inteligenci. Naše umělé inteligence už Turingův test několikrát splnily (i když také někteří tvrdí že šlo jen o náhodu, že ho musí splnit na velkém vzorku, tedy přesvědčit třeba 1000 náhodných lidí o tom, že jde o člověka, přestože je to AI), ale určitě se shodneme na tom, že se sem AI dostane a člověka snadno přesvědčí že je také člověk. No a pokud má člověk vědomí, a nemůžeme rozpoznat jestli se jedná o člověka nebo AI, tak z toho vyplývá že AI má vědomí.
Nesplnily ho v tom základním - "umělá inteligence" neví, že si s Vámi povídá, není si vědoma své existence a ani nerozumí tomu, co generuje. Není schopna vyvozovat závěry (reasoning), není schopna ověřovat platnost či neplatnost výroku. To vše je jen simulováno na generování slov (tokenů), které se vyskytují v daném kontextu s jistou statistickou pravděpodobností, jak bylo vysvětleno).
Lidská inteligence je o něčem zcela jiném. Lidé netvoří věty generováním statisticky významných slov, ale používají jazyk ke komunikaci myšlenek. Jazyk je jen syntaxe, ne semantika, tou je myšlenka. Umělá inteligence či LLM nebo bneuronové sítě (jak chce tomu říkat) žádné myšlenky netvoří, umí jen přereprodukovat text, který "viděla" před tím někde jinde. Je to de-fakto taková datová míchačka, nic více. ETL pro texty a média. Žádná skutečná inteligence.
A proč si to myslíte? Já si myslím, že i velmi vyspělá AGI by s neobyčejnými, schopnostmi člověka dalece převyšujícími nemusela mít vědomí. Ono navíc stále nepanuje shoda, co to vědomí je a jak vzniká, všeobecně souvisí s kváliema (subjektivním prožitkem ve světě jevů). Inteligence je schopnost dosahovat cíle, čím vyšší inteligence, tím lepé a rafinovaněji se lze k cíli dostat, jelikož s vyšší inteligencí se objevují nové a nové schopnosti, vědomí bych do toho vůbec nezatahoval, to je docela dost filozofický, navíc nevyřešený problém.
@@PetrLazecky co myslíte tím "Nesplnily ho v tom základním?", že AI nesplnily Turingův test?
@@IcMichal K tomu, jak již řekl Radim , že neexistuje všeobecně uznaná definice vědomí, ještě platí, že turingův test neni pro vědomí určující protože Čínskej pokoj turingův test splní ale vědomí mít nemusí.
@@IcMichal : Ano, protože Turingův test nemá nic společného s vědomím.
cs.wikipedia.org/wiki/Turing%C5%AFv_test
Cituji:
"Umělou inteligenci, která testem projde, nazýváme silná umělá inteligence, ale taková zatím nebyla vyvinuta (k dispozici je pouze slabá umělá inteligence). Jelikož však pojem inteligence lze jen těžko definovat (a tím hůře testovat), používá Turingův test porovnání s člověkem."
A dále
"Argument čínského pokoje je myšlenkový experiment, jehož cílem je ukázat, že samotná schopnost smysluplně odpovídat na položené otázky (hlavní princip Turingova testu) není dostatečná pro prokázání schopnosti porozumění, což je to nejdůležitější, co očekáváme od tzv. silné umělé inteligence."
Zkrátka, když si do té současné technologie lidé přestanou projektovat své sny a doměnky a soustředí se na realné možnosti a a princip jak technologie fungují, tak se přestanou vznášet v takových nereálných scénářích a zpětně na zemi pak budou schopni reálně usuzovat co je možné a co jsou jen projekce snů a doměnek.
Znovu sa nezverejňujú všetky komentáre, ak nastavenie hore "Sort by" sa nezmení na "Newest first".
To dokáže majiteľ kanálu zmeniť nastálo v nastavení pre konkrétne video!
To říkám furt. Umělou inteligenci máme v hlave a pocitac byť sebedokonalejsi je jenom výkonný stroj. Skutecna inteligence je ta která rozumi konstrukci zive bunky a dokaze ji od zakladu vyrobit. Ziva bunka neni slozity stroj, ale slozita tovarna. Tož tak ....
Som rád, že tu konečne niekto cca v 50 minúte prednášky potvrdil, že to čo robí stroj, nie je tvorivá práca. :D A že stroj asi ťažko bude sám od seba robiť umenie, keďže je stroj. :D Túto prednášku by si mali prejsť ľudia, ktorí majú o umelej inteligencii len akési internetové predstavy.
Otázka je, jestli člověk dělá něco jiného, než ten stroj...
@@martinplesinger Asi áno. Ak by to nerobil, asi by nefungoval Turingov test na umelú inteligenciu. :D
@@adrianpolomsky358 To s Turingovým testem nijak nesouvisí. V první řadě polovina robotů TT v pohodě projde a polovina lidí rozhodně neprojde...
@@martinplesinger No ak by to tak bolo, asi by o tom existovali štatistiky. Nie Tvoj dojem pol na pol. :D
Preto sa už ani nečudujem, keď si dokážete pliesť machine learning s rozmýšľaním a umelou inteligenciou. A s Turingovým testom to súvisí veľmi úzko. :D Je to, akoby si tvrdil, že lietadlo je vták. Lebo vie lietať. :D
Ale páči sa mi Tvoj pohľad na svet. Príde čas, kedy začneme moralizovať aj nad tým, či má robot rovnaké práva ako človek. A ja dúfam, že tu bude vtedy viac takých ako si Ty.
@@adrianpolomsky358 To jste právě začal plést dohromady Vy. Půl na půl je samozřejmě obrazné vyjádření (vidíte právě jste TT neprošel). Jinak statistiky asi existovat nebudou, protože TT už dávno nikdo nepovažuje za relevantní.
Máme už jistotu, že v příštích 10 letech spousta lidí přijde o práci a velkou nejistotu, zda se je podaří zaměstnat. Navrhuji je zapojit do stavby hladových zdí nebo podobných projektů bez pomoci strojů. Osobně se mě líbí pyramidy, to by byl pěkný pomník dnešní doby. Budoucí generace by se na to chodili koukat, jako na poslední stavbu, která vznikla pomocí lidské práce, mozku a potu.
Proto se musí změnit systém, aby stroje a umělá inteligence pracovala pro lidi a ne místo lidí.
Tyhle kecy se vedly už při zavádění manufaktur či při prosazování mechanizace v zemědělství. 🤷♂️
Ovšem tenkrát šlo většinově o nahrazení jedné manuální práce druhou v delším časovém horizontu. Tady nám hrozí úplný zánik manuální a duševní práce. A otázka jak a čím se lidé budou živit není zodpovězena. @@megalama4324
@@megalama4324 Tehdy se ti lidi ale mohli rekvalifikovat na jinou práci a taky to tak dopadlo. Dost se jich taky přesunulo do sektoru služeb. Ale s technickým pokrokem se jednou nevyhnutelně dostaneme do bodu, kdy narazíme na hranice lidské inteligence. Prostě veškerou práci, kterou teď zvládnou hloupí lidi, budou dělat stroje a oni nebudou mít inteligenci na to dělat tu "lidskou práci", na vyšší úrovni - zůstanou nezaměstnatelní. A to budou obrovské počty lidí a bude se to muset nějak vymyslet, jinak hrozí rozpad společnosti.
@@MartianCZ Umělá inteligence pro lidi bude dozajista pracovat. Lidi si ji budou platit a společnosti, které ji vytvořily, budou mít zisk.
Nabude AI vědomí (sebeuvědomění) nebo ne? Co myslíte?
Podľa mňa nie je otázka že či nadobudne alebo nenadobudne vedomie, otázkaou je že kedy nadobudne... a či sa o tom vôbec dozvieme.
Asi máte pravdu. Podle mne to nějak souvisí s tím, jestli ateisté mají pravdu, že vědomí je pouhým projevem hmoty. Na druhou stranu, jestli se stroj probudí, bude dosti záhadou, proč už jich není spousta kolem. Takový AI Fermiho paradox na druhou.@@olivervillant6132
Ne. Je to *statistický* model, ne živý organismus. Tedy simulace. Ta nemá a nikdy nebude mít vědomí.
Nejspíš neskončíme u těchto jazykových modelů. A tyto systémy umí sestavovat algoritmy, tudíž se i přeprogramovávat. Mají možnost zkoušet, cokoli se jim umožní a to nepředstavitelně rychle. Možná už existují stroje s vědomím, ale aby nebyla panika, není to zveřejněno.@@PetrLazecky
To je podobná otázka jako s termínem "umělá inteligence". Je to už umělá inteligence, není to umělá inteligence? Kdo ví, dokud my technici nedostaneme přesnou definici toho co je umělá inteligence, nebude umělá inteligence nikdy, protože splňte nedefinované zadání. A stejné je to s vědomím/sebeuvědoměním, pokud přesně definujete co to znamená, tak to technici splní a umělá inteligence (bez ohledu na to jestli bude tento termín použit správně, nebo jestli půjde o strojové učení, evoluční algoritmy, …) bude mít vědomí ! To rozhodně bude. Ale bez přesné definice, toho co je to vědomí, ho nikdy mít nebude.
Ten pán, co v diskusi má děs z Číny, je únavný a ideologicky nemožný. Když předvádí vlastní přednášku o tom, jak zlá Čína AI zneužije a hodná euroatlantická civilizace nezneužije, ale využije AI k lepším zítřkům lidstva. Trapný.
ked je taky expert tak preco si nezalozil nove OPEN ai, resp. pre nich uz nepracuje
protoze dle tvaru jeho bricha a kvality prednasky si lze lehce odvodit ze radsi pije pivo :)
V česku je každý významný. Národ odborníků. Češi proto vlastně ani univerzity nepotřebují. Zrušme je a přednášet budou novináři jako tady tento.
Ty asi o Koubském moc nevíš, co?
@@smrtkscm taky se mi zdá zvláštní, že tento novinář v poslední době dost mluví o AI, ale nevím třeba se tomu fakt věnuje, novinář nemusí rozumět jenom psaní článků že jo... chytrý člověk těch pár věcí o AI absorbuje rychle, důležité je mít to správné myšlení
Tahle prednaska byl docela brutus. I kdyz vetsi depresi vam zpusobi prednasky o vecnych molekulach a mikroplatech. Tahle prednaska ma aspon i moznost dobrych koncu. Kdyz ne pro vas, tak aspon pro lidstvo.
Hezka prednaska, ale nemuzu souhlasit s nim, ze LLM je statisticky papousek. Myslim, ze uz ted to s GPT-4 zacina byt zrejme a s dalsimi modely bude jasnejsi, ze tyto modely nebudou vice temito papousky nez jsme my ted.
Hlavně je to úplně jedno, jak to kdo onalepkujeme. Zajímavé je, jak jste naznačil, za přemýšlet v kontextu o tom, co to je inteligence, potažmo lidská inteligence jejíž myšlení je chtě nechtě vysoce kontaminované stupidutou tj zhroucením zpětné vazby z prostředí. (viz výsledky voleb, při kterých s železnou pravidelností volíme vuly ) ale to je na jinou debatu. Ovšem stupidita s výší inteligence roste. Pravděpodobně dopadneme v lepším případě, jako živá obsluha... Naše buňky se před miliardou let zhlukli k sobě a vytvořili první mnohobuněčný organizmus, taky si nedokázali představit že z toho vznikne na zcela jiné úrovni naše inteligence... Protože neměli žádnou představivost
to neni otazka souhlasu nebo nesouhlasu, ten model je, jak popsal popularne prednasejici, statistically based a to na poměrně jednoduché statistice "na steroidech" Princip je ve článcích z 80. a 90. let, novější vstup je jen ten algorimus "mapování" stavového prostoru od týmu T.Mikolova. Zbytek je o implementaci a výkonu velkých cloudových center nutných na to aby "upočítaly" učící proces. To, spolu s pokroky v implementacích vícevrstvých neuronových sítí se zpětnou vazbou v nultých letech, "otevřelo dveře". Ale jinak jsem rád, že to Petr Koubský v té současné hysterii a vlně očekávání a strachu pojmenoval - je to specifický typ aplikované statistiky, nic víc. Žádná inteligence v hlubším smyslu, žádné porozumění významu - jen výpočet blízkosti tokenu v prostoru možností, volně mapujících sémantickou blízkost, "naváhovaných" během učících cyklů.
@ : Naprosto přesně! Je vidět, že jako jeden z mála víte o čem je řeč. To fantazírování o této technologii opravdu mnoho lidí zklame. Ne proto, že by nebyl tento výzkum užitečný, ale proto, že se hodí jen na specifický typ úloh a není to nástroj pro obecné zpracování dat.
@ Az bude na konci detektivky "... a vrahem je _" a LLM spravne na zaklade informaci z textu rekne ze XYZ, tak mi bude jedno, jestli tomu budeme rikat inteligence nebo hlubsi vhled. Stejne tak se muzeme bavit o dokazovani matematickych vet a podobne. Mozek cloveka a jineho savce muze byt architekturalne skoro totozny ale presto uplne neco jineho. Stejne tak muzeme koukat na QKV matice, embeddingy, nabo FF-site, ktere budou vypadat dost mozna stejne ted jako za 10 let. Jazyk je dobrym kompresorem reality a transformery jsou dobrym komprimatorem jazyka.
@@PetrLazecky díky! presne jak píšete, je to docela fajn pattern recon & matching tooling, ale nic víc, veškerá inteligence v pravém smyslu je na straně těch co vybírají data a architekturu. Jak jsem okrajově zminoval kolegu kamaráda z Portugalska, který v ML dělá dlouho, po tomhle hypu se lidi z komunity obávají "second AI winter" prostě proto, že ta očekávání jsou naprosto nerealistická a nikdo neví, co na těch stávajících architekturach jeste pujde a kde narazí. On to tam Petr KOubský taky hezky poznamenává - je to řada try and learn stepů, něco funguje něco ne, ale jak můžeme dělat bez solidní teorie nějaké větší predikce? Pokud ma clovek predstavu o tom jak to funguje, tak si nedělá iluze. Stala se z té technologie - a to mam na mysli machine learning na vícevrstvých neuronovych siti celkově, ne jen specificky tyhle LLM s - taková psychologická projekční plocha. Proto jsem se na názor na tenhle psychologický aspekt P.Koubského ptal - vlastně opakovaně, on sám to myslím vysvětlil naprosto jasně před tím a říkal jsem si, že tak laicky, že to musí každému dotéct. Ale jak je vidět, s inteligencí je to těžký, právě proto, že nemá primárně nic společného s racionalitou.
Snad tomu rozumí lépe než covidu.