Op 1:07:00 wordt gezegd dat de starship-boostersteun hoger is gemaakt, maar daar is volgens mij niets aan veranderd. Wel hebben ze de brandstofkoppelingen van het bovenste deel ( het eigenlijke starship) hoger moeten plaatsen omdat er een extra tussenring tussen de booster en het starship is geplaatst om hot-staging mogelijk te maken.
16:42 dit is wel volledig mis, GPT is géén text remixer en heeft al wel een internal model of reality hoor, met al een zeer groot redeneringsvermogen. Heb dit al gehoord bij OpenAI devs en zelf ook al ondervonden en gebruik van gemaakt.
oei dan hebben we het over 2 verschillende onderwerpen. Er is enerzijds "internal world model" en anderzijds een "internal model of reality". Dit zijn 2 heel verschillende dingen. Ivm "internal model of reality": GPT gebruikt de input tokens om eerst een tijdelijk internal model of reality op te bouwen, en gebruikt dit dan om gepaste output te genereren, en slaagt erin om (veel beter dan andere modellen), om dit in heel diepe lagen van abstractie te doen. Daarom heeft (goede, of slechte) prompting veel invloed op de kwaliteit van de output (gebruik hiervoor goede system instructions, via assistants of via de playground). Maar om dan terug te komen op jullie uitspraak "GPT heeft geen wereldmodel" - je kan zo'n wereldmodel zelf inladen, door enerzijds info aan te bieden tijdens je prompting, of anderzijds, de juiste prompting te gebruiken om het gewenste wereld model te "activeren" want de info zit meestal wel ergens verborgen diep in het model - je moet het er wel zelf trachten uit te krijgen door die clusters geactiveerd te krijgen (is ook wel een skill op zich). En het is die mogelijkheid dat GPT zo baanbrekend maakt, want nu kan je bv je volledige source code van je eigen software project invoeren, en hij gaat effectief begrijpen wat je aan het doen bent ( = hij bouwt "zijn" internal model of "your" reality) en je kan hem dan hierop laten verder bouwen. Dit gaat echt wel een stap verder dan de klassieke "woord-remixers" die we hiervoor hadden, deze emerging property zou zelfs niet te verklaren zijn als het "slechts" een next-word predictor zou zijn. Sommige interviews op het kanaal van Lex Fridman gaan hier dieper op in (op heel deze just-a-next-word-prediction vs internal model discussie). @@NerdlandBe
GPT is het AI model van OpenAI en staat voor Generative Pre-Training Transformer. De transformer is in deze context een architectuur dat in 2017 werd uitgevonden@@paolojoosten6353
Lolz, Lieven vereenzelvigd zich met een Muskepticus, jammer dat hij zoveel spaceX propaganda verkoopt. Starship is niet gecontroleerd tot ontploffing gebracht na het verbreken van het radiocontact. Starship was al ontploft en in het missiecontrolecentrum waren ze nog 5 minuten aan het uitvissen waarom er plots geen radiocontact meer was (top controle centrum!) terwijl de fanboys nog aan het vieren waren omwille van het miljoenenvuurwerk van de gefaalde ondertrap. Mss moet de Roundup eens heet aan Lieven geserveerd worden met de vraag of hij ooit in zijn leven wel eens één van die 100 astronauten wil zijn.
Op 1:07:00 wordt gezegd dat de starship-boostersteun hoger is gemaakt, maar daar is volgens mij niets aan veranderd. Wel hebben ze de brandstofkoppelingen van het bovenste deel ( het eigenlijke starship) hoger moeten plaatsen omdat er een extra tussenring tussen de booster en het starship is geplaatst om hot-staging mogelijk te maken.
re-upload?
Déjà vu?
16:42 dit is wel volledig mis, GPT is géén text remixer en heeft al wel een internal model of reality hoor, met al een zeer groot redeneringsvermogen. Heb dit al gehoord bij OpenAI devs en zelf ook al ondervonden en gebruik van gemaakt.
(Jeroen) Dat is dus een veronderstelling, maar daar is geen bewijs van. Zie hier: twitter.com/filippie509/status/1709934014642176450
oei dan hebben we het over 2 verschillende onderwerpen. Er is enerzijds "internal world model" en anderzijds een "internal model of reality". Dit zijn 2 heel verschillende dingen. Ivm "internal model of reality": GPT gebruikt de input tokens om eerst een tijdelijk internal model of reality op te bouwen, en gebruikt dit dan om gepaste output te genereren, en slaagt erin om (veel beter dan andere modellen), om dit in heel diepe lagen van abstractie te doen. Daarom heeft (goede, of slechte) prompting veel invloed op de kwaliteit van de output (gebruik hiervoor goede system instructions, via assistants of via de playground). Maar om dan terug te komen op jullie uitspraak "GPT heeft geen wereldmodel" - je kan zo'n wereldmodel zelf inladen, door enerzijds info aan te bieden tijdens je prompting, of anderzijds, de juiste prompting te gebruiken om het gewenste wereld model te "activeren" want de info zit meestal wel ergens verborgen diep in het model - je moet het er wel zelf trachten uit te krijgen door die clusters geactiveerd te krijgen (is ook wel een skill op zich). En het is die mogelijkheid dat GPT zo baanbrekend maakt, want nu kan je bv je volledige source code van je eigen software project invoeren, en hij gaat effectief begrijpen wat je aan het doen bent ( = hij bouwt "zijn" internal model of "your" reality) en je kan hem dan hierop laten verder bouwen. Dit gaat echt wel een stap verder dan de klassieke "woord-remixers" die we hiervoor hadden, deze emerging property zou zelfs niet te verklaren zijn als het "slechts" een next-word predictor zou zijn. Sommige interviews op het kanaal van Lex Fridman gaan hier dieper op in (op heel deze just-a-next-word-prediction vs internal model discussie). @@NerdlandBe
Voor wat staat het acroniem GPT?
GPT is het AI model van OpenAI en staat voor Generative Pre-Training Transformer. De transformer is in deze context een architectuur dat in 2017 werd uitgevonden@@paolojoosten6353
Jup déjà vu
Lolz, Lieven vereenzelvigd zich met een Muskepticus, jammer dat hij zoveel spaceX propaganda verkoopt. Starship is niet gecontroleerd tot ontploffing gebracht na het verbreken van het radiocontact. Starship was al ontploft en in het missiecontrolecentrum waren ze nog 5 minuten aan het uitvissen waarom er plots geen radiocontact meer was (top controle centrum!) terwijl de fanboys nog aan het vieren waren omwille van het miljoenenvuurwerk van de gefaalde ondertrap. Mss moet de Roundup eens heet aan Lieven geserveerd worden met de vraag of hij ooit in zijn leven wel eens één van die 100 astronauten wil zijn.
Bedoel je 'astro-nots'?