*Précisions et corrections éventuelles* NB: Si vous avez une remarque sur l'épisode, préférez un autre commentaire qu'une réponse à celui-ci. J'imagine que, pour beaucoup d'abonnés de la chaîne, l'épisode enfonce un peu des portes ouvertes, mais c'est au minimum un outil que vous pouvez utiliser et partager avec vos connaissances dualistes pour partir sur les mêmes bases ! *Vers **23:50**, je prends quelques libertés lorsque j'attribue des propos à Turing.* Il est plus probable que sa position ne concernait pas directement la conscience. Il cherchait simplement à donner un sens empirique et expérimental clair au terme "penser", et il a choisi de le définir comme la capacité à mener une conversation de manière indiscernable de celle d'un autre être humain. Il fournit ainsi une définition testable de "penser", venant avec ses limitations.
C'est un sujet passionnant. Je dois quand même te dire que je suis très impressionné par rigueur avec laquelle tu traites tes sujets. Merci, ce sont toujours de très bons moments.
Je regarde depuis les premières heures, bravo pour le fond qui est constant de qualité et d intérêt et la forme qui n a fait que s améliorer avec les années
Excellente vidéo que j'ai pris un plaisir à dévorer ! Ça fait du bien d'écouter quelqu'un qui comprend vraiment le fond des choses, son essence même, appuyé par des faits implacables.
Une petite collab avec Mr Phi me semble appropriée, vous êtes tous les deux très talentueux pour vulgariser, et vous êtes tous les deux fascinés par les IA ;)
@@Alex-rg1rz Etrange commentaire, aurais-tu des exemples ? Je travaille dans le domaine, et je n'ai pas remarqué d'erreur grossière de mr Phi sur le sujet....
@porcoration Oh pourquoi donc ? 37 personnes sont d'accord avec moi, je comprends pourquoi, mais ceux qui ne sont pas d'accord, ça m'étonne, je veux bien comprendre pourquoi tu penses cela !
Un sujet passionnant et d’une grande pertinence actuellement. Le traitement est impeccable, irréprochable me semble-t-il . Cette vidéo est un vrai bijou. Mille bravos 👏 et merci pour ces sources passionnantes à explorer.
Le sujet est passionant et le texte est parfaitement ciselé. Mille bravos ! On est sur un excellent équilibre philosophico-scientique, qui limite au maximum l'écueil du type "critique de la raison pure". Si je peux modestement tenter de rafiner la formulation de la thèse promue ici, je dirais que : Plus précisément que "C'est l'organisation qui fait l'objet", "C'est l'organisation et la dynamique du système dans son environnement qui font l'objet vivant". Et les caractères vivant, conscient de ses sensations, conscient de soi, de sa subjectivité, de son impression de liberté non nulle mais finie, etc, sont des propriétés "émergentes" au sens d'un "réductioniste strict" : il n'y a en effet aucune opposition entre "émergence" et "réductionisme strict". Ce dernier n'est en effet jamais "abusif" quand il est bien fait, c'est à dire quand il n'oublie aucun élement et aucune interaction dynamique. Le système dynamique environné peut être strictement réduit à ses parties et à la dynamique interactive entre ces parties et l'environnement. Les propriétés "en découlent au sens strict" et le mot "émergence" ne sert qu'à exprimer que le physicien ne les avait pas intuitées avant d'appliquer correctement sa méthode réductioniste ! Et le fait que ce réductionisme fonctionne est une preuve de complétude de la description (caractère "suffisant" des ingrédients) ; et ce indépendamment du fait que ce réductionisme soit ou non la méthode la plus pratique, la plus synthétique, la plus "orientée fonctions" pour décrire ou comprendre le système. La discussion sur le fonctionalisme et sa subilité plus grande qu'il n'y parait est aussi magnifiquement menée. Bravos. Toujours pour tenter de préciser la thèse, la conscience, localisée dans "l'état interne du système" évoqué dans les schémas, doit très probablement émerger d'architecture multi-bouclée présentant des résonances (comme le cerveau en présente). Il est donc probale que des architectures très différentes puissent présenter les mêmes fonctions de base (fonction additon d'un additionneur en logique CMOS et d'un humain), mais que la fonction additionelle de conscience d'effectuer l'addition ne se rencontre que dans une architecture bouclée résonante (de type cerveau et pas dans l'additionneur CMOS). La multiplicité des boucles imbriquées dans une architecture riche en boucles, peut même ajouter aux fonctions "addition" et "conscience d'effectuer une addition", d'autres fonctions en parallèles pouvant modifier la fonction addition elle-même : comme la fonction "angoisse de rater l'addition" par exemple, qui finit par occasionner des erreur dans l'additionneur humain (les fonctions ne sont plus indépendantes du fait des boucles). Enfin petite remarque : la séparation des questions "une machine peut-elle penser" et "sommes nous des machines" est peut-être un peu artificielle ici. Un autre point de vue serait de les présenter comme deux formulations différentes d'une même question. Encore mille bravos.
il n'y a aucune modèle mais certainement que la conscience c'est juste un modèle mathématique qui peut dire "je vois ça" sans ce tromper sur ce qu'il vois. d'ailleurs ça me fait penser que pour ma part quand je dit "je pense" à voix haute en realité je ne pense pas au moment ou je le dit, mon thalamus mettant mon focus sur mes paroles. je ment en quelque sorte et j'improvise une pensée à voix haute sur des opinions et penser passer.
Très très bonne vidéo. Un exemple de rigueur intellectuelle face à la pléthore d'approches mysticistes du problème de la conscience y compris venant de philosophes et scientifiques de renom...
18 днів тому
Mysticisme me semble teinté de jugement. Et s'il existait un niveau supérieur de conscience que l'on pourrait appeler spiritualité plutôt que mysticisme et que nous ne sommes pas encore en mesure d'appréhender? Et si ce niveau nous permettait de faire la distinction entre la pensée simulée et la pensée consciente ?
C'est magnifique patron ! Et comme même le meilleur est améliorable, peut-être marquer un peu plus les pauses qui facilitent la compréhension. Ex : "...si les deux entrées valent 1 // 0 dans tous les autres cas". Merci pour ces petits bijoux.
Excellente vidéo ! Plus accessible que les autres ce qui peut aider à la partager autour de soi pour discuter de la question ! (même si les vidéos plus techniques de la chaine sont vraiment cools)
Merci pour cette video, était un vrai regal. La distinction entre intelligence et conscience est selon des critères a-minima ou a-maxima, le test de Turing ne concerne que l'intelligence, et un pigeon a néanmoins plus de conscience qu'un LLM. Leurs definitions possèdent les pieges et paradoxes habituels a toute observation. Une chose est claire, on ne reviendra plus en arrière sur leurs anciennes conceptions d'il y a 100ans.
5 visionnages et toujours autant d'émerveillement ❤ Le jour où l'on aura crée un cyborg humanoîde et qu'on lui aura appris à parler, lui seul pourra nous affirmer si il se sent vivant. Ce sera à la fois une experience des plus excitantes mais aussi des plus effrayantes.
Absolument remarquable, j'avais vu encore ce niveau de réflexion dans le domaine. Je vais placer la vidéo dans ma playlist "Autres" faute de meilleure rubrique pour l'instant. J'ai détaillé plus bas (commentaire de 42ArthurDent42) comment je voyais les choses, je pense que tu seras plutôt d'accord puisque cela va dans le même sens.
Merci pour cette vidéo c'est un hasard total mais cela fait des mois que je me pose cette question concernant la conscience et les machines et il y a quelques heures j'ai écrit dans mon carnet ''Suis je une machine ? Ai je pris le dessus sur mon créateur ?''. Incroyable de tomber la dessus après une insomnie sur la première video que je regarde sur youtube. Votre vidéo sous entend peut être que le destin existe également !!
22:15 Fascinant, j'ai abordé ce sujet hier. Même s'il y a une part d'aléatoire dans nos comportements, nous restons fondamentalement déterministes. Le bruit de l’infiniment petit peut influencer des systèmes au niveau macroscopique lorsque la source de l’actionneur est fortement amplifiée (par exemple, un synapse qui change d’état). Cela peut donc engendrer des réactions imprévisibles. Cela me semble même fondamental pour l’évolution du vivant : l’aléatoire est indispensable.
@@gaiusbaltar7122 La finalité que l'on vise est déterminée par les données accumulées et traitées par notre système déterministe. A connaissance identique et a système identique, les objectifs visés seront toujours les mêmes. On ne choisit pas nos désirs ou ne représentations du réel, on simplement l'illusion de choisir.
Intéressant, certes, et merci d'évoquer Libet. Cela dit, il faut tenir compte des EMI, comme Expérience de Mort Imminente. Celles-ci risquent fort de faire voler en éclats le paradigme matérialiste. Ce n'est qu'une question de temps, et même un neuroscientique de la classe de Steven Laureys en est... conscient...
C'est ma vision actuelle, et ancrée, des choses. Merci d'y ajouter d’innombrable graphique et passage vidéo c'est tellement agréable. Du haut niveau de vulgarisation comme toujours. Je rajouterais car je ne l'ai pas entendu bien que ce soit compatible, que dans ma vision, la notion de conscience peut être vue comme un continuum, ainsi un moulin à vent est une forme de conscience, tout comme une Gameboy, une voiture autonome, un aspirateur robot. Libre à vous des les classer. Et qu'il faut pour mieux appréhender cette notion se départir de la vision binaire d'être soit conscient (absolu 100%), soit non conscient (absolu 0%). Ainsi je propose si ça n’existe pas la notion de conscience opérative, qui référerais au seuil à partir duquel nous considérons une conscience comme de valeur suivant des critères arbitraire qui seraient propre au genre humain contraint qu'il le veuille ou non de voir l'univers par le prisme de sa condition intrinsèque.
A partir du moment où on peut répliquer artificiellement une fonctionnalité biologique comme celle du cerveau humain, je ne vois pas pourquoi la conscience ne pourrait pas émerger de la même façon d'un mécanisme purement technologique.
Certes, mais justement qui dit que cette condition est remplie ? Que la réplique est parfaite ? Car le mécanisme c'est une chose, mais les instincts, les phobies, les archétypes ... On sait les répliquer ?
@@recorr je pense qu'on sait les répliquer, quand les consciences artificielles feront des "enfants", quand il y aura accouplement et reproduction, les comportements appris vont devenir automatiques au fil des générations, non ?
@@recorr Tous les comportements émergent de la technique, si un être simulé se comporte différemment d'un être simulé, c'est que la technique n'est pas correcte.
@@kalgon57 Si on combine algo génétique et réseau de neurone pourquoi pas, mais je crois que les réseaux ont plié le game et donc, peu de chance pour ta solution.
Super vidéo, vraiment intéressante et bien expliquée ! Par contre, je voulais revenir sur certains points qui ne sont pas encore scientifiquement prouvés ou qui restent des hypothèses. Par exemple, l'idée que les machines ou programmes puissent un jour avoir une conscience phénoménale, c'est encore de la spéculation. On n’a pas encore de preuve que ça soit possible, et c’est plus une question philosophique qu’un fait établi pour le moment. Ensuite, le fonctionnalisme, qui dit que la conscience pourrait émerger simplement des processus logiques, c’est une théorie, mais pas une certitude. Certaines autres idées, comme le fait que le cerveau biologique pourrait avoir des propriétés uniques nécessaires à la conscience, ne sont pas à écarter. Et enfin, dire que "simuler un processus, c'est le réaliser", c’est un peu discutable. Simuler un calcul, oui, ça marche, mais simuler une conscience, ça ne garantit pas qu'il y ait une vraie expérience subjective derrière. On est encore loin de trancher cette question. Bref, super sujet, mais ces points restent ouverts et méritent d’être explorés plus en profondeur.
Il y a toujours un point aveugle dans ces questions : ce que l'on appelle conscience, ou sentir. Je crois que si on s'interroge sincèrement on peut s'apercevoir que c'est assez superficiel. Je me sens moi lorsque je me pose la question et que je pense à ce que c'est que "moi". Mais tout comme je ressens une chaise lorsque je pense à une chaise, je conscientise la chaise. La sélection naturelle a inscrit des obsessions qui échappent au calcul qui est fait sur les expériences. Ça suffit à expliquer le reste.
Très bonne vidéo. Après méditation sur le sujet. Il est évident qu'une simulation peut virtuellement devenir vivante ou consciente. En contre partie. La question de si cette simulation est la réalité (et pas une réalité parmis d'autres) est une autre histoire...
Video de qualité exceptionnelle. En ce qui me concerne cette affaire de conscience est toute évidente. On peut dire que Toute machine de l’information comme un micro contrôleur a par exemple conscience d’un changement sur une de ses entrées lorsqu’elle la lit. Evidemment cela n’a aucune chance d’aboutir à des considérations philosophiques 😅 Car sa structure est de fonctionnalité hyper basique. Tandis qu’un cerveau est de toute évidence extrêmement plus complexe en nature, et incroyablement plus efficace. En réalité pour les gens, ils recherchent une analogie entre l’homme et la machine faite par l’homme. Dans un réflexe de demander si finalement l’âme existe ou non, donc lorsque l’on demande si une machine a une conscience, on demande si elle est capable de s’imaginer ce qu’elle est entrain de vivre, de faire et de penser. Or apparemment il nous faudra probablement travailler un peu plus sur la technique hardware et software pour oser pouvoir l’affirmer, mais si la nature le fait, fusse t il en la copiant, bien sûr nous arriverons à le faire ! Merci à vous 👍
*On peut dire que Toute machine de l’information comme un micro contrôleur a par exemple conscience d’un changement sur une de ses entrées lorsqu’elle la lit.* Je ne dirais pas cela car une des propriétés importantes du processus qu'est la conscience semble être d'avoir une représentation interne d'une partie de ses propres états macroscopique, par exemple qu'on perçoit une image oui on on a en nous une représentation de l'image mais il y a aussi une représentation en nous du méta concept d'etre en train de percevoir l'image.
Sur le thème : les 30 premières pages de ' Diaspora ' de Greg Egan. Oui, un classique, mais tout le monde ne l a pas lu...😅. presque aussi bien que cette video😊
J'ai essayé de me poser objectivement la différence entre un algo conversationnel et nous. J'avais inversé l'interrogation en me disant que ces programmes disent bcp sur nous car un "simple" calcul vectoriel de statistique autorise une machine a parler comme nous. Du coup, sommes nous à ce point prévisible ? Donc un grand merci car vos soirces vont me permeetre de mieux creuser la question Bravo pour cette vidéo (qu'il va me falloir regarder plusieurs fois pour la bien comprendee)
Il y a encore beaucoup de différences entre un algo conversationnel et nous. La majorité des LLMs ne sont pas "récurrents" : c'est un calcul feed-forward, mot par mot, sans état interne mis à jour cycliquement et qui pourrait contenir un "état de réflexion" (ou, pour certains chatbots avancés, des versions très limitées de cela). Lorsqu'on nous dit "3x4" et qu'on pense et répond "12" du tac au tac, c'est très proche de ce qu'un LLM fait pour absolument tous les mots qu'il produit. On pourrait rapprocher la production conversationnelle des LLMs de certains small talk qu'on peut avoir sans y réfléchir vraiment et par pur instinct, ou encore les rapprocher des productions verbales du beauf de la famille lors des fêtes de Noël à venir. :)
Absolument brillant ! On pourrait étendre le raisonnement à une ruche ou une thermitière : sont-elles conscientes ? Quid de la différence fondamentale entre auto organisation et orchestration ? Notre cerveau n'est-il pas une auto organisation générant une possibilité d'orchestration ? Voir Dawkins... Je pense pour ma part qu'une machine peut penser et ressentir car nous sommes des machines ! Des machines incommensurablement plus complexes que tout ce que l'on peut imaginer, mais des machines quand-même.
question chargée, on ne se demande pas "est-ce qu'un humain peut penser?"(après visionnage, c'est plus ou moins ta question finale). Il faut reconnaître que tu expliques vraiment très bien, j'ai envie de dire, bien mieux que moi. J'ai eu exactement ce débat il y a quelques temps bizarrement. Quand tu t'expliques ça parait sérieux, quand je réponds, on me prend pour un abruti, ou un zombie philosophique...étrange. Je suppose que les gens se laissent avoir par la forme, sans faire attention au fond. Merci à toi d'articuler correctement ces idées.
Merci pour cette vidéo, énorme boulot ! J’adhère globalement bien à l’ensemble de tes propos. Mais à mon sens, il manque un maillon essentiel, l’intéroception. C’est justement le lien qu’il y a entre la cellule (autopoïèse, homéostasie, réproduction etc) et la conscience, dont tu parles au début, mais après tu n’y reviens pas. L’intéroception est la base de l’orientation de nos comportements (prises de décision), de boire quand on a soif, jusqu’aux comportement sociaux complexes. Connais-tu Anil Seth (livre "Être soi") ou Antonio Damasio ? Francirco Varela ("l’inscription corporelle de l’esprit") ? Si tu ne connais pas, je te recommande vivement le livre très récent d’Anil Seth. Ça va complètement dans le sens aussi de l’animal-machine. Il travaille aussi bcp sur l’intelligence artificielle etc. Parce que sans ce lien (intéroception), c’est un peu trop facile de passer de la conscience humain à la conscience d’une machine électronique ! Anil Seth et Varela, par exemple, insistent particulièrement sur la dimension phénomènologique (le "vécu"), justement, plutôt que fonctionnelle. Même si à la fin, tout ça n’est pas si contradictoire. Mais c’est vraiment la question de la texture vécue de la conscience, du sens/orientation de la pensée, de l’action, de l’inscription corporelle du vécu spirituel (l’activité du cerveau, de l’esprit) dans le corps, par l’intéroception. (sans parler du sentiment de réalité unifiée, de sentiment d’individualité unifié). Qu’est-ce qui ferait qu’une machine électronique aurait un sentiment d’identité individuel, corporel ?? Quelle serait la source de l’orientation de son comportement? Ce point est crucial. Pour l’humain on a de bonnes réponses (humain et autres animaux sensible et doué d’homéostasie !). Vraiment, lire Anil Seth !! (si c’est pas déjà fait ;-)
Il a manqué quelques chiffres à cet episode pour le rendre parfait ! Un point qui je pense fache souvent les dualistes quand on fait des comparaisons comme la gigantesque administration qui deviendrait consciente, cest justement de se rendre compte a quel point elle devrait etre GIGANTESQUE. Le niveau d'efficience du vivant est juste colossal, et pour le moment bien loin d'etre égalé par d'autre support. Je vous renvoi vers les videos de cette meme chaine concernant l'origine de la vie et la physique des nanomachines qui sont de très bons moyens de réaliser cela. Si je devais voir une IA consciente de mon vivant, je dirais que ca serait quelque chose de different de nous. Deja parce qu'un neurone n'est pas l'equivalent d'une porte logique : parce que ses valeurs d'entrees et de sortie sont continues, sont influencées par des facteurs internes (energie disponible, dechets cellulaire peut etre), depandent directement de miliers de connexions, ils ne peuvent etre reduits a seulement 0 ou 1. Pour reproduire un neurone il faudrait donc necessairement une structure plus complexe qu'une porte logique. Ca reste possible, mais de la a pouvoir en assembler suffisamment qui sont capables de se re-organiser pour arriver a l'equivalent d'un cerveau et sa plasticité... il est plus probable que pour des raisons de cout et d'efficacité on ait une structure analogue plus simplifiée. Et enfin, il lui faudrait une materialisation physique qui la rendrait vulnerable à la mort et dependante du maintien de son propre corps. Un etre vivant qui ne craint pas la mort, ni la faim, ni le sommeil, qui n'a aucun désir d'appartenir a un groupe et de s'y maintenir, avec une puissance de calcul logique démesurée, ca serait tout simplement dangereux : on ne se retrouverait plus qu'avec une IA executive qui accomplirait ses taches sans aucune morale. Si on veut qu'elle soit à notre image il faut la lier plus fortement qu'un ordinateur au monde réel. Bref, aux futurs createurs, je vous envoi toute ma force mais j'ai peu d'espoir x)
Je crois que notre conscience émerge de la formidable organisation de notre cerveau mais qu'il ne faut pas oublier que celui ci est un résultat d'un monde, le notre, sur notre planète et donc dans ses strictes conditions. Et donc ce qui est je pense plus fascinant encore, c'est de prendre conscience que c'est en observant l'univers inter planétaire ou inter galactique, ou, l'univers microscopique, que l'on observe des mondes que nous ne sommes pas sensés pouvoir observer. L'infiniment grand et l'infiniment petit, par rapport à nous, seraient des endroits secrets, qui sait interdits, et pourquoi pas, une aide vers les réponses à toutes nos questions.
Le seul problème de la conscience, c'est sa conscience à soi. Les autres, je peux très bien les voir comme des machines qui fonctionnent sans conscience. Ce sont juste des êtres biologiques qui agissent en étant dirigés par la machinerie de leur cerveau. Ils n'ont pas de différence fondamentale avec un ordinateur, un robot sophistiqué. C'est le "moi", le problème, mon "moi". Si on considère habituellement que nous avons tous une conscience, c'est parce que nous généralisons la notion du "moi" : comme nous appartenons tous à la même espèce animale, il est normal que nous considérions cette notion du "moi" comme générale. Je ressens un "moi" donc ça veut dire que les autres doivent aussi ressentir un "moi". C'est raisonnable. Cependant, il n'y a que "moi" qui suis "moi". J'ai beau faire des mouvements, marcher, me déplacer, je ne me déplace en fait jamais : c'est l'univers qui bouge autour de moi. Moi je suis toujours à la même place, dans la même personne. Les autres, je vois qu'ils se déplacent, moi pas. Il y a une différence fondamentale entre moi et les autres. Les autres, je ne peux jamais être à l'intérieur d'eux.
Bah oui et c'est bien pour ça que la notion est problématique, la conscience n'a pas de manifestation objective, elle est strictement subjective. Et pourtant on ne peut pas nier qu'elle existe, d'ailleurs comme le disait Descartes c'est la seule chose dont on peut être sûr de l'existence.
Sauf si on considère que la conscience est une illusion construite par le cerveau, comme le laisse penser le passage vers 17:52 et comme l’a théorisé (entre autres) Daniel Dennett.
@@Rykvp C'est bizarre de présenter ça comme une illusion. Parce que même si c'est une illusion, le fait de se croire conscient suffit à s'établir comme conscient, puisque de toute façon notre conscience est une perception de nous-même. Est-ce que vous êtes en train de suggérer que nous n'existons pas vraiment ?
@@Rykvp illusion est le mot commode trouvé par certains pour évacuer des faits gênants. Le problème avec cette notion c'est qu'on ne sait pas où elle commence et oui elle finit. Si on l'applique à la conscience elle-même, c'est-à-dire au support même de toute représentation, ça signifie que tout est illusion et donc que rien n'existe réellement. Même sans aller jusque-là, on est vite bloqué par la question: qui est victime de l'illusion? Enfin, une autre question vertigineuse: en quoi consisterait le fait de ne pas être victime de cette illusion? Et une toute dernière pour la route: savoir qu'on est victime de l'illusion de la conscience = être _conscient_ que ce que l'on perçoit n'est pas la réalité. Mais qu'est-ce que cela, peut-il donc signifier ici?
Ce que vous dites là est effectivement très pertinent et beaucoup plus profond que ce que l'on pourrait croire a priori. En fait, les tenants de ce genre de positions que j'estime extravagantes si on ne les prend pas pour ce qu'elles sont, à savoir de la pure science-fiction, ne font que projeter leur propre expérience subjective dans des ordinateurs sans se préoccuper de savoir comment se verrait une telle machine, et comment cette dernière verrait le monde, si d'aventure ce genre de chose était possible. En fait, il ne font que s'imaginer eux-mêmes en forme de machine. De mon point de vue, cela relève du doux fantasme au mieux, ou du délire profond au pire.
Super vidéo ! Un truc sur le coup de l'état interne: À mon avis il y a de l'anthropomorphisme dans ce concept. Parce qu'à mon avis on a du mal à se dire que les LLM peuvent avoir un état interne, mais est-ce que la continuité est nécessaire à la conscience ? On pourrait considérer que l'état interne de chatGPT est son ensemble de prompts. C'est juste que les LLM fonctionnent sur des inputs output immensément plus simple que le cerveau humain et qu'au lieu d'avoir un fonctionnement continu, les LLM fonctionnent par étape qui peuvent être séparées dans le temps (d'ailleurs en poussant le raisonnement, on peut surement trouver une unité de temps qui passe entre deux états interne du cerveau humain). Bref, je dis pas que chatgpt est conscient mais peut être que la continuité n'est pas nécessaire à la conscience (simplifiant encore sa définition parce que la continuité semble un peu être une hypothèse implicite de la conscience)
*Je copie des morceaux d'autres réponses à des commentaires (je te fait confiance pour adapter, mais c'est quasi deja a propo)* Oui, les réseaux de neurones actuels possèdent une forme de récurrence à travers leur fonctionnement auto-régressif token par token : leur "état mental" est constitué du texte de la conversation passée. Mais c’est évidemment très embryonnaire. Lorsque nous menons une conversation, notre état mental persistant est infiniment plus riche que le simple souvenir des mots que nous avons prononcés. Pour reprendre des termes techniques, il faudrait que la récurrence se déroule dans l’espace des features et non uniquement en sortie. Dans une certaine mesure, les LLMs actuels ont fait émerger des astuces pour émuler cela : un fonctionnement récurrent, en boucle, peut être reproduit en "déroulant la boucle". Par exemple, au lieu de passer N fois dans le même bloc, cela équivaut à passer dans N blocs consécutifs constitués de copies du premier.Comme nos réseaux actuels sont très profonds, on pourrait imaginer que quelques couches initiales, qui lisent la conversation passée, soient capables de reconstituer un état mental "riche" (davantage que de simples mots). Ensuite, dans un second temps, le reste des couches feed-forward agirait comme une sorte de récurrence déroulée. C’est donc techniquement possible que ce mécanisme ait émergé, mais il est limité par design et reste assez improbable. Quant à permettre une forme de réflexivité grâce à cette récurrence, c’est certainement encore plus délicat. *Et sur cette histoire de réflexivité dont je parle a la fin je faire référence à ceci:* Un fonctionnaliste ne dit pas qu'il suffit que le réseaux soit "complexe" il doit également, dans sa complexité, induire certaines propriétés précises. Par exemple le fait de permettre la représentation interne de ses propres états macroscopiques, ie lorsqu'on perçoit une image oui on on a en nous une représentation de l'image mais il y a aussi une représentation en nous du méta concept d'etre en train de percevoir l'image. On peut penser à ses propres pensées et donc manipuler une représentation d'une partie de nous même en tant que processus. Comme la majorité des LLMs actuels ne sont pas récurrents (n'ont pas d'état interne mis à jour cycliquement) il y a en effet de forte chance qu'ils n'induisent rien de phénoménale, par leur fonctionnement même la représentation d'eux même, la réflexivité dont je viens de parler en exemple, leur est inaccessibles. Et on ne dit pas non plus que cette réflexivité dont je viens de parler en exemple est suffisante, c'est un exemple d'une propriété qui semble essentielle.
@PasseScience sur la réflexivité, je suis pas certains qu'on soit si supérieur aux LLM justement. Mr. Phi a parlé d'un papier où ils montrent une représentation spatiale dans le réseau par exemple qui fait penser à ce coup de représentation interne. Je pense qu'on a l'impression que c'est pas la même chose parce que c'est moins complexe et multimodal que le cerveau mais à mon avis les étapes sont plus avancées vers une conscience que les philosophes ne le pensent. Mon avis c'est qu'on a surtout du mal à être réellement fonctionnaliste jusqu'au bout parce que c'est très contre-intuitif :D. Mais quand j'aurais des financements dessus j'aimerais bien étudier la question :D
@@tolhsadum Oui les LLMs actuels peuvent faire emerger des modeles du monde, mais la reflexivite dont je parle ce n'est pas juste un model du monde, c'est un model de sa propre cognition, par exemple le fait de se souvenir avoir penser a quelque chose, le fait de se souvenir de s'etre souvenu, le fait de savoir (modeliser) le fait qu'on est en train de reflechir à une certaine chose.
Bonjour. La bonne réponse à la question posée est : oui. Je remercie tous les participants à notre jeu concours, face à l'absence de gagnant le porte clef à gagner est remis en jeu pour la prochaine vidéo. Merci à tous.
Petite question : à 16:54, tu parles de la simulation du nématode mais la question que je me pose, c'est : étant donné que tu compares les actions conscientes et inconscientes à des fonctions réalisées, comment les scientifiques ont fait pour connaître les fonctions associées aux Neurones ? Est-ce que reproduire la cartographie neuronale et envoyer un signal électrique suffit à recréer la fonction associée au traitement neuronal ? Comment savoir vers quel neurone un neurone va renvoyer le message électrique reçu ?
C'est une très bonne question, je vais y répondre de manière incrémentale: Dans un modèle naïf on a seulement besoin de savoir qui est relié à qui et par quelle longueur de fil (a cause du délais) et on peut considérer que tous les neurones fonctionnent pareil et broadcast leur signal à tous ceux auxquels ils sont connectés en aval. Comme c'est un peu trop naïf, on peut ajouter à ceci la distinction des types cellulaires et des types de connexion entre neurones, il y aura un modèle de fonctionnement par type de neurones, et on distinguera par exemple les connexions excitatrices et inhibitrices. Ce n'est en général pas suffisant car même des neurones et des connexion de même types ont des paramètres libres qui peuvent se "régler" automatiquement au cours de la vie du nématodes, pour régler ces paramètres libres on peut: observer finement le comportement neurone par neurone (ce qui est faisable dû au faible nombre) mais aussi on peut regarder plutôt ce que le réseau en entier ou une partie du réseaux répond à tel signal d'entrée et faire tourner un programme d'auto tuning de ces paramètres libres pour que ce que le réseaux simulé ponde corresponde à ce que l'original produit. Cette phase de calibrage fin est encore un domaine actif de recherche donc ce qu'on a à l'heure actuelle n'est pas parfait, mais parfois c'est suffisant pour reproduire un comportement qualitatif. *Comment savoir vers quel neurone un neurone va renvoyer le message électrique reçu ?* En fait un neurone ne choisi pas vraiment vers où il envoie son signal, il va broadcast sur toutes ses terminaison vers l'aval, mais par contre à l'extrémité de chaque connexion il y aura une connexion, qui elle peut avoir différente propriété (excitatrice ou inhibitrice par exemple) ainsi que des paramètres libres différents (l'equivalent d'un poids de connexion) et on détermine cela par un mixe d'observation du type de connexion et de l'autocalibrage comme je viens d'expliquer.
Je me demande si la conscience émerge bien du cerveau ? Sans être vitaliste, ne pourrait pas-t-on voir matériellement une construction de la conscience par l’interaction du cerveau qui calcule en interne, des organes de perception qui apporte les données de l’environnement et la nature des données de l’environnement, le tout étant inclus dans ce que j’appellerai un mouvement plus global qui permet à chacune des parties le cerveau, les organes de perception et l’environnement d’être en constante mutation, croissance décroissance, dans la limite de leurs cadres respectifs. Dis autrement la conscience pourrait émerger non pas du cerveau en lui-même pour se répandre vers l’extérieur, mais d’une alchimie totale entre cet extérieur, le cerveau, et les organes de connexion permettant une interaction entre les deux. Existe-t-il aujourd’hui des expériences où l’on greffe une IA de type LLM dans une machine à la Boston Genetics ?
C'est un point de vue très intéressant de l'émergence de la conscience. Je pense que c'est probablement le cas. Et ce n'est certainement pas un avis vitaliste mais bien la nature même du fonctionnalisme ce que vous décrivez!
Excellente vidéo comme d'habitude, un bonbon pour le cerveau ! Il y a malgré tout un aspect qui me turlupine toujours avec ce genre de réflexion : le problème difficile de la conscience. Il me paraît impossible de pouvoir déterminer l'émergence d'une chose tant qu'on ne sait pas ce qu'est réellement cette chose. Si d'un côté notre intuition ne semble pas à l'aise avec l'idée de l'émergence d'une conscience dans un substrat non biologique (et même non humain pour certains) et que d'un autre côté une réflexion rationnelle arrive pourtant bien à la conclusion que rien ne l'en empêche, il y a là bien la preuve qu'on loupe quelque chose. Mon interprétation est, il me semble, intrinsèquement irréfutable mais je pense simplement que le caractère "magique" que l'on accorde à la conscience n'est qu'une illusion, le biais cognitif ultime venant du fait qu'on essaie introspectivement de visualiser et d'interpréter une chose en usant de cette même chose. Comme si on voulait installer dans un ordinateur une simulation parfaite de lui-même, la simulation ne parviendrait forcément jamais à égaler son modèle, le rendant "à ses yeux" inatteignable. Comme l'est la compréhension de notre propre conscience. Qu'en pensez-vous ?
*Si d'un côté notre intuition ne semble pas à l'aise avec l'idée de l'émergence d'une conscience dans un substrat non biologique (et même non humain pour certains) et que d'un autre côté une réflexion rationnelle arrive pourtant bien à la conclusion que rien ne l'en empêche, il y a là bien la preuve qu'on loupe quelque chose.* Le cerveau humain a le biais d'habitude, il tire des patterns de la répétition, il ne voit qu'un certain type de chose et en tire ici une conclusion générale, c'est la même chose pour les partisans de la terre plate par exemple (exemple extrême certes) leur intuition est en fait dictée par l'experience quotidienne du haut et du bas dont ils dérivent un sens ontologique, cest un biais d'exposition en qq sorte, le matracage de la repetition d'une regularite fait que le cerveau l'essentialise. *Mon interprétation est, il me semble, intrinsèquement irréfutable mais je pense simplement que le caractère "magique" que l'on accorde à la conscience n'est qu'une illusion, le biais cognitif ultime venant du fait qu'on essaie introspectivement de visualiser et d'interpréter une chose en usant de cette même chose.* ca peut se rapprocher de l'illusionisme mais je ne peux le garantir car je ne suis jamais certain d'avoir compris cette these. notamment parceque si le phenomene est une illusion et bien l'illusion est le phenomene à expliquer.
@@PasseScience Merci pour cette redirection vers l'illusionnisme que je ne connaissais pas ! J'imagine que l'intérêt d'explorer cette voie est que, s'il faut comprendre les mécanismes de cette illusion, alors la place de la philosophie dans la réflexion diminue fortement au profit des neurosciences. Cela peut rendre les résultats plus tangibles et plus "durs". De plus, le fait d'admettre que la conscience serait une illusion plante un clou de plus dans le cercueil de cet anthropocentrisme qui fait tant de mal, validant ainsi une approche antispéciste.
@@divertissalt5475 Je n'ai pas été précis dans ma réflexion : l'abandon de l'anthropocentrisme et l'antispécisme ne sont pas liés par causalité mais par corrélation avec l'illusionnisme. L'homme se sert consciemment ou non du culte qu'il voue à son esprit et à sa conscience pour justifier une hiérarchisation des espèces. Hiérarchie dont il se place évidemment à la tête. Si cette conscience, élevée au rang de mythe, touchant presque au magique et au divin, ne s'avère être qu'une simple "illusion cognitive", alors la limite qui sépare les hommes des animaux en prend un coup.
Il y a, à priori, pas mal de niveaux qui peuvent constituer le « programme » dans la « machine humaine ». L’ADN code beaucoup de choses, dont l’agencement des cellules entres elles pour former des organes, tels que le cerveau. Le cerveau lui-même, en interaction avec le reste du corps, sert de support à nos pensées. Le « programme » de la pensée semble difficile à réduire à une simple expression de l’ADN. Il s’agit plutôt d’un niveau de complexité supérieure, émergent à partir de la structure du cerveau codé par l’ADN, mais il est également influencé par nos expériences, et en particulier, l’environnement social ou la culture au sein de laquelle nous vivons.
Deux livres que j'ai beaucoup aimé. Le premier ; écrit en 1979. Chercheur en sciences cognitives aussi original que stimulant, l'Américain Douglas Hofstadter écrit en 1979 le mythique GEB, Gödel, Escher, Bach, an eternal golden braid (les Brins d'une éternelle guirlande dorée) prix Pulitzer en 1980 et pose la question suivante : une Intelligence Artificielle peut-elle devenir consciente (sa réponse est oui) et dans quelles conditions ? Sa démonstration passe donc par un rapprochement entre l’œuvre de trois personnes qui a priori n’auraient aucun lien entre elles : le mathématicien Gödel, l’artiste Escher et le musicien Bach. Le deuxième ; écrit en 1980. Matière à pensée.Quel est le lien entre le monde physique et le cerveau ? Les objets mathématiques existent-ils indépendamment du cerveau de l'homme ou sont-ils seulement le produit de l'activité cérébrale ? Les mathématiques sont-elles universelles ? Mais le sont-elles au point de nous servir à communiquer avec d'hypothétiques habitants d'autres planètes ? L'éthique, qui nous fait distinguer le bien du mal, peut-elle être fondée sur des principes aussi universels que ceux des mathématiques, qui transcenderaient la diversité des cultures et l'intolérance des idéologies ? La morale peut-elle reposer sur des fondements naturels, qu'il faudrait rechercher dans le fonctionnement du cerveau humain en société ? Telles sont quelques-unes des questions essentielles instruites dans ce livre original et stimulant. Par la qualité de ses auteurs et la fécondité de leur réflexion, il constitue un événement exceptionnel. Alain Connes, médaille Fields, est titulaire de la chaire d'Analyse et Géométrie au Collège de France. Jean-Pierre Changeux, auteur de L'Homme neuronal, est titulaire de la chaire de Communications cellulaires au Collège de France. Tous deux sont membres de l'Académie des sciences. Que penser d'une personne dont le cerveau est physiquement absent à 90% absent et va parfaitement bien .Comme il existe des personnes dont le cerveau est plein d'eau, l'autre sans cervelet et le dernier est coupé en deux Pourtant, les trois personnes dotées de tels cerveaux vivent normalement. Un vrai mystère.
Dans l'état actuel de ce type de simulation (objectivement assez partiel) et dans le contexte de ce qu'on sait de la complexité de sa cognition, il ne semble pas y avoir encore trop de catastrophe morale ici. Mais c'est en effet effrayant car on commence à avoir des systèmes pour lesquels il se pourrait que ce type de catastrophe morale soit la. On pourrait décider de la vie et de la mort de système de conscience, décider de leur souffrance, ou même mettre au point sans le savoir des systèmes dont l'existence subjective n'est qu'une souffrance abyssale.
C’est peut être le tuer. Mais l’enjeu est peut être plus la souffrance. La série Westworld explore beaucoup cette thématique. Un propos qui m’a beaucoup perturbé est quand un des créateur dit que ce qu’il trouve sublime dans l’IA est la capacité a supprimer leur souffrances à leur faire oublier. Et ça, transposé potentiellement sur l’humain est très perturbant.
Tout à fait, et si on généralise, on pourrait se dire que si ce nématode est conscient, rien n'empêche de simuler des organismes plus complexes... Mettant définitivement fin au débat de si oui ou non la conscience peut émerger d'un substrat différent.
Je m’y suis intéressé il y a quelques années et j’ai trouvé chez Pierre Clement, neurologue, la seule explication à peu près raisonnable à l’émergence de la conscience: elle résulterait de l’avantage sélectif d’être responsable de ses actes. Évidemment, cela n’a d’avantage que chez des espèces eusociales. Pour le reste: tous les systèmes logiques ne sont pas forcément calculables. D’autant que le vivant, si on accepte la théorie de l’évolution, n’en fait pas partie.
Nuance ☝️si c'est logique c'est forcément calculable 😛c'est qu'une question de précision donc de puissance. On y parviendra. Mais ce seront tes petits petits enfants qui pourront le constater et sans trop d'émerveillement puisqu'ils seront baignés dès leur naissances dans d'importants progrès.
Après la force vitale, vous aborder la conscience (qui comme trop de gens l’ignorent encore, n’est pas le fruit du cerveau). « ce qui n’a jamais été observé » ah? et expliquez-moi ce qu’est l’effet placebo ? et l’effet nocebo ? Vous observez le vivant, vous observez la mort (l’absence de vie), mais vous ne pouvez expliquer ce qui ce passe entre ces deux états. Votre vidéo a le mérite de faire sourire ceux qui on l’opinion contraire. On attendra encore longtemps avant que des androïdes soient dotés de conscience. Ce ne sont que des machines totalement inconscientes et c’est pourquoi nous devons les brider (si on veut éviter exterminator).
@@andreando1760 J'ai du mal à vous suivre, je ne comprends pas dans votre raisonnement ce que l'effet placebo et nocebo vient faire là-dedans, ou est censé se démontrer. Vous pouvez développer ?
2:50 Et l'etre humain est terriblement aveugle et centré sur sa facon d'interpreter le monde. Rien que le débat sur les sétacé (orques, dauphins, cachalots et autres) sur si ils sont aussi inteliguent voir émotive et conscient que nous.
J'ai une remarque à propos du test de Turing. Je me rappelle avoir assisté à une conférence donnée par Avi Wigderson, où il avait affirmé quelque chose qui semblait contredire ce que vous avez dit. Selon mes souvenirs de ce qu'il a dit, je cite avec mes mots "l'importance réside non pas dans la cause, mais dans la propriété qui en émerge". Autrement dit, deux entités ayant des propriétés indiscernables, dans le cadre des propriétés testées, sont équivalentes dans ce contexte. Ici, le test des propriétés est celui de Turing (à condition, bien sûr, que ce test évalue effectivement toutes les bonnes propriétés, ce qui demande à clarifier ce que l'on entend par bonnes propriétés). Que pensez-vous de cette idée ? Une version élargie du test de Turing pourrait supposer qu'un humain n'est pas intrinsèquement plus conscient qu'une machine, dès lors que cette machine réussit les mêmes tests de conscience que l'humain. Si, des années plus tard, de nouveaux tests venaient à être conçus, alors la réalité ou la reconnaissance de la conscience d'une machine pourrait évoluer en fonction de ces nouveaux tests. Est-ce bien ce que vous cherchiez à développer ?
*ce qui demande à clarifier ce que l'on entend par bonnes propriétés* *Est-ce bien ce que vous cherchiez à développer ?* oui ce que les theories de la conscience cherchent à developper ce sont les proprietes necessaires et suffisantes a l'emergence de la conscience phenomenale (ie au ressenti subjectif) et ses proprietes seraient objectives (mesurables)
😮😅 merci beaucoup j'ai mieux compris cette histoire de fonctionnaliste j'ai également appris tes apparemment on vivrait dans un simulation on le sait grâce à la 3e loi de Newton et on peut même observer maintenant les atomes au microscope on voit un point lumineux avec un dégradé autour qui représente les nuages électroniques et c'est vrai c'est incroyable comment entre la vie macroscopique et microscopiques qui sont relativement bien liés😢😢😢😊
Finalement, par bien des détours, la biologie opte pour une compréhension matérialiste. Pour paraphraser Laplace, "l'esprit est une hypothèse non nécessaire".
Ce Raphaël Enthoven est essentiellement un cuistre et s'est moult fois contredit face à M. Phi, mais il n'a pas non plus dit que des conneries lors de ce débat.
@@gaiusbaltar7122 C'est un tenant du vitalisme, donc de la force surnaturelle qui anime la vie. Autant dire que son postulat de départ n'est pas "matérialiste" pour utiliser le terme le plus connu en philo (même si c'est pas le plus adapté) Son choix métaphysique de base est différent de celui des scientifiques, et de la plupart de philosophes modernes. Enthoven est agrégé en philo, heureusement qu'il ne dit pas que des conneries (par contre en dire sur son sujet d'expertise c'est souvent rédhibitoire), même si son approche est plus littéraire et symbolique que logique.
@@malluinmalluin5569 j'ignore s'il est vitaliste car je ne me souviens pas de l'avoir entendu défendre cette position lors de ce débat. Cependant, effectivement, il s'affirme d'une part matérialiste et, d'autre part, il semble défendre à bas bruit des thèses dualistes. Pour le reste je vois que vois qualifiez le vitalisme de "force surnaturelle". Je pense pour ma part que c'est aller un peu trop vite en besogne. Par ailleurs, j'affirme au risque de vous choquer, que le vitalisme n'a, jusqu'à présent, jamais été formellement réfuté. Il a en effet été évacué du discours scientifique plus par préjugé matérialiste (ce "choix métaphysique" dont vous parlez) qui domine la biologie moderne que pour des raisons rigoureusement expérimentales.
A 12:18 tu poses une hypothèse qui rejoint ma théorie. Soit que l'inconscient décide de tout, mais qu'il dysfonctionne et que nous ne serions là que pour aider à pallier ce dysfonctionnement,ce qui n'est toujours pas fait. Je m'appuie sur le fait que personne ne décide de quoi que ce soit de l' Amour, qui pourtant est là, ce qui suppose que nous ne puissions décider de rien quant à ce qui meut l'humain puisque ne décidant de rien de l' Amour qui en est une composante essentielle. Un avis là dessus? Je précise que je connais depuis vingt ans les deux conditions nécessaires pour que de l' Amour soit généré chez et entre deux personnes, ce qui me permet d'affirmer que nous ne pouvons influer sur aucune des deux, et donc rien en décider, contrairement à l'inconscient qui lui vérifie ces deux conditions et applique ce qu'elles donnent comme résultat. J'ai également constaté que plus de 95% des gens ne s'aperçoivent d'absolument rien quand leur personne tombe Amoureuse, ce qui suppose un dysfonctionnement chez ces gens, tandis que ceux qui ne sont pas affectés n'en décident pas non plus, bien que eux aussi affectés par le dysfonctionnement dans d'autres domaines, comme le non respect de la nature.
"Ho non" dans le sens ou tu étais deja trivialement fonctionnaliste (ou a minima d'un matérialisme qcq)? ou "ho non" dans le sens ou tu es évidemment dualiste?
L'absence de conscience des LLMs est loin d'être un sujet clos. les pros de l'IA sans formation philosophique voient cela comme une évidence car ils comprennent entièrement les grands points de fonctionnement des LLMs. Mais la pensée fonctionnaliste induit que comprendre totalement une fonction n'empêche pas cette fonction de faire émerger une conscience. Tout le génie du test de Turing n'est pas un pari sur les mécanises requis pour se faire passer pour un humain mais l'idée que même simuler une tache pourrait faire émerger les mêmes états de conscience que faire cette tache pour un humain. Les limitations du test de turing sont plus dans le fait qu'être humain ne se résume pas à conversationner mais des tests similaires à celui de Turing (dans le sens ou on n'a accès qu'aux output et aux input) sont toujours pertinents.
J'ai toujours pensé que nos comportements, nos choix philosophiques personnels et politiques, sur le point de leur conception de notre humanité ne devaient pas dépendre de ce que nous apprenait la science. Et pourtant j'impression que nos connaissances du vivants changent beaucoup de choses ? Si tel est le cas, faut-il y voir la marque d'une insuffisance dans notre philosophie commune ?
En fait ce qui pose vraiment question, et que vous ne questionnez pas, est l'existence de la matière inerte. Car, comme l'a souligné Descartes, la seule chose dont une conscience phénoménale puisse être vraiment sûre, c'est d'elle-même. Le monde extérieur, la matière n'est qu'une hypothèse que produisent des qualias cohérentes, certes avec beaucoup de régularités. En somme, pour une conscience phénoménale il n'y a qu'elle-même, le monde c'est elle même. Qu'il existe une réalité plus pauvre, inerte, est la vraie question.
De la même manière qu'Einstein a prouvé qu'on ne peut pas distinguer l'accélération de la gravité, à un moment donné, nous accepterons qu'un être artificiel qui se comporte ou manifeste des sentiments n'est pas différent d'un être naturel qui ressent des sentiments.
Pour avoir conscience de soi et sentir, il faut que certaines configurations du réseau produise des entrées nouvelles qui ne soient pas celles produites par l'interaction normale d'un réseau. C'est ce que j'appelle une obsession, une epilepsie ...
Je suis fonctionnaliste acalculiste. Je pense que la conscience est issu d'intéractions physiques mais que la fonction réalisée qui aboutit à la conscience n'est pas un calcul (ou dit autrement que réaliser le même calcul d'une autre façon n'aboutira pas forcément à une conscience). Notamment, si le calcul est médié par une surcouche logique qui s'apparente à un langage.
Pas sûr de suivre, est ce que le même calcul aboutirait aux mêmes comportements (sans même parler de conscience subjective) ? Est-ce que reproduire le calcul de votre cognition mènerait à pouvoir discuter avec cette reproduction de manière indiscernable avec vous-même ? (mais qui ne serait pas consciente du coup?)
@@PasseScience Oui (nous en avons longuement discuté sur X). Je pense que si on parvenait à réaliser une simulation titanesque on n'aurait qu'un "zombie" (et les LLM nous donnent un exemple approchant de zombie, pour le langage). Dès lors que c'est une simulation, je vois un mur infranchissable vers la conscience phénoménale (ce que j'appelle la barrière symbolique). Je trouve a priori coûteux intellectuellement de se dire qu'on pourrait parvenir à la conscience phénoménale en sautant l'étape de complexité de la vie. Je pense (en théorie) tout à fait possible de créer une conscience artificielle, mais ce robot conscient serait également vivant (et composé de cellules vivantes).
@@brunodoussau_from_tyumen Il faut dans ce cas définir ce qui distingue le « vivant », d’un substrat artificiel. Quel mécanisme ou phénomène produit, ou sert de support, à la conscience ? S’agit-il d’un phénomène tel que la conscience quantique, défendue, entre autres, par Roger Penrose ? Il me semble beaucoup plus coûteux intellectuellement de devoir ajouter ce type de phénomène, quel qu’il soit, à notre compréhension du monde, avec l’unique objectif d’expliquer la conscience, plutôt que de chercher comment les états internes d’un système complexe, tel que le cerveau pourrait expliquer la conscience.
@@Rykvp Je n'oppose pas "artificiel" et "vivant". Le vivant est assez bien défini comme : système chimique autonome capable d'une évolution darwinienne. Rien ne s'oppose à créer un système vivant de toutes pièces, très différent si on veut du vivant historique (celui à base d'ADN-ARN-protéine). Je pense raisonnable de penser qu'un système avant d'acquérir la conscience, doit être vivant, même si c'est sous une forme bien à lui.
Bonjour! Votre thèse est simple, voire, à mon sens, simpliste. La voici dans les grandes lignes: la matière vivante n'a, selon vous, strictement rien de particulier. Donc les fonctions qu'elle assure n'ont rien de spécifiques à elle. Donc n'importe quelle matière, organique ou non, peut remplir exactement les même fonctions (en passant, parler de "fonctions" pour de la simple matière est extrêmement problématique du point de vue de la physique mais ce n'est pas le sujet ici). Cependant, on constate que nos ordinateurs, que vous êtes prompt à assimiler à des cerveaux (et inversement) n'ont pas de conscience et ne pensent pas, ce qui est tout a fait normal et compréhensible pour les spécialistes et techniciens de ce secteur (dont je suis par ailleurs mais cela n'est pas important). Vous affirmez de votre côté que, dans certaines conditions, la pensée et la conscience doivent nécessairement "émerger" des ordinateurs en vertu des lois de la physique. Donc, selon vous, quelque chose doit nécessairement "émerger" de cette matière que vous qualifiez de "standard". Vous dites donc: *CERTAINS assemblages de semi-conducteurs dotés de conscience sont concevables.* Concrètement, que serait cette "conscience" qui devrait "émerger" et qui ne serait donc pas, à ce titre, réductible à cette matière "standard"? En effet, si c'est toujours de la matière, alors rien n'a "émergé". Et si ce n'est pas matériel, cela n'existe pas selon vous, et donc rien n'a émergé non plus. Et que signifierait au demeurant, d'un point de vue strictement matériel, cette notion de "conscience"? Autrement dit, selon vous, que doit-il nécessairement émerger concrètement? Par ailleurs, qu'auraient de particulier ces assemblages de semi-conducteurs par rapport aux autres? Autrement dit, dans quelles conditions des assemblages de semi-conducteurs doivent-il nécessairement aboutir à un Descartes synthétique? Enfin, puisque vous considérez que Descartes s'est complètement égaré avec son délire de "je pense donc je suis" (alors que cela est manifestement impossible à réfuter, mais peu importe), comment se fait-il selon vous que des lois de la physique aboutissent nécessairement à une "erreur"? S'agit-il finalement d'une mauvaise conformation matérielle? Et si oui, au regard de quelle norme? Je précise que ces questions ne sont que des questions de surface, et que si on pousse plus loin la réflexion, ce que vous ne faites manifestement pas ici, on tombe sur des difficultés théoriques encore plus insurmontables.
Je repond point par point (à une des version de ce commentaire que moi je voyais tres bien, qui semble differente de la version ci dessus.) *on constate que nos ordinateurs, qu'on est prompt à assimiler à des cerveaux* Non pas grand monde n'assimile les ordinateurs en général à des cerveaux dans une discussion rigoureuse. > Homme de paille. *nos ordinateurs n'ont pas de conscience et ne pensent pas, ce qui est tout à fait normal et compréhensible pour les spécialistes et techniciens de ce secteur.* Je suis informaticien de métier et passionné de ces sujets, et c'est également pour moi, tout à fait normal et compréhensible que mon ordinateur ne pense pas, et même que GPT4 ne pense pas, je n'ai jamais dit le contraire et je saurais argumenter pourquoi gpt4 n'est probablement pas conscient.. > Homme de paille. *Vous dites donc: CERTAINS assemblages de semi-conducteurs dotés de conscience sont concevables. Concrètement, que serait cette "conscience" qui devrait "émerger" et qui ne serait donc pas, à ce titre, réductible à cette matière "standard"?* Un certain mouvement d'information avec sa dynamique, sa structure et des propriétés précises. *si c'est toujours de la matière, alors rien n'a "émergé".* Ce n'est pas le support physique qui importe mais l'information, et lorsqu'on parle ici d'émergence on parle des propriétés dynamique macroscopique de ce groupe d'information, vous concevez bien par exemple qu'un nuage, fait de molécule d'eau, a un comportement macroscopique induit par la physique des molécules d'eau, mais qui est en fait macroscopiquement relativement distinct de sa dynamique microscopique, il devient un objet en lui même. Mais bon, je n'espère pas ici réussir à communiquer avec vous le concept d'émergence, a l'issue de nos discussion c'est un aspect qui semble vous dépasser totalement. *Par ailleurs, qu'auraient de particulier ces assemblages de semi-conducteurs par rapport aux autres? Autrement dit, dans quelles conditions des assemblages de semi-conducteurs doivent-il nécessairement aboutir à un Descartes synthétique?* Encore une fois, le substrat physique n'est pas la clef (vous ne semblez pas vraiment comprendre la thèse de la réalisabilité multiple) donc il faut plutôt poser des conditions, des propriétés, sur le processus, Quelle propriété un processus doit avoir pour mener à la conscience subjective ? eh bien c'est le sujet des théories sur la conscience.... Je vous invite à googler "theories of consciousness". Une des propriétés qui me semble essentielle (et je n'ai pas dit suffisante) c'est qu'un processus contienne en interne, des informations qui représentent une partie de ces propres états macroscopiques, que ce mouvement d'information soit réflexif, s'auto-réfère. *Enfin, puis que vous considérez que Descartes s'est complètement égaré avec son délire de "je pense donc je suis"* Ha bon je considère ça moi ? (des fois j'avoue ne même pas imaginer comment vous comprenez les trucs de travers tellement ils sont loin de ma conception) *comment se fait-il selon vous que des lois de la physique aboutissent nécessairement à une "erreur"?* Je ne vous suis pas. Une erreur de quoi? NB: lorsque vous posez vos questions (que j'ai déjà dit suite à notre passif je me réserve maintenant largement le droit de ne pas lire) je vous serais gré de ne pas les mettre en réponse à un commentaire: ca vous permettrait de ne pas faire bugger youtube et de jouer les persécutés, de ne pas me faire moi lire 4 fois la même chose (car visiblement moi je vois bien vos commentaires qui "disparaissent"), d'en avoir les notifications, et de ne pas mélanger les carottes avec la choucroute.
Mettons de côté les semi-conducteurs. Je suis curieux de connaître votre définition des termes « conscience » et/ou « penser ». Ma question sous-jacente serait de comprendre en quoi la conscience que nous les humains avons est une caractéristique fondamentalement différente de par exemple avoir des écailles, ou des griffes ou pouvoir voler. Existe-t-il selon vous un autre mécanisme que l’évolution/sélection naturelle pour expliquer l’apparition de la conscience chez l’humain ? Autrement dit : imaginons que l’humanité disparaisse. Après un temps suffisamment long, considérez-vous possible qu’une autre forme de vie animale puisse à son tour développer une conscience ? (j’ai bien dit possible, pas inévitable ou même probable).
@@PasseScience (pour faire au plus court, je passe sur l'accessoire et focalise sur l'essentiel) *Un certain mouvement d'information avec sa dynamique, sa structure et des propriétés précises* Si vous dites : un certain mouvement de particules, d’un point de vue matériel, c’est ok, mais là vous dîtes « un certain mouvement d’information » et je vous repose la question : de quoi parlez-vous matériellement parlant ? Quel rapport entre particule et information ? Comment passe-t’on de l’un à l’autre ? *vous concevez bien par exemple qu'un nuage, fait de molécule d'eau, a un comportement macroscopique induit par la physique des molécules d'eau, mais qui est en fait macroscopiquement relativement distinct de sa dynamique microscopique* Certes, mais ici on parle toujours de choses bien identifiables d’un point de vue matériel : particules, atomes, molécules, structures macroscopiques. Donc je reviens à ma question ci-dessus. *c'est un aspect qui semble vous dépasser totalement.* Ce concept consiste à dire : un truc nouveau apparaît sans qu’on puisse dire pourquoi et comment. Avouez que ça doit nécessairement dépasser les esprits moyens tels que le mien qui ont besoin d’explications concrètes et rigoureuses. *Encore une fois, le substrat physique n'est pas la clef* Ce que vous dites là est extrêmement problématique d’un point de vue matérialiste dans lequel vous vous inscrivez. *il faut plutôt poser des conditions, des propriétés, sur le processus* Oui, on peut faire ça avec n’importe quel objet matériel et décrire tout ça d’un point de vue matériel come par exemple pour la formation des nuages, des étoiles, des planètes, voire de l’Univers dans son ensemble et on parle toujours de choses matérielles bien identifiées, avec des propriétés bien définies, et des processus bien décris mais ici vous parlez d’autre chose comme vous le dites au-dessus en affirmant que « le substrat physique n’est pas la clé » alors qu’en physique, le substrat physique est bien la clé et même la seule clé. Donc, encore une fois, vous parlez de quoi concrètement, d’un point de vue matériel et uniquement matériel comme il se doit en physique ? *des informations qui représentent une partie de ces propres états macroscopiques* Au delà du fait que vous ne dites pas ce qu'est une "représentation", notamment du point de vue de la physique, on représente toujours pour quelqu’un, donc pour une « conscience ». Autrement dit, ici il y a un gros problème car vous semblez déjà présupposer un récepteur à cette représentation de soi-même. *mouvement d'information soit réflexif, s'auto-réfère* Quand j’entends mouvement en physique, je comprends aussitôt et uniquement mouvement de particules. Ici encore une fois vous parlez d’information, ce qui est étrange. Par ailleurs, en admettant ce terme « information », vous dites une information qui se réfère à elle-même, mais pour qui exactement ? Quand je lis un livre qui s’auto-référence, c’est le lecteur qui le constate, pas le livre si vois voyez ce que je veux dire. *des fois j'avoue ne même pas imaginer comment vous comprenez les trucs de travers tellement ils sont loin de ma conception* Cette proposition est au fondement du dualisme et je crois savoir que vous êtes moniste. *Une erreur de quoi* L’erreur de Descartes (c’est le titre d’un livre par ailleurs) qui a mené au dualisme, à savoir celle d'affirmer que le fait que l'on pense est la preuve que l'on existe.
@@xaviervilloing6636 *« conscience » et/ou « penser »* Question très intéressante et très complexe à la fois. Il serait bien présomptueux pour moi de prétendre définir ces termes de manière absolument objective et formelle. En première approche, je dirais de la pensée qu'il s'agit de la capacité pour une entité quelconque de construire une image mentale, soit totalement abstraite, de la réalité. Quant à la conscience, il s'agirait en première approche de la propriété, pour cette entité, de se représenter elle-même pour elle-même et, à se titre, de se considérer comme une entité distincte du reste de l'Univers, face auquel elle se considère comme observatrice, comme point de vue. *Existe-t-il selon vous un autre mécanisme que l’évolution/sélection naturelle pour expliquer l’apparition de la conscience chez l’humain ?* Il est absolument impossible pour moi de répondre à cette question. *Après un temps suffisamment long, considérez-vous possible qu’une autre forme de vie animale puisse à son tour développer une conscience ? (j’ai bien dit possible, pas inévitable ou même probable).* Je ne vois absolument rien qui s'oppose par principe à cette possibilité.
@@gaiusbaltar7122 *Si vous dites : un certain mouvement de particules, d’un point de vue matériel, c’est ok, mais là vous dîtes « un certain mouvement d’information » et je vous repose la question : de quoi parlez-vous matériellement parlant ?* Je vous renvoie à 12:58 pour reprendre le concept de realisabilite multiple, notamment avec l'exemple de la porte ET, et les deux implementations physique differente, le calcul est ici le meme, la physique qui le supporte differe, moi je parle du point commun entre les deux structures, donc de l'information. *Ce concept consiste à dire : un truc nouveau apparaît sans qu’on puisse dire pourquoi et comment. Avouez que ça doit nécessairement dépasser les esprits moyens tels que le mien qui ont besoin d’explications concrètes et rigoureuses.* Je crois vous avoir deja donnez l'exemple de la dune, que j'aime beaucoup, vous considerez une dune de sable dans le vent, le sable s'accumulant d'un cote, s'envolant de l'autre, resultant donc en un mouvement de la dune vers le vent. Ici vous avez un objet macroscopique, la dune, qui peut persister et se deplacer dans son etat de dune indefiniement et donc avoir une duree de vie plus longue que ces constituant (puisque les grains qui la constitue finisse par venir et finissent par partir) elle a aussi des proprietes macroscopique bien a elle, un deplacement une vitesse, qui n'ont rien a voir avec le deplacement et la vitesse des grains qui la constitue, notamment elle se deplace dans le sens inverse de tous ces constituants. (a contre vent alors que les grains vont dans le sens du vent). Bon he bien ici je vois donne un exemple d'emergence que je pense que vous pouvez comprendre, et du coup sauriez vous capable de m'expliquer dans ce cas COMMENT ce truc nouveau qu'est la dune apparait ici, pourquoi et comment ? Une partie du sujet (les theories de la conscience) ont pour objectif de trouver une reponse a votre question (et donc ne l'ont pour le moment pas, ou pas integralement) mais si je vous donne l'exemple de la dune cest pour vous montrer que meme dans le cas ou l'exemple est concevable, assimilable, et compris a toutes les echelles, il est difficile de definir le type de reponse que vous voudriez avoir à "pourquoi eet comment?" meme dans un cas parfaitement maitrisé d'emergence. *Encore une fois, le substrat physique n'est pas la clef, Ce que vous dites là est extrêmement problématique d’un point de vue matérialiste dans lequel vous vous inscrivez.* Pas vraiment, c'est en fait vous ici qui voulez garder une dichotomie classique materialiste dualiste, je ne suis pas dualiste, mais je ne suis pas non plus "materialiste" au sens classique du terme, un fonctionnaliste il se concentre sur les processus interne (voir reponse sur la these de la realisabilite multiple) par exemple un "programme" ca existe pour vous ? je veux dire "materiellement" c'est quoi exactement le programme "internet exploreur" les atomes des micropusces qui l'execute ? vous ne saississez pas en quoi c'est reducteur de vouloir materialiser une structure logique ? elle est "implementee" par un substrat physique, mais celui ci est intercheangable, et ceuq qu'on garde (ie le processus) c'est ce qui nous interesse. Le fonctionnalisme a toujours eu sa part de dualisme, percisement parceque ce sur quoi il se focalise est le processus et non le hardware. *Donc, encore une fois, vous parlez de quoi concrètement, d’un point de vue matériel et uniquement matériel comme il se doit en physique ?* Meme reponse a la meme question, du coup j'imagine qu'aucun programme informatique n'existe ? cest quoi materielement un programme informatique ? comment c'est possible d'avoir le meme programme qui tourne sur des architectures differentes faites de composants qui n'ont rien a voir, quest ce qui est le meme si tout materiellement change ? A la limite si vous voulez vraiment avoir un truc materiel, a la place de parler du processus vous pouvez parler d'une realisation de ce processus, ou dans ce cas ca serait les structures physiques qui en deroule l'execution dont on parle. *Autrement dit, ici il y a un gros problème car vous semblez déjà présupposer un récepteur à cette représentation de soi-même.* Non ce qu'on dit c'est que produire cette structure rapproche simultanement de creer le recepteur de creer le signal dont je parlais. Le recepteur s'identifie au processus avec les proprietes recherché. (c'est une question de type oeuf ou la poule que vous faite, montrant des difficultes a concevoir des concepts presentant une cyclite). C'est un peu comme si vous disiez en gros qu'aucun mot du dictionnaire ne peut avoir un sens car son sens est defini par les autres mots et qu'ils faut donc que ces mots ai deja un sens etc... ba non, c'est la relation entre les elements de l'ensemble qui donne simultanement un sens a ses parties.
Bonjour. Émergence faible ou forte ? Dois-je penser que des cellules de Bénard proviennent d’une propriété inconnue des molécules d’eau (réductionnisme) ou bien qu’en réaction à leur environnement (effondrement de l’équilibre thermodynamique), la matière « commence à voir » (Prigogine), le tout étant plus que la somme de ses parties ? Les expériences de Libet ? Elles partent de l’a-priori que la conscience est cérébrale, or nous connaissons (grâce à la science) que nous avons aussi des neurones dans les intestins et aussi dans le cœur [ce que nous « savions » déjà (de « sapere » : avoir du goût - ce qu’une machine n’a jamais eu - n’a pas - n’aura jamais) depuis très très longtemps, inconsciemment (?), exprimé dans les locutions avoir du cœur et avoir des tripes]. Les neurones de quel(s) organe(s) répondent aux stimulations de Libet ? Où se situe la conscience ? « L’élan vital », notion que l’on retrouve entre autres chez Bergson est surtout là pour exprimer le fait que Nous, science comprise, sommes incapables de définir ce qu’est le temps, sinon de l’exprimer sous forme d’espace comme une bête mesure d’angle… Platon émettait l’idée que le véritable changement se tient « entre le mouvement et le repos » c’est-à-dire en dehors de la mécanique telle que nous l’entendons. La Nature, la conscience, l’homme, le complexe, sont-ils mathématisables ? Quelle preuve que A=A (ou 1=1) sans le comparer à Non-A ? La conscience est-elle individuelle ? (émergence faible). L’univers est-il conscient ? (émergence forte ou vitalisme ?). Ce n’est pas le binarisme d’une porte « et » qui résoudra le problème (ni de la conscience, ni du photon émit avant d’avoir été absorbé). D’autant que si vous m’avez bien suivi, la vérité s’il en est une, est ce qui se tient entre la fin de la question et le début de la réponse. Alors une machine peut-elle penser ? Si l’on croit que tout est calcul alors oui. Mais j’aimerais bien que cette machine m’explique, consciemment bien sur, comment elle a vécu l’intensité de son dernier orgasme…
Nier le libre arbitre chez l'Homme est hautement stupide. Quand j'ai demandé à ce youtubeur comment on pouvait espérer le voir "émerger" (abracadabra!) chez la machine alors qu'on la nie chez l'Humain, il s'est contenté de me donner un lien vers une vidéo de Mr Phi en me disant un truc du style "le déterminisme ne s'oppose pas une certaine liberté", sans plus d'explication ni de démonstration. Il s'avère que j'ai vu cette vidéo il y a longtemps: on y voit un Mr Phi revenir sur et de ses postions déterministes précédentes (en effet, quelques minutes de réflexion suffisent poiur se rendre compte de l'absurdité de cette position) mais s'arrêter au milieu du gué (pour ne pas sombrer dans le dualisme manifestement) et baratiner de longues minutes pour dire que finalement, A (déterminisme) peut parfois être égal à non-A (liberté) sans plus de démonstration ni d'argumentation, conformément à une thèse dite "compatibiliste". Voila le niveau de réflexion et d'argumentation que nous offre ce youtubeur qui a tout compris à tout contrairement à l'ensemble de ses contradicteurs. Cependant, la logique fait souvent et cruellement défaut dans son discours émaillé de contradictions de toutes sortes. J'ai, pour ma part, du mal à concevoir une démonstration dépourvue de logique. J'ai également remarqué que Mr Phi partageait désormais avec ce youtubeur des croyances techno-animistes et cyber-anthropomorphistes.
@@gaiusbaltar7122 *Nier le libre arbitre chez l'Homme est hautement stupide* Ca depend en fait beaucoup de ce que vous entendez par la et du cadre de la question (plutot philosophique ou plutot science dure). Si vous pensez au libre arbitre au sens "classique", c'est-à-dire votre capacité à créer une sorte de choix a-causal, de faire ou décider quelque chose depuis nulle part avec cette sensation que vous auriez pu faire autrement la science vous dira que c'est plutôt une sorte d'illusion, et j'aime beaucoup la formulation de Sabine Hossenfelder pour expliquer cette illusion: "si vous pouviez prévoir à l'avance l'issue de vos processus décisionnel avant de les mener vous n'auriez pas besoin de les mener, et c'est donc pour cette raison que de votre point de vue subjectif toute issue de vos processus décisionnel vous semblera imprédictible et libre" Je crois que c'est dans cette vidéo mais je n'ai pas tout réécouté: ua-cam.com/video/TI5FMj5D9zU/v-deo.html (finalement c'etait dans sa premiere videos sur le sujet qui est référencée dans celle ci) il y a aussi beaucoup de vidéos de Sam Harris qui s'adresse à cette conception classique et magique du libre arbitre (pour la detruire) Pour la partie philosophique je crois que vous n'avez pas bien saisi qu'il s'agit de questions complètement différentes. La partie science ci-dessus, vous dit comment sont les choses, la partie philo s'intéresse plutôt à trouver des conceptions ou des définitions. Dans le compatibilisme par exemple, la question centrale est de savoir si on peut encore parler "dans un certain sens" de libre arbitre malgré une description causale des processus mentaux. Les questions philosophiques ici ne vous disent rien du réel et n'ont pas pour but de le faire (ce que vous ne semblez pas vraiment saisir) il s'agit essentiellement de trouver des définitions dans un cadre descriptif ou les définitions intuitives ont été invalidés. La vidéo de MrPhi (ou les vidéos autour du libre arbitre) sont un peu méta dans le sens ou ce qu'elles prétendent grosso modo c'est que la définition classique du libre arbitre (ce super pouvoir de choisir depuis rien) est un fantasme et que ca n'a jamais été vraiment ce que les philosophes ont prétendus, et montrent expérimentalement que lorsqu'on cuisine les gens sur leur intuition de ce que veut dire libre, ce n'est pas non plus vraiment ce qu'ils imaginent (c'est pour cela que visiblement pas mal de philosophe trouve des interventions comme celle de sabine ou de sam harris comme assez vide, car selon ces philosophes il y a bien longtemps que la question autour du libre arbitre ne concerne plus ces définitions fantasmés, mais dans votre cas, ca vous conviendra tres bien). La encore c'est une question de définition de concept, ou à la limite de description des intuitions des gens via un questionnaire introspectif.En résumé, il y a 3 plans tres distincts que vous ne semblez pas vraiment distinguer. *Descriptif (scientifique),* La science indique que le libre arbitre, entendu comme la capacité à créer des choix a-causaux, est probablement une illusion découlant notamment de l'imprévisibilité subjective de nos processus décisionnels. *Philosophique :* Les philosophes, notamment compatibilistes, se concentrent sur la redéfinition du libre arbitre dans différents cadres, en explorant des conceptions qui restent pertinentes malgré les découvertes scientifiques. *Et le débat philosophique sur le sous point de la définition classique :* La conception du libre arbitre via ce "super-pouvoir" de choisir depuis rien est largement vue comme un fantasme chez les philosophes qui affirment que cette conception n’a jamais été centrale dans leurs travaux. (je ne suis pas d'accord avec ce dernier point personnellement, je considère tres bien la conception classique du libre arbitre, c'est juste que d'après les philosophes modernes s'attaquer à cette définition du libre arbitre c'est se battre contre des moulins à vents) Pourriez vous ne pas poster (encore une fois) vos remarques sous des commentaires qui n'ont pass grand chose à voir.
Je répond ici à @badpittr5947 *Émergence faible ou forte ?* Si vous aviez des exemples pour distinguer les deux ça m'interesse car à priori (mais pas sur) ma seule conception de l'émergence est faible. *Dois-je penser que des cellules de Bénard proviennent d’une propriété inconnue des molécules d’eau (réductionnisme) ou bien qu’en réaction à leur environnement (effondrement de l’équilibre thermodynamique), la matière « commence à voir » (Prigogine), le tout étant plus que la somme de ses parties ?* Dans le sens ou je parle d'émergence ce que je veux dire c'est que ce qui se passe macroscopiquement et inévitable étant donné la structure et la dynamique microscopique, mais que les propriétés macroscopiques n'ont pas d'équivalent trivial et direct au niveau microscopique. Prenez par exemple une dune qui se deplace par accumulation de grain de sable face au vent et dispersion de ces meme grains de l'autre coté. Ce qui se passe ici macroscopiquement (le deplacement de la dune) est inévitable etant donné la description microscopique, mais pourtant on observe de nouvelle propriete comme par exemple la vitesse de la dune qui lui est propre (et dans ce cas precis de sens inverse à celle de tous les grains de sable qui la constitue) *Les expériences de Libet ? Elles partent de l’a-priori que la conscience est cérébrale, or nous connaissons (grâce à la science) que nous avons aussi des neurones dans les intestins et aussi dans le cœur [ce que nous « savions » déjà (de « sapere » : avoir du goût - ce qu’une machine n’a jamais eu - n’a pas - n’aura jamais) depuis très très longtemps, inconsciemment (?), exprimé dans les locutions avoir du cœur et avoir des tripes].* Pas certain de suivre ce que vous imaginez que delocaliser une partie de la cognition change. *Mais j’aimerais bien que cette machine m’explique, consciemment bien sûr, comment elle a vécu l’intensité de son dernier orgasme…* C'est une question intéressante mais un peu hors sujet, vous vous rendez bien compte que même si vous étiez dans l'incapacité de ressentir une telle chose (ou lorsque vous n'êtes pas en train de la ressentir) vous vous considérez tout de même conscient, même phénoménalement conscient. La douleur (ou les recompense extreme que vous citez) ne sont que des cas limites. Sur le plan scientifique et evolutif, il s'agit de sous programme internes, sculpté par l'evolution, pour faire ressentir tel ou tel illusion et manipuler l'entité dans un but qui maximise la survie (au sens darwinien). On peut tres bien stimuler ces sous programme par des drogues (ou meme creer des illusions nouvelles et bien plus fortes avec certaines autres drogues).
@@PasseScience *cette sensation que vous auriez pu faire autrement la science vous dira que c'est plutôt une sorte d'illusion* Pourquoi serait-ce une illusion? Si on parle d’illusion pour nos choix, pourquoi tout le reste ne serait pas une illusion non plus? Qu’est-ce qui vous garantit alors que toutes vos perceptions et représentations n’en sont pas non plus? Ou commence l’illusion et ou s’arrête t’elle? De mon point de vue, parler d’illusion est un moyen commode d’éliminer des FAITS gênants. Passons à présent à cette affirmation selon laquelle nous n’aurions jamais pu faire autrement. Cela signifie que l’erreur et/ou la faute n’existe pas, pas plus que le mérite: le réchauffement climatique, les génocides, les meurtres, les vols, les viols, tout cela était donc inévitable. On peut donc oublier toute notion d’action politique et de droit. Personne n’est responsable de rien: un délinquant est un délinquant par nature, un tueur ne pouvait pas ne pas tuer; un violeur ne pouvait pas ne pas violer, etc… De même, Einstein n’aurait pas pu ne pas découvrir la théorie de la relativité, ni Newton la loi de la gravité, Hugo n’aurait pas pu ne pas écrire Les Misérables, etc.. Ils n’ont donc aucun mérite, il n’ont développé aucun effort ni déployé aucune intelligence pour arriver à leur résultats. Cela pose donc la question de l’origine de l’intelligence. Si ce ne sont pas les agents eux-mêmes qui ont déployé efforts et intelligence mais s’ils ont plutôt été le jouet de forces qui les dépassent et qui ont abouti à ces résultats auxquels ils devaient nécessairement aboutir, cela signifie que l’intelligence est inscrite dans le processus: une sorte de "dessein intelligent" a tout dominé et tout orienté à l’insu des agents victimes de l’illusion que ce sont eux qui sont les acteurs et responsables de leur découvertes. Cela pose enfin le problème de la vérité. En effet, selon vous, vous n’auriez pas pu ne pas faire cette vidéo ni ne pas dire ce que vous y dites. Vous ne dites donc pas ce que vous y dites parce que vous pensez que c’est la vérité (et donc suite à un effort de raisonnement de votre part pour y parvenir puisque vous n’y êtes pour rien in fine), mais parce que vous ne pouviez pas ne pas dire autre chose. De même, ce que je dis ici, je ne le dis pas parce que je pense que c’est vrai, mais parce que des forces quelconques ont abouti, dans leur déploiement, à me faire dire ce que je dis sans que je n’y puisse rien. On n’a donc ici plus aucune notion de vrai, de faux ni de démonstration, ni de débat d’idée. Personne ne peut donc rien reprocher à personne: vous ne pouvez reprocher aux « créationnistes » de dire ce qu'ils disent et de diffuser leurs idées parce que ces derniers ne peuvent pas faire autre chose que ce qu’ils font selon vous. Or, vous le faites très régulièrement, ce qui est hautement contradictoire et incohérent avec ce que vous affirmez ici. *questions philosophiques ici ne vous disent rien du réel et n'ont pas pour but de le faire* Si vous croyez que la philosophie est une réflexion coupé du réel, c’est que vous n’avez rien compris à la philosophie. J’ignore par ailleurs d’où vous sortez cela. Avez-vous des sources à l’appui de vos dire ici? *ce super pouvoir de choisir depuis rien* Le libre arbitre n’est pas le pouvoir de choisir depuis rien comme vous dites ici. Il s’agit du pouvoir d’agir selon des BUTS, des OBJECTIFS. De manière plus concrète, le libre arbitre consiste dans la capacité pour les agents humains de contrôler leur pensées et leurs corps, et ainsi de pouvoir prendre des décisions et de les mettre en oeuvre. De deux choses l’une: ou bien c’est bien vous qui contrôlez votre pensée et votre corps pour pouvoir dire ce que vous me dites ici dans le BUT de me convaincre, oui bien cela n’est qu’une « illusion » et donc ce n’est pas vous qui me parlez. Si ce n’est pas vous, qui donc cela peut-il bien être? *choisir depuis rien est largement vue comme un fantasme chez les philosophes* Je vous propose quelques expériences: prenez votre voiture et commettez un excès de vitesse devant un policier ou un radar. Ensuite, dites au policier ou au juge que vous n’êtes pas responsable car vous n’auriez pas pu ne pas agir différemment et commettre cet excès de vitesse. Ou alors, n’allez pas à votre travail pendant une semaine sans justification et dites à votre employeur que ce n’est pa de votre faute car vous n’avez aucun pouvoir sur vos actions. Quelles seraient donc les réactions de vos interlocuteurs selon vous et pourquoi? Imaginez également que vous êtes à la place de ces interlocuteurs. Comment réagiriez vous face à ce discours et pourquoi?
@@PasseScience *Sur le plan scientifique et evolutif de sous programme internes, sculpté par l'evolution pour faire ressentir tel ou tel illusion et manipuler l'entité dans un but qui maximise la survie* Sculpté par l'évolution ne veut strictement rien dire. L'évolution c'est un changement dans le temps. Donc dire ce que vous dites ici revient à dire que les changements dans le temps sont "sculptés" par le changement dans le temps. Ceci dit, il est bien connu que darwinisme et tautologie font souvent bon ménage mais ce n'est pas le sujet ici. La question que je pose systématiquement et qui ne reçoit jamais de réponse est la suivante: de quoi parlez-vous concrètement? Que des mutations génétiques aléatoires modifient physiquement les organismes et que ces modifications soient rendues pérennes par leur caractère efficace est aisément compréhensible et concevable car on parle ici de choses physiques bien identifiées. Mais quid de cette notion de "programme" ici? Qu'est-ce qui est concrètement modifié et par quoi concrètement? Si vous ne définissez pas précisément de quoi vous parlez et ne décrivez pas précisément les mécanismes, tout cela ne reste que des mots creux pour des propositions simplistes et tout aussi creuses. En effet, il serait tout aussi valable de dire qu'un Ingénieur/Programmeur a conçu toutes ces "machines" et en a écrit le "programme", surtout si par ailleurs on pense que nous vivons dans une simulation, idée très à la mode ces derniers temps. J'ajoute également qu'encore une fois, vous faites passer des hypothèses ou cadres de recherches pour des vérités bien établies, ce qui est vraiment très problématiques. Une question ici: comment interprétez vous, dans votre cadre, le suicide, et notamment le suicide suite à une grève de la faim ou encore l'immolation par le feu par revendication politique?
*Précisions et corrections éventuelles*
NB: Si vous avez une remarque sur l'épisode, préférez un autre commentaire qu'une réponse à celui-ci.
J'imagine que, pour beaucoup d'abonnés de la chaîne, l'épisode enfonce un peu des portes ouvertes, mais c'est au minimum un outil que vous pouvez utiliser et partager avec vos connaissances dualistes pour partir sur les mêmes bases !
*Vers **23:50**, je prends quelques libertés lorsque j'attribue des propos à Turing.* Il est plus probable que sa position ne concernait pas directement la conscience. Il cherchait simplement à donner un sens empirique et expérimental clair au terme "penser", et il a choisi de le définir comme la capacité à mener une conversation de manière indiscernable de celle d'un autre être humain. Il fournit ainsi une définition testable de "penser", venant avec ses limitations.
Comme à chaque fois, le fond et la forme sont excellents. Merci beaucoup.
C'est un sujet passionnant. Je dois quand même te dire que je suis très impressionné par rigueur avec laquelle tu traites tes sujets. Merci, ce sont toujours de très bons moments.
Je regarde depuis les premières heures, bravo pour le fond qui est constant de qualité et d intérêt et la forme qui n a fait que s améliorer avec les années
Excellente vidéo que j'ai pris un plaisir à dévorer ! Ça fait du bien d'écouter quelqu'un qui comprend vraiment le fond des choses, son essence même, appuyé par des faits implacables.
Une véritable prouesse que d'expliquer correctement ce type de questionnement ! Fortiche Passe-Science 💪
Une petite collab avec Mr Phi me semble appropriée, vous êtes tous les deux très talentueux pour vulgariser, et vous êtes tous les deux fascinés par les IA ;)
Monsieur Phi est un peu un fasciste de gauche non ? Il est de ceux qui ont craché sur Bruce de ePenser pour des raisons politiques.
Mr Phi raconte nimp sur l'IA. J'ai pas l'impression qu'il comprend vraiment comment ça marche. Pour le reste je suis certain qu'il est très compétent.
Pitié non
@@Alex-rg1rz Etrange commentaire, aurais-tu des exemples ? Je travaille dans le domaine, et je n'ai pas remarqué d'erreur grossière de mr Phi sur le sujet....
@porcoration Oh pourquoi donc ? 37 personnes sont d'accord avec moi, je comprends pourquoi, mais ceux qui ne sont pas d'accord, ça m'étonne, je veux bien comprendre pourquoi tu penses cela !
Un sujet passionnant et d’une grande pertinence actuellement. Le traitement est impeccable, irréprochable me semble-t-il . Cette vidéo est un vrai bijou. Mille bravos 👏 et merci pour ces sources passionnantes à explorer.
Le sujet est passionant et le texte est parfaitement ciselé. Mille bravos ! On est sur un excellent équilibre philosophico-scientique, qui limite au maximum l'écueil du type "critique de la raison pure".
Si je peux modestement tenter de rafiner la formulation de la thèse promue ici, je dirais que : Plus précisément que "C'est l'organisation qui fait l'objet", "C'est l'organisation et la dynamique du système dans son environnement qui font l'objet vivant". Et les caractères vivant, conscient de ses sensations, conscient de soi, de sa subjectivité, de son impression de liberté non nulle mais finie, etc, sont des propriétés "émergentes" au sens d'un "réductioniste strict" : il n'y a en effet aucune opposition entre "émergence" et "réductionisme strict". Ce dernier n'est en effet jamais "abusif" quand il est bien fait, c'est à dire quand il n'oublie aucun élement et aucune interaction dynamique. Le système dynamique environné peut être strictement réduit à ses parties et à la dynamique interactive entre ces parties et l'environnement. Les propriétés "en découlent au sens strict" et le mot "émergence" ne sert qu'à exprimer que le physicien ne les avait pas intuitées avant d'appliquer correctement sa méthode réductioniste ! Et le fait que ce réductionisme fonctionne est une preuve de complétude de la description (caractère "suffisant" des ingrédients) ; et ce indépendamment du fait que ce réductionisme soit ou non la méthode la plus pratique, la plus synthétique, la plus "orientée fonctions" pour décrire ou comprendre le système.
La discussion sur le fonctionalisme et sa subilité plus grande qu'il n'y parait est aussi magnifiquement menée. Bravos. Toujours pour tenter de préciser la thèse, la conscience, localisée dans "l'état interne du système" évoqué dans les schémas, doit très probablement émerger d'architecture multi-bouclée présentant des résonances (comme le cerveau en présente). Il est donc probale que des architectures très différentes puissent présenter les mêmes fonctions de base (fonction additon d'un additionneur en logique CMOS et d'un humain), mais que la fonction additionelle de conscience d'effectuer l'addition ne se rencontre que dans une architecture bouclée résonante (de type cerveau et pas dans l'additionneur CMOS). La multiplicité des boucles imbriquées dans une architecture riche en boucles, peut même ajouter aux fonctions "addition" et "conscience d'effectuer une addition", d'autres fonctions en parallèles pouvant modifier la fonction addition elle-même : comme la fonction "angoisse de rater l'addition" par exemple, qui finit par occasionner des erreur dans l'additionneur humain (les fonctions ne sont plus indépendantes du fait des boucles).
Enfin petite remarque : la séparation des questions "une machine peut-elle penser" et "sommes nous des machines" est peut-être un peu artificielle ici. Un autre point de vue serait de les présenter comme deux formulations différentes d'une même question.
Encore mille bravos.
un épisode sur les différentes théories de la conscience serait évidemment passionant !
il n'y a aucune modèle mais certainement que la conscience c'est juste un modèle mathématique qui peut dire "je vois ça" sans ce tromper sur ce qu'il vois.
d'ailleurs ça me fait penser que pour ma part quand je dit "je pense" à voix haute en realité je ne pense pas au moment ou je le dit, mon thalamus mettant mon focus sur mes paroles. je ment en quelque sorte et j'improvise une pensée à voix haute sur des opinions et penser passer.
Très très bonne vidéo. Un exemple de rigueur intellectuelle face à la pléthore d'approches mysticistes du problème de la conscience y compris venant de philosophes et scientifiques de renom...
Mysticisme me semble teinté de jugement.
Et s'il existait un niveau supérieur de conscience que l'on pourrait appeler spiritualité plutôt que mysticisme et que nous ne sommes pas encore en mesure d'appréhender?
Et si ce niveau nous permettait de faire la distinction entre la pensée simulée et la pensée consciente ?
Splendide vidéo, merci pour les sources. Merci pour votre travail !❤
C'est fou, j'ai débattu de ça hier et aujourd'hui ! Et là, je vois apparaître une vidéo de Passe-Science, je sais déjà que ça va être un régal.
C'est magnifique patron !
Et comme même le meilleur est améliorable, peut-être marquer un peu plus les pauses qui facilitent la compréhension.
Ex : "...si les deux entrées valent 1 // 0 dans tous les autres cas".
Merci pour ces petits bijoux.
Excellente vidéo ! Plus accessible que les autres ce qui peut aider à la partager autour de soi pour discuter de la question ! (même si les vidéos plus techniques de la chaine sont vraiment cools)
incroyable quelle qualité cette vidéo ! j'ai du m'accrocher par moment mais en faisant attention c'est compréhensible. direct je m'abonne !
Je trouve la vidéo très bien structurée. Bravo. Ca m'a rappelé d'autres vidéos de Mr Phi sur le même sujet.
Toujours aussi extraordinairement clair. Bravo et merci.
Merci pour cette excellente vidéo et bravo pour votre travail et pédagogie :)
Excellente vidéo ! Limpide, complète et mesurée !
Merci ! J'ai appris plein de trucs, notamment sur des expériences récentes sur la cognition à côté desquelles j'étais passé.
Très intéressant et très agréable à écouter. Merci pour cette vidéo.
Fantastique cet épisode !
j'adore cette vidéo! Incroyable !
excellent, c'est super bien resumé et complet en meme temps
Excellente vidéo, merci pour votre travail.
Vidéo d'une qualité insimulable, bravo et merci !!
Vidéo fascinante, Merci beaucoup 😌
fantastique cette vidéo. C'est exactement ce que j'expliquais à un pote hier. Le fonctionnalisme.
Merci pour cette excellente vidéo passionnante
Merci pour cette video, était un vrai regal.
La distinction entre intelligence et conscience est selon des critères a-minima ou a-maxima, le test de Turing ne concerne que l'intelligence, et un pigeon a néanmoins plus de conscience qu'un LLM. Leurs definitions possèdent les pieges et paradoxes habituels a toute observation. Une chose est claire, on ne reviendra plus en arrière sur leurs anciennes conceptions d'il y a 100ans.
Excellente vulgarisation, passionnant en plus, je m'abonne 👌
Formidable épisode
Merci pour la vidéo de qualité !
Je m'abonne et je vous remercie pour l'effort 👍.
Vivement la prochaine vidéo !
5 visionnages et toujours autant d'émerveillement ❤ Le jour où l'on aura crée un cyborg humanoîde et qu'on lui aura appris à parler, lui seul pourra nous affirmer si il se sent vivant. Ce sera à la fois une experience des plus excitantes mais aussi des plus effrayantes.
Absolument remarquable, j'avais vu encore ce niveau de réflexion dans le domaine. Je vais placer la vidéo dans ma playlist "Autres" faute de meilleure rubrique pour l'instant.
J'ai détaillé plus bas (commentaire de 42ArthurDent42) comment je voyais les choses, je pense que tu seras plutôt d'accord puisque cela va dans le même sens.
Merci pour cette vidéo c'est un hasard total mais cela fait des mois que je me pose cette question concernant la conscience et les machines et il y a quelques heures j'ai écrit dans mon carnet ''Suis je une machine ? Ai je pris le dessus sur mon créateur ?''. Incroyable de tomber la dessus après une insomnie sur la première video que je regarde sur youtube. Votre vidéo sous entend peut être que le destin existe également !!
Au top !
Merci beaucoup pour cette vidéo!
22:15 Fascinant, j'ai abordé ce sujet hier. Même s'il y a une part d'aléatoire dans nos comportements, nous restons fondamentalement déterministes. Le bruit de l’infiniment petit peut influencer des systèmes au niveau macroscopique lorsque la source de l’actionneur est fortement amplifiée (par exemple, un synapse qui change d’état). Cela peut donc engendrer des réactions imprévisibles. Cela me semble même fondamental pour l’évolution du vivant : l’aléatoire est indispensable.
L'essentiel de votre comportement n'est ni aléatoire, ni déterministe, il est finaliste.
@@gaiusbaltar7122 La finalité que l'on vise est déterminée par les données accumulées et traitées par notre système déterministe. A connaissance identique et a système identique, les objectifs visés seront toujours les mêmes. On ne choisit pas nos désirs ou ne représentations du réel, on simplement l'illusion de choisir.
Merci pour cette vidéo.
Toujours passionnant 🎉
Intéressant, certes, et merci d'évoquer Libet. Cela dit, il faut tenir compte des EMI, comme Expérience de Mort Imminente. Celles-ci risquent fort de faire voler en éclats le paradigme matérialiste. Ce n'est qu'une question de temps, et même un neuroscientique de la classe de Steven Laureys en est... conscient...
C'est ma vision actuelle, et ancrée, des choses.
Merci d'y ajouter d’innombrable graphique et passage vidéo c'est tellement agréable.
Du haut niveau de vulgarisation comme toujours.
Je rajouterais car je ne l'ai pas entendu bien que ce soit compatible, que dans ma vision, la notion de conscience peut être vue comme un continuum, ainsi un moulin à vent est une forme de conscience, tout comme une Gameboy, une voiture autonome, un aspirateur robot.
Libre à vous des les classer.
Et qu'il faut pour mieux appréhender cette notion se départir de la vision binaire d'être soit conscient (absolu 100%), soit non conscient (absolu 0%).
Ainsi je propose si ça n’existe pas la notion de conscience opérative, qui référerais au seuil à partir duquel nous considérons une conscience comme de valeur suivant des critères arbitraire qui seraient propre au genre humain contraint qu'il le veuille ou non de voir l'univers par le prisme de sa condition intrinsèque.
C'est super bien.
Merci beaucoup
A partir du moment où on peut répliquer artificiellement une fonctionnalité biologique comme celle du cerveau humain, je ne vois pas pourquoi la conscience ne pourrait pas émerger de la même façon d'un mécanisme purement technologique.
Certes, mais justement qui dit que cette condition est remplie ? Que la réplique est parfaite ? Car le mécanisme c'est une chose, mais les instincts, les phobies, les archétypes ... On sait les répliquer ?
@@recorr je pense qu'on sait les répliquer, quand les consciences artificielles feront des "enfants", quand il y aura accouplement et reproduction, les comportements appris vont devenir automatiques au fil des générations, non ?
@@recorr Tous les comportements émergent de la technique, si un être simulé se comporte différemment d'un être simulé, c'est que la technique n'est pas correcte.
@@recorr Mais les LLMs peuvent déjà répliquer tout ça. C'est juste une question de leur fournir le matériel d'apprentissage adéquat.
@@kalgon57
Si on combine algo génétique et réseau de neurone pourquoi pas, mais je crois que les réseaux ont plié le game et donc, peu de chance pour ta solution.
Super vidéo, vraiment intéressante et bien expliquée ! Par contre, je voulais revenir sur certains points qui ne sont pas encore scientifiquement prouvés ou qui restent des hypothèses.
Par exemple, l'idée que les machines ou programmes puissent un jour avoir une conscience phénoménale, c'est encore de la spéculation. On n’a pas encore de preuve que ça soit possible, et c’est plus une question philosophique qu’un fait établi pour le moment.
Ensuite, le fonctionnalisme, qui dit que la conscience pourrait émerger simplement des processus logiques, c’est une théorie, mais pas une certitude. Certaines autres idées, comme le fait que le cerveau biologique pourrait avoir des propriétés uniques nécessaires à la conscience, ne sont pas à écarter.
Et enfin, dire que "simuler un processus, c'est le réaliser", c’est un peu discutable. Simuler un calcul, oui, ça marche, mais simuler une conscience, ça ne garantit pas qu'il y ait une vraie expérience subjective derrière. On est encore loin de trancher cette question.
Bref, super sujet, mais ces points restent ouverts et méritent d’être explorés plus en profondeur.
Il y a toujours un point aveugle dans ces questions : ce que l'on appelle conscience, ou sentir. Je crois que si on s'interroge sincèrement on peut s'apercevoir que c'est assez superficiel. Je me sens moi lorsque je me pose la question et que je pense à ce que c'est que "moi". Mais tout comme je ressens une chaise lorsque je pense à une chaise, je conscientise la chaise.
La sélection naturelle a inscrit des obsessions qui échappent au calcul qui est fait sur les expériences. Ça suffit à expliquer le reste.
Très bonne vidéo. Après méditation sur le sujet. Il est évident qu'une simulation peut virtuellement devenir vivante ou consciente. En contre partie. La question de si cette simulation est la réalité (et pas une réalité parmis d'autres) est une autre histoire...
Video de qualité exceptionnelle. En ce qui me concerne cette affaire de conscience est toute évidente. On peut dire que Toute machine de l’information comme un micro contrôleur a par exemple conscience d’un changement sur une de ses entrées lorsqu’elle la lit.
Evidemment cela n’a aucune chance d’aboutir à des considérations philosophiques 😅
Car sa structure est de fonctionnalité hyper basique.
Tandis qu’un cerveau est de toute évidence extrêmement plus complexe en nature, et incroyablement plus efficace.
En réalité pour les gens, ils recherchent une analogie entre l’homme et la machine faite par l’homme. Dans un réflexe de demander si finalement l’âme existe ou non, donc lorsque l’on demande si une machine a une conscience, on demande si elle est capable de s’imaginer ce qu’elle est entrain de vivre, de faire et de penser.
Or apparemment il nous faudra probablement travailler un peu plus sur la technique hardware et software pour oser pouvoir l’affirmer, mais si la nature le fait, fusse t il en la copiant, bien sûr nous arriverons à le faire !
Merci à vous 👍
*On peut dire que Toute machine de l’information comme un micro contrôleur a par exemple conscience d’un changement sur une de ses entrées lorsqu’elle la lit.* Je ne dirais pas cela car une des propriétés importantes du processus qu'est la conscience semble être d'avoir une représentation interne d'une partie de ses propres états macroscopique, par exemple qu'on perçoit une image oui on on a en nous une représentation de l'image mais il y a aussi une représentation en nous du méta concept d'etre en train de percevoir l'image.
C’est à dire que ce que l’on va exiger pour qualifier de conscience est au minimum la conscience que peut avoir un être humain
merci super intéressant!
Sur le thème : les 30 premières pages de ' Diaspora ' de Greg Egan. Oui, un classique, mais tout le monde ne l a pas lu...😅. presque aussi bien que cette video😊
J'ai essayé de me poser objectivement la différence entre un algo conversationnel et nous. J'avais inversé l'interrogation en me disant que ces programmes disent bcp sur nous car un "simple" calcul vectoriel de statistique autorise une machine a parler comme nous. Du coup, sommes nous à ce point prévisible ?
Donc un grand merci car vos soirces vont me permeetre de mieux creuser la question
Bravo pour cette vidéo (qu'il va me falloir regarder plusieurs fois pour la bien comprendee)
Il y a encore beaucoup de différences entre un algo conversationnel et nous. La majorité des LLMs ne sont pas "récurrents" : c'est un calcul feed-forward, mot par mot, sans état interne mis à jour cycliquement et qui pourrait contenir un "état de réflexion" (ou, pour certains chatbots avancés, des versions très limitées de cela). Lorsqu'on nous dit "3x4" et qu'on pense et répond "12" du tac au tac, c'est très proche de ce qu'un LLM fait pour absolument tous les mots qu'il produit. On pourrait rapprocher la production conversationnelle des LLMs de certains small talk qu'on peut avoir sans y réfléchir vraiment et par pur instinct, ou encore les rapprocher des productions verbales du beauf de la famille lors des fêtes de Noël à venir. :)
Absolument brillant ! On pourrait étendre le raisonnement à une ruche ou une thermitière : sont-elles conscientes ? Quid de la différence fondamentale entre auto organisation et orchestration ? Notre cerveau n'est-il pas une auto organisation générant une possibilité d'orchestration ? Voir Dawkins...
Je pense pour ma part qu'une machine peut penser et ressentir car nous sommes des machines ! Des machines incommensurablement plus complexes que tout ce que l'on peut imaginer, mais des machines quand-même.
Toujours d'une qualité peu commune ! ❤
question chargée, on ne se demande pas "est-ce qu'un humain peut penser?"(après visionnage, c'est plus ou moins ta question finale). Il faut reconnaître que tu expliques vraiment très bien, j'ai envie de dire, bien mieux que moi. J'ai eu exactement ce débat il y a quelques temps bizarrement. Quand tu t'expliques ça parait sérieux, quand je réponds, on me prend pour un abruti, ou un zombie philosophique...étrange. Je suppose que les gens se laissent avoir par la forme, sans faire attention au fond. Merci à toi d'articuler correctement ces idées.
« Je n’ai pas eu besoin de cette hypothèse »
Merci pour cette vidéo, énorme boulot !
J’adhère globalement bien à l’ensemble de tes propos.
Mais à mon sens, il manque un maillon essentiel, l’intéroception. C’est justement le lien qu’il y a entre la cellule (autopoïèse, homéostasie, réproduction etc) et la conscience, dont tu parles au début, mais après tu n’y reviens pas. L’intéroception est la base de l’orientation de nos comportements (prises de décision), de boire quand on a soif, jusqu’aux comportement sociaux complexes.
Connais-tu Anil Seth (livre "Être soi") ou Antonio Damasio ? Francirco Varela ("l’inscription corporelle de l’esprit") ?
Si tu ne connais pas, je te recommande vivement le livre très récent d’Anil Seth. Ça va complètement dans le sens aussi de l’animal-machine. Il travaille aussi bcp sur l’intelligence artificielle etc.
Parce que sans ce lien (intéroception), c’est un peu trop facile de passer de la conscience humain à la conscience d’une machine électronique !
Anil Seth et Varela, par exemple, insistent particulièrement sur la dimension phénomènologique (le "vécu"), justement, plutôt que fonctionnelle. Même si à la fin, tout ça n’est pas si contradictoire. Mais c’est vraiment la question de la texture vécue de la conscience, du sens/orientation de la pensée, de l’action, de l’inscription corporelle du vécu spirituel (l’activité du cerveau, de l’esprit) dans le corps, par l’intéroception. (sans parler du sentiment de réalité unifiée, de sentiment d’individualité unifié).
Qu’est-ce qui ferait qu’une machine électronique aurait un sentiment d’identité individuel, corporel ?? Quelle serait la source de l’orientation de son comportement? Ce point est crucial. Pour l’humain on a de bonnes réponses (humain et autres animaux sensible et doué d’homéostasie !).
Vraiment, lire Anil Seth !! (si c’est pas déjà fait ;-)
Il a manqué quelques chiffres à cet episode pour le rendre parfait ! Un point qui je pense fache souvent les dualistes quand on fait des comparaisons comme la gigantesque administration qui deviendrait consciente, cest justement de se rendre compte a quel point elle devrait etre GIGANTESQUE. Le niveau d'efficience du vivant est juste colossal, et pour le moment bien loin d'etre égalé par d'autre support. Je vous renvoi vers les videos de cette meme chaine concernant l'origine de la vie et la physique des nanomachines qui sont de très bons moyens de réaliser cela.
Si je devais voir une IA consciente de mon vivant, je dirais que ca serait quelque chose de different de nous. Deja parce qu'un neurone n'est pas l'equivalent d'une porte logique : parce que ses valeurs d'entrees et de sortie sont continues, sont influencées par des facteurs internes (energie disponible, dechets cellulaire peut etre), depandent directement de miliers de connexions, ils ne peuvent etre reduits a seulement 0 ou 1. Pour reproduire un neurone il faudrait donc necessairement une structure plus complexe qu'une porte logique. Ca reste possible, mais de la a pouvoir en assembler suffisamment qui sont capables de se re-organiser pour arriver a l'equivalent d'un cerveau et sa plasticité... il est plus probable que pour des raisons de cout et d'efficacité on ait une structure analogue plus simplifiée.
Et enfin, il lui faudrait une materialisation physique qui la rendrait vulnerable à la mort et dependante du maintien de son propre corps. Un etre vivant qui ne craint pas la mort, ni la faim, ni le sommeil, qui n'a aucun désir d'appartenir a un groupe et de s'y maintenir, avec une puissance de calcul logique démesurée, ca serait tout simplement dangereux : on ne se retrouverait plus qu'avec une IA executive qui accomplirait ses taches sans aucune morale. Si on veut qu'elle soit à notre image il faut la lier plus fortement qu'un ordinateur au monde réel.
Bref, aux futurs createurs, je vous envoi toute ma force mais j'ai peu d'espoir x)
Je crois que notre conscience émerge de la formidable organisation de notre cerveau mais qu'il ne faut pas oublier que celui ci est un résultat d'un monde, le notre, sur notre planète et donc dans ses strictes conditions.
Et donc ce qui est je pense plus fascinant encore, c'est de prendre conscience que c'est en observant l'univers inter planétaire ou inter galactique, ou, l'univers microscopique, que l'on observe des mondes que nous ne sommes pas sensés pouvoir observer.
L'infiniment grand et l'infiniment petit, par rapport à nous, seraient des endroits secrets, qui sait interdits, et pourquoi pas, une aide vers les réponses à toutes nos questions.
Le seul problème de la conscience, c'est sa conscience à soi.
Les autres, je peux très bien les voir comme des machines qui fonctionnent sans conscience. Ce sont juste des êtres biologiques qui agissent en étant dirigés par la machinerie de leur cerveau. Ils n'ont pas de différence fondamentale avec un ordinateur, un robot sophistiqué. C'est le "moi", le problème, mon "moi".
Si on considère habituellement que nous avons tous une conscience, c'est parce que nous généralisons la notion du "moi" : comme nous appartenons tous à la même espèce animale, il est normal que nous considérions cette notion du "moi" comme générale. Je ressens un "moi" donc ça veut dire que les autres doivent aussi ressentir un "moi". C'est raisonnable.
Cependant, il n'y a que "moi" qui suis "moi". J'ai beau faire des mouvements, marcher, me déplacer, je ne me déplace en fait jamais : c'est l'univers qui bouge autour de moi. Moi je suis toujours à la même place, dans la même personne. Les autres, je vois qu'ils se déplacent, moi pas. Il y a une différence fondamentale entre moi et les autres. Les autres, je ne peux jamais être à l'intérieur d'eux.
Bah oui et c'est bien pour ça que la notion est problématique, la conscience n'a pas de manifestation objective, elle est strictement subjective. Et pourtant on ne peut pas nier qu'elle existe, d'ailleurs comme le disait Descartes c'est la seule chose dont on peut être sûr de l'existence.
Sauf si on considère que la conscience est une illusion construite par le cerveau, comme le laisse penser le passage vers 17:52 et comme l’a théorisé (entre autres) Daniel Dennett.
@@Rykvp : ouais, mais pourquoi ne suis-je pas un simple zombie philosophique ? Ça serait exactement pareil.
@@Rykvp C'est bizarre de présenter ça comme une illusion. Parce que même si c'est une illusion, le fait de se croire conscient suffit à s'établir comme conscient, puisque de toute façon notre conscience est une perception de nous-même. Est-ce que vous êtes en train de suggérer que nous n'existons pas vraiment ?
@@Rykvp illusion est le mot commode trouvé par certains pour évacuer des faits gênants. Le problème avec cette notion c'est qu'on ne sait pas où elle commence et oui elle finit. Si on l'applique à la conscience elle-même, c'est-à-dire au support même de toute représentation, ça signifie que tout est illusion et donc que rien n'existe réellement. Même sans aller jusque-là, on est vite bloqué par la question: qui est victime de l'illusion? Enfin, une autre question vertigineuse: en quoi consisterait le fait de ne pas être victime de cette illusion? Et une toute dernière pour la route: savoir qu'on est victime de l'illusion de la conscience = être _conscient_ que ce que l'on perçoit n'est pas la réalité. Mais qu'est-ce que cela, peut-il donc signifier ici?
Merci , néanmoins "Etre c'est se sentir" il manque par conséquent la partie capteurs.
Ce que vous dites là est effectivement très pertinent et beaucoup plus profond que ce que l'on pourrait croire a priori. En fait, les tenants de ce genre de positions que j'estime extravagantes si on ne les prend pas pour ce qu'elles sont, à savoir de la pure science-fiction, ne font que projeter leur propre expérience subjective dans des ordinateurs sans se préoccuper de savoir comment se verrait une telle machine, et comment cette dernière verrait le monde, si d'aventure ce genre de chose était possible. En fait, il ne font que s'imaginer eux-mêmes en forme de machine. De mon point de vue, cela relève du doux fantasme au mieux, ou du délire profond au pire.
Super vidéo ! Un truc sur le coup de l'état interne: À mon avis il y a de l'anthropomorphisme dans ce concept. Parce qu'à mon avis on a du mal à se dire que les LLM peuvent avoir un état interne, mais est-ce que la continuité est nécessaire à la conscience ? On pourrait considérer que l'état interne de chatGPT est son ensemble de prompts. C'est juste que les LLM fonctionnent sur des inputs output immensément plus simple que le cerveau humain et qu'au lieu d'avoir un fonctionnement continu, les LLM fonctionnent par étape qui peuvent être séparées dans le temps (d'ailleurs en poussant le raisonnement, on peut surement trouver une unité de temps qui passe entre deux états interne du cerveau humain). Bref, je dis pas que chatgpt est conscient mais peut être que la continuité n'est pas nécessaire à la conscience (simplifiant encore sa définition parce que la continuité semble un peu être une hypothèse implicite de la conscience)
*Je copie des morceaux d'autres réponses à des commentaires (je te fait confiance pour adapter, mais c'est quasi deja a propo)*
Oui, les réseaux de neurones actuels possèdent une forme de récurrence à travers leur fonctionnement auto-régressif token par token : leur "état mental" est constitué du texte de la conversation passée. Mais c’est évidemment très embryonnaire. Lorsque nous menons une conversation, notre état mental persistant est infiniment plus riche que le simple souvenir des mots que nous avons prononcés. Pour reprendre des termes techniques, il faudrait que la récurrence se déroule dans l’espace des features et non uniquement en sortie. Dans une certaine mesure, les LLMs actuels ont fait émerger des astuces pour émuler cela : un fonctionnement récurrent, en boucle, peut être reproduit en "déroulant la boucle". Par exemple, au lieu de passer N fois dans le même bloc, cela équivaut à passer dans N blocs consécutifs constitués de copies du premier.Comme nos réseaux actuels sont très profonds, on pourrait imaginer que quelques couches initiales, qui lisent la conversation passée, soient capables de reconstituer un état mental "riche" (davantage que de simples mots). Ensuite, dans un second temps, le reste des couches feed-forward agirait comme une sorte de récurrence déroulée. C’est donc techniquement possible que ce mécanisme ait émergé, mais il est limité par design et reste assez improbable. Quant à permettre une forme de réflexivité grâce à cette récurrence, c’est certainement encore plus délicat.
*Et sur cette histoire de réflexivité dont je parle a la fin je faire référence à ceci:*
Un fonctionnaliste ne dit pas qu'il suffit que le réseaux soit "complexe" il doit également, dans sa complexité, induire certaines propriétés précises. Par exemple le fait de permettre la représentation interne de ses propres états macroscopiques, ie lorsqu'on perçoit une image oui on on a en nous une représentation de l'image mais il y a aussi une représentation en nous du méta concept d'etre en train de percevoir l'image. On peut penser à ses propres pensées et donc manipuler une représentation d'une partie de nous même en tant que processus. Comme la majorité des LLMs actuels ne sont pas récurrents (n'ont pas d'état interne mis à jour cycliquement) il y a en effet de forte chance qu'ils n'induisent rien de phénoménale, par leur fonctionnement même la représentation d'eux même, la réflexivité dont je viens de parler en exemple, leur est inaccessibles. Et on ne dit pas non plus que cette réflexivité dont je viens de parler en exemple est suffisante, c'est un exemple d'une propriété qui semble essentielle.
@PasseScience sur la réflexivité, je suis pas certains qu'on soit si supérieur aux LLM justement. Mr. Phi a parlé d'un papier où ils montrent une représentation spatiale dans le réseau par exemple qui fait penser à ce coup de représentation interne. Je pense qu'on a l'impression que c'est pas la même chose parce que c'est moins complexe et multimodal que le cerveau mais à mon avis les étapes sont plus avancées vers une conscience que les philosophes ne le pensent. Mon avis c'est qu'on a surtout du mal à être réellement fonctionnaliste jusqu'au bout parce que c'est très contre-intuitif :D. Mais quand j'aurais des financements dessus j'aimerais bien étudier la question :D
@@tolhsadum Oui les LLMs actuels peuvent faire emerger des modeles du monde, mais la reflexivite dont je parle ce n'est pas juste un model du monde, c'est un model de sa propre cognition, par exemple le fait de se souvenir avoir penser a quelque chose, le fait de se souvenir de s'etre souvenu, le fait de savoir (modeliser) le fait qu'on est en train de reflechir à une certaine chose.
Bonjour. La bonne réponse à la question posée est : oui.
Je remercie tous les participants à notre jeu concours, face à l'absence de gagnant le porte clef à gagner est remis en jeu pour la prochaine vidéo. Merci à tous.
Petite question : à 16:54, tu parles de la simulation du nématode mais la question que je me pose, c'est : étant donné que tu compares les actions conscientes et inconscientes à des fonctions réalisées, comment les scientifiques ont fait pour connaître les fonctions associées aux Neurones ? Est-ce que reproduire la cartographie neuronale et envoyer un signal électrique suffit à recréer la fonction associée au traitement neuronal ? Comment savoir vers quel neurone un neurone va renvoyer le message électrique reçu ?
C'est une très bonne question, je vais y répondre de manière incrémentale:
Dans un modèle naïf on a seulement besoin de savoir qui est relié à qui et par quelle longueur de fil (a cause du délais) et on peut considérer que tous les neurones fonctionnent pareil et broadcast leur signal à tous ceux auxquels ils sont connectés en aval. Comme c'est un peu trop naïf, on peut ajouter à ceci la distinction des types cellulaires et des types de connexion entre neurones, il y aura un modèle de fonctionnement par type de neurones, et on distinguera par exemple les connexions excitatrices et inhibitrices. Ce n'est en général pas suffisant car même des neurones et des connexion de même types ont des paramètres libres qui peuvent se "régler" automatiquement au cours de la vie du nématodes, pour régler ces paramètres libres on peut: observer finement le comportement neurone par neurone (ce qui est faisable dû au faible nombre) mais aussi on peut regarder plutôt ce que le réseau en entier ou une partie du réseaux répond à tel signal d'entrée et faire tourner un programme d'auto tuning de ces paramètres libres pour que ce que le réseaux simulé ponde corresponde à ce que l'original produit. Cette phase de calibrage fin est encore un domaine actif de recherche donc ce qu'on a à l'heure actuelle n'est pas parfait, mais parfois c'est suffisant pour reproduire un comportement qualitatif.
*Comment savoir vers quel neurone un neurone va renvoyer le message électrique reçu ?*
En fait un neurone ne choisi pas vraiment vers où il envoie son signal, il va broadcast sur toutes ses terminaison vers l'aval, mais par contre à l'extrémité de chaque connexion il y aura une connexion, qui elle peut avoir différente propriété (excitatrice ou inhibitrice par exemple) ainsi que des paramètres libres différents (l'equivalent d'un poids de connexion) et on détermine cela par un mixe d'observation du type de connexion et de l'autocalibrage comme je viens d'expliquer.
@PasseScience merci pour ta réponse, je t'envoie une réponse plus détaillée plus tard 👍🏾
Je me demande si la conscience émerge bien du cerveau ? Sans être vitaliste, ne pourrait pas-t-on voir matériellement une construction de la conscience par l’interaction du cerveau qui calcule en interne, des organes de perception qui apporte les données de l’environnement et la nature des données de l’environnement, le tout étant inclus dans ce que j’appellerai un mouvement plus global qui permet à chacune des parties le cerveau, les organes de perception et l’environnement d’être en constante mutation, croissance décroissance, dans la limite de leurs cadres respectifs. Dis autrement la conscience pourrait émerger non pas du cerveau en lui-même pour se répandre vers l’extérieur, mais d’une alchimie totale entre cet extérieur, le cerveau, et les organes de connexion permettant une interaction entre les deux.
Existe-t-il aujourd’hui des expériences où l’on greffe une IA de type LLM dans une machine à la Boston Genetics ?
C'est un point de vue très intéressant de l'émergence de la conscience. Je pense que c'est probablement le cas.
Et ce n'est certainement pas un avis vitaliste mais bien la nature même du fonctionnalisme ce que vous décrivez!
Excellente vidéo comme d'habitude, un bonbon pour le cerveau !
Il y a malgré tout un aspect qui me turlupine toujours avec ce genre de réflexion : le problème difficile de la conscience. Il me paraît impossible de pouvoir déterminer l'émergence d'une chose tant qu'on ne sait pas ce qu'est réellement cette chose.
Si d'un côté notre intuition ne semble pas à l'aise avec l'idée de l'émergence d'une conscience dans un substrat non biologique (et même non humain pour certains) et que d'un autre côté une réflexion rationnelle arrive pourtant bien à la conclusion que rien ne l'en empêche, il y a là bien la preuve qu'on loupe quelque chose.
Mon interprétation est, il me semble, intrinsèquement irréfutable mais je pense simplement que le caractère "magique" que l'on accorde à la conscience n'est qu'une illusion, le biais cognitif ultime venant du fait qu'on essaie introspectivement de visualiser et d'interpréter une chose en usant de cette même chose. Comme si on voulait installer dans un ordinateur une simulation parfaite de lui-même, la simulation ne parviendrait forcément jamais à égaler son modèle, le rendant "à ses yeux" inatteignable. Comme l'est la compréhension de notre propre conscience.
Qu'en pensez-vous ?
*Si d'un côté notre intuition ne semble pas à l'aise avec l'idée de l'émergence d'une conscience dans un substrat non biologique (et même non humain pour certains) et que d'un autre côté une réflexion rationnelle arrive pourtant bien à la conclusion que rien ne l'en empêche, il y a là bien la preuve qu'on loupe quelque chose.*
Le cerveau humain a le biais d'habitude, il tire des patterns de la répétition, il ne voit qu'un certain type de chose et en tire ici une conclusion générale, c'est la même chose pour les partisans de la terre plate par exemple (exemple extrême certes) leur intuition est en fait dictée par l'experience quotidienne du haut et du bas dont ils dérivent un sens ontologique, cest un biais d'exposition en qq sorte, le matracage de la repetition d'une regularite fait que le cerveau l'essentialise. *Mon interprétation est, il me semble, intrinsèquement irréfutable mais je pense simplement que le caractère "magique" que l'on accorde à la conscience n'est qu'une illusion, le biais cognitif ultime venant du fait qu'on essaie introspectivement de visualiser et d'interpréter une chose en usant de cette même chose.* ca peut se rapprocher de l'illusionisme mais je ne peux le garantir car je ne suis jamais certain d'avoir compris cette these. notamment parceque si le phenomene est une illusion et bien l'illusion est le phenomene à expliquer.
@@PasseScience Merci pour cette redirection vers l'illusionnisme que je ne connaissais pas ! J'imagine que l'intérêt d'explorer cette voie est que, s'il faut comprendre les mécanismes de cette illusion, alors la place de la philosophie dans la réflexion diminue fortement au profit des neurosciences. Cela peut rendre les résultats plus tangibles et plus "durs".
De plus, le fait d'admettre que la conscience serait une illusion plante un clou de plus dans le cercueil de cet anthropocentrisme qui fait tant de mal, validant ainsi une approche antispéciste.
@@valerianpigeon181 Pourquoi le fait de ne pas être anthropocentré validerait une approche antispéciste?
@@divertissalt5475 Je n'ai pas été précis dans ma réflexion : l'abandon de l'anthropocentrisme et l'antispécisme ne sont pas liés par causalité mais par corrélation avec l'illusionnisme. L'homme se sert consciemment ou non du culte qu'il voue à son esprit et à sa conscience pour justifier une hiérarchisation des espèces. Hiérarchie dont il se place évidemment à la tête. Si cette conscience, élevée au rang de mythe, touchant presque au magique et au divin, ne s'avère être qu'une simple "illusion cognitive", alors la limite qui sépare les hommes des animaux en prend un coup.
Quel précurseur a été Spinoza tout de même sur la vision mécaniste du vivant
Là je dis 👍
Le programme dans la machine humaine, est-ce l'adn ? L' épigénétique est-ce des args ?
Il y a, à priori, pas mal de niveaux qui peuvent constituer le « programme » dans la « machine humaine ». L’ADN code beaucoup de choses, dont l’agencement des cellules entres elles pour former des organes, tels que le cerveau. Le cerveau lui-même, en interaction avec le reste du corps, sert de support à nos pensées. Le « programme » de la pensée semble difficile à réduire à une simple expression de l’ADN. Il s’agit plutôt d’un niveau de complexité supérieure, émergent à partir de la structure du cerveau codé par l’ADN, mais il est également influencé par nos expériences, et en particulier, l’environnement social ou la culture au sein de laquelle nous vivons.
Deux livres que j'ai beaucoup aimé.
Le premier ; écrit en 1979.
Chercheur en sciences cognitives aussi original que stimulant, l'Américain Douglas Hofstadter écrit en 1979 le mythique GEB, Gödel, Escher, Bach, an eternal golden braid (les Brins d'une éternelle guirlande dorée) prix Pulitzer en 1980 et pose la question suivante : une Intelligence Artificielle peut-elle devenir consciente (sa réponse est oui) et dans quelles conditions ?
Sa démonstration passe donc par un rapprochement entre l’œuvre de trois personnes qui a priori n’auraient aucun lien entre elles : le mathématicien Gödel, l’artiste Escher et le musicien Bach.
Le deuxième ; écrit en 1980.
Matière à pensée.Quel est le lien entre le monde physique et le cerveau ? Les objets mathématiques existent-ils indépendamment du cerveau de l'homme ou sont-ils seulement le produit de l'activité cérébrale ? Les mathématiques sont-elles universelles ? Mais le sont-elles au point de nous servir à communiquer avec d'hypothétiques habitants d'autres planètes ? L'éthique, qui nous fait distinguer le bien du mal, peut-elle être fondée sur des principes aussi universels que ceux des mathématiques, qui transcenderaient la diversité des cultures et l'intolérance des idéologies ? La morale peut-elle reposer sur des fondements naturels, qu'il faudrait rechercher dans le fonctionnement du cerveau humain en société ? Telles sont quelques-unes des questions essentielles instruites dans ce livre original et stimulant. Par la qualité de ses auteurs et la fécondité de leur réflexion, il constitue un événement exceptionnel. Alain Connes, médaille Fields, est titulaire de la chaire d'Analyse et Géométrie au Collège de France. Jean-Pierre Changeux, auteur de L'Homme neuronal, est titulaire de la chaire de Communications cellulaires au Collège de France. Tous deux sont membres de l'Académie des sciences.
Que penser d'une personne dont le cerveau est physiquement absent à 90% absent et va parfaitement bien .Comme il existe des personnes dont le cerveau est plein d'eau, l'autre sans cervelet et le dernier est coupé en deux Pourtant, les trois personnes dotées de tels cerveaux vivent normalement. Un vrai mystère.
Je suis extrêmement perturbée par cette simulation de nématode. Et si l'éteindre c'était tuer ce ver ? C'est fascinant et un peu effrayant.
Point positif : on peut facilement le ressusciter.
Dans l'état actuel de ce type de simulation (objectivement assez partiel) et dans le contexte de ce qu'on sait de la complexité de sa cognition, il ne semble pas y avoir encore trop de catastrophe morale ici. Mais c'est en effet effrayant car on commence à avoir des systèmes pour lesquels il se pourrait que ce type de catastrophe morale soit la. On pourrait décider de la vie et de la mort de système de conscience, décider de leur souffrance, ou même mettre au point sans le savoir des systèmes dont l'existence subjective n'est qu'une souffrance abyssale.
C’est peut être le tuer. Mais l’enjeu est peut être plus la souffrance. La série Westworld explore beaucoup cette thématique. Un propos qui m’a beaucoup perturbé est quand un des créateur dit que ce qu’il trouve sublime dans l’IA est la capacité a supprimer leur souffrances à leur faire oublier. Et ça, transposé potentiellement sur l’humain est très perturbant.
Tout à fait, et si on généralise, on pourrait se dire que si ce nématode est conscient, rien n'empêche de simuler des organismes plus complexes... Mettant définitivement fin au débat de si oui ou non la conscience peut émerger d'un substrat différent.
Je m’y suis intéressé il y a quelques années et j’ai trouvé chez Pierre Clement, neurologue, la seule explication à peu près raisonnable à l’émergence de la conscience: elle résulterait de l’avantage sélectif d’être responsable de ses actes. Évidemment, cela n’a d’avantage que chez des espèces eusociales.
Pour le reste: tous les systèmes logiques ne sont pas forcément calculables. D’autant que le vivant, si on accepte la théorie de l’évolution, n’en fait pas partie.
Nuance ☝️si c'est logique c'est forcément calculable 😛c'est qu'une question de précision donc de puissance. On y parviendra. Mais ce seront tes petits petits enfants qui pourront le constater et sans trop d'émerveillement puisqu'ils seront baignés dès leur naissances dans d'importants progrès.
@ non
@@marcpremium7442 je sais c'est dur à accepter 😛
Après la force vitale, vous aborder la conscience (qui comme trop de gens l’ignorent encore, n’est pas le fruit du cerveau).
« ce qui n’a jamais été observé » ah? et expliquez-moi ce qu’est l’effet placebo ?
et l’effet nocebo ?
Vous observez le vivant, vous observez la mort (l’absence de vie), mais vous ne pouvez expliquer ce qui ce passe entre ces deux états. Votre vidéo a le mérite de faire sourire ceux qui on l’opinion contraire. On attendra encore longtemps avant que des androïdes soient dotés de conscience. Ce ne sont que des machines totalement inconscientes et c’est pourquoi nous devons les brider (si on veut éviter exterminator).
@@andreando1760 J'ai du mal à vous suivre, je ne comprends pas dans votre raisonnement ce que l'effet placebo et nocebo vient faire là-dedans, ou est censé se démontrer. Vous pouvez développer ?
J'adore ! 100% d'accord ! je suis un Ghost in the shell Organique ! Ni plus ni moins !
Quand on utilise le terme "ghost", c'est pour affirmer que l'esprit n'existe pas. Pensez-vous sincèrement que vous n'existez pas?
On est sur d'un truque c'est que la "conscience" "perçois" mais de là à dire qu'elle "décide"...
2:50
Et l'etre humain est terriblement aveugle et centré sur sa facon d'interpreter le monde.
Rien que le débat sur les sétacé (orques, dauphins, cachalots et autres) sur si ils sont aussi inteliguent voir émotive et conscient que nous.
J'ai une remarque à propos du test de Turing. Je me rappelle avoir assisté à une conférence donnée par Avi Wigderson, où il avait affirmé quelque chose qui semblait contredire ce que vous avez dit. Selon mes souvenirs de ce qu'il a dit, je cite avec mes mots "l'importance réside non pas dans la cause, mais dans la propriété qui en émerge". Autrement dit, deux entités ayant des propriétés indiscernables, dans le cadre des propriétés testées, sont équivalentes dans ce contexte. Ici, le test des propriétés est celui de Turing (à condition, bien sûr, que ce test évalue effectivement toutes les bonnes propriétés, ce qui demande à clarifier ce que l'on entend par bonnes propriétés).
Que pensez-vous de cette idée ? Une version élargie du test de Turing pourrait supposer qu'un humain n'est pas intrinsèquement plus conscient qu'une machine, dès lors que cette machine réussit les mêmes tests de conscience que l'humain. Si, des années plus tard, de nouveaux tests venaient à être conçus, alors la réalité ou la reconnaissance de la conscience d'une machine pourrait évoluer en fonction de ces nouveaux tests. Est-ce bien ce que vous cherchiez à développer ?
*ce qui demande à clarifier ce que l'on entend par bonnes propriétés* *Est-ce bien ce que vous cherchiez à développer ?* oui ce que les theories de la conscience cherchent à developper ce sont les proprietes necessaires et suffisantes a l'emergence de la conscience phenomenale (ie au ressenti subjectif) et ses proprietes seraient objectives (mesurables)
😮😅 merci beaucoup j'ai mieux compris cette histoire de fonctionnaliste j'ai également appris tes apparemment on vivrait dans un simulation on le sait grâce à la 3e loi de Newton et on peut même observer maintenant les atomes au microscope on voit un point lumineux avec un dégradé autour qui représente les nuages électroniques et c'est vrai c'est incroyable comment entre la vie macroscopique et microscopiques qui sont relativement bien liés😢😢😢😊
Oui
Finalement, par bien des détours, la biologie opte pour une compréhension matérialiste. Pour paraphraser Laplace, "l'esprit est une hypothèse non nécessaire".
MAIS !! pourquoi je n'étais plus abonné à cette chaîne ???
Raphaël Enthoven, c est une vidéo pour toi 😂
Ce Raphaël Enthoven est essentiellement un cuistre et s'est moult fois contredit face à M. Phi, mais il n'a pas non plus dit que des conneries lors de ce débat.
@@gaiusbaltar7122 Il a ce je ne sais quoi de pertinent.
@@gaiusbaltar7122 C'est un tenant du vitalisme, donc de la force surnaturelle qui anime la vie. Autant dire que son postulat de départ n'est pas "matérialiste" pour utiliser le terme le plus connu en philo (même si c'est pas le plus adapté)
Son choix métaphysique de base est différent de celui des scientifiques, et de la plupart de philosophes modernes.
Enthoven est agrégé en philo, heureusement qu'il ne dit pas que des conneries (par contre en dire sur son sujet d'expertise c'est souvent rédhibitoire), même si son approche est plus littéraire et symbolique que logique.
@@malluinmalluin5569 j'ignore s'il est vitaliste car je ne me souviens pas de l'avoir entendu défendre cette position lors de ce débat. Cependant, effectivement, il s'affirme d'une part matérialiste et, d'autre part, il semble défendre à bas bruit des thèses dualistes.
Pour le reste je vois que vois qualifiez le vitalisme de "force surnaturelle". Je pense pour ma part que c'est aller un peu trop vite en besogne. Par ailleurs, j'affirme au risque de vous choquer, que le vitalisme n'a, jusqu'à présent, jamais été formellement réfuté. Il a en effet été évacué du discours scientifique plus par préjugé matérialiste (ce "choix métaphysique" dont vous parlez) qui domine la biologie moderne que pour des raisons rigoureusement expérimentales.
Il y a effectivement un "je ne sais quoi" dans cette vidéo qui devrait lui plaire ! 😂😂😂
A 12:18 tu poses une hypothèse qui rejoint ma théorie. Soit que l'inconscient décide de tout, mais qu'il dysfonctionne et que nous ne serions là que pour aider à pallier ce dysfonctionnement,ce qui n'est toujours pas fait. Je m'appuie sur le fait que personne ne décide de quoi que ce soit de l' Amour, qui pourtant est là, ce qui suppose que nous ne puissions décider de rien quant à ce qui meut l'humain puisque ne décidant de rien de l' Amour qui en est une composante essentielle. Un avis là dessus? Je précise que je connais depuis vingt ans les deux conditions nécessaires pour que de l' Amour soit généré chez et entre deux personnes, ce qui me permet d'affirmer que nous ne pouvons influer sur aucune des deux, et donc rien en décider, contrairement à l'inconscient qui lui vérifie ces deux conditions et applique ce qu'elles donnent comme résultat. J'ai également constaté que plus de 95% des gens ne s'aperçoivent d'absolument rien quand leur personne tombe Amoureuse, ce qui suppose un dysfonctionnement chez ces gens, tandis que ceux qui ne sont pas affectés n'en décident pas non plus, bien que eux aussi affectés par le dysfonctionnement dans d'autres domaines, comme le non respect de la nature.
Merci :)
La transcendance est le propre de la conscience .
Je suis un homme simple je pouce haut
ho nooon, pas ce sujet .. bon, comme c'est toi, je regarde quand même 😄
"Ho non" dans le sens ou tu étais deja trivialement fonctionnaliste (ou a minima d'un matérialisme qcq)? ou "ho non" dans le sens ou tu es évidemment dualiste?
L'absence de conscience des LLMs est loin d'être un sujet clos. les pros de l'IA sans formation philosophique voient cela comme une évidence car ils comprennent entièrement les grands points de fonctionnement des LLMs.
Mais la pensée fonctionnaliste induit que comprendre totalement une fonction n'empêche pas cette fonction de faire émerger une conscience.
Tout le génie du test de Turing n'est pas un pari sur les mécanises requis pour se faire passer pour un humain mais l'idée que même simuler une tache pourrait faire émerger les mêmes états de conscience que faire cette tache pour un humain.
Les limitations du test de turing sont plus dans le fait qu'être humain ne se résume pas à conversationner mais des tests similaires à celui de Turing (dans le sens ou on n'a accès qu'aux output et aux input) sont toujours pertinents.
J'ai toujours pensé que nos comportements, nos choix philosophiques personnels et politiques, sur le point de leur conception de notre humanité ne devaient pas dépendre de ce que nous apprenait la science. Et pourtant j'impression que nos connaissances du vivants changent beaucoup de choses ? Si tel est le cas, faut-il y voir la marque d'une insuffisance dans notre philosophie commune ?
Tres bonne video par contre peut-etre mettre un fond noir a la place ca serait bien moins agressif pour les yeux.
En fait ce qui pose vraiment question, et que vous ne questionnez pas, est l'existence de la matière inerte. Car, comme l'a souligné Descartes, la seule chose dont une conscience phénoménale puisse être vraiment sûre, c'est d'elle-même. Le monde extérieur, la matière n'est qu'une hypothèse que produisent des qualias cohérentes, certes avec beaucoup de régularités.
En somme, pour une conscience phénoménale il n'y a qu'elle-même, le monde c'est elle même. Qu'il existe une réalité plus pauvre, inerte, est la vraie question.
De la même manière qu'Einstein a prouvé qu'on ne peut pas distinguer l'accélération de la gravité, à un moment donné, nous accepterons qu'un être artificiel qui se comporte ou manifeste des sentiments n'est pas différent d'un être naturel qui ressent des sentiments.
Je trouve cette formule de vidéo plus facile a comprendre
Pour avoir conscience de soi et sentir, il faut que certaines configurations du réseau produise des entrées nouvelles qui ne soient pas celles produites par l'interaction normale d'un réseau. C'est ce que j'appelle une obsession, une epilepsie ...
Je suis fonctionnaliste acalculiste. Je pense que la conscience est issu d'intéractions physiques mais que la fonction réalisée qui aboutit à la conscience n'est pas un calcul (ou dit autrement que réaliser le même calcul d'une autre façon n'aboutira pas forcément à une conscience). Notamment, si le calcul est médié par une surcouche logique qui s'apparente à un langage.
Ok mais tu es qui pour penser ça ? Tu y fais des études sur ce sujet ?
Pas sûr de suivre, est ce que le même calcul aboutirait aux mêmes comportements (sans même parler de conscience subjective) ? Est-ce que reproduire le calcul de votre cognition mènerait à pouvoir discuter avec cette reproduction de manière indiscernable avec vous-même ? (mais qui ne serait pas consciente du coup?)
@@PasseScience Oui (nous en avons longuement discuté sur X). Je pense que si on parvenait à réaliser une simulation titanesque on n'aurait qu'un "zombie" (et les LLM nous donnent un exemple approchant de zombie, pour le langage). Dès lors que c'est une simulation, je vois un mur infranchissable vers la conscience phénoménale (ce que j'appelle la barrière symbolique).
Je trouve a priori coûteux intellectuellement de se dire qu'on pourrait parvenir à la conscience phénoménale en sautant l'étape de complexité de la vie. Je pense (en théorie) tout à fait possible de créer une conscience artificielle, mais ce robot conscient serait également vivant (et composé de cellules vivantes).
@@brunodoussau_from_tyumen Il faut dans ce cas définir ce qui distingue le « vivant », d’un substrat artificiel. Quel mécanisme ou phénomène produit, ou sert de support, à la conscience ? S’agit-il d’un phénomène tel que la conscience quantique, défendue, entre autres, par Roger Penrose ?
Il me semble beaucoup plus coûteux intellectuellement de devoir ajouter ce type de phénomène, quel qu’il soit, à notre compréhension du monde, avec l’unique objectif d’expliquer la conscience, plutôt que de chercher comment les états internes d’un système complexe, tel que le cerveau pourrait expliquer la conscience.
@@Rykvp Je n'oppose pas "artificiel" et "vivant". Le vivant est assez bien défini comme : système chimique autonome capable d'une évolution darwinienne. Rien ne s'oppose à créer un système vivant de toutes pièces, très différent si on veut du vivant historique (celui à base d'ADN-ARN-protéine). Je pense raisonnable de penser qu'un système avant d'acquérir la conscience, doit être vivant, même si c'est sous une forme bien à lui.
Bonjour! Votre thèse est simple, voire, à mon sens, simpliste. La voici dans les grandes lignes: la matière vivante n'a, selon vous, strictement rien de particulier. Donc les fonctions qu'elle assure n'ont rien de spécifiques à elle. Donc n'importe quelle matière, organique ou non, peut remplir exactement les même fonctions (en passant, parler de "fonctions" pour de la simple matière est extrêmement problématique du point de vue de la physique mais ce n'est pas le sujet ici). Cependant, on constate que nos ordinateurs, que vous êtes prompt à assimiler à des cerveaux (et inversement) n'ont pas de conscience et ne pensent pas, ce qui est tout a fait normal et compréhensible pour les spécialistes et techniciens de ce secteur (dont je suis par ailleurs mais cela n'est pas important).
Vous affirmez de votre côté que, dans certaines conditions, la pensée et la conscience doivent nécessairement "émerger" des ordinateurs en vertu des lois de la physique. Donc, selon vous, quelque chose doit nécessairement "émerger" de cette matière que vous qualifiez de "standard". Vous dites donc: *CERTAINS assemblages de semi-conducteurs dotés de conscience sont concevables.*
Concrètement, que serait cette "conscience" qui devrait "émerger" et qui ne serait donc pas, à ce titre, réductible à cette matière "standard"? En effet, si c'est toujours de la matière, alors rien n'a "émergé". Et si ce n'est pas matériel, cela n'existe pas selon vous, et donc rien n'a émergé non plus.
Et que signifierait au demeurant, d'un point de vue strictement matériel, cette notion de "conscience"? Autrement dit, selon vous, que doit-il nécessairement émerger concrètement?
Par ailleurs, qu'auraient de particulier ces assemblages de semi-conducteurs par rapport aux autres? Autrement dit, dans quelles conditions des assemblages de semi-conducteurs doivent-il nécessairement aboutir à un Descartes synthétique?
Enfin, puisque vous considérez que Descartes s'est complètement égaré avec son délire de "je pense donc je suis" (alors que cela est manifestement impossible à réfuter, mais peu importe), comment se fait-il selon vous que des lois de la physique aboutissent nécessairement à une "erreur"? S'agit-il finalement d'une mauvaise conformation matérielle? Et si oui, au regard de quelle norme?
Je précise que ces questions ne sont que des questions de surface, et que si on pousse plus loin la réflexion, ce que vous ne faites manifestement pas ici, on tombe sur des difficultés théoriques encore plus insurmontables.
Je repond point par point (à une des version de ce commentaire que moi je voyais tres bien, qui semble differente de la version ci dessus.)
*on constate que nos ordinateurs, qu'on est prompt à assimiler à des cerveaux*
Non pas grand monde n'assimile les ordinateurs en général à des cerveaux dans une discussion rigoureuse. > Homme de paille.
*nos ordinateurs n'ont pas de conscience et ne pensent pas, ce qui est tout à fait normal et compréhensible pour les spécialistes et techniciens de ce secteur.*
Je suis informaticien de métier et passionné de ces sujets, et c'est également pour moi, tout à fait normal et compréhensible que mon ordinateur ne pense pas, et même que GPT4 ne pense pas, je n'ai jamais dit le contraire et je saurais argumenter pourquoi gpt4 n'est probablement pas conscient.. > Homme de paille.
*Vous dites donc: CERTAINS assemblages de semi-conducteurs dotés de conscience sont concevables. Concrètement, que serait cette "conscience" qui devrait "émerger" et qui ne serait donc pas, à ce titre, réductible à cette matière "standard"?*
Un certain mouvement d'information avec sa dynamique, sa structure et des propriétés précises.
*si c'est toujours de la matière, alors rien n'a "émergé".*
Ce n'est pas le support physique qui importe mais l'information, et lorsqu'on parle ici d'émergence on parle des propriétés dynamique macroscopique de ce groupe d'information, vous concevez bien par exemple qu'un nuage, fait de molécule d'eau, a un comportement macroscopique induit par la physique des molécules d'eau, mais qui est en fait macroscopiquement relativement distinct de sa dynamique microscopique, il devient un objet en lui même. Mais bon, je n'espère pas ici réussir à communiquer avec vous le concept d'émergence, a l'issue de nos discussion c'est un aspect qui semble vous dépasser totalement.
*Par ailleurs, qu'auraient de particulier ces assemblages de semi-conducteurs par rapport aux autres? Autrement dit, dans quelles conditions des assemblages de semi-conducteurs doivent-il nécessairement aboutir à un Descartes synthétique?*
Encore une fois, le substrat physique n'est pas la clef (vous ne semblez pas vraiment comprendre la thèse de la réalisabilité multiple) donc il faut plutôt poser des conditions, des propriétés, sur le processus, Quelle propriété un processus doit avoir pour mener à la conscience subjective ? eh bien c'est le sujet des théories sur la conscience.... Je vous invite à googler "theories of consciousness". Une des propriétés qui me semble essentielle (et je n'ai pas dit suffisante) c'est qu'un processus contienne en interne, des informations qui représentent une partie de ces propres états macroscopiques, que ce mouvement d'information soit réflexif, s'auto-réfère.
*Enfin, puis que vous considérez que Descartes s'est complètement égaré avec son délire de "je pense donc je suis"*
Ha bon je considère ça moi ? (des fois j'avoue ne même pas imaginer comment vous comprenez les trucs de travers tellement ils sont loin de ma conception)
*comment se fait-il selon vous que des lois de la physique aboutissent nécessairement à une "erreur"?*
Je ne vous suis pas. Une erreur de quoi?
NB: lorsque vous posez vos questions (que j'ai déjà dit suite à notre passif je me réserve maintenant largement le droit de ne pas lire) je vous serais gré de ne pas les mettre en réponse à un commentaire: ca vous permettrait de ne pas faire bugger youtube et de jouer les persécutés, de ne pas me faire moi lire 4 fois la même chose (car visiblement moi je vois bien vos commentaires qui "disparaissent"), d'en avoir les notifications, et de ne pas mélanger les carottes avec la choucroute.
Mettons de côté les semi-conducteurs. Je suis curieux de connaître votre définition des termes « conscience » et/ou « penser ». Ma question sous-jacente serait de comprendre en quoi la conscience que nous les humains avons est une caractéristique fondamentalement différente de par exemple avoir des écailles, ou des griffes ou pouvoir voler.
Existe-t-il selon vous un autre mécanisme que l’évolution/sélection naturelle pour expliquer l’apparition de la conscience chez l’humain ?
Autrement dit : imaginons que l’humanité disparaisse. Après un temps suffisamment long, considérez-vous possible qu’une autre forme de vie animale puisse à son tour développer une conscience ? (j’ai bien dit possible, pas inévitable ou même probable).
@@PasseScience (pour faire au plus court, je passe sur l'accessoire et focalise sur l'essentiel)
*Un certain mouvement d'information avec sa dynamique, sa structure et des propriétés précises*
Si vous dites : un certain mouvement de particules, d’un point de vue matériel, c’est ok, mais là vous dîtes « un certain mouvement d’information » et je vous repose la question : de quoi parlez-vous matériellement parlant ? Quel rapport entre particule et information ? Comment passe-t’on de l’un à l’autre ?
*vous concevez bien par exemple qu'un nuage, fait de molécule d'eau, a un comportement macroscopique induit par la physique des molécules d'eau, mais qui est en fait macroscopiquement relativement distinct de sa dynamique microscopique*
Certes, mais ici on parle toujours de choses bien identifiables d’un point de vue matériel : particules, atomes, molécules, structures macroscopiques. Donc je reviens à ma question ci-dessus.
*c'est un aspect qui semble vous dépasser totalement.*
Ce concept consiste à dire : un truc nouveau apparaît sans qu’on puisse dire pourquoi et comment. Avouez que ça doit nécessairement dépasser les esprits moyens tels que le mien qui ont besoin d’explications concrètes et rigoureuses.
*Encore une fois, le substrat physique n'est pas la clef*
Ce que vous dites là est extrêmement problématique d’un point de vue matérialiste dans lequel vous vous inscrivez.
*il faut plutôt poser des conditions, des propriétés, sur le processus*
Oui, on peut faire ça avec n’importe quel objet matériel et décrire tout ça d’un point de vue matériel come par exemple pour la formation des nuages, des étoiles, des planètes, voire de l’Univers dans son ensemble et on parle toujours de choses matérielles bien identifiées, avec des propriétés bien définies, et des processus bien décris mais ici vous parlez d’autre chose comme vous le dites au-dessus en affirmant que « le substrat physique n’est pas la clé » alors qu’en physique, le substrat physique est bien la clé et même la seule clé. Donc, encore une fois, vous parlez de quoi concrètement, d’un point de vue matériel et uniquement matériel comme il se doit en physique ?
*des informations qui représentent une partie de ces propres états macroscopiques*
Au delà du fait que vous ne dites pas ce qu'est une "représentation", notamment du point de vue de la physique, on représente toujours pour quelqu’un, donc pour une « conscience ». Autrement dit, ici il y a un gros problème car vous semblez déjà présupposer un récepteur à cette représentation de soi-même.
*mouvement d'information soit réflexif, s'auto-réfère*
Quand j’entends mouvement en physique, je comprends aussitôt et uniquement mouvement de particules. Ici encore une fois vous parlez d’information, ce qui est étrange. Par ailleurs, en admettant ce terme « information », vous dites une information qui se réfère à elle-même, mais pour qui exactement ? Quand je lis un livre qui s’auto-référence, c’est le lecteur qui le constate, pas le livre si vois voyez ce que je veux dire.
*des fois j'avoue ne même pas imaginer comment vous comprenez les trucs de travers tellement ils sont loin de ma conception*
Cette proposition est au fondement du dualisme et je crois savoir que vous êtes moniste.
*Une erreur de quoi*
L’erreur de Descartes (c’est le titre d’un livre par ailleurs) qui a mené au dualisme, à savoir celle d'affirmer que le fait que l'on pense est la preuve que l'on existe.
@@xaviervilloing6636
*« conscience » et/ou « penser »*
Question très intéressante et très complexe à la fois. Il serait bien présomptueux pour moi de prétendre définir ces termes de manière absolument objective et formelle. En première approche, je dirais de la pensée qu'il s'agit de la capacité pour une entité quelconque de construire une image mentale, soit totalement abstraite, de la réalité. Quant à la conscience, il s'agirait en première approche de la propriété, pour cette entité, de se représenter elle-même pour elle-même et, à se titre, de se considérer comme une entité distincte du reste de l'Univers, face auquel elle se considère comme observatrice, comme point de vue.
*Existe-t-il selon vous un autre mécanisme que l’évolution/sélection naturelle pour expliquer l’apparition de la conscience chez l’humain ?*
Il est absolument impossible pour moi de répondre à cette question.
*Après un temps suffisamment long, considérez-vous possible qu’une autre forme de vie animale puisse à son tour développer une conscience ? (j’ai bien dit possible, pas inévitable ou même probable).*
Je ne vois absolument rien qui s'oppose par principe à cette possibilité.
@@gaiusbaltar7122 *Si vous dites : un certain mouvement de particules, d’un point de vue matériel, c’est ok, mais là vous dîtes « un certain mouvement d’information » et je vous repose la question : de quoi parlez-vous matériellement parlant ?*
Je vous renvoie à 12:58 pour reprendre le concept de realisabilite multiple, notamment avec l'exemple de la porte ET, et les deux implementations physique differente, le calcul est ici le meme, la physique qui le supporte differe, moi je parle du point commun entre les deux structures, donc de l'information.
*Ce concept consiste à dire : un truc nouveau apparaît sans qu’on puisse dire pourquoi et comment. Avouez que ça doit nécessairement dépasser les esprits moyens tels que le mien qui ont besoin d’explications concrètes et rigoureuses.*
Je crois vous avoir deja donnez l'exemple de la dune, que j'aime beaucoup, vous considerez une dune de sable dans le vent, le sable s'accumulant d'un cote, s'envolant de l'autre, resultant donc en un mouvement de la dune vers le vent. Ici vous avez un objet macroscopique, la dune, qui peut persister et se deplacer dans son etat de dune indefiniement et donc avoir une duree de vie plus longue que ces constituant (puisque les grains qui la constitue finisse par venir et finissent par partir) elle a aussi des proprietes macroscopique bien a elle, un deplacement une vitesse, qui n'ont rien a voir avec le deplacement et la vitesse des grains qui la constitue, notamment elle se deplace dans le sens inverse de tous ces constituants. (a contre vent alors que les grains vont dans le sens du vent).
Bon he bien ici je vois donne un exemple d'emergence que je pense que vous pouvez comprendre, et du coup sauriez vous capable de m'expliquer dans ce cas COMMENT ce truc nouveau qu'est la dune apparait ici, pourquoi et comment ? Une partie du sujet (les theories de la conscience) ont pour objectif de trouver une reponse a votre question (et donc ne l'ont pour le moment pas, ou pas integralement) mais si je vous donne l'exemple de la dune cest pour vous montrer que meme dans le cas ou l'exemple est concevable, assimilable, et compris a toutes les echelles, il est difficile de definir le type de reponse que vous voudriez avoir à "pourquoi eet comment?" meme dans un cas parfaitement maitrisé d'emergence.
*Encore une fois, le substrat physique n'est pas la clef, Ce que vous dites là est extrêmement problématique d’un point de vue matérialiste dans lequel vous vous inscrivez.*
Pas vraiment, c'est en fait vous ici qui voulez garder une dichotomie classique materialiste dualiste, je ne suis pas dualiste, mais je ne suis pas non plus "materialiste" au sens classique du terme, un fonctionnaliste il se concentre sur les processus interne (voir reponse sur la these de la realisabilite multiple) par exemple un "programme" ca existe pour vous ? je veux dire "materiellement" c'est quoi exactement le programme "internet exploreur" les atomes des micropusces qui l'execute ? vous ne saississez pas en quoi c'est reducteur de vouloir materialiser une structure logique ? elle est "implementee" par un substrat physique, mais celui ci est intercheangable, et ceuq qu'on garde (ie le processus) c'est ce qui nous interesse. Le fonctionnalisme a toujours eu sa part de dualisme, percisement parceque ce sur quoi il se focalise est le processus et non le hardware.
*Donc, encore une fois, vous parlez de quoi concrètement, d’un point de vue matériel et uniquement matériel comme il se doit en physique ?*
Meme reponse a la meme question, du coup j'imagine qu'aucun programme informatique n'existe ? cest quoi materielement un programme informatique ? comment c'est possible d'avoir le meme programme qui tourne sur des architectures differentes faites de composants qui n'ont rien a voir, quest ce qui est le meme si tout materiellement change ? A la limite si vous voulez vraiment avoir un truc materiel, a la place de parler du processus vous pouvez parler d'une realisation de ce processus, ou dans ce cas ca serait les structures physiques qui en deroule l'execution dont on parle.
*Autrement dit, ici il y a un gros problème car vous semblez déjà présupposer un récepteur à cette représentation de soi-même.*
Non ce qu'on dit c'est que produire cette structure rapproche simultanement de creer le recepteur de creer le signal dont je parlais. Le recepteur s'identifie au processus avec les proprietes recherché. (c'est une question de type oeuf ou la poule que vous faite, montrant des difficultes a concevoir des concepts presentant une cyclite). C'est un peu comme si vous disiez en gros qu'aucun mot du dictionnaire ne peut avoir un sens car son sens est defini par les autres mots et qu'ils faut donc que ces mots ai deja un sens etc... ba non, c'est la relation entre les elements de l'ensemble qui donne simultanement un sens a ses parties.
Bonjour.
Émergence faible ou forte ? Dois-je penser que des cellules de Bénard proviennent d’une propriété inconnue des molécules d’eau (réductionnisme) ou bien qu’en réaction à leur environnement (effondrement de l’équilibre thermodynamique), la matière « commence à voir » (Prigogine), le tout étant plus que la somme de ses parties ?
Les expériences de Libet ? Elles partent de l’a-priori que la conscience est cérébrale, or nous connaissons (grâce à la science) que nous avons aussi des neurones dans les intestins et aussi dans le cœur [ce que nous « savions » déjà (de « sapere » : avoir du goût - ce qu’une machine n’a jamais eu - n’a pas - n’aura jamais) depuis très très longtemps, inconsciemment (?), exprimé dans les locutions avoir du cœur et avoir des tripes]. Les neurones de quel(s) organe(s) répondent aux stimulations de Libet ? Où se situe la conscience ?
« L’élan vital », notion que l’on retrouve entre autres chez Bergson est surtout là pour exprimer le fait que Nous, science comprise, sommes incapables de définir ce qu’est le temps, sinon de l’exprimer sous forme d’espace comme une bête mesure d’angle…
Platon émettait l’idée que le véritable changement se tient « entre le mouvement et le repos » c’est-à-dire en dehors de la mécanique telle que nous l’entendons. La Nature, la conscience, l’homme, le complexe, sont-ils mathématisables ? Quelle preuve que A=A (ou 1=1) sans le comparer à Non-A ? La conscience est-elle individuelle ? (émergence faible). L’univers est-il conscient ? (émergence forte ou vitalisme ?).
Ce n’est pas le binarisme d’une porte « et » qui résoudra le problème (ni de la conscience, ni du photon émit avant d’avoir été absorbé). D’autant que si vous m’avez bien suivi, la vérité s’il en est une, est ce qui se tient entre la fin de la question et le début de la réponse.
Alors une machine peut-elle penser ?
Si l’on croit que tout est calcul alors oui. Mais j’aimerais bien que cette machine m’explique, consciemment bien sur, comment elle a vécu l’intensité de son dernier orgasme…
Nier le libre arbitre chez l'Homme est hautement stupide. Quand j'ai demandé à ce youtubeur comment on pouvait espérer le voir "émerger" (abracadabra!) chez la machine alors qu'on la nie chez l'Humain, il s'est contenté de me donner un lien vers une vidéo de Mr Phi en me disant un truc du style "le déterminisme ne s'oppose pas une certaine liberté", sans plus d'explication ni de démonstration. Il s'avère que j'ai vu cette vidéo il y a longtemps: on y voit un Mr Phi revenir sur et de ses postions déterministes précédentes (en effet, quelques minutes de réflexion suffisent poiur se rendre compte de l'absurdité de cette position) mais s'arrêter au milieu du gué (pour ne pas sombrer dans le dualisme manifestement) et baratiner de longues minutes pour dire que finalement, A (déterminisme) peut parfois être égal à non-A (liberté) sans plus de démonstration ni d'argumentation, conformément à une thèse dite "compatibiliste". Voila le niveau de réflexion et d'argumentation que nous offre ce youtubeur qui a tout compris à tout contrairement à l'ensemble de ses contradicteurs. Cependant, la logique fait souvent et cruellement défaut dans son discours émaillé de contradictions de toutes sortes. J'ai, pour ma part, du mal à concevoir une démonstration dépourvue de logique. J'ai également remarqué que Mr Phi partageait désormais avec ce youtubeur des croyances techno-animistes et cyber-anthropomorphistes.
@@gaiusbaltar7122 *Nier le libre arbitre chez l'Homme est hautement stupide*
Ca depend en fait beaucoup de ce que vous entendez par la et du cadre de la question (plutot philosophique ou plutot science dure). Si vous pensez au libre arbitre au sens "classique", c'est-à-dire votre capacité à créer une sorte de choix a-causal, de faire ou décider quelque chose depuis nulle part avec cette sensation que vous auriez pu faire autrement la science vous dira que c'est plutôt une sorte d'illusion, et j'aime beaucoup la formulation de Sabine Hossenfelder pour expliquer cette illusion: "si vous pouviez prévoir à l'avance l'issue de vos processus décisionnel avant de les mener vous n'auriez pas besoin de les mener, et c'est donc pour cette raison que de votre point de vue subjectif toute issue de vos processus décisionnel vous semblera imprédictible et libre" Je crois que c'est dans cette vidéo mais je n'ai pas tout réécouté: ua-cam.com/video/TI5FMj5D9zU/v-deo.html (finalement c'etait dans sa premiere videos sur le sujet qui est référencée dans celle ci) il y a aussi beaucoup de vidéos de Sam Harris qui s'adresse à cette conception classique et magique du libre arbitre (pour la detruire)
Pour la partie philosophique je crois que vous n'avez pas bien saisi qu'il s'agit de questions complètement différentes. La partie science ci-dessus, vous dit comment sont les choses, la partie philo s'intéresse plutôt à trouver des conceptions ou des définitions. Dans le compatibilisme par exemple, la question centrale est de savoir si on peut encore parler "dans un certain sens" de libre arbitre malgré une description causale des processus mentaux. Les questions philosophiques ici ne vous disent rien du réel et n'ont pas pour but de le faire (ce que vous ne semblez pas vraiment saisir) il s'agit essentiellement de trouver des définitions dans un cadre descriptif ou les définitions intuitives ont été invalidés. La vidéo de MrPhi (ou les vidéos autour du libre arbitre) sont un peu méta dans le sens ou ce qu'elles prétendent grosso modo c'est que la définition classique du libre arbitre (ce super pouvoir de choisir depuis rien) est un fantasme et que ca n'a jamais été vraiment ce que les philosophes ont prétendus, et montrent expérimentalement que lorsqu'on cuisine les gens sur leur intuition de ce que veut dire libre, ce n'est pas non plus vraiment ce qu'ils imaginent (c'est pour cela que visiblement pas mal de philosophe trouve des interventions comme celle de sabine ou de sam harris comme assez vide, car selon ces philosophes il y a bien longtemps que la question autour du libre arbitre ne concerne plus ces définitions fantasmés, mais dans votre cas, ca vous conviendra tres bien). La encore c'est une question de définition de concept, ou à la limite de description des intuitions des gens via un questionnaire introspectif.En résumé, il y a 3 plans tres distincts que vous ne semblez pas vraiment distinguer. *Descriptif (scientifique),* La science indique que le libre arbitre, entendu comme la capacité à créer des choix a-causaux, est probablement une illusion découlant notamment de l'imprévisibilité subjective de nos processus décisionnels. *Philosophique :* Les philosophes, notamment compatibilistes, se concentrent sur la redéfinition du libre arbitre dans différents cadres, en explorant des conceptions qui restent pertinentes malgré les découvertes scientifiques. *Et le débat philosophique sur le sous point de la définition classique :* La conception du libre arbitre via ce "super-pouvoir" de choisir depuis rien est largement vue comme un fantasme chez les philosophes qui affirment que cette conception n’a jamais été centrale dans leurs travaux. (je ne suis pas d'accord avec ce dernier point personnellement, je considère tres bien la conception classique du libre arbitre, c'est juste que d'après les philosophes modernes s'attaquer à cette définition du libre arbitre c'est se battre contre des moulins à vents)
Pourriez vous ne pas poster (encore une fois) vos remarques sous des commentaires qui n'ont pass grand chose à voir.
Je répond ici à @badpittr5947
*Émergence faible ou forte ?*
Si vous aviez des exemples pour distinguer les deux ça m'interesse car à priori (mais pas sur) ma seule conception de l'émergence est faible.
*Dois-je penser que des cellules de Bénard proviennent d’une propriété inconnue des molécules d’eau (réductionnisme) ou bien qu’en réaction à leur environnement (effondrement de l’équilibre thermodynamique), la matière « commence à voir » (Prigogine), le tout étant plus que la somme de ses parties ?*
Dans le sens ou je parle d'émergence ce que je veux dire c'est que ce qui se passe macroscopiquement et inévitable étant donné la structure et la dynamique microscopique, mais que les propriétés macroscopiques n'ont pas d'équivalent trivial et direct au niveau microscopique. Prenez par exemple une dune qui se deplace par accumulation de grain de sable face au vent et dispersion de ces meme grains de l'autre coté. Ce qui se passe ici macroscopiquement (le deplacement de la dune) est inévitable etant donné la description microscopique, mais pourtant on observe de nouvelle propriete comme par exemple la vitesse de la dune qui lui est propre (et dans ce cas precis de sens inverse à celle de tous les grains de sable qui la constitue)
*Les expériences de Libet ? Elles partent de l’a-priori que la conscience est cérébrale, or nous connaissons (grâce à la science) que nous avons aussi des neurones dans les intestins et aussi dans le cœur [ce que nous « savions » déjà (de « sapere » : avoir du goût - ce qu’une machine n’a jamais eu - n’a pas - n’aura jamais) depuis très très longtemps, inconsciemment (?), exprimé dans les locutions avoir du cœur et avoir des tripes].*
Pas certain de suivre ce que vous imaginez que delocaliser une partie de la cognition change.
*Mais j’aimerais bien que cette machine m’explique, consciemment bien sûr, comment elle a vécu l’intensité de son dernier orgasme…*
C'est une question intéressante mais un peu hors sujet, vous vous rendez bien compte que même si vous étiez dans l'incapacité de ressentir une telle chose (ou lorsque vous n'êtes pas en train de la ressentir) vous vous considérez tout de même conscient, même phénoménalement conscient. La douleur (ou les recompense extreme que vous citez) ne sont que des cas limites. Sur le plan scientifique et evolutif, il s'agit de sous programme internes, sculpté par l'evolution, pour faire ressentir tel ou tel illusion et manipuler l'entité dans un but qui maximise la survie (au sens darwinien). On peut tres bien stimuler ces sous programme par des drogues (ou meme creer des illusions nouvelles et bien plus fortes avec certaines autres drogues).
@@PasseScience
*cette sensation que vous auriez pu faire autrement la science vous dira que c'est plutôt une sorte d'illusion*
Pourquoi serait-ce une illusion? Si on parle d’illusion pour nos choix, pourquoi tout le reste ne serait pas une illusion non plus? Qu’est-ce qui vous garantit alors que toutes vos perceptions et représentations n’en sont pas non plus? Ou commence l’illusion et ou s’arrête t’elle? De mon point de vue, parler d’illusion est un moyen commode d’éliminer des FAITS gênants.
Passons à présent à cette affirmation selon laquelle nous n’aurions jamais pu faire autrement. Cela signifie que l’erreur et/ou la faute n’existe pas, pas plus que le mérite: le réchauffement climatique, les génocides, les meurtres, les vols, les viols, tout cela était donc inévitable. On peut donc oublier toute notion d’action politique et de droit. Personne n’est responsable de rien: un délinquant est un délinquant par nature, un tueur ne pouvait pas ne pas tuer; un violeur ne pouvait pas ne pas violer, etc…
De même, Einstein n’aurait pas pu ne pas découvrir la théorie de la relativité, ni Newton la loi de la gravité, Hugo n’aurait pas pu ne pas écrire Les Misérables, etc.. Ils n’ont donc aucun mérite, il n’ont développé aucun effort ni déployé aucune intelligence pour arriver à leur résultats. Cela pose donc la question de l’origine de l’intelligence. Si ce ne sont pas les agents eux-mêmes qui ont déployé efforts et intelligence mais s’ils ont plutôt été le jouet de forces qui les dépassent et qui ont abouti à ces résultats auxquels ils devaient nécessairement aboutir, cela signifie que l’intelligence est inscrite dans le processus: une sorte de "dessein intelligent" a tout dominé et tout orienté à l’insu des agents victimes de l’illusion que ce sont eux qui sont les acteurs et responsables de leur découvertes.
Cela pose enfin le problème de la vérité. En effet, selon vous, vous n’auriez pas pu ne pas faire cette vidéo ni ne pas dire ce que vous y dites. Vous ne dites donc pas ce que vous y dites parce que vous pensez que c’est la vérité (et donc suite à un effort de raisonnement de votre part pour y parvenir puisque vous n’y êtes pour rien in fine), mais parce que vous ne pouviez pas ne pas dire autre chose. De même, ce que je dis ici, je ne le dis pas parce que je pense que c’est vrai, mais parce que des forces quelconques ont abouti, dans leur déploiement, à me faire dire ce que je dis sans que je n’y puisse rien. On n’a donc ici plus aucune notion de vrai, de faux ni de démonstration, ni de débat d’idée. Personne ne peut donc rien reprocher à personne: vous ne pouvez reprocher aux « créationnistes » de dire ce qu'ils disent et de diffuser leurs idées parce que ces derniers ne peuvent pas faire autre chose que ce qu’ils font selon vous. Or, vous le faites très régulièrement, ce qui est hautement contradictoire et incohérent avec ce que vous affirmez ici.
*questions philosophiques ici ne vous disent rien du réel et n'ont pas pour but de le faire*
Si vous croyez que la philosophie est une réflexion coupé du réel, c’est que vous n’avez rien compris à la philosophie. J’ignore par ailleurs d’où vous sortez cela. Avez-vous des sources à l’appui de vos dire ici?
*ce super pouvoir de choisir depuis rien*
Le libre arbitre n’est pas le pouvoir de choisir depuis rien comme vous dites ici. Il s’agit du pouvoir d’agir selon des BUTS, des OBJECTIFS. De manière plus concrète, le libre arbitre consiste dans la capacité pour les agents humains de contrôler leur pensées et leurs corps, et ainsi de pouvoir prendre des décisions et de les mettre en oeuvre. De deux choses l’une: ou bien c’est bien vous qui contrôlez votre pensée et votre corps pour pouvoir dire ce que vous me dites ici dans le BUT de me convaincre, oui bien cela n’est qu’une « illusion » et donc ce n’est pas vous qui me parlez. Si ce n’est pas vous, qui donc cela peut-il bien être?
*choisir depuis rien est largement vue comme un fantasme chez les philosophes*
Je vous propose quelques expériences: prenez votre voiture et commettez un excès de vitesse devant un policier ou un radar. Ensuite, dites au policier ou au juge que vous n’êtes pas responsable car vous n’auriez pas pu ne pas agir différemment et commettre cet excès de vitesse. Ou alors, n’allez pas à votre travail pendant une semaine sans justification et dites à votre employeur que ce n’est pa de votre faute car vous n’avez aucun pouvoir sur vos actions. Quelles seraient donc les réactions de vos interlocuteurs selon vous et pourquoi? Imaginez également que vous êtes à la place de ces interlocuteurs. Comment réagiriez vous face à ce discours et pourquoi?
@@PasseScience
*Sur le plan scientifique et evolutif de sous programme internes, sculpté par l'evolution pour faire ressentir tel ou tel illusion et manipuler l'entité dans un but qui maximise la survie*
Sculpté par l'évolution ne veut strictement rien dire. L'évolution c'est un changement dans le temps. Donc dire ce que vous dites ici revient à dire que les changements dans le temps sont "sculptés" par le changement dans le temps. Ceci dit, il est bien connu que darwinisme et tautologie font souvent bon ménage mais ce n'est pas le sujet ici. La question que je pose systématiquement et qui ne reçoit jamais de réponse est la suivante: de quoi parlez-vous concrètement? Que des mutations génétiques aléatoires modifient physiquement les organismes et que ces modifications soient rendues pérennes par leur caractère efficace est aisément compréhensible et concevable car on parle ici de choses physiques bien identifiées. Mais quid de cette notion de "programme" ici? Qu'est-ce qui est concrètement modifié et par quoi concrètement? Si vous ne définissez pas précisément de quoi vous parlez et ne décrivez pas précisément les mécanismes, tout cela ne reste que des mots creux pour des propositions simplistes et tout aussi creuses. En effet, il serait tout aussi valable de dire qu'un Ingénieur/Programmeur a conçu toutes ces "machines" et en a écrit le "programme", surtout si par ailleurs on pense que nous vivons dans une simulation, idée très à la mode ces derniers temps.
J'ajoute également qu'encore une fois, vous faites passer des hypothèses ou cadres de recherches pour des vérités bien établies, ce qui est vraiment très problématiques. Une question ici: comment interprétez vous, dans votre cadre, le suicide, et notamment le suicide suite à une grève de la faim ou encore l'immolation par le feu par revendication politique?
Excellent