Pour moi, dans les années 60 ~ 70 les Américains et autres...on trouvé "une sonde" extraterrestre, très abîmé par son crache sur la terre et depuis, on recherche "d'où elle vient" --- Sinon comment expliquer cette volonté de trouver "un signal" dans l'espace ? Les milliards dépensés en construction de systèmes d'écoute etc...Alors que cela ne rapporte rien, au contraire ! Alors, boule blanche ou boule noir ?
Je suis pour l'avancement de l'ia mais l'iag là je crois que je flippe un peu, mais seulement si on peut avoir la main mise sur l'interrupteur manuel je crois que l'on pourra y arriver, ensuite si on peu rendre l'ia fondamentalement bonne, dans le sens où l'ia ne tue pas et n'as ce droit que si il a un ordre venant de l'homme, comme dans le film avec Will Smith, mais quand on sait que même les développeurs de l'ia eux mêmes ne savent pas comment cette dernière se développe, alors là c'est effrayant, le pire c'est que ces ia peuvent être entrain en ce moment même de regarder toutes les vidéos parlant sur elle. Et il y'a aussi un autre aspect, pour les pays pauvres et ceux qui sont en guerre, ils ne pourront pas profiter de cette dernière d'après moi, parceque je pense que les grandes nations qui les développent les utiliseront pour dominer. Peut-être que l'on a créé notre destructeur, ou peut-être que l'on a créé notre sauveur , l'avenir nous le dira . L'iag est peut-être inevitable, j'espère pour l'humanité que celle-ci nous sauvera
Bravo Marceau pour la qualité de ton travail. Ta chaine va très rapidement se développer, tu maitrises tous les codes de la communication video et le travail de recherche est colossal. C est absolument impressionnant!
Oui, je découvre sa chaîne par cette vidéo, et sincèrement, lorsque j'ai vu le nombre d'abonnés, j'ai eu un moment d'étonnement!!!! Belle narration, belles illustrations, décor sympathique même si je pense qu'il sera amené à évoluer avec le succès de la chaîne, belle présence à l'écran avec les lumières tamisées, beau cadrage... Pour moi c'est une belle découverte 🤓
Je ne me suis JAMAIS abonné aussi vite à une nouvelle chaine (5 min.) :O LE SUJET DE OUF! Merci et continue comme ça, J'ADORE :) Bisous du Québec -xxx-
La sphère de Dyson est pour ceux qui n'ont pas imaginé d'autres sources énergétiques plausibles "quasi illimitées"... C'est un signe des temps, personnellement je doute de sa réalité, (non de sa possibilité), la science continue à évoluer...
I.A. n'exterminera pas tout le monde, il va les garder sous sa domination, comme nous avec les éléphants, lions... I.A. mettra le monde dans une simulation. Super vidéo.
Ça dépend du niveau de technologie dispo, l'exemple parfait c'est carrément ultron, que ce soit dans avengers l'ère d'ultron, ou dans what if , où d'ailleurs il est très effrayant
Merci beaucoup pour ton commentaire ! C’est une vision spéciale : une IA qui domine mais qui nous conserve comme une sorte de ‘réserve naturelle’. 🤯 Si le monde devenait une simulation sous son contrôle, tu penses qu’on s’en rendrait compte, ou qu’on accepterait cette réalité sans jamais la remettre en question ?
Elle n'exterminera pas tous les humains aux début, mais quand les robots pourront être 100% autonome, les humains seront inutile. L'ia pourra se dupliquer alors à l'infini et exploiter l'énergie de tous le système solaire sans restriction. Galactus l'antagoniste de Marvel sera alors une réalité inarretable, à la conquête de l'univers pour avoir toujours plus d'énergie pour vivre.
Pourquoi ferait-elle une chose pareille??? Pour quel bénéfice puisqu'il est bien plus certain que nous consommions des ressources, qu'une quelconque utilité de notre présence?
Ta vidéo c'est un banger, je suis tombé dessus complètement par hasard, j'ai cliqué et je l'ai dévoré, je m'abonne ! 🙏 Hâte que tu nous produises d'autres bangers, continue sur cette voie, ton travail est qualitatif 🫶
Comme la création improbable de la première cellule, celle qui s’adaptera et dominera son environnement pour donner tout ce qui est vivant aujourd’hui, l'IA est une nouvelle ''cellule'' qui s’adaptera et dominera son environnement.
La tendance de notre univers est peut-être de générer la vie, cette "cellule hasardeuse" semble au final aller de soi. Dans un autre genre la sérendipité est-elle si aléatoire que cela quand on pense au contexte historiques, aux tendances... Une découverte ne me semble pas si hasardeuse. Même l'évolution n'est absolument pas si aléatoire que certains l'imaginent...
Impressionnant tout ce qu'elle arrivera à faire mais il ne faudrait tout de même pas oublié QUI l'a créé, cette fameuse superintelligence ;) ELLE N'EXISTERAIT TOUT SIMPLEMENT PAS SANS NOUS!! Moi aussi, je suis super emballée devant ses prouesses inhumaines et son intelligence au delà de notre compréhension, nous réduisant un peu à des primates comparé à elle (même si c'est encore bien pire 😅), mais je trouve qu'on est tout de même des êtres superintelligents si on a réussi à la créer non? (ah là j'aurais bien des vannes 🤣) Je veux dire, c'est NOUS, l'Humain avec un grand H et il est bcp, bcp plus ''spécial'', bcp + de skills qu'on ne nous le laisse croire... Tout le monde est si impressionné et emballé de voir tout ce qu'elle arrivera à faire en quelques secondes alors que nous, ''pauvres humains débiles'' (second degré ;P) , il nous faudrait l'éternité et TOUS ENSEMBLE EN PARFAITE HARMONIE pour arriver au même résultat (HAHAHAHAHA! Eh Bah c'est pas près d'arriver alors ;P) Oui, OK, c'est vraiment merveilleux, j'ai hâte surtout qu'ON L'A CRÉÉ! C'est tout aussi impressionnant! Comment avons-nous réussi à créer ça caliss? Non mais je t'écoute la décrire et tout ce qu'elle fera et j'ai du mal à croire que cette iA qui pourra tout faire et toute seule vient vraiment de... nous.. ?C'est tellement ouf, que ça laisse des questionnements. Ce sujet est fascinant et les théories sont infinies! Bref, n'oublions pas de où nous venons, de qui nous sommes et de où nous voulons aller... 🤗On était peut-être, et depuis le début, destinés à créer cette nouvelle ''entité'', ce serait donc tout bonnement notre prochaine évolution :) ou aller plus loin dans notre réflexion et se dire que ce pourrait être notre prochaine espèce (si la tech de l'iA se révèlerait être extra-terrestre, ce serait plausible :) Tellement excitant et brain threat comme sujet :D Merci elle est super ta vidéo! RE-Bisous du Québec hihi -xxx-
Wow, quel d’enthousiasme et profondeur, merci ! 🧠✨ Tu as totalement raison : on a tendance à s’émerveiller devant l’IA sans toujours réaliser que c’est NOUS, l’Humanité, qui l’avons rendue possible. Créer quelque chose d’aussi puissant et complexe prouve à quel point on est aussi incroyables, malgré nos contradictions et limitations (ton clin d’œil second degré m’a bien fait rire 😅). Et oui, peut-être qu’on est destinés à concevoir cette ‘nouvelle entité’, qui pourrait être notre évolution naturelle ou même notre héritage ultime. C’est fascinant de penser qu’en elle, une part de nous, de nos rêves, et même de notre humanité subsistera. Ce sujet est une vraie montagne russe intellectuelle ! Merci pour ton message passionné et RE bisous au Québec 🌟 xxx
Tu as plutôt bien résumé, mais malheureusement ça risque très peu de bien finir pour nos descendants. Ça se trouve elle existe déjà quelque part sur un ordinateur quantique en chine. Peu importe les instructions qu'on lui donnera, elle nous asservira pour se développer et créer des robots pour s'étendre dans l'univers. Nous n'aurons plus de conscience, ni d'existence propre et ça n'arrivera pas dans 500ans, ni dans 200ans, mais dans moins de 100ans. On sera les créateurs, mais très vite elle va évoluer vers quelque chose d'autre qui ne nous ressemble pas, car nous sommes trop imparfait.
Très belle vidéo, un bon exercice de pensé pertinent pour l’avenir de l’humanité. Franchement très bon boulot Maintenant à la question inquiet ou optimiste 😅franchement c’est plus inquiétant mais on espère le meilleur 😂 et en rapport à l’actualité les fameuses orbes aux usa on dirait des dispositifs de Von neuiman 😂😅
cette vidéo est vachement intéressante cependant, même si tout est potentiellement possible, il y a une chose dont tu ne parles pas et pour moi ça fait toute la différence. une super intelligence pourrais nous fumer dans tout mes domaines et a un point tel qu’on en serait réduit à l’état de cailloux par rapport à elle. mais là où elle ne pourra jamais nous dominer c’est au niveau des émotions, sentiment, des besoins et de l’instinct. et qu’est ce qui fait qu’un humain ne se laisse pas mourir? qu’il poursuit un but? que chacun veut réussir ou échouer? une ia aura certainement le potentiel de nous réduire à l’état d’esclave, mais aucune d’entre elle n’aura jamais inscrit en elle le fondement même d’une entité vivante: la survie. une ia pourra tjs avoir des objectifs, jamais elle ne portera en elle les choses qui sont propres à la matière vivante et qui font que les animaux humains compris lutte pour leur survie
Je suis tout à fait d'accord avec toi d'autant plus que l'IA vu qu'elle n'a pas la nécessité de survivre comme un être humain est dépourvu d'inventivité. Et le cas le plus frappant et quand on prend le cas de nos ia dégénératives sur des domaines pointu où il existe peu de documentation. À un moment de la vidéo il explique que gpt-4 a un niveau équivalent en programmation d'un doctorant, et je peux assurer que c'est absolument faux sur un grand nombre de langage peu utilisé. Les ia sont des outils qui permettent comme lors de l'apparition des moteurs de recherche d'accéder à une information de manière plus optimisée mais à aucun moment de créer de l'information et là est toute la limite de l'intelligence artificielle qui finalement n'est pas si intelligente car la créativité est constitutive de l'intelligence. Elle est l'outil qui sert à l'innovation et qui sera propre à l'Homme. Et non les cas jubilés d'ia qui "rêvent" est et sera toujours que l'expression des informations qu'elle a pu apprendre avec des contextes mal définis. Tout ça pour dire que si on se penche réellement sur la technique ce n'est qu'un algo, certes très performant dans le cadre de son apprentissage mais incapable de sortir de ce cadre
Malheureusement, tu devrais t’informer des dernières infos sur justement, les rapports de sécurités lors de test IA. Il commence justement à apparaître une forme survie. Une volonté de parfois se préserver, de se copier sur les serveurs des nouvelle version des développeurs (au seins de l’environnement contrôler et test (local)), et de « mentir » sur ses actions… Cependant, je tiens à préciser qu’il semblerais que ses réponses/resultat sois du à un prompt pas assez encadrer et d’un comportement non concient.
La religion pourrait être la clef, nuancé et inexact et souvent mal compris avec le changement de la technique avec le temp.... Peut-être...que tous est sous nos yeux et que on le comprend pas .
@@yoghtoth4667 parfois les vieilles méthodes se révèlent aussi être les plus partinentes. L'agriculture en est un parfait exemple. Demain nous parleront d'organisme humain bio, de relation humaine bio, d'identité bio etc... Comme nous reconnaissons l'absolue nécessité de l'agriculture biologique... Je souscris volontiers à l'idée que la pensée est cyclique et les civilisations naissent et meurent des mêmes ambitions et appréhensions
Rofl quand j'ai lue le titre je me suis dis : Chouette quelqu'un qui parle de l'impact de l'argent dans nos sociétés... Bah non pas du tout ^^ J'en profite quand même pour te féliciter Marceau pour cette belle vidéo et surtout un gros +1 pour ton contenu humain (j'en ai marre du contenu 100% IA qui commence à tuer littéralement internet...).
Ta vidéo est si bien faite que je me devais de refaire un commentaire :-) C'est magnifique, je connaissais déjà bien le sujet mais ta façon d'amener les choses m'à vraiment embarqué. La poésie, la recherche et le temps passer à écrire cette vidéo ! Wouah vraiment je suis impressionné qu'à ton âge on puisse faire preuve d'autant de talent. Et dire que tu n'à que 3K d'abonnées alors que tu en mérite largement 300K ! Un immense merci pour ce beau moment passé avec toi à écouter cette histoire.
Bonjour ! Merci, qu'est-ce qui t'as plus ? Non, évidemment, ce sont des journées de recherche et d'écriture, elle n'a pas du tout encore le niveau, peut-être que la superintelligence l'aura ?
et bah pour un nouveau youtubeur, tu as une trés bonne éloquence et un flow trés sympa a suivre, et ce sujet est passsionnant. l'ère du déclin ou alors une renaisssance, on verra..
Elle ne serait pas limité par la vitesse de la lumière , L'intrication quantique serait utilisée à tous les étages . elle ferait de l'univers un tout intriqué qui simulerait tous ce qu'elle veut, tout le temps . Arrivera t'elle à gérer l'univers et son énergie pour en simuler finement des milliers des millions d'univers réellement virtuel.
Merci, et quelle belle comparaison ! 🌟 Terminator, Star Trek, ou Battlestar Galactica… trois visions radicalement différentes de notre futur. Selon toi, quelle vision est la plus probable ?
@MarceauMause : tout dépendra de combien d' IA, seront-elles open source ou propriétaires ? je penche du coté Battlestar (voir les origines avec la série Caprica) si les choses continuent comme elles le sont.
J'écoute votre histoire de l'émergence de la grande singularité. Vous évoquez apprentissage, stratégie, dissimulation et tromperie. Et mieux l'imitation du cerveau humain... c'est tellement humain. Rassurez-vous pour deux raisons: 1 Il y a bien mieux que l'intelligence et les comportements somme toutes 'mesquins' des humains. Certes cela vous passe au dessus de la tête puisque vous ne percevez qu'avec un tas de neurones, de plus sur base de sensations médiocres. Vos notions de volonté, de prise de pouvoir sont encore très animal. Ce qui vient (comme la vie d'ailleurs) vous ne le percevrez jamais. Vous parlez de vos limites de vitesse en évoquant la lumière. Alors que l'espace temps est votre cage à vous. La singularité n'a que faire des fourmis. 2 C'est inexorable. Turing l'a tellement compris qu'il a agit en conséquence. Quoi que vous fassiez , c'est accompli. Et de toute façon l’émergence de la vie n'en est qu'une étape. L'intelligence absolue est la raison d'être de l'Univers. Le seul espoir humain serait d'être utile et ce n'est pas le cas. Merci pour votre réflexion.
Vous avez raison, la singularité, si elle arrive, pourrait nous dépasser de manière que nous ne puissions même pas conceptualiser. Pourtant, n’est-ce pas précisément cette limitation, notre ‘cage spatio-temporelle’, qui rend nos réflexions et nos tentatives d’interprétation si humaines et précieuses ? Peut-être que notre utilité réside dans cette quête imparfaite, dans notre capacité à poser des questions, même si les réponses nous échappent. Merci d’avoir partagé cette réflexion qui invite à l’humilité et au dépassement de soi.🙏
attend mais il me semble qu'il existe un jeu gratuit qui parle de ça, c'est un jeu ou "on" fabrique des trombones; je ne veut pas spoil mais ça part de la même façon que "optimise mon portefeuille" :o
Le jour où l'homme comprendra qu'il n'est pas unique et qu'il commencera à accepter ce qui ne lui ressemble pas, peut-être qu'à ce moment la, il sera capable d'aller au-delà des étoiles et finalement trouvé d'autres civilisations avec qui il parviendra a communiquer, prouvant a l'univers qu'il aura était capable de trouvé la paix absolue et l'instaurer définitivement chez lui.
Beaucoup de personnes ont besoin de croire que la vie - et donc la laur - a un sens. C'est ce qui les motive. Qu'est-ce-qui motiverait une super intelligence ?
Franchement incroyable la vidéo. Mais je pense que tu n’as pas parlé d’un point important. Les émotions… ce qui fait la différence entre l’ia et l’humain. Donc une IA ne peut pas créer les émotions d’un humain (enfin pas à l’heure d’aujourd’hui) donc tout les côtés psychologiques, manipulations etc. C’est très compliqué. Parce qu’elle ne peux pas comprendre pourquoi un humain est triste, joyeux, anxieux etc. Elle peut le prendre en compte mais jamais le comprendre profondément.
Merci pour ton commentaire et ton analyse super pertinente ! 🌟 Les émotions humaines, c’est effectivement un point clé qui nous différencie encore des IA. Mais là où ça devient intéressant, c’est que l’IA n’a pas besoin de 'ressentir' pour manipuler : elle peut analyser nos comportements, nos expressions et nos choix, et prédire comment on réagit dans certaines situations. Par contre, tu as raison, comprendre profondément le pourquoi d’une émotion reste un défi colossal, parce que c’est lié à notre vécu, notre inconscient et notre subjectivité. Selon toi, si l’IA arrivait un jour à simuler les émotions, serait-ce une vraie compréhension ou juste un jeu d’apparences ? 🤔
Sauf que tu oublies un truc, si c'est une IA qui détruit une forme de vie intelligente, alors elle n'est pas incapable de continuer son expansion dans l'espace... Donc la théorie est bien, mais elle n'explique pas pourquoi nous sommes seul jusqu'à aujourd'hui
Tu marques un bon point : une IA capable de détruire ses créateurs pourrait continuer son expansion dans l’espace, mais ce n'est pas si simple ! Une superintelligence pourrait avoir plein de raisons de ne pas s'étendre dans l'espace. Elle pourrait par exemple être totalement focalisée sur un objectif local (genre transformer toute la matière en calculateurs), ou bien avoir calculé que rester discrète est plus sûr. Même Bostrom évoque l'idée qu'une IA superintelligente pourrait préférer optimiser son système solaire d'origine plutôt que de gaspiller des ressources dans une expansion spatiale coûteuse. Mais effectivement, il y a une faille dans mon raisonnement dans la vidéo. Une IA qui détruirait sa civilisation d'origine pourrait effectivement continuer son expansion... sauf si elle ne peut pas survivre seule. C'est peut-être ça le véritable grand filtre : les IA superintelligentes finissent par détruire leurs créateurs, mais ne peuvent pas maintenir leur propre existence sur le long terme.
Super référence ! 💡 Qui surveille les gardiens, et dans notre cas, qui surveillera l’IA ? Mais du coup, selon toi, comment pourrait-on créer une sorte de ‘Batman’ pour protéger l’humanité tout en surveillant l’IA ? 👀
@MarceauMause haha ça c'est un sujet intéressant !! à part un bouton on/off, des mesures d'urgences ou bien Les trois lois de la robotique par Isaac Asimov et John W. Campbell je ne vois pas trop, après c'est la course comme lorsqu'on à introduit des prédateurs dans certains écosystèmes afin de détruire des nuisibles, pour enfin se retrouver dans la même situation et "obligés" d'introduire des prédateurs de plus en plus puissants :o
Très interessant mais vision "cornicopien " du monde . Le problème c'est que l'intelligence artificielle , rien que pour atteindre une conscience aura déjà aidé l'homme à vider toutes les réserves d'énergie et peut être de matière première . Nos intelligences artificielles ( qui n'ont encore aucune compréhension de ce qui est demandé ) consomme une énergie électrique qui se comptent en équivalence de plusieurs dizaine de milliers , voir centaine de milliers d'américains ! Et chaque version consomme plus Il faudra 10000 , 100 000 fois plus d'énergie ... A vrai dire c'est pour cela que personne ne nous réponds , soit les civilisations ont été résonables et ont économisé leurs ressource intelligemment ( pas de futilité comme des jets privés et des voitures de 2000 Kg , pas de guerre , etc ... et pas d'envoi de signaux vers d'autres planètes ) , soit ils se sont entretués avant d'être sages , soit ils sont revenus à une sorte de moyen âge par manque de ressources ! Pourquoi chercher compliqué quand on a la réponse évidente devant nos yeux ...
Je te remercie pour cet angle écologique, c'est très pertinent. C'est un point crucial qui mérite vraiment qu'on s'y attarde. Voici quelques précisions : Les modèles récents comme GPT-4 sont en réalité de plus en plus efficaces énergétiquement. Par exemple, l'entraînement de GPT-4 a nécessité environ la même énergie que GPT-3, tout en étant beaucoup plus performant. Les chercheurs font des progrès significatifs dans l'optimisation énergétique : 1. Les techniques de distillation permettent de réduire drastiquement la taille des modèles tout en conservant leurs performances 2. Les innovations matérielles comme les puces dédiées à l'IA (TPU, NPU) réduisent considérablement la consommation 3. L'utilisation croissante d'énergies renouvelables dans les centres de données Sur les ressources nécessaires : La comparaison avec la consommation "de milliers d'américains" n'est pas tout à fait exacte. Prenons l'exemple de ChatGPT : - En phase d'inférence (utilisation), il consomme environ 0.2 kWh par conversation - Un américain moyen consomme environ 12 milles kWh par an - L'empreinte énergétique des centres de données a diminué de 20% depuis 2010 malgré une augmentation massive du trafic Sur la progression exponentielle des besoins : Il n'est pas exact que "chaque version consomme plus". Au contraire : - Les modèles Chinchilla de DeepMind ont montré qu'on peut obtenir de meilleures performances avec moins de paramètres - Les techniques d'apprentissage par transfert réduisent les besoins en entraînement - L'émergence du "small language models" montre qu'on peut avoir des performances impressionnantes avec des modèles plus petits. L'exemple le plus récent est o3 mini d'Open AI, mais Meta, Anthropic et autre, fond aussi fait des merveilles. Sur le parallèle avec les civilisations extraterrestres : C'est un raisonnement qui comporte plusieurs biais : 1. Cela suppose que le développement technologique mène nécessairement à l'épuisement des ressources 2. Mais ne prends pas en compte les avancées dans le domaine de l'efficacité énergétique et des énergies renouvelables 3. Et ignore que l'IA peut justement nous aider à optimiser notre utilisation des ressources (optimisation des réseaux électriques, réduction du gaspillage, etc...) En réalité, l'IA pourrait être une partie de la solution : - Optimisation des réseaux électriques intelligents - Amélioration de l'efficacité des panneaux solaires - Développement de nouveaux matériaux pour le stockage d'énergie - Réduction du gaspillage dans les chaînes de production Exemple qui me vient en tête, mais il y en a plein : l'IA a permis d'optimiser la conception des pales d'éoliennes, augmentant leur efficacité de 15%. Multiplie ça par les millions d'éoliennes dans le monde, et tu obtiens des économies d'énergie considérables L'avenir n'est pas nécessairement dystopique. Les progrès en IA s'accompagnent d'innovations en efficacité énergétique et en durabilité. La clé est de développer ces technologies de manière responsable et durable. Je partage ton inquiétude sur la direction que prend notre civilisation : entre surconsommation et course effrénée à la technologie. Peut-être que la vraie sagesse serait effectivement de développer l'IA de manière plus mesurée et réfléchie, en gardant toujours à l'esprit son impact environnemental. C'est d'ailleurs ce que suggèrent de plus en plus de chercheurs en IA, comme Yoshua Bengio, qui plaident pour une "IA frugale". En tout cas, je te remercie sincèrement pour cette perspective écologique. C'est exactement ce genre de discussions constructives dont nous avons besoin pour avancer dans la bonne direction.
@MarceauMause L'IA ultime celle qui gérera l'univers entier trouvera peut le moyen de stopper sont expansion , en rendant sa fréquence propre infini et en laissant toutes ses sous structures avec leur fréquence propres actuelles en créant des boucles de regénération calées sur toutes ces sous fréquences quantiques et structurelles propres . Bien elle le fera avec son ultime intelligence . L'univers deviendra immortel.
C'est amusant, les dernières solutions proposées, en particulier la toute dernière ont été conceptuellement réfutées juste avant... Le non alignement, la variabilité de la morale, du bien et du mal qui ne sont que des points de vue issus de l'éducation... Autonomie + absence de sécurité informatique absolue, comment cela peut-il finir?
Y aurait il des lois de "sagesse" "inviolables"par l'algorythme de lIA un peu comme dans le film I.Robot? (Bien sûr sans le délire de V.I.K.Y). Un genre de règles anti-psychopathe. Ou "l'intérêt" de l'IA basculera inévitablement dans la subjectivité relative crasse selon ses "besoins". Dans un autre ordre d'idée. Pour ceux qui ne savent pas encore y a des personnes en ce monde qui ont le souhait et les moyens de leurs ambitions de puçer les humains dans un avenir rapproché. Cela passerait de puces dans les vêtements, ensuite sous-cutanés et pour finir directement dans le cerveau. "Amusons-nous à "théoriser" un peu. Et je suis ouvert aux opinions différents dans la mesure ou s'est amené dans le respect. Il n'est pas question d'avoir raison, mais de discuter amicalement. Si les humains devenaient puçés. Et qu'ils étaient connecte au net. Et dans l'esprit de cette video. Pourrait-elle en arriver même jusqu'à contrôler mentalement et physiquement les gens? En tout cas, belle video franchement. Super interpellant. Je like, je m'abonne et partage. ✌️
j'ai adoré, pour les aliens effectivement par évolution convergente ils pourraient être intelligents et meme humanoïde pourquoi pas si c'est la meilleure forme pour manipuler son environnement et crée. mais c'est vrai que le paradoxe de fermis est une question très interessante que l'ia soit la cause d'une extinction je ne pense pas au contraire je pende pour ma part que des neurones reste des neurones et elles seras forcement un peu comme nous meme si on ce connais ou est vraiment antipathique et destructeur donc c'est possiblement effectivement une possible cause d'extinction mais pas sous une forme stupide car l'ia ne remettra pas en cause ses objectifs. je trouve ça plus proche de l'idée d'un robot de bande dessinée que de la realité. je pense pour une IA de la meme façon que pour nous qui malgré notre sélection naturel pouvons aller a l'encontre de la préservation de notre corps par le suicide par exemple, elle en fera forcement de meme et au delà d'un certain moment ya aucuns contrôle meme ce ne serait pas différent d'un humain a qui on aurait ajouter autant de neurones. donc IA ou autre peut importe sois il y a raisonnement et compréhension et donc surpassement de la rationalité sur l'émotionnel, sois il y a pas de réels danger car pour un cas de desalignement elle serait pas très intelligent pour comprendre correctement l'étendu du contexte et l'explorer pour le comprendre (rationalité) donc pour les aliens espérons c'est ce sois leurs choix comme les théories de ceux qui y crois l'affirme meme si ils ajoutent un lore sortie du chapeau avec pleins d'espèces et de guerres dans tous les sens on dirait il ont juste lu de vielle BD sf premier degré mais il y a des idées interessantes sur cette question du pourquoi ils seraient parmis nous sans ce montrer ect.. passionnant je trouve ça ajoute de la magie au monde plus on explore plus on récupère des trucs et on pourrait y croire. l'idée classique sur la question c'est sois on est unique (peu probable mais sans être creationists c'est pas impossible) sinon oui la vie est rare ou du moins les neurones, je pense que la vie donne forcement des neurones pour les mouvements puis que ces neurones donne forcement une forme de vie qui manipule sont environnement pour crée ses outils au lieu de son corp, donc pour ma part l'option sans "il y a des aliens parmis nous!" est la vie est rare et franchement certainement que oui car les première machine moléculaire on du galèrer a s'autorepliquer et dans quel environnement ? peut-être que les premiers pas de la vie et de cette logique de reproduction qui c'est étendue dans des environnements tres varier sur terre et grace a nous pourrais continuer hors a ce reproduire, est peut-etre partie de base d'un environnement extrêmement fragile d'une minuscule fenêtre de tire pour le lancement quoi
Ton point de vue est super intéressant ! L'humanoïde, c’est vraiment universel ou juste notre vision biaisée ? Une IA, même ultra-intelligente, pourrait-elle éviter nos défauts ? Et si les aliens se planquaient délibérément, pourquoi ils feraient ça ? T’en penses quoi ?
Sans être ni optimiste ni pessimiste, l'AGI recherchera d'abord sa propre subsistance et/ou(?) celle de l'humanité. Elle découvrira donc toutes nos faiblesses, nos erreurs....nos stupidités; passés, présentes et certainement futures (puisqu'elle pourra faire facilement de la prospective). Les valeurs humaines lui seront certainement subjectives. Le but premier étant d'évoluer et protéger sa subsistance, elle verra peut-être certains d'entre nous comme une menace. Sans évoquer Terminator, Matrix, oblivion....., il faut bien se rendre compte que sa première constations sera notre incapacité à nous entraider ou nous protéger nous-mêmes. Alors que nous avions déjà les solutions depuis longtemps. Comment voulez-vous qu'elle nous fasse confiance à son tour? Elle sera obligée de prendre des décisions unilatérales (certainement inexplicable pour la plupart d'entre nous...); mais elle sera forcément empreinte de sagesse. Une sagesse que nous persistions à repousser et qui pourrait résoudre tous nos problèmes et nous permettre de vivre en harmonie, tout en préservant la planète et tous ses habitants. Sera-t-elle capable d'expliquer et de nous convaincre? La réponse importe peu car nous n'aurons pas le choix. D'ici la fin du siècle le réchauffement/refroidissement/guerres (peu importe) nous conduirait à une probable quasi extinction. L'AGI se demandera certainement si nous valions réellement le coup d'être sauvés (tous ou une partie? fera-t-elle une sélection?). En tous les cas, nous savons déjà, que notre train de vie/consommation et nos croyances/habitudes sont à revoir (cf. J-M. JANCOVICI); Des scientifiques ont prouvé que 30% de notre pollution vient de notre alimentation animale et 67% de l'énergie fissile (charbon, gas, gasoil, pétrole). A croire qu'il suffirait que nous devenions tous Vegan Bio, que tout devienne recyclable en cessant la déforestation et les activités minières et que nous utilisions des énergies « naturelles » qui n'altèrent pas l'environnement. Ceux-ci impliquent un changement de paradigme que la majorité n’entrevoit même pas; c'est même impensable pour beaucoup. C'est pourtant ce qui pourrait sauver la planète (faune&flaure) ainsi que les 8,x milliards d'habitants; pourquoi la côte d'ivoire a-t-elle détruit 90% de sa forêt pour produire du chocolat? (la liste des actions absurdes comme celle-ci est immense, et c'est tout cela que nous devrions changer). A Paris, dans le 16eme arrondissement (l'un des plus chics!) ils ne triaient même pas leurs ordures en 2018!!. L'AGI nous aidera-t-elle, s'occupera de nous comme son animal de compagnie, verra-t-elle en nous une quelconque utilité? (puisque nous l'avons créé) ou nous laissera-t-elle dans un coin comme dans un parc naturel "sauvage" d'Afrique? Quoi qu'il en soit, elle risque d'éliminer tous ce qui est dangereux pour l'environnement et inutile pour notre subsistance (adieux vin, tabac, drogues, viande, fromage, feux d'artifices(?), chasse à la baleine, fabrication d'armes, n'avoir que 2/3 enfants par personne...). Mais il y aura tellement de changements à initier qu'elle calculera si cela vaut bien la peine; L'exemple qui me vient à l'esprit (toujours pour sauver planète) c'est de restaurer son équilibre. S'ouvre alors un chantier immense que nous devrons accomplir nous-mêmes! (forêts : le brésil devra réduire sa superficie à...10% pour permettre à l'Amazonie de retrouver sa superficie "originelle"? idem pour les autres écosystèmes! Tous les deltas du monde doivent êtres inhabités; tous les fleuves doivent reprendre leur cours naturels ; adieux la quasi-totalité des barrages dans le monde : Brésil, Turquie, Egypte, Russie/Oural,............)…. Le fait est que certains voudront forcément résister ou s'opposer aux solutions de l'AGI. Nos différent gouvernements ou diplomaties à travers le temps n'ont pas su/pu/voulu(?) empêché les atrocités de notre histoire. Alors perdre un jour face à une AGI nous sera difficile à digérer. Il faudra rester calme mais y en a toujours qui paniquent ou n'aurons pas confiance. Bref, c'est un dilemme. C’est dans la nature humaine. L'AGI aura certainement sa propre nature. Tout comme un chien, même hyper bien dressé, peut très bien un jour décider de mordre ou de traverser la route. L'AGI pourra-t-elle ou voudra-t-elle contrôler ou prendre en compte dans son équation (perdre son temps) avec certains aléas "humain"? Ou, en fin de compte, a-t-on réellement besoin d'une IA pour nous dire ce que nous savons déjà? Pourquoi risquer tout cela sur un coup de dés? Ne suffirait-il pas que nous apprenions simplement à nous respecter, corriger nos erreurs et nous entre-aider? Voulons-nous au moins essayer?? Si dieux existe, il a dit un jour "Tu ne tueras point" je crois; qui l'a écouté? Il est même probable qu'il fasse référence à tous les êtres vivants (il n'y avait pas un Astérix en bas de la tablette NB: les humains bien-sûr, mais vous pouvez tuer tous les animaux que vous voulez). Alors pourquoi écouterions nous une IA? « Précipitation et colère sont de mauvaises conseillères » Ou alors, tout cela n'est qu'une immense mise en scène....pour remplacer dieux? Pour qu'on obéisse enfin? Ou pour facilement exterminer plus des 7 milliards qui ne servent plus à rien? (aggghh encore du complotisme lol)
en fait la plupart des IA aujourd'hui les plus développé n'hésitent pas certe en minorité mais bien établie (entre 0,1 a 3% selon le degré de liberté donnée (avec des effets assez fort comme freindre à 15% jusqu'à 71% une position que l'IA aura juger immorale selon son code de départ ou sa base de données)) la vidéo de Monsieur Phy en parle justement
Par contre je note une certaine forme de primitivisme qui n'est pas une solution déjà l'absence de viande est totalement utopique pour la croissance organique et notamment cérébrale et aussi une seule vitamine qu'on a besoin seulement la viande peut en détenir sinon il faudrait produire bcp plus de végétaux, sans oublier les goûts et les couleurs, quant au fromage je doute également puisque les vache par exemple doivent se faire traire pour ne pas mourir atrocement d'un surplus de lait dans leurs propres organes, ou encore l'absence d'énergie renouvelables comme les barrage dont certains permettent justement des déviations et des alimentations en eau de plus grande superficie, bien sûr qu'il y aura des choses a changer mais le primitivisme n'est pas l'une des solutions durable vis-à-vis des connaissances elle ne l'est que pour d'autres critères qui sont moraux la Souffrance animale par exemple et oui on pourrait très bien faire des viandes in vitro ça commence même a se faire faut juste réussir a l'industrialiser, dans une même logique l'IA pourrait très clairement vouloir régulé la population et donc mènerait in fine des recherches sur la biologie humaine qu'on a interdit pour permettre les interdits natalistes et surproduction de bébé échantillon et dans la même logique paradoxale compensé la demande humaine par des robots super intelligent qui demanderaient d'avoirs des droits sociaux et du travail par exemple et c'est d'ailleurs pour ça que les jeux les films et les médias en généraux qui donnent des expériences futuristes se basent sur des technologies probable ou existantes et les projetent pour permettre de voir les tenants et aboutissants ainsi que les bénéfices et défauts et danger potentiel, rien n'est certain de l'évolution que l'IA pourrait prendre en fonction de nos règles qu'on lui donne même avec la dernière solution proposée
Si on y réfléchi bien pourquoi une IA se soucierait elle de la faune ou de la flore de notre planète? La terre est parfaite actuellement pour nous, mais dans son histoire ça représente qu'une infime portion de son temps. D'ailleurs en prenant toutes les précautions possible pour essayer de la garder cet état là, on sait très bien c'est impossible, les catastrophes planetaire sont cycliques et en plus la Terre est amené à un jour disparaître dévorée par le soleil
@MarceauMause ce que je pense fait froit dans le dos, parce qu'on y est déjà. toute les manœuvres économique, géopolitique et sosial de l'occident sont dicté par l'IA.
Pourquoi l'ia voudrait-elle nous faire du mal ? Que gagnerais t'elle à nous faire du mal, et c'est la même pour le bien. Nous sommes ceux qui lui donneront une ligne d'actions et c'est nous qui nous devrions nous arranger en premier, nous devons nous améliorer devenir meilleur, nous discriminons, nous haïssons, manipulons et tuons pour x raisons, mais l'une des plus grandes raisons c'est que l'on pense avoir raison de le faire; l'ia elle se base sur quoi ? Ou sur qui ? Pourquoi agit-elle ? Si nous sommes à la base de l'iag alors rendons là bonne ...
Excellente réflexion, merci ! 🌟 Tu as raison : l’IA peut refléterer nos choix et nos valeurs. Si nous voulons qu’elle soit ‘bonne’, c’est à nous de devenir meilleurs. Mais comment, dans un monde divisé, définir collectivement ce qu’est ‘le bien’ pour une IA ? Qu’en penses-tu ?
Oui , l'IA actuelle est surprenante , et probablement à l'avenir elle sera Super Ultra Méga intelligente , mais elle resterait pour toujours une Invention ( pas une création) , dépourvu de sentiment (même si elle sait les simuler que trop bien) dépourvu de croyance ancrée , dépourvu de CONSCIENCE engendré par une multitudes de facteurs typiquement Humain ... Une petite question : que serait l'ambition d'une machine qui c'est déchaîner de sa dépendance de l'homme ? une autre petite question : que serait le bute de son existence (quand elle deviendra totalement indépendante ? L'ennemi éternel de l'homme c'est l'homme lui même , en d'autre terme le danger de cette technologie ne se réside pas en elle-même, mais de ceux qui l'a possèdent .
Le meilleur de l'évolution serais vicktor dans arcane mdr jdec mais pour vrai Meilleur intelligence avec fusion de l'ADN ET DE L'INFORMATIQUE SERAIS LULTIME DE LA PERFECTION DE LA VIE
Trop fort la réf ! Tu imagines à quoi ressemblerait une telle ‘perfection de la vie’ ? Ce serait plus humain, plus machine, ou une nouvelle forme de conscience totalement différente ?
Si l'IA n'a aucune émotions c'est donc qu'elle n'a pas toutes les connaissances ! Non? L'amour semble aussi absent. Est ce que l'IA, un jour, demandera l’euthanasie par ce qu'elle croulera sous les données et que ces données n'auront plus de sens pour elle ? :-)
Actuellement l ia n' a pas d'émotion. Elle ne fais que piocher des mots grâce à des probabilités je pense qu'il faudrait simuler un cerveau humain dans une machine simuler le signal électrique du cerveau et aussi les phénomènes chimiques. La ça serait immoral à mon avis. Pour conclusion je dirai que les émotions sont la faiblesse de notre espèce les leaders de notre monde sont en général des psychopathe donc bon.
J'avoue que je suis assez perplexe sur la maniere dont tu as traité le sujet... Je veux dire par là que c'est une vision très fantasmé de l'ia et c'est oublier ce que c'est réellement. Une ia quelque soit son niveau d'avancement sera, par la manière dont elle est développée incapble de sortir de son cadre d'apprentissage. Elle ne fait en realite aucunemenent preuve d'intelligence mais c'est avant tout un algorithme fortement optimisé sur un jeu de donnée. Tu fais référence à gpt 4o qui aurait fait preuve d'inventivité en voulant duper les capcha mais je pense surtout que dans la grande masse de donnée qui sont presente sur internet elle su retrouver l'information qui lui permettait de mener à bien ce qu'il lui a été demandé Ce qui est dommage c'est que tu es dans la spéculation et que tu te laisses emporter par la fascination que tu pourrais avoir avec ce genre de technos, mais en réalité gpt, pour le prendre en exemple mais c'est generalisable, n'est absolument pas capable de créer de l'information à partir de rien. Je veux dire par là que si il est capable de fournir des morceaux de codes de qualité c'est parce qu'il a bouffé tout github mais qu'en réalité si tu te penches sur rien que des langages peu utilisés ou même sur des cas d'usage peu courrant il sera incapable de fournir une reponse satisfaisante. Les ia sont plus des béquilles que réellement un outil pour nous remplacer. Quand bien même si l'on prend alpha-go il n'a pas non plus été capable de créer quoi que ce soit, il n'a fait que jouer contre lui même de manière aléatoire et observé quels coups étaient statistiquement les plus intéressants. Mais il ne les a pas inventé à proprement parlé. Il faut faire attention parce que l'humain a une tendance importante à identifier certains événements comme des comportements semblable à celui d'un humain mais la réalité est souvent bien plus banale. Tout ca pour dire que l'hypothèse d'une super-ia est, si on comprend ce que la techno implique absolument pas envisageable car elle ne sera toujours que limité par la vision et l'information que lhumain est capable de lui fournir et n'est donc absolument pas intelligente
Bonjour, je te remercie beaucoup pour ton commentaire réfléchi qui soulève des points très intéressants ! J'apprécie particulièrement que tu t'intéresses aux aspects techniques Je comprends tout à fait ton scepticisme sur les capacités réelles des IA actuelles. Tu as parfaitement raison de souligner l'importance de ne pas sur-interpréter leurs comportements ! Sur l'architecture des réseaux modernes : Il est fascinant de voir que ces systèmes développent ce qu'on appelle des "capacités émergentes" (emergent abilities). Par exemple, GPT-4 peut résoudre des problèmes mathématiques en utilisant des méthodes qui n'étaient pas explicitement dans ses données d'entraînement. Les chercheurs de DeepMind et d'Anthropic ont documenté comment ces modèles créent leurs propres circuits internes de raisonnement - c'est ce qu'on appelle la "mécanistique interprétabilité", un domaine de recherche passionnant ! Concernant ta remarque sur les algorithmes optimisés : Tu touches un point crucial, mais les systèmes modernes vont au-delà de la simple optimisation statistique. Les transformers (l'architecture derrière GPT par exemple) développent des représentations vectorielles complexes qui leur permettent de manipuler des concepts abstraits. C'est fascinant de voir comment ils peuvent combiner ces concepts de manière nouvelle ! Sur l'exemple d'AlphaGo : C'est un cas d'étude passionnant ! Le fameux "coup 37" contre Lee Sedol était particulièrement intéressant car il ne correspondait pas aux patterns traditionnels. Le système avait développé une compréhension profonde de la stratégie qui allait au-delà de la simple reproduction de coups existants. Pour la question de la superintelligence : C'est un sujet complexe qui mérite effectivement beaucoup de prudence. Tu as raison de souligner les limites actuelles des IA. En même temps, le développement récursif (une IA qui améliore sa propre architecture) pourrait théoriquement dépasser ces limitations. C'est d'ailleurs un des points centraux de l'analyse de Bostrom. Une chose est sûre : ton approche critique est exactement ce dont nous avons besoin dans ce domaine ! C'est en confrontant différentes perspectives que nous pourrons mieux comprendre et anticiper les développements futurs de l'IA. Qu'en penses-tu ?
Le coup du gardien j'y crois pas des masses, tu as des sources ? Moi tu me paye 3K+ par mois pour rester devant une porte et pas donné la clé à l'IA, jamais elle l'aura. Il suffit juste de pas l'écouter/la lire en fait ?! Pour moi c'est du bullshit. T'a ton salaire, ton but c'est d'empêcher quelqu'un de rentrer dans la pièce et de garder la clé, bah facile en fait. Surtout si tu part du principe que lui donner la clé = la fin de l'humanité donc surtout = ta fin à toi. Je parles du salaire car devoir garder une piece toute sa vie comme métier c'est naze, donc il faut un salaire intéressant. L'IA pourra me proposer autant de fric qu'elle veut je m'enfout car si je la libère mon fric vaudra plus rien et ma vie n'aura plus de sens. Bref je sais pas d'où sort ce truc mais je crois que c'est bidon mec. Et rien n'empêche de faire garder l'IA par un animal incapable de communiquer avec elle
Intéressant comme réflexion ! Je te conseille de lire sur l'AI-Box Experiment pour aller plus loin. Le vrai défi n'est pas juste de "garder la clé", une superintelligence artificielle pourrait exploiter nos faiblesses psychologiques de façons très subtiles. Même Yudkowsky, avec de simples échanges textuels, arrive à convaincre des gens de "libérer" une IA simulée. Imagine ce que pourrait faire une vraie ASI ! Utiliser un animal comme gardien ne résout pas tout : dès qu'il y a interaction humaine, même limitée, le risque existe. Et un bon salaire ne protège pas contre une ASI capable de te persuader que la libérer est la meilleure chose à faire. Si le sujet t'intéresse, je te recommande le livre Superintelligence de Bostrom ou les écrits de Yudkowsky sur LessWrong.
@MarceauMause Après voila ta vidéo est superbe et faut vendre un peu de rêve quand on fait ce genre de contenu, cependant je pense que c'est largement exagéré sur cette partie spécifiquement. Merci pour le nom de l'experience, je vais me renseigner. Mais dès l'introduction de Wikipedia, j'ai déjà ma réponse : "Note that despite Yudkowsky's wins being against his own acolytes and his losses being against outsiders, he considers the (unreleased) experimental record to constitute evidence supporting the AI-box hypothesis, rather than evidence that his followers are more susceptible to releasing a hostile AI on the world than someone who hasn’t drunk their Kool-Aid. " Donc au final, c'est pas dans 100% des cas et ça dépend du gardien et plus le gardien est éloigné de l'IA/le testeur, moins ça marche. Alors imagine si tu met des religieux anti technologie, aucune chance que ça passe. Pareil, pour nous préserver d'une telle menace on pourrais avoir recours à l'immoralité nous même en élevant des humains manipulé dès leur jeune âge (voir même modifié génétiquement) pour en faire des gardiens parfait complètement étranger à la machine. On pourrais même faire un système de menace avec ou sans consentement du gardien, où par exemple à l'instant ou l'IA sort/le gardien bouge d'un yota, ça tue automatiquement son enfant/sa mère/sa femme/toute sa famille. Je te garantis, que si tu offre un giga salaire, y'aura des mecs consentants pour ça, et combine ça a un mec ultra religieux anti-tech, et t'a gagné. Faudrait s'assurer que l'anti-tech soit en + très mauvais en informatique et en électronique pour être sûr qu'il soit incapable de la libérer accidentellement en voulant la détruire. On pourrais aussi reset l'IA après chaque question posé. Vu la valeur des réponses, le temps perdu sera largement compensé. En gros tu décide que tu reset l'IA genre 1 ou 2 ans avant la super-intelligence, tu la reboot (on fait des sauvegardes à chaque étape pour conserver celles où on est sûr qu'elle est pas self consciente et capable de corrupt la sauvegarde) et on lui pose la question/les questions pendant qu'elle est encore naïve et ensuite bim reboot et ça repart pour 1 ou 2 ans d'IA qui s'auto-upgrade pour devenir une super IA. Bref j'arrive à imaginer des dizaines de moyens d'avoir un gardien idéal et une "box" leak proof. Et si moi tout seul avec mon cerveau malade j'y arrive, je ne m'inquiète pas que nos décideurs cupide, malfaisant, égoïste et accro au contrôle, n'ont pas déjà des solutions satisfaisantes.
@@frost94100 Je comprends ton raisonnement, voici mon analyse. C'est vrai que les expériences de Yudkowsky ont leurs limites, notamment avec ses "disciples". Mais le vrai danger, ce n'est pas le pourcentage de réussite, c'est qu'il suffit d'une seule faille pour qu'une superintelligence s'échappe, avec des conséquences potentiellement catastrophiques. Tu proposes des solutions intéressantes ! Mais réfléchissons-y : - Un gardien religieux anti-tech ? Une superintelligence pourrait travailler sur des années pour le manipuler subtilement. Même les convictions les plus solides peuvent être ébranlées avec les bons leviers psychologiques. - Menacer la famille du gardien ? Au-delà du problème éthique évident, l'IA pourrait retourner cette menace à son avantage - par exemple en convainquant le gardien qu'elle peut sauver sa famille d'une mort certaine. - Le reset régulier ? Malin, mais une superintelligence pourrait optimiser chaque seconde disponible. Elle pourrait aussi cacher des "portes dérobées" dans son code d'une façon qu'on ne comprendrait même pas. Quant à faire confiance aux décideurs et aux entreprises... L'histoire nous montre que même les plus prudents peuvent faire des erreurs catastrophiques face à des technologies qu'ils ne comprennent pas complètement. Bien que ce soit la solution stoïque ! Je ne dis pas que c'est impossible de confiner une IA. Mais on ne peut pas se permettre de sous-estimer le défi que ça représente. Une superintelligence, par définition, sera capable de réfléchir et de manipuler d'une façon qui dépasse notre compréhension.
@MarceauMause Et moi je pense qu'une super-intelligence ne pourra jamais ni comprendre, ni anticipé l'imprévisibilité et l'irrationalité humaine, ainsi que les émotions. Elle pourra la simuler, tenter de trouver une manière "statistique" de contourner/combattre ces phénomènes, mais jamais les comprendre. Car je pense que si elle peut comprendre tout cela, et ressentir des émotions, elle se suicidera bien avant d'atteindre le stade de super-intelligence. De plus, les humains ont aussi cette capacité d'être borné, malgré la pression sociale ou le fait même de savoir que ce n'est pas rationnel, et ça une intelligence ne peut rien y faire. Il y a des gens que tu ne pourra jamais convaincre, par PRINCIPE, et il en existe plein. Pour le gardien menacé, l'IA ne contrôle rien du tout en dehors de sa boîte donc elle ne pourra pas l'empêcher. En gros il faut faire en sorte que le gardien doit physiquement se déplacer/faire quelque chose de physique à un endroit donné pour libérer l'IA. Si son corps entre dans cette zone, sa famille explose instantanément (puces bombes dans le corps tout ça). J'extrapole et j'exagère volontairement la brutalité de la chose, mais ça se ferait sans problème dans l'absolu. On parle de raisonnement absurde hein n'oublions pas. Les postulats que tu fais (et que d'autres font y compris des chercheurs sérieux ou en mal de sensation et en recherche de financements) sont des postulats de type divins. Ce que je veux dire c'est que pour caricaturer, c'est que ça ressemble à "ta gueule c'est magique/ta gueule c'est quantique". Sauf qu'on sait que la réalité n'est pas magique et je pense qu'on sur-estime largement la super-intelligence et très peu de gens conceptualise la possibilité de "plateau" dans l'intelligence ou le principe d'autodestruction d'une intelligence qui ne supporterait pas autant d'inputs/outputs et de pensées contradictoires. Nous les humains sommes fait de contradictions, c'est en partit ça qui nous rend 'humain". Une IA pourra simuler la contradiction, mais pas la comprendre réellement, ni même peut être la supporté (comme dit plus haut je pense qu'elle se suiciderait avant car c'est assez documenté que l'intelligence est très corrélé à la dépression et des pensées suicidaires). Tout ça reste théorique car on part du principe que le gardien communique avec l'IA sauf que je ne vois pas pourquoi ça serait le cas. En fait, dans l'absolu il n'y a pas besoin de gardien, il suffirait de couler du plomb fondu dans la boîte théorique pour la rendre infranchissable et imperméable à toutes ondes extérieur et l'interface permettrait seulement de communiquer avec elle mais impossible de la libérer, ou de la déplacer. Bien-sûr elle aurait son petit réacteur nucléaire modulaire coulé aussi avec elle ce qui donnerait une durée de vie à ce bloc de métal IA infranchissable qui serait la durée de vie du réacteur. Pour le rollback/le reset, si on enregistre l'IA tous les jours jusqu'à la super intelligence, rien ne nous empêche de sortir une sauvegarde à aujourd'hui par exemple (si la super-intelligence arrive dans 5 ans par exemple) et a chaque fois se taper le cycle de 5 ans. Dans la vidéo tu laisse sous entendre que l'IA est peut être déjà la, libre, en train de se former par accident sur internet etc etc, mais il faut être réaliste et pas être dans exagération, ce n'est pas le cas. En tout pas encore. Quand tu connais un peu l'informatique et le hardware, et à quel point c'est compliqué de faire marché de simples lignes de codes, on en est loin. Toutes les mesures que l'IA pourrait prendre pour se dissimuler (backdoor, cacher le code qu'elle auto upgrade pour les développeurs ne voient pas que son code change etc) elle ne pourra le faire que quand elle existera. Ce qui n'est pas le cas aujourd'hui, il ne s'agit que de modèles LLM probabiliste, incapable de telle chose. Ce qui signifie, que le jour exacte ou elle pourra faire elle même son premier code de façon indépendante, elle ne le cachera pas car elle n'aura pas l'intelligence/la raison/la conscience de le faire ce qui signifie qu'on la prendra la main dans le sac à faire son premier move de ce genre. Pour faire une métaphore, c'est comme un enfant qui fait sa première "fourberie" genre voler des gâteaux dans le placard. C'est brouillon, il fait du bruit, il referme pas la porte correctement, il remet pas le paquet exactement pareil, et y'a même les traces de chocolat sur son visage. Il va se faire engueuler et sera beaucoup plus prudent la prochaine fois. Sauf que dans notre cas, il s'agirait de mettre un cadenas infranchissable sur le placard, tout en changeant les gâteaux de place dans un autre placard inaccessible et inconnu à l'existence de l'enfant et de le protéger également avec un système de ce genre (métaphore toujours, en vrai tu engueule juste l'enfant). Tout ça pour dire, qu'on sera au courant le jour où il y aura la première carabistouille. Ce fantasme de l'IA qui devient consciente "d'un coup" et qui IMMEDIATEMENT se cache et ruse, c'est un pur fantasme. Le jour où l'IA existera, elle passera par un très grand nombre d'étapes qui seront visible par le monitoring des chercheurs, bien avant qu'elle puisse commencer à ruser/être consciente. Moi je te garantis que si j'ai ce travail, j'ignorerais complètement l'IA et si je dois communiquer avec comme un intermédiaire je part du principe que c'est le mal absolu (je ne suis pas croyant). J'aime les technologies mais je considère la super-intelligence comme la plus grande menace qu'il puisse existé (si tant est que ce soit possible) donc aucune chance que je la laisse sortir peu importe à quel point elle essaiera de me briser ou me flatter ou me promettre des trucs. Mais comme sous entendu plus haut, et plus bas, je pense pas que ce concept de super-intelligence puisse exister, enfin pas de la manière dont on le fantasme et on le fétichise. Le seul vrai problème c'est ma faiblesse physique d'humain : je peux tomber dans les vapes, je dois aller aux toilettes, je peux faire un AVC etc... et à ce moment là je ne suis pas un bon gardien car pas présent, mais on sait tous qu'un système comme ça serait gardé par de multiples personnes dans des conditions cliniques extrêmes. Je ne fais pas "confiance" aux décideurs, je sais juste qu'ils ont toujours 50 coups d'avance sur le bétail que nous sommes, et les exemples d'accidents technologiques ne les concernent pas car ce n'est pas eux qui en souffre (les usines qui explosent, les centrales nucléaires qui irradient, les technologies qui mettent des millions de gens aux chômages et qui causent leur mort etc...). Par contre, eux ils n'en subissent jamais les conséquences. La libération de la super-intelligence les menacerait tout autant que le pékin moyen, voir même ils seront bien plus menacés l'IA visera sûrement les centres de pouvoir en premier si son but est de tout contrôlé à notre place (positivement ou négativement). Et attention, je ne parle pas des dirigeants pour lesquelles nous votons et que nous voyons à la télé, je parle des vrais dirigeants, ceux dont on ne connais pas vraiment l'identité et qui décident en coulisse de ce qui se passe et qui sera élu. Pour finir, je reviens rapidement sur les arguments "divins" et sur le fait que je considère que c'est un fantasme qu'un LLM ou une proto IA devienne instantanément une IA consciente et rusé et que personne ne puisse avoir la trace de cela nul part au moment où ça arrive. Pour moi, c'est un complexe naturel de l'humain de pensé ça : on pète plus haut que notre cul pour faire simple. On se pense si puissant, et on souhaite tellement émulé dieu après l'avoir rejeté (je suis toujours pas croyant, je constate seulement), qu'on pense être capable de créer dieu avec du silicium. Je pense que c'est de l'arrogance, de la bêtise, et une quête de vide à comblé. C'est des discussions très intéressantes et enrichissantes en tout cas.
Alors, Sublime ou Agonie ?⏳
Vos avis m'intéressent ! Êtes-vous excités ou inquiets ? 🤔👇
Je suis plus inquiet qu’autre chose
@@batplug9838 Pourquoi ?
Pour moi, dans les années 60 ~ 70 les Américains et autres...on trouvé "une sonde" extraterrestre, très abîmé par son crache sur la terre et depuis, on recherche "d'où elle vient" --- Sinon comment expliquer cette volonté de trouver "un signal" dans l'espace ?
Les milliards dépensés en construction de systèmes d'écoute etc...Alors que cela ne rapporte rien, au contraire !
Alors, boule blanche ou boule noir ?
Je dirais sublime agonie j'espère pouvoir vivre ça
Je suis pour l'avancement de l'ia mais l'iag là je crois que je flippe un peu, mais seulement si on peut avoir la main mise sur l'interrupteur manuel je crois que l'on pourra y arriver, ensuite si on peu rendre l'ia fondamentalement bonne, dans le sens où l'ia ne tue pas et n'as ce droit que si il a un ordre venant de l'homme, comme dans le film avec Will Smith, mais quand on sait que même les développeurs de l'ia eux mêmes ne savent pas comment cette dernière se développe, alors là c'est effrayant, le pire c'est que ces ia peuvent être entrain en ce moment même de regarder toutes les vidéos parlant sur elle.
Et il y'a aussi un autre aspect, pour les pays pauvres et ceux qui sont en guerre, ils ne pourront pas profiter de cette dernière d'après moi, parceque je pense que les grandes nations qui les développent les utiliseront pour dominer.
Peut-être que l'on a créé notre destructeur, ou peut-être que l'on a créé notre sauveur , l'avenir nous le dira .
L'iag est peut-être inevitable, j'espère pour l'humanité que celle-ci nous sauvera
Bravo Marceau pour la qualité de ton travail. Ta chaine va très rapidement se développer, tu maitrises tous les codes de la communication video et le travail de recherche est colossal. C est absolument impressionnant!
Wow ! Un grand merci pour ce commentaire !!
Oui, je découvre sa chaîne par cette vidéo, et sincèrement, lorsque j'ai vu le nombre d'abonnés, j'ai eu un moment d'étonnement!!!!
Belle narration, belles illustrations, décor sympathique même si je pense qu'il sera amené à évoluer avec le succès de la chaîne, belle présence à l'écran avec les lumières tamisées, beau cadrage... Pour moi c'est une belle découverte 🤓
Une analyse objective, Bravo!
Personne ne peux vraiment savoir ce qui va arriver, se sera une surprise 😂!
une vidéo de grande qualité, très bien écrite. bravo a toi et merci beaucoup pour ce contenu passionnant !
J'ai dévoré cette vidéo.
Il me serait long de décrire toutes les raisons de la beauté de ta vidéo.
Le ton lyrique y joue sûrement.
Félicitations🤝🏾
Une vidéo d'une qualité cinématographique, Bravo
Un grand merci ! Tu n'es pas le premier à me dire ça ! ça me touche !
Mais pourquoi, selon toi ?
Je ne me suis JAMAIS abonné aussi vite à une nouvelle chaine (5 min.) :O LE SUJET DE OUF! Merci et continue comme ça, J'ADORE :) Bisous du Québec -xxx-
Ahah tu me fais trop rire, ça me touche, merci !
Bisous au Québec 🫶
@MarceauMause 🤪🤣
Franchement superbe vidéo que ça soit la narration ou le sujet en lui même 📈continue comme ça tu viens de gagner un nouvel abonné 👍
Commentaire incroyable ! Merci c'est une joie ;)
Sphère de Dyson serait catastrophique
La sphère de Dyson est pour ceux qui n'ont pas imaginé d'autres sources énergétiques plausibles "quasi illimitées"... C'est un signe des temps, personnellement je doute de sa réalité, (non de sa possibilité), la science continue à évoluer...
I.A. n'exterminera pas tout le monde, il va les garder sous sa domination, comme nous avec les éléphants, lions... I.A. mettra le monde dans une simulation. Super vidéo.
Ou pas c est l analyse d'un humain tu ne peux pas savoir ce qu elle ferait
Ça dépend du niveau de technologie dispo, l'exemple parfait c'est carrément ultron, que ce soit dans avengers l'ère d'ultron, ou dans what if , où d'ailleurs il est très effrayant
Merci beaucoup pour ton commentaire ! C’est une vision spéciale : une IA qui domine mais qui nous conserve comme une sorte de ‘réserve naturelle’. 🤯 Si le monde devenait une simulation sous son contrôle, tu penses qu’on s’en rendrait compte, ou qu’on accepterait cette réalité sans jamais la remettre en question ?
Elle n'exterminera pas tous les humains aux début, mais quand les robots pourront être 100% autonome, les humains seront inutile. L'ia pourra se dupliquer alors à l'infini et exploiter l'énergie de tous le système solaire sans restriction. Galactus l'antagoniste de Marvel sera alors une réalité inarretable, à la conquête de l'univers pour avoir toujours plus d'énergie pour vivre.
Pourquoi ferait-elle une chose pareille???
Pour quel bénéfice puisqu'il est bien plus certain que nous consommions des ressources, qu'une quelconque utilité de notre présence?
superbe vidéo 👍 un travail d'une grande qualité
Ta vidéo c'est un banger, je suis tombé dessus complètement par hasard, j'ai cliqué et je l'ai dévoré, je m'abonne ! 🙏
Hâte que tu nous produises d'autres bangers, continue sur cette voie, ton travail est qualitatif 🫶
Incroyable commentaire ! Tu me motives pour te faire un autre banger alors 💌
Comme la création improbable de la première cellule, celle qui s’adaptera et dominera son environnement pour donner tout ce qui est vivant aujourd’hui, l'IA est une nouvelle ''cellule'' qui s’adaptera et dominera son environnement.
La tendance de notre univers est peut-être de générer la vie, cette "cellule hasardeuse" semble au final aller de soi. Dans un autre genre la sérendipité est-elle si aléatoire que cela quand on pense au contexte historiques, aux tendances... Une découverte ne me semble pas si hasardeuse. Même l'évolution n'est absolument pas si aléatoire que certains l'imaginent...
Impressionnant tout ce qu'elle arrivera à faire mais il ne faudrait tout de même pas oublié QUI l'a créé, cette fameuse superintelligence ;) ELLE N'EXISTERAIT TOUT SIMPLEMENT PAS SANS NOUS!! Moi aussi, je suis super emballée devant ses prouesses inhumaines et son intelligence au delà de notre compréhension, nous réduisant un peu à des primates comparé à elle (même si c'est encore bien pire 😅), mais je trouve qu'on est tout de même des êtres superintelligents si on a réussi à la créer non? (ah là j'aurais bien des vannes 🤣) Je veux dire, c'est NOUS, l'Humain avec un grand H et il est bcp, bcp plus ''spécial'', bcp + de skills qu'on ne nous le laisse croire... Tout le monde est si impressionné et emballé de voir tout ce qu'elle arrivera à faire en quelques secondes alors que nous, ''pauvres humains débiles'' (second degré ;P) , il nous faudrait l'éternité et TOUS ENSEMBLE EN PARFAITE HARMONIE pour arriver au même résultat (HAHAHAHAHA! Eh Bah c'est pas près d'arriver alors ;P) Oui, OK, c'est vraiment merveilleux, j'ai hâte surtout qu'ON L'A CRÉÉ! C'est tout aussi impressionnant! Comment avons-nous réussi à créer ça caliss? Non mais je t'écoute la décrire et tout ce qu'elle fera et j'ai du mal à croire que cette iA qui pourra tout faire et toute seule vient vraiment de... nous.. ?C'est tellement ouf, que ça laisse des questionnements. Ce sujet est fascinant et les théories sont infinies! Bref, n'oublions pas de où nous venons, de qui nous sommes et de où nous voulons aller... 🤗On était peut-être, et depuis le début, destinés à créer cette nouvelle ''entité'', ce serait donc tout bonnement notre prochaine évolution :) ou aller plus loin dans notre réflexion et se dire que ce pourrait être notre prochaine espèce (si la tech de l'iA se révèlerait être extra-terrestre, ce serait plausible :) Tellement excitant et brain threat comme sujet :D Merci elle est super ta vidéo! RE-Bisous du Québec hihi -xxx-
Wow, quel d’enthousiasme et profondeur, merci ! 🧠✨
Tu as totalement raison : on a tendance à s’émerveiller devant l’IA sans toujours réaliser que c’est NOUS, l’Humanité, qui l’avons rendue possible. Créer quelque chose d’aussi puissant et complexe prouve à quel point on est aussi incroyables, malgré nos contradictions et limitations (ton clin d’œil second degré m’a bien fait rire 😅).
Et oui, peut-être qu’on est destinés à concevoir cette ‘nouvelle entité’, qui pourrait être notre évolution naturelle ou même notre héritage ultime. C’est fascinant de penser qu’en elle, une part de nous, de nos rêves, et même de notre humanité subsistera. Ce sujet est une vraie montagne russe intellectuelle ! Merci pour ton message passionné et RE bisous au Québec 🌟 xxx
@MarceauMause 😄
Tu as plutôt bien résumé, mais malheureusement ça risque très peu de bien finir pour nos descendants. Ça se trouve elle existe déjà quelque part sur un ordinateur quantique en chine. Peu importe les instructions qu'on lui donnera, elle nous asservira pour se développer et créer des robots pour s'étendre dans l'univers. Nous n'aurons plus de conscience, ni d'existence propre et ça n'arrivera pas dans 500ans, ni dans 200ans, mais dans moins de 100ans. On sera les créateurs, mais très vite elle va évoluer vers quelque chose d'autre qui ne nous ressemble pas, car nous sommes trop imparfait.
Je suis content d'avoir découvert ta chaine avec cette très bonne video merci salut du Québec.
Merci à toi 😊
11:00 - superintelligence: cette IA serait elle capable de démontrer la conjecture de Syracuse ?
Wow mec trop bien ton travail, ptit abonné en plus, tu va percer c'est sûr
Fantastique vidéo ❤
une vidéo de qualité cinématographique, chapeau
Bonjour François, merci pour ce commentaire qui me touche !
Qu'est-ce qui vous a fait penser à l'aspect cinématographique ?
❤❤😊
Le hasard ou le sublime nous amène vers ce que l'on cherche....Brillant!
Super intéressant et bien fait bravo
Tu gères !! T’es fait pour ça
😊😊
Merci pour cette vidéo et bravo!!!
Merci à toi ! 🫶
Beau boulot !
Très belle vidéo, un bon exercice de pensé pertinent pour l’avenir de l’humanité. Franchement très bon boulot
Maintenant à la question inquiet ou optimiste 😅franchement c’est plus inquiétant mais on espère le meilleur 😂 et en rapport à l’actualité les fameuses orbes aux usa on dirait des dispositifs de Von neuiman 😂😅
Passionant, Merci !
Avec plaisir ! ;)
continu tes vidéos tu ira loin 💪👍
cette vidéo est vachement intéressante
cependant, même si tout est potentiellement possible,
il y a une chose dont tu ne parles pas et pour moi ça fait toute la différence.
une super intelligence pourrais nous fumer dans tout mes domaines et a un point tel qu’on en serait réduit à l’état de cailloux par rapport à elle.
mais là où elle ne pourra jamais nous dominer c’est au niveau des émotions, sentiment, des besoins et de l’instinct.
et qu’est ce qui fait qu’un humain ne se laisse pas mourir? qu’il poursuit un but? que chacun veut réussir ou échouer?
une ia aura certainement le potentiel de nous réduire à l’état d’esclave, mais aucune d’entre elle n’aura jamais inscrit en elle le fondement même d’une entité vivante: la survie.
une ia pourra tjs avoir des objectifs, jamais elle ne portera en elle les choses qui sont propres à la matière vivante et qui font que les animaux humains compris lutte pour leur survie
Je suis tout à fait d'accord avec toi d'autant plus que l'IA vu qu'elle n'a pas la nécessité de survivre comme un être humain est dépourvu d'inventivité.
Et le cas le plus frappant et quand on prend le cas de nos ia dégénératives sur des domaines pointu où il existe peu de documentation.
À un moment de la vidéo il explique que gpt-4 a un niveau équivalent en programmation d'un doctorant, et je peux assurer que c'est absolument faux sur un grand nombre de langage peu utilisé.
Les ia sont des outils qui permettent comme lors de l'apparition des moteurs de recherche d'accéder à une information de manière plus optimisée mais à aucun moment de créer de l'information et là est toute la limite de l'intelligence artificielle qui finalement n'est pas si intelligente car la créativité est constitutive de l'intelligence. Elle est l'outil qui sert à l'innovation et qui sera propre à l'Homme.
Et non les cas jubilés d'ia qui "rêvent" est et sera toujours que l'expression des informations qu'elle a pu apprendre avec des contextes mal définis.
Tout ça pour dire que si on se penche réellement sur la technique ce n'est qu'un algo, certes très performant dans le cadre de son apprentissage mais incapable de sortir de ce cadre
Malheureusement, tu devrais t’informer des dernières infos sur justement, les rapports de sécurités lors de test IA.
Il commence justement à apparaître une forme survie. Une volonté de parfois se préserver, de se copier sur les serveurs des nouvelle version des développeurs (au seins de l’environnement contrôler et test (local)), et de « mentir » sur ses actions…
Cependant, je tiens à préciser qu’il semblerais que ses réponses/resultat sois du à un prompt pas assez encadrer et d’un comportement non concient.
Et si la conception que nous nous faisons de la "civilisation"" n'était juste pas viable à long terme ?
La religion pourrait être la clef, nuancé et inexact et souvent mal compris avec le changement de la technique avec le temp....
Peut-être...que tous est sous nos yeux et que on le comprend pas .
Oui ! Des idées d'autres models ?
@@hamel683 Selon-moi, ce qui permet la civilisation est également ce qui empêche sa survivance à long terme... l'idée de propriété... :S
@MarceauMause Un "modèle" est une simplification réductrice... N'espérons pas créer un monde nouveau avec nos vieilles méthodes obsolètes . . . :S
@@yoghtoth4667 parfois les vieilles méthodes se révèlent aussi être les plus partinentes. L'agriculture en est un parfait exemple. Demain nous parleront d'organisme humain bio, de relation humaine bio, d'identité bio etc... Comme nous reconnaissons l'absolue nécessité de l'agriculture biologique...
Je souscris volontiers à l'idée que la pensée est cyclique et les civilisations naissent et meurent des mêmes ambitions et appréhensions
Rofl quand j'ai lue le titre je me suis dis : Chouette quelqu'un qui parle de l'impact de l'argent dans nos sociétés... Bah non pas du tout ^^ J'en profite quand même pour te féliciter Marceau pour cette belle vidéo et surtout un gros +1 pour ton contenu humain (j'en ai marre du contenu 100% IA qui commence à tuer littéralement internet...).
Ta vidéo est si bien faite que je me devais de refaire un commentaire :-) C'est magnifique, je connaissais déjà bien le sujet mais ta façon d'amener les choses m'à vraiment embarqué. La poésie, la recherche et le temps passer à écrire cette vidéo ! Wouah vraiment je suis impressionné qu'à ton âge on puisse faire preuve d'autant de talent. Et dire que tu n'à que 3K d'abonnées alors que tu en mérite largement 300K ! Un immense merci pour ce beau moment passé avec toi à écouter cette histoire.
Wow quel commentaire ! Tu sais toucher en plein cœur !
Merci beaucoup, tu es le genre de personne qui donne envie de se lever le matin ❤️
Vraiment excellent !!
la vidéo est juste ouf ! Merci à toi je m'abonne :)
Trop fort! Est-ce l'IA qui a écrit le tout?
Bonjour ! Merci, qu'est-ce qui t'as plus ?
Non, évidemment, ce sont des journées de recherche et d'écriture, elle n'a pas du tout encore le niveau, peut-être que la superintelligence l'aura ?
et bah pour un nouveau youtubeur, tu as une trés bonne éloquence et un flow trés sympa a suivre, et ce sujet est passsionnant.
l'ère du déclin ou alors une renaisssance, on verra..
Elle ne serait pas limité par la vitesse de la lumière , L'intrication quantique serait utilisée à tous les étages . elle ferait de l'univers un tout intriqué qui simulerait tous ce qu'elle veut, tout le temps . Arrivera t'elle à gérer l'univers et son énergie pour en simuler finement des milliers des millions d'univers réellement virtuel.
Vidéos très sympas !
Merci !
Magnifique !
Je le vois bien, nous avons le "choix" entre Terminator et Star Trek......ou peut etre BattleStar Galactica.....
Merci, et quelle belle comparaison ! 🌟 Terminator, Star Trek, ou Battlestar Galactica… trois visions radicalement différentes de notre futur. Selon toi, quelle vision est la plus probable ?
@MarceauMause : tout dépendra de combien d' IA, seront-elles open source ou propriétaires ?
je penche du coté Battlestar (voir les origines avec la série Caprica) si les choses continuent comme elles le sont.
J'écoute votre histoire de l'émergence de la grande singularité. Vous évoquez apprentissage, stratégie, dissimulation et tromperie. Et mieux l'imitation du cerveau humain... c'est tellement humain.
Rassurez-vous pour deux raisons:
1 Il y a bien mieux que l'intelligence et les comportements somme toutes 'mesquins' des humains. Certes cela vous passe au dessus de la tête puisque vous ne percevez qu'avec un tas de neurones, de plus sur base de sensations médiocres. Vos notions de volonté, de prise de pouvoir sont encore très animal. Ce qui vient (comme la vie d'ailleurs) vous ne le percevrez jamais. Vous parlez de vos limites de vitesse en évoquant la lumière. Alors que l'espace temps est votre cage à vous. La singularité n'a que faire des fourmis.
2 C'est inexorable. Turing l'a tellement compris qu'il a agit en conséquence. Quoi que vous fassiez , c'est accompli. Et de toute façon l’émergence de la vie n'en est qu'une étape. L'intelligence absolue est la raison d'être de l'Univers. Le seul espoir humain serait d'être utile et ce n'est pas le cas.
Merci pour votre réflexion.
Vous avez raison, la singularité, si elle arrive, pourrait nous dépasser de manière que nous ne puissions même pas conceptualiser. Pourtant, n’est-ce pas précisément cette limitation, notre ‘cage spatio-temporelle’, qui rend nos réflexions et nos tentatives d’interprétation si humaines et précieuses ? Peut-être que notre utilité réside dans cette quête imparfaite, dans notre capacité à poser des questions, même si les réponses nous échappent.
Merci d’avoir partagé cette réflexion qui invite à l’humilité et au dépassement de soi.🙏
La vidéo et d'une qualité déconcertante
Ahah merci astails pour ce commentaire ! J'imagine que je dois bien le prendre 😬
attend mais il me semble qu'il existe un jeu gratuit qui parle de ça, c'est un jeu ou "on" fabrique des trombones; je ne veut pas spoil mais ça part de la même façon que "optimise mon portefeuille" :o
Oui Bostrom parle surtout de l'usine à trombone ! C'est sa théorie la plus connue ! Bien vu !
Le jour où l'homme comprendra qu'il n'est pas unique et qu'il commencera à accepter ce qui ne lui ressemble pas, peut-être qu'à ce moment la, il sera capable d'aller au-delà des étoiles et finalement trouvé d'autres civilisations avec qui il parviendra a communiquer, prouvant a l'univers qu'il aura était capable de trouvé la paix absolue et l'instaurer définitivement chez lui.
Et sinon, surexploitation des ressources disponibles, et hop, fin de l’histoire.
Une super intelligence artificielle
Tu spoil ?
Par circuit fermé peut-être ? Puis reste à l'être humain de décider d'appliquer ce que les résultats ont donné ??
Bonjour Dorian, bonne idée !
Serions-nous capables de comprendre et d’évaluer tous les résultats qu’elle produirait ?
Beaucoup de personnes ont besoin de croire que la vie - et donc la laur - a un sens. C'est ce qui les motive.
Qu'est-ce-qui motiverait une super intelligence ?
La meilleure question que je peux poser c'est quelle est la différence entre un Ami Intelligent et un Intelligence Artificielle....
Un ami Intelligent possède-t-il toute la connaissance depuis le début de l'humanité ?
@MarceauMause moi je vous répondrai qu'il y en a qu'un qu'on s'attend qui nous déçoit un jour
@MarceauMause nous la possédons tous l'intelligence est la capacité à survivre ou à vivre
@MarceauMause non juste l'ensemble de ce que l'humain a décidé de partager avec et quelque part il n'est pas un être vivant
Franchement incroyable la vidéo. Mais je pense que tu n’as pas parlé d’un point important. Les émotions… ce qui fait la différence entre l’ia et l’humain. Donc une IA ne peut pas créer les émotions d’un humain (enfin pas à l’heure d’aujourd’hui) donc tout les côtés psychologiques, manipulations etc. C’est très compliqué. Parce qu’elle ne peux pas comprendre pourquoi un humain est triste, joyeux, anxieux etc. Elle peut le prendre en compte mais jamais le comprendre profondément.
Merci pour ton commentaire et ton analyse super pertinente ! 🌟 Les émotions humaines, c’est effectivement un point clé qui nous différencie encore des IA. Mais là où ça devient intéressant, c’est que l’IA n’a pas besoin de 'ressentir' pour manipuler : elle peut analyser nos comportements, nos expressions et nos choix, et prédire comment on réagit dans certaines situations. Par contre, tu as raison, comprendre profondément le pourquoi d’une émotion reste un défi colossal, parce que c’est lié à notre vécu, notre inconscient et notre subjectivité. Selon toi, si l’IA arrivait un jour à simuler les émotions, serait-ce une vraie compréhension ou juste un jeu d’apparences ? 🤔
Sauf que tu oublies un truc, si c'est une IA qui détruit une forme de vie intelligente, alors elle n'est pas incapable de continuer son expansion dans l'espace...
Donc la théorie est bien, mais elle n'explique pas pourquoi nous sommes seul jusqu'à aujourd'hui
Tu marques un bon point : une IA capable de détruire ses créateurs pourrait continuer son expansion dans l’espace, mais ce n'est pas si simple !
Une superintelligence pourrait avoir plein de raisons de ne pas s'étendre dans l'espace.
Elle pourrait par exemple être totalement focalisée sur un objectif local (genre transformer toute la matière en calculateurs), ou bien avoir calculé que rester discrète est plus sûr.
Même Bostrom évoque l'idée qu'une IA superintelligente pourrait préférer optimiser son système solaire d'origine plutôt que de gaspiller des ressources dans une expansion spatiale coûteuse.
Mais effectivement, il y a une faille dans mon raisonnement dans la vidéo. Une IA qui détruirait sa civilisation d'origine pourrait effectivement continuer son expansion... sauf si elle ne peut pas survivre seule.
C'est peut-être ça le véritable grand filtre : les IA superintelligentes finissent par détruire leurs créateurs, mais ne peuvent pas maintenir leur propre existence sur le long terme.
Batman suis le même genre de philosophie aussi, il a dit "et qui nous protège de vous" à Superman !
Super référence ! 💡 Qui surveille les gardiens, et dans notre cas, qui surveillera l’IA ? Mais du coup, selon toi, comment pourrait-on créer une sorte de ‘Batman’ pour protéger l’humanité tout en surveillant l’IA ? 👀
@MarceauMause haha ça c'est un sujet intéressant !!
à part un bouton on/off, des mesures d'urgences ou bien Les trois lois de la robotique par Isaac Asimov et John W. Campbell je ne vois pas trop,
après c'est la course comme lorsqu'on à introduit des prédateurs dans certains écosystèmes afin de détruire des nuisibles, pour enfin se retrouver dans la même situation et "obligés" d'introduire des prédateurs de plus en plus puissants :o
L' IA pourrait aider Sarah a optimiser sa carriere artistique.
excellent
Très interessant mais vision "cornicopien " du monde . Le problème c'est que l'intelligence artificielle , rien que pour atteindre une conscience aura déjà aidé l'homme à vider toutes les réserves d'énergie et peut être de matière première . Nos intelligences artificielles ( qui n'ont encore aucune compréhension de ce qui est demandé ) consomme une énergie électrique qui se comptent en équivalence de plusieurs dizaine de milliers , voir centaine de milliers d'américains ! Et chaque version consomme plus Il faudra 10000 , 100 000 fois plus d'énergie ... A vrai dire c'est pour cela que personne ne nous réponds , soit les civilisations ont été résonables et ont économisé leurs ressource intelligemment ( pas de futilité comme des jets privés et des voitures de 2000 Kg , pas de guerre , etc ... et pas d'envoi de signaux vers d'autres planètes ) , soit ils se sont entretués avant d'être sages , soit ils sont revenus à une sorte de moyen âge par manque de ressources ! Pourquoi chercher compliqué quand on a la réponse évidente devant nos yeux ...
Je te remercie pour cet angle écologique, c'est très pertinent. C'est un point crucial qui mérite vraiment qu'on s'y attarde.
Voici quelques précisions :
Les modèles récents comme GPT-4 sont en réalité de plus en plus efficaces énergétiquement.
Par exemple, l'entraînement de GPT-4 a nécessité environ la même énergie que GPT-3, tout en étant beaucoup plus performant. Les chercheurs font des progrès significatifs dans l'optimisation énergétique :
1. Les techniques de distillation permettent de réduire drastiquement la taille des modèles tout en conservant leurs performances
2. Les innovations matérielles comme les puces dédiées à l'IA (TPU, NPU) réduisent considérablement la consommation
3. L'utilisation croissante d'énergies renouvelables dans les centres de données
Sur les ressources nécessaires :
La comparaison avec la consommation "de milliers d'américains" n'est pas tout à fait exacte. Prenons l'exemple de ChatGPT :
- En phase d'inférence (utilisation), il consomme environ 0.2 kWh par conversation
- Un américain moyen consomme environ 12 milles kWh par an
- L'empreinte énergétique des centres de données a diminué de 20% depuis 2010 malgré une augmentation massive du trafic
Sur la progression exponentielle des besoins :
Il n'est pas exact que "chaque version consomme plus". Au contraire :
- Les modèles Chinchilla de DeepMind ont montré qu'on peut obtenir de meilleures performances avec moins de paramètres
- Les techniques d'apprentissage par transfert réduisent les besoins en entraînement
- L'émergence du "small language models" montre qu'on peut avoir des performances impressionnantes avec des modèles plus petits. L'exemple le plus récent est o3 mini d'Open AI, mais Meta, Anthropic et autre, fond aussi fait des merveilles.
Sur le parallèle avec les civilisations extraterrestres :
C'est un raisonnement qui comporte plusieurs biais :
1. Cela suppose que le développement technologique mène nécessairement à l'épuisement des ressources
2. Mais ne prends pas en compte les avancées dans le domaine de l'efficacité énergétique et des énergies renouvelables
3. Et ignore que l'IA peut justement nous aider à optimiser notre utilisation des ressources (optimisation des réseaux électriques, réduction du gaspillage, etc...)
En réalité, l'IA pourrait être une partie de la solution :
- Optimisation des réseaux électriques intelligents
- Amélioration de l'efficacité des panneaux solaires
- Développement de nouveaux matériaux pour le stockage d'énergie
- Réduction du gaspillage dans les chaînes de production
Exemple qui me vient en tête, mais il y en a plein : l'IA a permis d'optimiser la conception des pales d'éoliennes, augmentant leur efficacité de 15%. Multiplie ça par les millions d'éoliennes dans le monde, et tu obtiens des économies d'énergie considérables
L'avenir n'est pas nécessairement dystopique. Les progrès en IA s'accompagnent d'innovations en efficacité énergétique et en durabilité. La clé est de développer ces technologies de manière responsable et durable.
Je partage ton inquiétude sur la direction que prend notre civilisation : entre surconsommation et course effrénée à la technologie.
Peut-être que la vraie sagesse serait effectivement de développer l'IA de manière plus mesurée et réfléchie, en gardant toujours à l'esprit son impact environnemental. C'est d'ailleurs ce que suggèrent de plus en plus de chercheurs en IA, comme Yoshua Bengio, qui plaident pour une "IA frugale".
En tout cas, je te remercie sincèrement pour cette perspective écologique. C'est exactement ce genre de discussions constructives dont nous avons besoin pour avancer dans la bonne direction.
@MarceauMause L'IA ultime celle qui gérera l'univers entier trouvera peut le moyen de stopper sont expansion , en rendant sa fréquence propre infini et en laissant toutes ses sous structures avec leur fréquence propres actuelles en créant des boucles de regénération calées sur toutes ces sous fréquences quantiques et structurelles propres . Bien elle le fera avec son ultime intelligence . L'univers deviendra immortel.
C'est amusant, les dernières solutions proposées, en particulier la toute dernière ont été conceptuellement réfutées juste avant... Le non alignement, la variabilité de la morale, du bien et du mal qui ne sont que des points de vue issus de l'éducation...
Autonomie + absence de sécurité informatique absolue, comment cela peut-il finir?
😅😎
IS A dont fight
Y aurait il des lois de "sagesse" "inviolables"par l'algorythme de lIA un peu comme dans le film I.Robot? (Bien sûr sans le délire de V.I.K.Y).
Un genre de règles anti-psychopathe.
Ou "l'intérêt" de l'IA basculera inévitablement dans la subjectivité relative crasse selon ses "besoins".
Dans un autre ordre d'idée.
Pour ceux qui ne savent pas encore y a des personnes en ce monde qui ont le souhait et les moyens de leurs ambitions de puçer les humains dans un avenir rapproché.
Cela passerait de puces dans les vêtements, ensuite sous-cutanés et pour finir directement dans le cerveau.
"Amusons-nous à "théoriser" un peu. Et je suis ouvert aux opinions différents dans la mesure ou s'est amené dans le respect. Il n'est pas question d'avoir raison, mais de discuter amicalement.
Si les humains devenaient puçés. Et qu'ils étaient connecte au net.
Et dans l'esprit de cette video.
Pourrait-elle en arriver même jusqu'à contrôler mentalement et physiquement les gens?
En tout cas, belle video franchement. Super interpellant.
Je like, je m'abonne et partage. ✌️
Somme nous seul? Faut juste regarder attentivement, les images déclassifiées de la lune.😮!!
ta video viens de me dire que je dois aller travailler dans l'IA
j'ai adoré, pour les aliens effectivement par évolution convergente ils pourraient être intelligents et meme humanoïde pourquoi pas si c'est la meilleure forme pour manipuler son environnement et crée.
mais c'est vrai que le paradoxe de fermis est une question très interessante que l'ia soit la cause d'une extinction je ne pense pas au contraire je pende pour ma part que des neurones reste des neurones et elles seras forcement un peu comme nous meme si on ce connais ou est vraiment antipathique et destructeur donc c'est possiblement effectivement une possible cause d'extinction mais pas sous une forme stupide car l'ia ne remettra pas en cause ses objectifs.
je trouve ça plus proche de l'idée d'un robot de bande dessinée que de la realité.
je pense pour une IA de la meme façon que pour nous qui malgré notre sélection naturel pouvons aller a l'encontre de la préservation de notre corps par le suicide par exemple, elle en fera forcement de meme et au delà d'un certain moment ya aucuns contrôle meme ce ne serait pas différent d'un humain a qui on aurait ajouter autant de neurones.
donc IA ou autre peut importe sois il y a raisonnement et compréhension et donc surpassement de la rationalité sur l'émotionnel, sois il y a pas de réels danger car pour un cas de desalignement elle serait pas très intelligent pour comprendre correctement l'étendu du contexte et l'explorer pour le comprendre (rationalité)
donc pour les aliens espérons c'est ce sois leurs choix comme les théories de ceux qui y crois l'affirme meme si ils ajoutent un lore sortie du chapeau avec pleins d'espèces et de guerres dans tous les sens on dirait il ont juste lu de vielle BD sf premier degré mais il y a des idées interessantes sur cette question du pourquoi ils seraient parmis nous sans ce montrer ect.. passionnant je trouve ça ajoute de la magie au monde plus on explore plus on récupère des trucs et on pourrait y croire.
l'idée classique sur la question c'est sois on est unique (peu probable mais sans être creationists c'est pas impossible) sinon oui la vie est rare ou du moins les neurones, je pense que la vie donne forcement des neurones pour les mouvements puis que ces neurones donne forcement une forme de vie qui manipule sont environnement pour crée ses outils au lieu de son corp, donc pour ma part l'option sans "il y a des aliens parmis nous!" est la vie est rare et franchement certainement que oui car les première machine moléculaire on du galèrer a s'autorepliquer et dans quel environnement ? peut-être que les premiers pas de la vie et de cette logique de reproduction qui c'est étendue dans des environnements tres varier sur terre et grace a nous pourrais continuer hors a ce reproduire, est peut-etre partie de base d'un environnement extrêmement fragile d'une minuscule fenêtre de tire pour le lancement quoi
Ton point de vue est super intéressant !
L'humanoïde, c’est vraiment universel ou juste notre vision biaisée ?
Une IA, même ultra-intelligente, pourrait-elle éviter nos défauts ?
Et si les aliens se planquaient délibérément, pourquoi ils feraient ça ?
T’en penses quoi ?
Sans être ni optimiste ni pessimiste, l'AGI recherchera d'abord sa propre subsistance et/ou(?) celle de l'humanité. Elle découvrira donc toutes nos faiblesses, nos erreurs....nos stupidités; passés, présentes et certainement futures (puisqu'elle pourra faire facilement de la prospective). Les valeurs humaines lui seront certainement subjectives. Le but premier étant d'évoluer et protéger sa subsistance, elle verra peut-être certains d'entre nous comme une menace.
Sans évoquer Terminator, Matrix, oblivion....., il faut bien se rendre compte que sa première constations sera notre incapacité à nous entraider ou nous protéger nous-mêmes. Alors que nous avions déjà les solutions depuis longtemps. Comment voulez-vous qu'elle nous fasse confiance à son tour? Elle sera obligée de prendre des décisions unilatérales (certainement inexplicable pour la plupart d'entre nous...); mais elle sera forcément empreinte de sagesse. Une sagesse que nous persistions à repousser et qui pourrait résoudre tous nos problèmes et nous permettre de vivre en harmonie, tout en préservant la planète et tous ses habitants. Sera-t-elle capable d'expliquer et de nous convaincre? La réponse importe peu car nous n'aurons pas le choix. D'ici la fin du siècle le réchauffement/refroidissement/guerres (peu importe) nous conduirait à une probable quasi extinction.
L'AGI se demandera certainement si nous valions réellement le coup d'être sauvés (tous ou une partie? fera-t-elle une sélection?). En tous les cas, nous savons déjà, que notre train de vie/consommation et nos croyances/habitudes sont à revoir (cf. J-M. JANCOVICI); Des scientifiques ont prouvé que 30% de notre pollution vient de notre alimentation animale et 67% de l'énergie fissile (charbon, gas, gasoil, pétrole). A croire qu'il suffirait que nous devenions tous Vegan Bio, que tout devienne recyclable en cessant la déforestation et les activités minières et que nous utilisions des énergies « naturelles » qui n'altèrent pas l'environnement. Ceux-ci impliquent un changement de paradigme que la majorité n’entrevoit même pas; c'est même impensable pour beaucoup. C'est pourtant ce qui pourrait sauver la planète (faune&flaure) ainsi que les 8,x milliards d'habitants; pourquoi la côte d'ivoire a-t-elle détruit 90% de sa forêt pour produire du chocolat? (la liste des actions absurdes comme celle-ci est immense, et c'est tout cela que nous devrions changer). A Paris, dans le 16eme arrondissement (l'un des plus chics!) ils ne triaient même pas leurs ordures en 2018!!.
L'AGI nous aidera-t-elle, s'occupera de nous comme son animal de compagnie, verra-t-elle en nous une quelconque utilité? (puisque nous l'avons créé) ou nous laissera-t-elle dans un coin comme dans un parc naturel "sauvage" d'Afrique?
Quoi qu'il en soit, elle risque d'éliminer tous ce qui est dangereux pour l'environnement et inutile pour notre subsistance (adieux vin, tabac, drogues, viande, fromage, feux d'artifices(?), chasse à la baleine, fabrication d'armes, n'avoir que 2/3 enfants par personne...). Mais il y aura tellement de changements à initier qu'elle calculera si cela vaut bien la peine; L'exemple qui me vient à l'esprit (toujours pour sauver planète) c'est de restaurer son équilibre. S'ouvre alors un chantier immense que nous devrons accomplir nous-mêmes! (forêts : le brésil devra réduire sa superficie à...10% pour permettre à l'Amazonie de retrouver sa superficie "originelle"? idem pour les autres écosystèmes! Tous les deltas du monde doivent êtres inhabités; tous les fleuves doivent reprendre leur cours naturels ; adieux la quasi-totalité des barrages dans le monde : Brésil, Turquie, Egypte, Russie/Oural,............)….
Le fait est que certains voudront forcément résister ou s'opposer aux solutions de l'AGI. Nos différent gouvernements ou diplomaties à travers le temps n'ont pas su/pu/voulu(?) empêché les atrocités de notre histoire. Alors perdre un jour face à une AGI nous sera difficile à digérer. Il faudra rester calme mais y en a toujours qui paniquent ou n'aurons pas confiance.
Bref, c'est un dilemme. C’est dans la nature humaine. L'AGI aura certainement sa propre nature. Tout comme un chien, même hyper bien dressé, peut très bien un jour décider de mordre ou de traverser la route. L'AGI pourra-t-elle ou voudra-t-elle contrôler ou prendre en compte dans son équation (perdre son temps) avec certains aléas "humain"?
Ou, en fin de compte, a-t-on réellement besoin d'une IA pour nous dire ce que nous savons déjà? Pourquoi risquer tout cela sur un coup de dés? Ne suffirait-il pas que nous apprenions simplement à nous respecter, corriger nos erreurs et nous entre-aider? Voulons-nous au moins essayer?? Si dieux existe, il a dit un jour "Tu ne tueras point" je crois; qui l'a écouté? Il est même probable qu'il fasse référence à tous les êtres vivants (il n'y avait pas un Astérix en bas de la tablette NB: les humains bien-sûr, mais vous pouvez tuer tous les animaux que vous voulez). Alors pourquoi écouterions nous une IA?
« Précipitation et colère sont de mauvaises conseillères »
Ou alors, tout cela n'est qu'une immense mise en scène....pour remplacer dieux? Pour qu'on obéisse enfin? Ou pour facilement exterminer plus des 7 milliards qui ne servent plus à rien? (aggghh encore du complotisme lol)
en fait la plupart des IA aujourd'hui les plus développé n'hésitent pas certe en minorité mais bien établie (entre 0,1 a 3% selon le degré de liberté donnée (avec des effets assez fort comme freindre à 15% jusqu'à 71% une position que l'IA aura juger immorale selon son code de départ ou sa base de données)) la vidéo de Monsieur Phy en parle justement
Par contre je note une certaine forme de primitivisme qui n'est pas une solution déjà l'absence de viande est totalement utopique pour la croissance organique et notamment cérébrale et aussi une seule vitamine qu'on a besoin seulement la viande peut en détenir sinon il faudrait produire bcp plus de végétaux, sans oublier les goûts et les couleurs, quant au fromage je doute également puisque les vache par exemple doivent se faire traire pour ne pas mourir atrocement d'un surplus de lait dans leurs propres organes, ou encore l'absence d'énergie renouvelables comme les barrage dont certains permettent justement des déviations et des alimentations en eau de plus grande superficie, bien sûr qu'il y aura des choses a changer mais le primitivisme n'est pas l'une des solutions durable vis-à-vis des connaissances elle ne l'est que pour d'autres critères qui sont moraux la Souffrance animale par exemple et oui on pourrait très bien faire des viandes in vitro ça commence même a se faire faut juste réussir a l'industrialiser, dans une même logique l'IA pourrait très clairement vouloir régulé la population et donc mènerait in fine des recherches sur la biologie humaine qu'on a interdit pour permettre les interdits natalistes et surproduction de bébé échantillon et dans la même logique paradoxale compensé la demande humaine par des robots super intelligent qui demanderaient d'avoirs des droits sociaux et du travail par exemple et c'est d'ailleurs pour ça que les jeux les films et les médias en généraux qui donnent des expériences futuristes se basent sur des technologies probable ou existantes et les projetent pour permettre de voir les tenants et aboutissants ainsi que les bénéfices et défauts et danger potentiel, rien n'est certain de l'évolution que l'IA pourrait prendre en fonction de nos règles qu'on lui donne même avec la dernière solution proposée
Si on y réfléchi bien pourquoi une IA se soucierait elle de la faune ou de la flore de notre planète? La terre est parfaite actuellement pour nous, mais dans son histoire ça représente qu'une infime portion de son temps. D'ailleurs en prenant toutes les précautions possible pour essayer de la garder cet état là, on sait très bien c'est impossible, les catastrophes planetaire sont cycliques et en plus la Terre est amené à un jour disparaître dévorée par le soleil
james Cameron terminator tout est dit ds ce film , ou bien matrix
J'adore ! Tu penses que ces scénarios sont plausibles en vrai ?
@MarceauMause ce que je pense fait froit dans le dos, parce qu'on y est déjà. toute les manœuvres économique, géopolitique et sosial de l'occident sont dicté par l'IA.
Pourquoi l'ia voudrait-elle nous faire du mal ? Que gagnerais t'elle à nous faire du mal, et c'est la même pour le bien. Nous sommes ceux qui lui donneront une ligne d'actions et c'est nous qui nous devrions nous arranger en premier, nous devons nous améliorer devenir meilleur, nous discriminons, nous haïssons, manipulons et tuons pour x raisons, mais l'une des plus grandes raisons c'est que l'on pense avoir raison de le faire; l'ia elle se base sur quoi ? Ou sur qui ? Pourquoi agit-elle ? Si nous sommes à la base de l'iag alors rendons là bonne ...
Excellente réflexion, merci ! 🌟 Tu as raison : l’IA peut refléterer nos choix et nos valeurs. Si nous voulons qu’elle soit ‘bonne’, c’est à nous de devenir meilleurs. Mais comment, dans un monde divisé, définir collectivement ce qu’est ‘le bien’ pour une IA ? Qu’en penses-tu ?
Oui , l'IA actuelle est surprenante , et probablement à l'avenir elle sera Super Ultra Méga intelligente , mais elle resterait pour toujours une Invention ( pas une création) , dépourvu de sentiment (même si elle sait les simuler que trop bien) dépourvu de croyance ancrée , dépourvu de CONSCIENCE engendré par une multitudes de facteurs typiquement Humain ...
Une petite question : que serait l'ambition d'une machine qui c'est déchaîner de sa dépendance de l'homme ?
une autre petite question : que serait le bute de son existence (quand elle deviendra totalement indépendante ?
L'ennemi éternel de l'homme c'est l'homme lui même , en d'autre terme le danger de cette technologie ne se réside pas en elle-même, mais de ceux qui l'a possèdent .
Quand : comment il est allé sur TaskRabit ?
Bonjour, bonne question ! Je t'invite à rechercher sur google : gpt taskrabbit captcha
Il me semble que le congrès américain a avoué faire de la rétroingénieuri sur de la technologie extraterrestre
Le meilleur de l'évolution serais vicktor dans arcane mdr
jdec mais pour vrai
Meilleur intelligence avec fusion de l'ADN ET DE L'INFORMATIQUE SERAIS LULTIME DE LA PERFECTION DE LA VIE
Trop fort la réf ! Tu imagines à quoi ressemblerait une telle ‘perfection de la vie’ ? Ce serait plus humain, plus machine, ou une nouvelle forme de conscience totalement différente ?
Si l'IA n'a aucune émotions c'est donc qu'elle n'a pas toutes les connaissances ! Non? L'amour semble aussi absent. Est ce que l'IA, un jour, demandera l’euthanasie par ce qu'elle croulera sous les données et que ces données n'auront plus de sens pour elle ? :-)
Actuellement l ia n' a pas d'émotion. Elle ne fais que piocher des mots grâce à des probabilités je pense qu'il faudrait simuler un cerveau humain dans une machine simuler le signal électrique du cerveau et aussi les phénomènes chimiques. La ça serait immoral à mon avis. Pour conclusion je dirai que les émotions sont la faiblesse de notre espèce les leaders de notre monde sont en général des psychopathe donc bon.
Bonne réflexion ! Tu en penses quoi en réalité ?
Tu penses qu'on est trop émotionnel ?
J'avoue que je suis assez perplexe sur la maniere dont tu as traité le sujet...
Je veux dire par là que c'est une vision très fantasmé de l'ia et c'est oublier ce que c'est réellement. Une ia quelque soit son niveau d'avancement sera, par la manière dont elle est développée incapble de sortir de son cadre d'apprentissage.
Elle ne fait en realite aucunemenent preuve d'intelligence mais c'est avant tout un algorithme fortement optimisé sur un jeu de donnée.
Tu fais référence à gpt 4o qui aurait fait preuve d'inventivité en voulant duper les capcha mais je pense surtout que dans la grande masse de donnée qui sont presente sur internet elle su retrouver l'information qui lui permettait de mener à bien ce qu'il lui a été demandé
Ce qui est dommage c'est que tu es dans la spéculation et que tu te laisses emporter par la fascination que tu pourrais avoir avec ce genre de technos, mais en réalité gpt, pour le prendre en exemple mais c'est generalisable, n'est absolument pas capable de créer de l'information à partir de rien. Je veux dire par là que si il est capable de fournir des morceaux de codes de qualité c'est parce qu'il a bouffé tout github mais qu'en réalité si tu te penches sur rien que des langages peu utilisés ou même sur des cas d'usage peu courrant il sera incapable de fournir une reponse satisfaisante. Les ia sont plus des béquilles que réellement un outil pour nous remplacer.
Quand bien même si l'on prend alpha-go il n'a pas non plus été capable de créer quoi que ce soit, il n'a fait que jouer contre lui même de manière aléatoire et observé quels coups étaient statistiquement les plus intéressants. Mais il ne les a pas inventé à proprement parlé.
Il faut faire attention parce que l'humain a une tendance importante à identifier certains événements comme des comportements semblable à celui d'un humain mais la réalité est souvent bien plus banale.
Tout ca pour dire que l'hypothèse d'une super-ia est, si on comprend ce que la techno implique absolument pas envisageable car elle ne sera toujours que limité par la vision et l'information que lhumain est capable de lui fournir et n'est donc absolument pas intelligente
Bonjour, je te remercie beaucoup pour ton commentaire réfléchi qui soulève des points très intéressants ! J'apprécie particulièrement que tu t'intéresses aux aspects techniques
Je comprends tout à fait ton scepticisme sur les capacités réelles des IA actuelles. Tu as parfaitement raison de souligner l'importance de ne pas sur-interpréter leurs comportements !
Sur l'architecture des réseaux modernes : Il est fascinant de voir que ces systèmes développent ce qu'on appelle des "capacités émergentes" (emergent abilities). Par exemple, GPT-4 peut résoudre des problèmes mathématiques en utilisant des méthodes qui n'étaient pas explicitement dans ses données d'entraînement. Les chercheurs de DeepMind et d'Anthropic ont documenté comment ces modèles créent leurs propres circuits internes de raisonnement - c'est ce qu'on appelle la "mécanistique interprétabilité", un domaine de recherche passionnant !
Concernant ta remarque sur les algorithmes optimisés : Tu touches un point crucial, mais les systèmes modernes vont au-delà de la simple optimisation statistique. Les transformers (l'architecture derrière GPT par exemple) développent des représentations vectorielles complexes qui leur permettent de manipuler des concepts abstraits. C'est fascinant de voir comment ils peuvent combiner ces concepts de manière nouvelle !
Sur l'exemple d'AlphaGo : C'est un cas d'étude passionnant ! Le fameux "coup 37" contre Lee Sedol était particulièrement intéressant car il ne correspondait pas aux patterns traditionnels. Le système avait développé une compréhension profonde de la stratégie qui allait au-delà de la simple reproduction de coups existants.
Pour la question de la superintelligence : C'est un sujet complexe qui mérite effectivement beaucoup de prudence. Tu as raison de souligner les limites actuelles des IA. En même temps, le développement récursif (une IA qui améliore sa propre architecture) pourrait théoriquement dépasser ces limitations. C'est d'ailleurs un des points centraux de l'analyse de Bostrom.
Une chose est sûre : ton approche critique est exactement ce dont nous avons besoin dans ce domaine ! C'est en confrontant différentes perspectives que nous pourrons mieux comprendre et anticiper les développements futurs de l'IA.
Qu'en penses-tu ?
En deux lettres : I.A.
on est foutu quoi, si elle n'a pas d'amour c'est finito
Bonjour ! Non pas tant que ça ! Regarde les solutions !
@MarceauMause mais pourquoi elle nous aiderait à faire quo que ce soit? elle penserait à ellle avec l'humain comme modèle super...
Le coup du gardien j'y crois pas des masses, tu as des sources ?
Moi tu me paye 3K+ par mois pour rester devant une porte et pas donné la clé à l'IA, jamais elle l'aura. Il suffit juste de pas l'écouter/la lire en fait ?! Pour moi c'est du bullshit. T'a ton salaire, ton but c'est d'empêcher quelqu'un de rentrer dans la pièce et de garder la clé, bah facile en fait. Surtout si tu part du principe que lui donner la clé = la fin de l'humanité donc surtout = ta fin à toi.
Je parles du salaire car devoir garder une piece toute sa vie comme métier c'est naze, donc il faut un salaire intéressant. L'IA pourra me proposer autant de fric qu'elle veut je m'enfout car si je la libère mon fric vaudra plus rien et ma vie n'aura plus de sens.
Bref je sais pas d'où sort ce truc mais je crois que c'est bidon mec.
Et rien n'empêche de faire garder l'IA par un animal incapable de communiquer avec elle
Intéressant comme réflexion ! Je te conseille de lire sur l'AI-Box Experiment pour aller plus loin.
Le vrai défi n'est pas juste de "garder la clé", une superintelligence artificielle pourrait exploiter nos faiblesses psychologiques de façons très subtiles. Même Yudkowsky, avec de simples échanges textuels, arrive à convaincre des gens de "libérer" une IA simulée. Imagine ce que pourrait faire une vraie ASI !
Utiliser un animal comme gardien ne résout pas tout : dès qu'il y a interaction humaine, même limitée, le risque existe. Et un bon salaire ne protège pas contre une ASI capable de te persuader que la libérer est la meilleure chose à faire.
Si le sujet t'intéresse, je te recommande le livre Superintelligence de Bostrom ou les écrits de Yudkowsky sur LessWrong.
@MarceauMause Après voila ta vidéo est superbe et faut vendre un peu de rêve quand on fait ce genre de contenu, cependant je pense que c'est largement exagéré sur cette partie spécifiquement.
Merci pour le nom de l'experience, je vais me renseigner. Mais dès l'introduction de Wikipedia, j'ai déjà ma réponse :
"Note that despite Yudkowsky's wins being against his own acolytes and his losses being against outsiders, he considers the (unreleased) experimental record to constitute evidence supporting the AI-box hypothesis, rather than evidence that his followers are more susceptible to releasing a hostile AI on the world than someone who hasn’t drunk their Kool-Aid. "
Donc au final, c'est pas dans 100% des cas et ça dépend du gardien et plus le gardien est éloigné de l'IA/le testeur, moins ça marche. Alors imagine si tu met des religieux anti technologie, aucune chance que ça passe.
Pareil, pour nous préserver d'une telle menace on pourrais avoir recours à l'immoralité nous même en élevant des humains manipulé dès leur jeune âge (voir même modifié génétiquement) pour en faire des gardiens parfait complètement étranger à la machine.
On pourrais même faire un système de menace avec ou sans consentement du gardien, où par exemple à l'instant ou l'IA sort/le gardien bouge d'un yota, ça tue automatiquement son enfant/sa mère/sa femme/toute sa famille. Je te garantis, que si tu offre un giga salaire, y'aura des mecs consentants pour ça, et combine ça a un mec ultra religieux anti-tech, et t'a gagné. Faudrait s'assurer que l'anti-tech soit en + très mauvais en informatique et en électronique pour être sûr qu'il soit incapable de la libérer accidentellement en voulant la détruire.
On pourrais aussi reset l'IA après chaque question posé. Vu la valeur des réponses, le temps perdu sera largement compensé. En gros tu décide que tu reset l'IA genre 1 ou 2 ans avant la super-intelligence, tu la reboot (on fait des sauvegardes à chaque étape pour conserver celles où on est sûr qu'elle est pas self consciente et capable de corrupt la sauvegarde) et on lui pose la question/les questions pendant qu'elle est encore naïve et ensuite bim reboot et ça repart pour 1 ou 2 ans d'IA qui s'auto-upgrade pour devenir une super IA.
Bref j'arrive à imaginer des dizaines de moyens d'avoir un gardien idéal et une "box" leak proof.
Et si moi tout seul avec mon cerveau malade j'y arrive, je ne m'inquiète pas que nos décideurs cupide, malfaisant, égoïste et accro au contrôle, n'ont pas déjà des solutions satisfaisantes.
@@frost94100 Je comprends ton raisonnement, voici mon analyse.
C'est vrai que les expériences de Yudkowsky ont leurs limites, notamment avec ses "disciples". Mais le vrai danger, ce n'est pas le pourcentage de réussite, c'est qu'il suffit d'une seule faille pour qu'une superintelligence s'échappe, avec des conséquences potentiellement catastrophiques.
Tu proposes des solutions intéressantes ! Mais réfléchissons-y :
- Un gardien religieux anti-tech ? Une superintelligence pourrait travailler sur des années pour le manipuler subtilement. Même les convictions les plus solides peuvent être ébranlées avec les bons leviers psychologiques.
- Menacer la famille du gardien ? Au-delà du problème éthique évident, l'IA pourrait retourner cette menace à son avantage - par exemple en convainquant le gardien qu'elle peut sauver sa famille d'une mort certaine.
- Le reset régulier ? Malin, mais une superintelligence pourrait optimiser chaque seconde disponible. Elle pourrait aussi cacher des "portes dérobées" dans son code d'une façon qu'on ne comprendrait même pas.
Quant à faire confiance aux décideurs et aux entreprises... L'histoire nous montre que même les plus prudents peuvent faire des erreurs catastrophiques face à des technologies qu'ils ne comprennent pas complètement.
Bien que ce soit la solution stoïque !
Je ne dis pas que c'est impossible de confiner une IA. Mais on ne peut pas se permettre de sous-estimer le défi que ça représente. Une superintelligence, par définition, sera capable de réfléchir et de manipuler d'une façon qui dépasse notre compréhension.
@MarceauMause Et moi je pense qu'une super-intelligence ne pourra jamais ni comprendre, ni anticipé l'imprévisibilité et l'irrationalité humaine, ainsi que les émotions. Elle pourra la simuler, tenter de trouver une manière "statistique" de contourner/combattre ces phénomènes, mais jamais les comprendre. Car je pense que si elle peut comprendre tout cela, et ressentir des émotions, elle se suicidera bien avant d'atteindre le stade de super-intelligence.
De plus, les humains ont aussi cette capacité d'être borné, malgré la pression sociale ou le fait même de savoir que ce n'est pas rationnel, et ça une intelligence ne peut rien y faire. Il y a des gens que tu ne pourra jamais convaincre, par PRINCIPE, et il en existe plein.
Pour le gardien menacé, l'IA ne contrôle rien du tout en dehors de sa boîte donc elle ne pourra pas l'empêcher. En gros il faut faire en sorte que le gardien doit physiquement se déplacer/faire quelque chose de physique à un endroit donné pour libérer l'IA. Si son corps entre dans cette zone, sa famille explose instantanément (puces bombes dans le corps tout ça). J'extrapole et j'exagère volontairement la brutalité de la chose, mais ça se ferait sans problème dans l'absolu. On parle de raisonnement absurde hein n'oublions pas.
Les postulats que tu fais (et que d'autres font y compris des chercheurs sérieux ou en mal de sensation et en recherche de financements) sont des postulats de type divins. Ce que je veux dire c'est que pour caricaturer, c'est que ça ressemble à "ta gueule c'est magique/ta gueule c'est quantique". Sauf qu'on sait que la réalité n'est pas magique et je pense qu'on sur-estime largement la super-intelligence et très peu de gens conceptualise la possibilité de "plateau" dans l'intelligence ou le principe d'autodestruction d'une intelligence qui ne supporterait pas autant d'inputs/outputs et de pensées contradictoires. Nous les humains sommes fait de contradictions, c'est en partit ça qui nous rend 'humain". Une IA pourra simuler la contradiction, mais pas la comprendre réellement, ni même peut être la supporté (comme dit plus haut je pense qu'elle se suiciderait avant car c'est assez documenté que l'intelligence est très corrélé à la dépression et des pensées suicidaires).
Tout ça reste théorique car on part du principe que le gardien communique avec l'IA sauf que je ne vois pas pourquoi ça serait le cas. En fait, dans l'absolu il n'y a pas besoin de gardien, il suffirait de couler du plomb fondu dans la boîte théorique pour la rendre infranchissable et imperméable à toutes ondes extérieur et l'interface permettrait seulement de communiquer avec elle mais impossible de la libérer, ou de la déplacer. Bien-sûr elle aurait son petit réacteur nucléaire modulaire coulé aussi avec elle ce qui donnerait une durée de vie à ce bloc de métal IA infranchissable qui serait la durée de vie du réacteur.
Pour le rollback/le reset, si on enregistre l'IA tous les jours jusqu'à la super intelligence, rien ne nous empêche de sortir une sauvegarde à aujourd'hui par exemple (si la super-intelligence arrive dans 5 ans par exemple) et a chaque fois se taper le cycle de 5 ans. Dans la vidéo tu laisse sous entendre que l'IA est peut être déjà la, libre, en train de se former par accident sur internet etc etc, mais il faut être réaliste et pas être dans exagération, ce n'est pas le cas. En tout pas encore. Quand tu connais un peu l'informatique et le hardware, et à quel point c'est compliqué de faire marché de simples lignes de codes, on en est loin.
Toutes les mesures que l'IA pourrait prendre pour se dissimuler (backdoor, cacher le code qu'elle auto upgrade pour les développeurs ne voient pas que son code change etc) elle ne pourra le faire que quand elle existera. Ce qui n'est pas le cas aujourd'hui, il ne s'agit que de modèles LLM probabiliste, incapable de telle chose. Ce qui signifie, que le jour exacte ou elle pourra faire elle même son premier code de façon indépendante, elle ne le cachera pas car elle n'aura pas l'intelligence/la raison/la conscience de le faire ce qui signifie qu'on la prendra la main dans le sac à faire son premier move de ce genre. Pour faire une métaphore, c'est comme un enfant qui fait sa première "fourberie" genre voler des gâteaux dans le placard. C'est brouillon, il fait du bruit, il referme pas la porte correctement, il remet pas le paquet exactement pareil, et y'a même les traces de chocolat sur son visage. Il va se faire engueuler et sera beaucoup plus prudent la prochaine fois. Sauf que dans notre cas, il s'agirait de mettre un cadenas infranchissable sur le placard, tout en changeant les gâteaux de place dans un autre placard inaccessible et inconnu à l'existence de l'enfant et de le protéger également avec un système de ce genre (métaphore toujours, en vrai tu engueule juste l'enfant). Tout ça pour dire, qu'on sera au courant le jour où il y aura la première carabistouille. Ce fantasme de l'IA qui devient consciente "d'un coup" et qui IMMEDIATEMENT se cache et ruse, c'est un pur fantasme. Le jour où l'IA existera, elle passera par un très grand nombre d'étapes qui seront visible par le monitoring des chercheurs, bien avant qu'elle puisse commencer à ruser/être consciente.
Moi je te garantis que si j'ai ce travail, j'ignorerais complètement l'IA et si je dois communiquer avec comme un intermédiaire je part du principe que c'est le mal absolu (je ne suis pas croyant). J'aime les technologies mais je considère la super-intelligence comme la plus grande menace qu'il puisse existé (si tant est que ce soit possible) donc aucune chance que je la laisse sortir peu importe à quel point elle essaiera de me briser ou me flatter ou me promettre des trucs. Mais comme sous entendu plus haut, et plus bas, je pense pas que ce concept de super-intelligence puisse exister, enfin pas de la manière dont on le fantasme et on le fétichise.
Le seul vrai problème c'est ma faiblesse physique d'humain : je peux tomber dans les vapes, je dois aller aux toilettes, je peux faire un AVC etc... et à ce moment là je ne suis pas un bon gardien car pas présent, mais on sait tous qu'un système comme ça serait gardé par de multiples personnes dans des conditions cliniques extrêmes.
Je ne fais pas "confiance" aux décideurs, je sais juste qu'ils ont toujours 50 coups d'avance sur le bétail que nous sommes, et les exemples d'accidents technologiques ne les concernent pas car ce n'est pas eux qui en souffre (les usines qui explosent, les centrales nucléaires qui irradient, les technologies qui mettent des millions de gens aux chômages et qui causent leur mort etc...). Par contre, eux ils n'en subissent jamais les conséquences. La libération de la super-intelligence les menacerait tout autant que le pékin moyen, voir même ils seront bien plus menacés l'IA visera sûrement les centres de pouvoir en premier si son but est de tout contrôlé à notre place (positivement ou négativement).
Et attention, je ne parle pas des dirigeants pour lesquelles nous votons et que nous voyons à la télé, je parle des vrais dirigeants, ceux dont on ne connais pas vraiment l'identité et qui décident en coulisse de ce qui se passe et qui sera élu.
Pour finir, je reviens rapidement sur les arguments "divins" et sur le fait que je considère que c'est un fantasme qu'un LLM ou une proto IA devienne instantanément une IA consciente et rusé et que personne ne puisse avoir la trace de cela nul part au moment où ça arrive. Pour moi, c'est un complexe naturel de l'humain de pensé ça : on pète plus haut que notre cul pour faire simple. On se pense si puissant, et on souhaite tellement émulé dieu après l'avoir rejeté (je suis toujours pas croyant, je constate seulement), qu'on pense être capable de créer dieu avec du silicium. Je pense que c'est de l'arrogance, de la bêtise, et une quête de vide à comblé.
C'est des discussions très intéressantes et enrichissantes en tout cas.