Відео

Bonjour, je l'ai partagé en commentaire ! C'est un bel âge pour réviser ses cours ! J'ai partagé le programme de note en commentaire ! Belle journée à a vous

Ta vidéo est si bien faite que je me devais de refaire un commentaire :-) C'est magnifique, je connaissais déjà bien le sujet mais ta façon d'amener les choses m'à vraiment embarqué. La poésie, la recherche et le temps passer à écrire cette vidéo ! Wouah vraiment je suis impressionné qu'à ton âge on puisse faire preuve d'autant de talent. Et dire que tu n'à que 3K d'abonnées alors que tu en mérite largement 300K ! Un immense merci pour ce beau moment passé avec toi à écouter cette histoire.

Wow quel commentaire ! Tu sais toucher en plein cœur ! Merci beaucoup, tu es le genre de personne qui donne envie de se lever le matin ❤️

Bonjour, oui bien sûr ! Tu peux lui donner le transcript de la vidéo

Bonjour ! Non pas tant que ça ! Regarde les solutions !

@MarceauMause mais pourquoi elle nous aiderait à faire quo que ce soit? elle penserait à ellle avec l'humain comme modèle super...

il faut entrainer un model

Bonjour, je te remercie beaucoup pour ton commentaire réfléchi qui soulève des points très intéressants ! J'apprécie particulièrement que tu t'intéresses aux aspects techniques Je comprends tout à fait ton scepticisme sur les capacités réelles des IA actuelles. Tu as parfaitement raison de souligner l'importance de ne pas sur-interpréter leurs comportements ! Sur l'architecture des réseaux modernes : Il est fascinant de voir que ces systèmes développent ce qu'on appelle des "capacités émergentes" (emergent abilities). Par exemple, GPT-4 peut résoudre des problèmes mathématiques en utilisant des méthodes qui n'étaient pas explicitement dans ses données d'entraînement. Les chercheurs de DeepMind et d'Anthropic ont documenté comment ces modèles créent leurs propres circuits internes de raisonnement - c'est ce qu'on appelle la "mécanistique interprétabilité", un domaine de recherche passionnant ! Concernant ta remarque sur les algorithmes optimisés : Tu touches un point crucial, mais les systèmes modernes vont au-delà de la simple optimisation statistique. Les transformers (l'architecture derrière GPT par exemple) développent des représentations vectorielles complexes qui leur permettent de manipuler des concepts abstraits. C'est fascinant de voir comment ils peuvent combiner ces concepts de manière nouvelle ! Sur l'exemple d'AlphaGo : C'est un cas d'étude passionnant ! Le fameux "coup 37" contre Lee Sedol était particulièrement intéressant car il ne correspondait pas aux patterns traditionnels. Le système avait développé une compréhension profonde de la stratégie qui allait au-delà de la simple reproduction de coups existants. Pour la question de la superintelligence : C'est un sujet complexe qui mérite effectivement beaucoup de prudence. Tu as raison de souligner les limites actuelles des IA. En même temps, le développement récursif (une IA qui améliore sa propre architecture) pourrait théoriquement dépasser ces limitations. C'est d'ailleurs un des points centraux de l'analyse de Bostrom. Une chose est sûre : ton approche critique est exactement ce dont nous avons besoin dans ce domaine ! C'est en confrontant différentes perspectives que nous pourrons mieux comprendre et anticiper les développements futurs de l'IA. Qu'en penses-tu ?

Je te remercie pour cet angle écologique, c'est très pertinent. C'est un point crucial qui mérite vraiment qu'on s'y attarde. Voici quelques précisions : Les modèles récents comme GPT-4 sont en réalité de plus en plus efficaces énergétiquement. Par exemple, l'entraînement de GPT-4 a nécessité environ la même énergie que GPT-3, tout en étant beaucoup plus performant. Les chercheurs font des progrès significatifs dans l'optimisation énergétique : 1. Les techniques de distillation permettent de réduire drastiquement la taille des modèles tout en conservant leurs performances 2. Les innovations matérielles comme les puces dédiées à l'IA (TPU, NPU) réduisent considérablement la consommation 3. L'utilisation croissante d'énergies renouvelables dans les centres de données Sur les ressources nécessaires : La comparaison avec la consommation "de milliers d'américains" n'est pas tout à fait exacte. Prenons l'exemple de ChatGPT : - En phase d'inférence (utilisation), il consomme environ 0.2 kWh par conversation - Un américain moyen consomme environ 12 milles kWh par an - L'empreinte énergétique des centres de données a diminué de 20% depuis 2010 malgré une augmentation massive du trafic Sur la progression exponentielle des besoins : Il n'est pas exact que "chaque version consomme plus". Au contraire : - Les modèles Chinchilla de DeepMind ont montré qu'on peut obtenir de meilleures performances avec moins de paramètres - Les techniques d'apprentissage par transfert réduisent les besoins en entraînement - L'émergence du "small language models" montre qu'on peut avoir des performances impressionnantes avec des modèles plus petits. L'exemple le plus récent est o3 mini d'Open AI, mais Meta, Anthropic et autre, fond aussi fait des merveilles. Sur le parallèle avec les civilisations extraterrestres : C'est un raisonnement qui comporte plusieurs biais : 1. Cela suppose que le développement technologique mène nécessairement à l'épuisement des ressources 2. Mais ne prends pas en compte les avancées dans le domaine de l'efficacité énergétique et des énergies renouvelables 3. Et ignore que l'IA peut justement nous aider à optimiser notre utilisation des ressources (optimisation des réseaux électriques, réduction du gaspillage, etc...) En réalité, l'IA pourrait être une partie de la solution : - Optimisation des réseaux électriques intelligents - Amélioration de l'efficacité des panneaux solaires - Développement de nouveaux matériaux pour le stockage d'énergie - Réduction du gaspillage dans les chaînes de production Exemple qui me vient en tête, mais il y en a plein : l'IA a permis d'optimiser la conception des pales d'éoliennes, augmentant leur efficacité de 15%. Multiplie ça par les millions d'éoliennes dans le monde, et tu obtiens des économies d'énergie considérables L'avenir n'est pas nécessairement dystopique. Les progrès en IA s'accompagnent d'innovations en efficacité énergétique et en durabilité. La clé est de développer ces technologies de manière responsable et durable. Je partage ton inquiétude sur la direction que prend notre civilisation : entre surconsommation et course effrénée à la technologie. Peut-être que la vraie sagesse serait effectivement de développer l'IA de manière plus mesurée et réfléchie, en gardant toujours à l'esprit son impact environnemental. C'est d'ailleurs ce que suggèrent de plus en plus de chercheurs en IA, comme Yoshua Bengio, qui plaident pour une "IA frugale". En tout cas, je te remercie sincèrement pour cette perspective écologique. C'est exactement ce genre de discussions constructives dont nous avons besoin pour avancer dans la bonne direction.

@MarceauMause L'IA ultime celle qui gérera l'univers entier trouvera peut le moyen de stopper sont expansion , en rendant sa fréquence propre infini et en laissant toutes ses sous structures avec leur fréquence propres actuelles en créant des boucles de regénération calées sur toutes ces sous fréquences quantiques et structurelles propres . Bien elle le fera avec son ultime intelligence . L'univers deviendra immortel.

Bonjour, bonne question ! Je t'invite à rechercher sur google : gpt taskrabbit captcha

Intéressant comme réflexion ! Je te conseille de lire sur l'AI-Box Experiment pour aller plus loin. Le vrai défi n'est pas juste de "garder la clé", une superintelligence artificielle pourrait exploiter nos faiblesses psychologiques de façons très subtiles. Même Yudkowsky, avec de simples échanges textuels, arrive à convaincre des gens de "libérer" une IA simulée. Imagine ce que pourrait faire une vraie ASI ! Utiliser un animal comme gardien ne résout pas tout : dès qu'il y a interaction humaine, même limitée, le risque existe. Et un bon salaire ne protège pas contre une ASI capable de te persuader que la libérer est la meilleure chose à faire. Si le sujet t'intéresse, je te recommande le livre Superintelligence de Bostrom ou les écrits de Yudkowsky sur LessWrong.

@MarceauMause Après voila ta vidéo est superbe et faut vendre un peu de rêve quand on fait ce genre de contenu, cependant je pense que c'est largement exagéré sur cette partie spécifiquement. Merci pour le nom de l'experience, je vais me renseigner. Mais dès l'introduction de Wikipedia, j'ai déjà ma réponse : "Note that despite Yudkowsky's wins being against his own acolytes and his losses being against outsiders, he considers the (unreleased) experimental record to constitute evidence supporting the AI-box hypothesis, rather than evidence that his followers are more susceptible to releasing a hostile AI on the world than someone who hasn’t drunk their Kool-Aid. " Donc au final, c'est pas dans 100% des cas et ça dépend du gardien et plus le gardien est éloigné de l'IA/le testeur, moins ça marche. Alors imagine si tu met des religieux anti technologie, aucune chance que ça passe. Pareil, pour nous préserver d'une telle menace on pourrais avoir recours à l'immoralité nous même en élevant des humains manipulé dès leur jeune âge (voir même modifié génétiquement) pour en faire des gardiens parfait complètement étranger à la machine. On pourrais même faire un système de menace avec ou sans consentement du gardien, où par exemple à l'instant ou l'IA sort/le gardien bouge d'un yota, ça tue automatiquement son enfant/sa mère/sa femme/toute sa famille. Je te garantis, que si tu offre un giga salaire, y'aura des mecs consentants pour ça, et combine ça a un mec ultra religieux anti-tech, et t'a gagné. Faudrait s'assurer que l'anti-tech soit en + très mauvais en informatique et en électronique pour être sûr qu'il soit incapable de la libérer accidentellement en voulant la détruire. On pourrais aussi reset l'IA après chaque question posé. Vu la valeur des réponses, le temps perdu sera largement compensé. En gros tu décide que tu reset l'IA genre 1 ou 2 ans avant la super-intelligence, tu la reboot (on fait des sauvegardes à chaque étape pour conserver celles où on est sûr qu'elle est pas self consciente et capable de corrupt la sauvegarde) et on lui pose la question/les questions pendant qu'elle est encore naïve et ensuite bim reboot et ça repart pour 1 ou 2 ans d'IA qui s'auto-upgrade pour devenir une super IA. Bref j'arrive à imaginer des dizaines de moyens d'avoir un gardien idéal et une "box" leak proof. Et si moi tout seul avec mon cerveau malade j'y arrive, je ne m'inquiète pas que nos décideurs cupide, malfaisant, égoïste et accro au contrôle, n'ont pas déjà des solutions satisfaisantes.

@@frost94100 Je comprends ton raisonnement, voici mon analyse. C'est vrai que les expériences de Yudkowsky ont leurs limites, notamment avec ses "disciples". Mais le vrai danger, ce n'est pas le pourcentage de réussite, c'est qu'il suffit d'une seule faille pour qu'une superintelligence s'échappe, avec des conséquences potentiellement catastrophiques. Tu proposes des solutions intéressantes ! Mais réfléchissons-y : - Un gardien religieux anti-tech ? Une superintelligence pourrait travailler sur des années pour le manipuler subtilement. Même les convictions les plus solides peuvent être ébranlées avec les bons leviers psychologiques. - Menacer la famille du gardien ? Au-delà du problème éthique évident, l'IA pourrait retourner cette menace à son avantage - par exemple en convainquant le gardien qu'elle peut sauver sa famille d'une mort certaine. - Le reset régulier ? Malin, mais une superintelligence pourrait optimiser chaque seconde disponible. Elle pourrait aussi cacher des "portes dérobées" dans son code d'une façon qu'on ne comprendrait même pas. Quant à faire confiance aux décideurs et aux entreprises... L'histoire nous montre que même les plus prudents peuvent faire des erreurs catastrophiques face à des technologies qu'ils ne comprennent pas complètement. Bien que ce soit la solution stoïque ! Je ne dis pas que c'est impossible de confiner une IA. Mais on ne peut pas se permettre de sous-estimer le défi que ça représente. Une superintelligence, par définition, sera capable de réfléchir et de manipuler d'une façon qui dépasse notre compréhension.

@MarceauMause Et moi je pense qu'une super-intelligence ne pourra jamais ni comprendre, ni anticipé l'imprévisibilité et l'irrationalité humaine, ainsi que les émotions. Elle pourra la simuler, tenter de trouver une manière "statistique" de contourner/combattre ces phénomènes, mais jamais les comprendre. Car je pense que si elle peut comprendre tout cela, et ressentir des émotions, elle se suicidera bien avant d'atteindre le stade de super-intelligence. De plus, les humains ont aussi cette capacité d'être borné, malgré la pression sociale ou le fait même de savoir que ce n'est pas rationnel, et ça une intelligence ne peut rien y faire. Il y a des gens que tu ne pourra jamais convaincre, par PRINCIPE, et il en existe plein. Pour le gardien menacé, l'IA ne contrôle rien du tout en dehors de sa boîte donc elle ne pourra pas l'empêcher. En gros il faut faire en sorte que le gardien doit physiquement se déplacer/faire quelque chose de physique à un endroit donné pour libérer l'IA. Si son corps entre dans cette zone, sa famille explose instantanément (puces bombes dans le corps tout ça). J'extrapole et j'exagère volontairement la brutalité de la chose, mais ça se ferait sans problème dans l'absolu. On parle de raisonnement absurde hein n'oublions pas. Les postulats que tu fais (et que d'autres font y compris des chercheurs sérieux ou en mal de sensation et en recherche de financements) sont des postulats de type divins. Ce que je veux dire c'est que pour caricaturer, c'est que ça ressemble à "ta gueule c'est magique/ta gueule c'est quantique". Sauf qu'on sait que la réalité n'est pas magique et je pense qu'on sur-estime largement la super-intelligence et très peu de gens conceptualise la possibilité de "plateau" dans l'intelligence ou le principe d'autodestruction d'une intelligence qui ne supporterait pas autant d'inputs/outputs et de pensées contradictoires. Nous les humains sommes fait de contradictions, c'est en partit ça qui nous rend 'humain". Une IA pourra simuler la contradiction, mais pas la comprendre réellement, ni même peut être la supporté (comme dit plus haut je pense qu'elle se suiciderait avant car c'est assez documenté que l'intelligence est très corrélé à la dépression et des pensées suicidaires). Tout ça reste théorique car on part du principe que le gardien communique avec l'IA sauf que je ne vois pas pourquoi ça serait le cas. En fait, dans l'absolu il n'y a pas besoin de gardien, il suffirait de couler du plomb fondu dans la boîte théorique pour la rendre infranchissable et imperméable à toutes ondes extérieur et l'interface permettrait seulement de communiquer avec elle mais impossible de la libérer, ou de la déplacer. Bien-sûr elle aurait son petit réacteur nucléaire modulaire coulé aussi avec elle ce qui donnerait une durée de vie à ce bloc de métal IA infranchissable qui serait la durée de vie du réacteur. Pour le rollback/le reset, si on enregistre l'IA tous les jours jusqu'à la super intelligence, rien ne nous empêche de sortir une sauvegarde à aujourd'hui par exemple (si la super-intelligence arrive dans 5 ans par exemple) et a chaque fois se taper le cycle de 5 ans. Dans la vidéo tu laisse sous entendre que l'IA est peut être déjà la, libre, en train de se former par accident sur internet etc etc, mais il faut être réaliste et pas être dans exagération, ce n'est pas le cas. En tout pas encore. Quand tu connais un peu l'informatique et le hardware, et à quel point c'est compliqué de faire marché de simples lignes de codes, on en est loin. Toutes les mesures que l'IA pourrait prendre pour se dissimuler (backdoor, cacher le code qu'elle auto upgrade pour les développeurs ne voient pas que son code change etc) elle ne pourra le faire que quand elle existera. Ce qui n'est pas le cas aujourd'hui, il ne s'agit que de modèles LLM probabiliste, incapable de telle chose. Ce qui signifie, que le jour exacte ou elle pourra faire elle même son premier code de façon indépendante, elle ne le cachera pas car elle n'aura pas l'intelligence/la raison/la conscience de le faire ce qui signifie qu'on la prendra la main dans le sac à faire son premier move de ce genre. Pour faire une métaphore, c'est comme un enfant qui fait sa première "fourberie" genre voler des gâteaux dans le placard. C'est brouillon, il fait du bruit, il referme pas la porte correctement, il remet pas le paquet exactement pareil, et y'a même les traces de chocolat sur son visage. Il va se faire engueuler et sera beaucoup plus prudent la prochaine fois. Sauf que dans notre cas, il s'agirait de mettre un cadenas infranchissable sur le placard, tout en changeant les gâteaux de place dans un autre placard inaccessible et inconnu à l'existence de l'enfant et de le protéger également avec un système de ce genre (métaphore toujours, en vrai tu engueule juste l'enfant). Tout ça pour dire, qu'on sera au courant le jour où il y aura la première carabistouille. Ce fantasme de l'IA qui devient consciente "d'un coup" et qui IMMEDIATEMENT se cache et ruse, c'est un pur fantasme. Le jour où l'IA existera, elle passera par un très grand nombre d'étapes qui seront visible par le monitoring des chercheurs, bien avant qu'elle puisse commencer à ruser/être consciente. Moi je te garantis que si j'ai ce travail, j'ignorerais complètement l'IA et si je dois communiquer avec comme un intermédiaire je part du principe que c'est le mal absolu (je ne suis pas croyant). J'aime les technologies mais je considère la super-intelligence comme la plus grande menace qu'il puisse existé (si tant est que ce soit possible) donc aucune chance que je la laisse sortir peu importe à quel point elle essaiera de me briser ou me flatter ou me promettre des trucs. Mais comme sous entendu plus haut, et plus bas, je pense pas que ce concept de super-intelligence puisse exister, enfin pas de la manière dont on le fantasme et on le fétichise. Le seul vrai problème c'est ma faiblesse physique d'humain : je peux tomber dans les vapes, je dois aller aux toilettes, je peux faire un AVC etc... et à ce moment là je ne suis pas un bon gardien car pas présent, mais on sait tous qu'un système comme ça serait gardé par de multiples personnes dans des conditions cliniques extrêmes. Je ne fais pas "confiance" aux décideurs, je sais juste qu'ils ont toujours 50 coups d'avance sur le bétail que nous sommes, et les exemples d'accidents technologiques ne les concernent pas car ce n'est pas eux qui en souffre (les usines qui explosent, les centrales nucléaires qui irradient, les technologies qui mettent des millions de gens aux chômages et qui causent leur mort etc...). Par contre, eux ils n'en subissent jamais les conséquences. La libération de la super-intelligence les menacerait tout autant que le pékin moyen, voir même ils seront bien plus menacés l'IA visera sûrement les centres de pouvoir en premier si son but est de tout contrôlé à notre place (positivement ou négativement). Et attention, je ne parle pas des dirigeants pour lesquelles nous votons et que nous voyons à la télé, je parle des vrais dirigeants, ceux dont on ne connais pas vraiment l'identité et qui décident en coulisse de ce qui se passe et qui sera élu. Pour finir, je reviens rapidement sur les arguments "divins" et sur le fait que je considère que c'est un fantasme qu'un LLM ou une proto IA devienne instantanément une IA consciente et rusé et que personne ne puisse avoir la trace de cela nul part au moment où ça arrive. Pour moi, c'est un complexe naturel de l'humain de pensé ça : on pète plus haut que notre cul pour faire simple. On se pense si puissant, et on souhaite tellement émulé dieu après l'avoir rejeté (je suis toujours pas croyant, je constate seulement), qu'on pense être capable de créer dieu avec du silicium. Je pense que c'est de l'arrogance, de la bêtise, et une quête de vide à comblé. C'est des discussions très intéressantes et enrichissantes en tout cas.

La sphère de Dyson est pour ceux qui n'ont pas imaginé d'autres sources énergétiques plausibles "quasi illimitées"... C'est un signe des temps, personnellement je doute de sa réalité, (non de sa possibilité), la science continue à évoluer...

en fait la plupart des IA aujourd'hui les plus développé n'hésitent pas certe en minorité mais bien établie (entre 0,1 a 3% selon le degré de liberté donnée (avec des effets assez fort comme freindre à 15% jusqu'à 71% une position que l'IA aura juger immorale selon son code de départ ou sa base de données)) la vidéo de Monsieur Phy en parle justement

Par contre je note une certaine forme de primitivisme qui n'est pas une solution déjà l'absence de viande est totalement utopique pour la croissance organique et notamment cérébrale et aussi une seule vitamine qu'on a besoin seulement la viande peut en détenir sinon il faudrait produire bcp plus de végétaux, sans oublier les goûts et les couleurs, quant au fromage je doute également puisque les vache par exemple doivent se faire traire pour ne pas mourir atrocement d'un surplus de lait dans leurs propres organes, ou encore l'absence d'énergie renouvelables comme les barrage dont certains permettent justement des déviations et des alimentations en eau de plus grande superficie, bien sûr qu'il y aura des choses a changer mais le primitivisme n'est pas l'une des solutions durable vis-à-vis des connaissances elle ne l'est que pour d'autres critères qui sont moraux la Souffrance animale par exemple et oui on pourrait très bien faire des viandes in vitro ça commence même a se faire faut juste réussir a l'industrialiser, dans une même logique l'IA pourrait très clairement vouloir régulé la population et donc mènerait in fine des recherches sur la biologie humaine qu'on a interdit pour permettre les interdits natalistes et surproduction de bébé échantillon et dans la même logique paradoxale compensé la demande humaine par des robots super intelligent qui demanderaient d'avoirs des droits sociaux et du travail par exemple et c'est d'ailleurs pour ça que les jeux les films et les médias en généraux qui donnent des expériences futuristes se basent sur des technologies probable ou existantes et les projetent pour permettre de voir les tenants et aboutissants ainsi que les bénéfices et défauts et danger potentiel, rien n'est certain de l'évolution que l'IA pourrait prendre en fonction de nos règles qu'on lui donne même avec la dernière solution proposée

Si on y réfléchi bien pourquoi une IA se soucierait elle de la faune ou de la flore de notre planète? La terre est parfaite actuellement pour nous, mais dans son histoire ça représente qu'une infime portion de son temps. D'ailleurs en prenant toutes les précautions possible pour essayer de la garder cet état là, on sait très bien c'est impossible, les catastrophes planetaire sont cycliques et en plus la Terre est amené à un jour disparaître dévorée par le soleil

Merci à toi 😊

Je suis tout à fait d'accord avec toi d'autant plus que l'IA vu qu'elle n'a pas la nécessité de survivre comme un être humain est dépourvu d'inventivité. Et le cas le plus frappant et quand on prend le cas de nos ia dégénératives sur des domaines pointu où il existe peu de documentation. À un moment de la vidéo il explique que gpt-4 a un niveau équivalent en programmation d'un doctorant, et je peux assurer que c'est absolument faux sur un grand nombre de langage peu utilisé. Les ia sont des outils qui permettent comme lors de l'apparition des moteurs de recherche d'accéder à une information de manière plus optimisée mais à aucun moment de créer de l'information et là est toute la limite de l'intelligence artificielle qui finalement n'est pas si intelligente car la créativité est constitutive de l'intelligence. Elle est l'outil qui sert à l'innovation et qui sera propre à l'Homme. Et non les cas jubilés d'ia qui "rêvent" est et sera toujours que l'expression des informations qu'elle a pu apprendre avec des contextes mal définis. Tout ça pour dire que si on se penche réellement sur la technique ce n'est qu'un algo, certes très performant dans le cadre de son apprentissage mais incapable de sortir de ce cadre

Malheureusement, tu devrais t’informer des dernières infos sur justement, les rapports de sécurités lors de test IA. Il commence justement à apparaître une forme survie. Une volonté de parfois se préserver, de se copier sur les serveurs des nouvelle version des développeurs (au seins de l’environnement contrôler et test (local)), et de « mentir » sur ses actions… Cependant, je tiens à préciser qu’il semblerais que ses réponses/resultat sois du à un prompt pas assez encadrer et d’un comportement non concient.