Bonjour Science4all, je voulais simplement te remercier pour tout ce que tu fais pour vulgariser les mathématiques et les rendre accessible gratuitement a qui veux s'instruire. Tu change le monde a ton niveau et pour ça je te dis un grand Bravo !!
L'IA nous gouverne déjà. Je suis tout à fait d'accord avec cette thèse et ta vidéo l'explique très bien à travers tes deux exemples conséquentialistes: l'IA des news feed de Facebook peut influencer notre mood (et donc pourquoi pas nos humeurs de consommation?) tandis que l'algorithme de UA-cam peut influencer jusqu'à nos opinions, nos centres d'intérêts, notre personnalité voir même nos projets de vie. Très bon travail encore une fois Lê. Pour ta question du bouton qui pousserait l'IA à "promouvoir les vidéos intelligentes et raisonnées, et à moins partager celles qui poussent à la haine, et aux théories conspirationnistes." eh bien je tique un peu sur la formulation car elle oppose "vidéos intelligentes et raisonnées" aux "théories conspirationnistes". On peut avoir les deux en même temps: certaines théories conspirationnistes ce sont avérées vraies (bien sûr très peu en proportion vu l'inquiétante masse de théories farfelues, mais les sujets sont parfois très importants avec des conséquences graves). Par exemple, l'affaire du mensonge sur les preuves d'armes biologiques utilisées par Sadam Hussein, relayé par le secrétaire d'Etat américain Colin Powell en 2003, pour finir de convaincre les états du monde d'intervenir en Irak. Dix ans plus tard Colin Powell s'excuse publiquement pour ce mensonge d'espionnage dont il a lui aussi été victime. Théorie conspirationnistes n'est pas toujours synonyme de théories fausses, tout autant que les théories comme "La Terre est plate" sont a séparer des théories comme "Il y a eu un complot de manipulation de l'opinion pour faire la guerre en Irak", les deux étaient considérées comme théories conspirationnistes il y a 15 ans, mais le niveau de rationalité des 2 est bien différent. Tant qu'il y aura des services secrets, il y aura au moins des complots de type sociale et politique, c'est leur raison d'être. Bref je pense qu'une formulation comme "promouvoir les vidéos intelligentes et raisonnées, et à moins partager celles qui poussent à la haine, et aux théories conspirationnistes irrationnelles." aurait été plus précise ;) Mais vraiment ce n'est qu'un tout petit détail dans un océan d'informations intéressantes, et je suis conscient que je m'éloigne de l'essentiel de cette vidéo, il est évident que purifier UA-cam de la déraison serait profitable pour l'humanité, mais c'est aussi pour cela que nous devons bien définir ce qui est 'déraisonnable'.
merci de reconnaître la dangerosité potentielle des IA. L'évolution ultrarapide des IA m'inquiète énormément car je ne crois pas que les créateurs de ces IA souhaitent fondamentalement le bien des gens, et je pense aussi que même si c'était le cas, certaines choses peuvent rapidement dégénérer, potentiellement. Je ne pense pas que l'humain soit prêt à affronter les conséquences de tout ça et j'attendrai le jour où on nous dira "on vous l'avait dit".
Tes séries sont supers ! C'est le parfait équilibre entre vulgarisation et maths de haute voltige :p J'espère que la prochaine sera sur le chiffrement !
Merci pour ce travail. Pour ce qui est du bouquin de Nick, superintelligence, je l'ai lu, c'est très intéressant et je pense que tous nos politiques devraient le lire. Gouverner, c'est prévoir ! Anticipation ! C'est une époque particulièrement critique que nous vivons là pour l'humanité toute entière.
Je fais bien d'avoir un compte uniquement pour regarder de la vulgarisation ! Comme ça UA-cam me propose que des vidéos avec une très bonne qualité analytique ;)
Et ça me fait d'autant plus plaisir, crois moi ^^ Malgré les thèmes et les théories traités, ses vidéos arrivent à avoir une très grande portée, c'est peut-être ça savoir susciter la curiosité ? ;)
Merci pour cette vidéo délicieuse! Votre chaîne m'a été recommandée par Christophe Michel de la chaîne Hygiène Mentale dans une de ses vidéos... Il était temps que je vous découvre, et je me suis abonné. Merci pour votre excellent travail!
En psychologie expérimentale, des lois relationnelles ont bien été identifié : la soumission a l'autorité, le biais de conformisme, l'adhésion aux fonctions liés au rôle attribué, la diffusion de la responsabilité... En ce sens, l'influence de l'IA (l’interaction humain-machine) ne diffère pas de l'influence du groupe (l’interaction humain-humain), elle représente simplement un outil de promotion et de propagande plus puissant que les précédents. En saturant subtilement l'esprit (les capacités attentionnelles) de l'individu, celui-ci en vient à s'identifier au contenu sans procéder à des vérifications (mais nous avons la zététique pour nous aider). Tout ça me rappel la novlangue du roman 1984, c'est à dire : il est impossible de s'opposer au système si nous n'avons plus les mots pour décrire le désir d'opposition.
_"la soumission a l'autorité"_ ... fut testée avec éclat bien avant 1967. Or elle n'a été refaite depuis que dans le cadre de *spectacles* (en général télévisés) aussi préparés que des matchs de catch : il faut attirer le public en caressant ses préjugés dans le sens du poil. Je n'ai pour ma part guère l'impression que nos jeunes de banlieue soient très soumis à l'autorité. Dans le domaine, c'est plutôt le vide qui pose problème que le trop-plein.
"Pouvoir ne pas vieillir". J'aurais tendance à dire oui, mais pas dans la configuration actuelle des choses. Et non, parce qu'il faut bien laisser sa place. Merci pour toutes tes vidéos!!!
Bravo pour tes vidéos, toujours passionnantes. Stephen Hawking déclarait en 2014 que l'IA pouvait être la pire ou la meilleure des choses. En tant que monsieur-tout-le-monde, je pense que l'IA est comme l'arme atomique, elle n'est ni bonne ni mauvaise, elle dépend de ce que l'on en fait. Mais le pire n'est pas à exclure surtout montée sur un robot tueur autonome. Je veux juste rappeler qu'en 1945 les USA n'avaient aucune raison tactique de lâcher deux bombes A sur le Japon. L'empereur Hiro-Hito était prêt à capituler (cf. les mémoires du Général Eisenhower) moyennant des conditions purement symboliques. Il fallait juste lui donner quelques jours pour qu'il ne perde pas la face. Mais le président Truman en parfaite connaissance de cause et visant la domination totale sur le reste du monde, a choisi délibérément de rejeter la plus petite condition de bombarder deux fois le Japon. Retour sur expérience : il ne faut pas omettre dans ces "jeux" de pouvoir l'addiction très humaine et très forte qui est celle de la domination. Nous sommes avant tout des mammifères. Cette addiction, institutionnalisée, va fatalement orienter les développements de l'IA. Mais j'ai confiance dans la nature humaine pour trouver des contre pouvoirs à la portée de tous, comme des guêpes tueuses ou ce genre de chose. Mon opinion est qu'après un peu de casse (l'homme aime expérimenter), on arrivera à un équilibre de la terreur, mais entre "le peuple" et "les gouvernants".
6:20 : plus que un coût minime, ça pourrait leur rapporté beaucoup : si les gents sont de meilleur humeur après consulté facebook, il est probable qu'il y aillent plus souvent.
Bravo pour cette vidéo, et pour la série intelligence artificielle! Sur ce sujet, il y a une partie des IA que je trouve encore plus inquiétantes que les IA youtube et Facebook, qui peuvent influencer nos idées et humeurs: ce sont les IA connectées aux marchés financiers et aux bourses d'échange : ces IA ont pour unique objectif de maximiser les profits, et elles peuvent avoir un impact gigantesque sur les vies humaines: détruire des emplois, des sociétés, des pays peut être... Est-ce qu'on peut intégrer une morale à ces IA?
Est ce que dans le transhumanisme l'ia possède un contrôle ? Est il possible d'augmenter notre puissance de calcul de notre cerveau grâce à des ia adaptatives?
Un 2è com pour le référencement Oui, je pense que la morale des IAs est importante, étant donné qu'elles auront plus d'impact sur nos vies dans le futur, mais je pense que ce n'est pas un gros problème, étant donné qu'on a du et qu'on doit se débrouiller avec des humains qui ne sont pas toujours des anges.
Le début de ta vidéo me fait penser à un truc. On y voit un article sur fond bleu, or usuellement les articles ou autres fichiers de type pdf sont sur fond blanc mais je pense que rajouter un fond coloré rendrait la lecture beaucoup plus agréable ! Quelqu'un sait si il y a un logiciel pour ça?
Est ce que tu connais Isaac Arthur ? C'est un anglophone qui a une chaîne sur le futurisme où il discute de plein de sujets: transhumanisme, technologies spatiales, etc. Ce mec a vraiment un savoir encyclopédique sur ces sujets et est vraiment passionnant à écouter. Il a des vidéos extrêmement bien faites. C'est une des mes chaînes youtube préférées, je recommande à mort.
Ce que j'aime c'est découvrir de nouveaux concepts et connaissance mais ce que je déteste c'est qu'on me dise ce qui est bien ou mal. Ça fait peur la pensée unique, surtout avec l'IA a son service.
Tu penses que c'est possible que la recherche sur l'IA soit ralentie volontairement le temps de résoudre le problème de la morale des IA ou au contraire celle-ci s'imposera d'elle même alors qu'on aura pas eu le temps de finir de se poser la question?
A mon avis c'est totalement impossible à cause des répercussions économiques : on le voit bien avec l'écologie, on continue de polluer alors qu'il est "avéré" que c'est dangereux... alors le développement des IA ne va pas être ralenti pour des "possibles" risques
si on considère que l'IA va effectivement devenir primordiale dans le monde de demain, cela m'étonnerais fortement que l'humain soit raisonné. Il n'y a qu'à voir le cas de l’électricité, du nucléaire, etc. Des que l'on met un jouet attrayant dans la main d'un enfant il va jouer sans se soucier si cela peut lui etre nuisible. A l'exception que l'enfant veuille juste jouer et les adultes faire du profit le plus rapidement possible.
Je pense qu’il faut vraiment ralentir la recherche sur l’IA pour se laisser un peu de temps. Et c’est possible, ça passe juste par des décisions politiques, des investissements qui vont vers une chose plutôt qu’une autre.
Facile, tu cliques sur "pas intéressé" et tu bloques le créateur de vidéos. C'est tellement salvateur, j'en pouvais plus de voir la tête de con de squeezie.
Pour revenir sur la quantification de l'altruisme, ça suppose en un sens que l'apport d'un agent est indépendant de celui des autres. Or dans les jeux de congestion par exemple, genre le trafic routier, l'impact d'un joueur dépend de autres joueurs. Si 100 conducteurs décide de prendre un chemin plus altruiste, c'est plus que 100 fois mieux qu'un conducteur qui prend ce même chemin.
Je bois du petit lait en regardant ce grand Lê. Gratitude envers ton travail et grand merci pour toutes les références extérieures que tu nous donnes, je vais creuser Rationally Speaking, je vois qu'il y a un épisode sur le QI. Tu enchantes mon UA-cam, gredin !
Frédéric Garcia J'ai besoin de la confirmation que vous savez ce qu'est un gredin ou bien qu'une virgule "malheureuse" c'est glissée dans votre message. Merci
Est-ce l'IA de FB qui oriente l'humeur des usagers ou est-ce le PDG via le conseil d'administration via les orientations politiques du gouvernement Étatsuniens via les techniciens et programmateurs de Facebook ? Pour ma part, parler d'une IA renvoie à une intelligence ayant un minima d'autonomie ou d'indépendance. Donc soit c'est une IA +/- élaborée qui peut choisir et décider d'améliorer l'humeur des usagers... soit c'est les choix du concepteur et de son conseil d'administration et de son éventuel - dépendance ou tutelle - d'un gouvernement.... pour orienter et MANIPULER dans le sens du vent les usagers. bravo pour la vidéo, je découvre le concept de "consequentialisme". Concernant le choix moral... la morale d'une époque peut différer d'une autre. Par exemple, le libertinage était à une époque immoral, danser le rock était immoral, peindre ou réaliser des photos de nu pouvait être immoral, sauf dans un cadre définit par la "morale de l'époque" justement. etc. ( à tort ou à raison) Aujourd'hui, certains utilisent la notion de "morale" pour aller faire la guerre en pays voisin afin de "délivrer" le peuple malheureux d'un méchant gouvernant immoral. Bien sûr la moral des uns diffèrera de la morale des autres.... comme les Gentils Américains qui au nom de l'axe du Bien sont allés faire la guerre dans un pays qui serait dans... l'axe du mal ! Dés lors, je me demande si utiliser la notion de morale (le bien face à un mal) peut-elle servir de référence dans une action ? cela nous amènerait à envisager un notion plus élaborée comme celle de la Spiritualité et d'avoir des "valeurs" ou des connaissances dîtes Spirituelles pour pouvoir agir à un niveau, qui serait pour le coup, au-dessus de la notion morale où chacun voit le bien selon ce qu'il considère le "mal" ? qu'en pensez-vous ? Concernant le paradoxe de Fermi... il n'aurait, de mon point de vue, qu'une valeur de réflexion philosophique ou intellecturelle. En effet, toutes les personnes objectives et ouvertes peut accepter les témoignages Ovnis d'ici et d'ailleurs, les tracçs de nazca, les scuptures qui ressemblent beaucoup trop à des scaphandres, des ovnis sur des peintures... et des masses de pierres taillées au millimètre prés puis assemblées pour réaliser des batiments. etc. Ainsi le paradoxe de Fermi sur l'existence des civilisations stellaires a une base de questionnement erronée ou faussée... les Stellaires SONT déjà là ou ont été - trés probablement - à l'origine de notre humanité. Peut-être nous sommes les descendants et survivants de premiers colons de la planètes appelée Terre. re, qu'en pensez-vous ? Amitié, (ma chaîne : ua-cam.com/users/michelull)
La solution du paradoxe de Fermi a deux gros problèmes : 1 - Il faudrait qu'absolument toutes les civilisations suivent ce chemin (il suffit d'un "traître" de la doctrine dans la voie lactée pour qu'il colonise la galaxie) 2 - De l'énergie se dépense "toute seule" en ce moment. Collecter l'énergie que les étoiles dissipent n'aurait aucun inconvénient en "quantité de calcul total". (Si ça intéresse qqn, Isaac Arthur détaille beaucoup ce genre de réflexions)
C est pas le bouton "partager cette video" ce fameux bouton ? Parce que j ai déjà appuyé et le coût était plutôt petit donc ma réponse est un peu biaisée ..
Un fort biais de raisonnement dans ton calcul de ressources est de supposé que la ressource R est une donnée constante. Or, ce n'est souvent pas le cas. En particulier, parce que la motivation des individu n'est pas la même suivant les individus et les thèmes. SI l'objectif est, par exemple, le véganisme, si on propose de choisir le mieux entre C1, "la lutte contre la corrida", C2, "la lutte contre les abattoirs", C3 "le développement de substituts à la viande",C4, les foyers pour animaux domestiques abandonnés, etc. la réponse n'est c'est certainement pas "le meilleurs de ceux-ci" et de laisser tomber tout le reste: vous perdriez 90% des ressources engagées sur le sujet, dans ses différents aspects, chacun pour ses raisons, dans les domaines qui les motivent, ou qui leurs sont accessible en pratique... Donc au contraire, multiplier les directions augmente R et donc l'effet sur l'objectif.
Moi évidemment que j'appuie sur le bouton. Ça m'arrive régulièrement que UA-cam me propose une nouvelle chaîne de vulgarisation, et c'est à chaque fois un plaisir de dévorer les vidéos du créateur. Le soucis c'est que après avoir vu toute sa chaîne, UA-cam met énormément de temps avant de me reproposer une nouvelle chaîne de vulgarisation. Parfois je me dis même, à tort, que j'ai peut-être vu toutes les vidéos de qualité sur de la vulgarisation tellement UA-cam ne me propose pas ce que je veux
En fait, j'ai l'impression que tout cela n'est qu'un problème de "nostalgie" des humains : nous essayons de faire un monde avec une IA pour faire tout ce qui a une influence négative sur nous, sans "trop" changer notre mode général de vie. Alors qu'en vérité ce qu'individuellement est le plaisir, et dans ce cas là, qu'est-ce qui nous fait dire que ton scénario d'être tous sous drogue "du bonheur" est une dystopie ? L'impression de fatuité ? de nostalgie ? (j ecris ca d un jet, je dois encore mediter cela)
Qu'est-ce qui se passerait si un défenseur d'une" théorie bizarre" appuyait sur le bouton...? L'IA peut si facilement détruire l'esprit critique et la pensée libre, en nous faisant croire que ses choix sont en fait les notres, ça fait froid dans le dos.
Quand tu dis que promouvoir les posts positifs pour Facebook a un cout negligeable, est-ce que ca ne va pas a l’encontre du fait qu’une newsfeed moins personnalisee (i.e. neutre) a un cout significatif en terme d’experience utilisateur pour Facebook ?
Je pqense qu'il voulait dire que ça coûte pas grand-chose à facebook de changer légèrement l'algorithme, mais que par contre ça a des grandes conséquences pour l'utilisateur
Est-ce que le problème avec le conséquentialisme c'est qu'un des problèmes de notre monde c'est que l'on utilise trop de ressources. Or, si on réfléchit à comment utiliser une ressource au mieux, le résultat serait que l'on va encore plus dépenser cette ressource. Il faudrait plutôt réfléchir à comment utiliser au miminum les ressources.
Coucou Lê, penses tu qu'un jour les IA pourront faire des découvertes à la Einstein, en physics en maths etc... Avec le coté exponentiel de l'IA ou même la collaboration entre IA, penses tu que les IA nous devançeront sur ce niveau là ? L'IA qui réfléchi finalement ?
D'après ce podcast c'est non seulement déjà le cas... C'est même un problème "facile" (en tout cas pour Navier-Stokes et des EDP du genre) player.fm/1rySTq
Avant d'appuyer sur le bouton, comment déterminer ce qu'es une vidéo intelligente ? Comment cet IA traiterait une vidéo du nouveau youtuber ? S'il n'a pas d'antécédents serait il déclassé et repoussé dans les limbes des Playlists ? À ce moment-là ce serait le règne de chaînes '' major''. Non ?
Quand on parle de robot tueur, je pense aux cheaters sur les jeux vidéos, comme les aimbot sur les fps, et bah clairement je ne veux pas d'aimbot dans la vraie vie...
cyohg Moi non... Pour deux raisons: le net n'étant plus neutre, ça amènerait forcément d'autres démarches, commerciales, politiques ou autres... ensuite il faut avoir en tête que UA-cam comme les autres réseaux sociaux sont une mine d'or en terme d'informations sur les utilisateurs, par exemple l'utilisation par des groupes terroristes d'armes (je ne citerai pas le nom du pays) a pu être démontrée grâce à leurs publications de propagande sur UA-cam
Zoruyo : Oui, c'est vrai, mais si l'IA fait bien son job, elle empechera (ou du moins tentera d'empecher) des comportements négatifs. Je pense que si je dois choisir entre etre neutre et agir pour le bien ou pour ce que je pense etre le bien pour tous, je pense qu'en toute connaissance de cause, je vais choisir de faire le bien, meme si ça implique d'influencer les gens.
Clairement oui j'appuierais sur le bouton, car au fond, entre un algorithme qui favoriserait la qualité et l'esprit critique me semble meilleur pour la société que s'il favorise ce qu'il y a de plus populaire, donc mécaniquement qui fait le plus appel à l'émotion et donc à l'irrationalité. Je pense que se cacher derrière une prétendue impartialité ou neutralité du contenu le plus populaire n'est finalement pas plus honnête que d'influencer l'opinion des gens vers plus de rationalité. Après tout, le contenu populaire n'est pas plus neutre qu'un autre, voire plus coloré qu'un discours sceptique sur le monde. Enfin... ça n'est que mon avis personnel, ça se débat largement.
Je trouve que tu as tout à fait raison. On pourrait penser que la neutralité est plus honnêtes et qu'influencer les gens, même dans le bon sens, est de la manipulation. Mais au final, est-ce que laisser les gens penser ce qu'ils veulent n'est pas laisser l'opportunité à des personnes, avec de mauvaises intentions, manipuler ces gens dans le mauvais sens ? Autrement dit, les gens seraient quand même manipulé malgré tout. Et même sans manipulation, notre cerveau n'est pas infaillible, loin de là, et le laisser libre de penser ce qu'il veut (ce qui n'est absolument jamais vrai. Il y a toujours une influence immédiate quelque part. Et je ne parle même pas du vécu où c'est encore bien pire) est la porte ouverte vers une façon de penser qui n'est pas bonne pour les autres personnes et donc pour la société. Nous sommes bien moins libre qu'on ne le pense, donc laisser une IA nous guider dans UA-cam, si elle ne fait que nous suggérer des vidéos intéressantes, est une très bonne idée d'après mon raisonnement (qui est peut être biaisé ? C'est très possible).
En fait, ce qui me dérangerait ce serait de créer un précédent. Car en fait, c'est une forme indirecte de censure. Demain, ne me demandera t-on pas d'appuyer sur le bouton au nom d'un préjugé discriminatoire ? En ce moment en Russie, on met en prison des couples homosexuels qui se tiennent la main dans la rue car il font la "propagande" du mode de vie "gay". Pour faire simple, on les censure de l'espace publique. A ton avis, que ferait la russie si elle pouvait influencer sur l'IA de youtube ?
D'accord mais qui choisit les tags par défaut ? Dans tout les cas tu cours le risque qu'on impose une liste de tag a la majorité pour des raisons qui peuvent ou non être louable. J'ai pris l'exemple de la russie car elle fait ça pour "protéger les enfants". A ce titre, ce serait naturellement dans la liste des tags caché par défaut ...
Avoue que c'est frustrant quand tu pense avoir la bonne façon de voir les choses et que tu voudrais que tout le monde la partage alors que tu sais que tu as potentiellement tord de croire ce que tu crois (sans vraiment le savoir, évidemment). Il faut se dire que les gens qui ont décidé d'interdire que les couples homosexuels se tiennent la main croient aussi qu'ils ont raison (surtout ceux qui soutiennent sa, pour être plus précis). C'est ça le plus triste dans l'histoire. Cela dit, ici on ne parle pas d'un algorithme qui impose des vidéos aux utilisateurs, mais qui influence intelligemment en proposant du contenu de qualité (donc qui ne se base pas exclusivement sur les vues et les pouces bleus, mais sur d'autres critères qui permettraient d'évaluer la pertinence et l'intelligence d'une vidéo). Tout comme l'algorithme actuel n'interdit pas de voir des vidéos très intéressantes sur des sujets très peu connu et très peu vue, celui-ci n'interdirait pas à un utilisateur de voir des vidéos dont le contenu est pauvre en qualité. Mais bon, il influencerait quand même les gens, comme l'explique Lê avec l'algorithme de FaceBook. Ce serait d'ailleurs bien l'objectif : l'influence positive. Et comme tu le dit, c'est une forme de censure (de la censure très fourbe d'ailleurs, car difficile légalement parlant de prouver qu'un tel algorithme provoque de la censure). Par rapport à ta réflexion sur la Russie, je dirais qu'il faut utiliser un algorithme qui propose des vidéos selon des critères non basés sur des idées extrémistes. En gros, qu'il soit un minimum tolérant à des idées non "conventionnels" pour quand même proposer aux utilisateurs autre chose que des idées "normalisatrices" (parce que c'est un peu de sa dont il s'agit. Normaliser les gens à penser intelligemment … toute la question étant de savoir où est la normalité, et ne sachant pas répondre (personne ne le peut) il faut que ce soit ouvert, mais pas trop). Finalement, ça me fait penser à Hygiène Mentale et son modèle de l'esprit humain et du filtre qu'on doit tous développer pour éviter de croire à tout et n'importe quoi. Et bien là, ce serait pareil. UA-cam serait toujours ouvert à tout, mais un filtre proposerait majoritairement des vidéos pertinentes et intéressantes avec quelques brides de vidéos à la marge, qui sortent des sentiers battus.
17:11 - Il se peut que l'évolution de la vie, arrivée à un certain stade d'intelligence, tend vers son auto-destruction (pollution de l'écosystème, IA dominatrice, etc.). Si cette théorie est universelle, il serait normal que les humains ne détectent jamais, de leurs vivants, de traces de vie d'extraterrestre "intelligente" et réciproquement .
Le conséquentialisme cherche à déterminer les actions qui ont les effets les plus désirables mais ne tient pas compte de l'aspect temporel. Une action à des effets qui évoluent au cours du temps, puisque rien n'est figé, tout est impermanent. Ainsi une action qui a un effet désirable à un instant t, peut potentiellement avoir un effet indésirable à un instant t+1 et vice-versa. De plus, sur quelle critère une IA pourrait juger si une conséquence est "désirable" ou non ? En comptant des smiley sur Facebook ? Est-ce plus désirable d'avoir des "smiley" sur un réseau social déployé dans une société totalitaire (exprimant une forme de soumission), ou ne serait-ce pas mieux d'avoir justement des posts exprimant un mécontentement et donc une forme de rebellion à l'égard ? Et si vraiment on pouvait mesurer les conséquences, à quelle échelle s'arrêterait-on ? Au niveau strictement humain, étendu au règne animal voir végétal, à la planète, au système solaire, etc. ? Et que faire si on en arrivait à la conclusion que l'humain (ou l'IA d'ailleurs) a des effets indésirables sur l'ensemble ? A ce titre le conséquentialisme ne tient pas la route.
Tiens sur le sujet de l'IA aujourd'hui y'a open AI qui à annoncé avoir réussi à créer une équipe de bot capable de jouer à DotA (pas encore au niveau pro mais déjà très bon et avec une rélle cohésion d'équipe). C'est plutôt impressionnant! En particulier le fait d'avoir réussi à intégrer la coopération dans la variable d'utilité de l'IA (ce qui pour le coup laisse présager du bon pour une IA potentiellement altruiste, en tout cas plus que là où on en était jusque là =p).
Le lien pour le trailer un peu général : ua-cam.com/video/eHipy_j29Xw/v-deo.html Et celui là explique un peu mieux les compétences que les bots ont apprises en jouant : ua-cam.com/video/UZHTNBMAfAA/v-deo.html
Je suis pas convaincu que l’intérêt collectif de l'humanité soit d'augmenter son taux de natalité... (écologie... tout ça tout ça) Et puis bien sur ça dépend de ce que tu définis par "l'humanité", est ce que c'est l'intêret des humains existant actuellement? l'intêret d'une notion nébuleuse de "l'humanité"? Ce que je voulais dire par altruisme c'est que l'IA en est à un stade où elle peut commencer à considérer l'état des autres dans sa fonction d'utilité. Après bien sur ça dépend comme on définit l'autre, comment on définit l'état qu'on souhaite qu'il atteigne et quelle utilité on y assigne. Donc forcément ça résous pas les problèmes. Mais c'est déjà plutôt impressionnant.
l'avenir est donc dans des univers virtuels inclu les uns dans les autres... mais nous y sommes peut etre deja depuis la aussi peut etre quelques cycles
Intéressant mais plusieurs points :- quand tu utilises une formule avec ressource R, de quelle ressource parle-t'on? Si l'on parle du charbon, quelle valeur a cette ressource? A-t'elle la même valeur en France et en Mongolie?- ton titre est ambigü : l'IA nous gouverne, ok, mais ensuite tu nous demandes d'appuyer sur un bouton. Quand on gouverne, on ne demande pas, on impose, et ça demande une capacité à la décision. Comment une IA, aujourd'hui, demain, décide-t'elle? Pourquoi le ferait-elle? Les humains sont gouvernés par leurs besoins. Quel sont les besoin d'une IA, en dehors de l'énergie?- La formule "des groupes promouvant la haine de certains groupes sociaux" est également floue. Je vois très bien de quoi tu parles, parce que j'ai le référent, là, tout de suite, mais quelle valeur/interprétation aura ton propos dans quatre ans? Si je suis sur un réseau social qui tape joyeusement sur Macron et En marche, proclamant que c'est une vaste fumisterie et qu'il faut tout faire pour faire tomber cet escroc (on a le droit de ne pas ètre d'accord, on est d'accord), suis-je de fait un conspinazi bourré de haine qu'il faut à tout prix censurer? Hello les algos. Bref, moins de maths, plus de facts. A +
L'analyse de l'éthique des IA, celles de UA-cam ou des autres, devrait à terme être imposée au niveau européen. Plusieurs réflexions sont en cours un peu partout à ce sujet. Le problème est: où trace-t-on la ligne entre ce qui est promu et ce qui est rejeté? Pour revenir à UA-cam et les vidéos platistes, conspirationnistes etc. qui s'y trouvent, le problème n'est-il pas à résoudre par l'éducation "officielle"?
L'éducation nationale est un énorme mastodonte... Modifier quoi que ce soit requiert des ressources énormes. Et ce n'est pas même pas dit que ça aille dans le bon sens... Ça fait des décennies que des bonnes volontés s'y cassent les dents...
Et qui déciderait ce que l’IA jugerait de bonne ou mauvaise qualité ? Les faits eux‑mêmes ? Sûrement pas, mais quelqu’un ou une idéologie. Concernant la question de la tolérance au coût individuel des choses, comme il est de plus en plus évident que le citoyen moyen ne tolère aucun coût pour lui et préfère tout répercuter sur les autres (flagrant sur le web), peut‑être que le mieux serait encore de carrément remplacer les humains par des IA, ce qui arrivera peut‑être un jour.
Ce qui est marrant c'est que cette vidéo m'a été recommandée par UA-cam 🤔
EnderSpirit comme tout le monde ici
Pareil mais deux ans après 😕
Bonjour Science4all, je voulais simplement te remercier pour tout ce que tu fais pour vulgariser les mathématiques et les rendre accessible gratuitement a qui veux s'instruire. Tu change le monde a ton niveau et pour ça je te dis un grand Bravo !!
L'IA nous gouverne déjà. Je suis tout à fait d'accord avec cette thèse et ta vidéo l'explique très bien à travers tes deux exemples conséquentialistes: l'IA des news feed de Facebook peut influencer notre mood (et donc pourquoi pas nos humeurs de consommation?) tandis que l'algorithme de UA-cam peut influencer jusqu'à nos opinions, nos centres d'intérêts, notre personnalité voir même nos projets de vie. Très bon travail encore une fois Lê. Pour ta question du bouton qui pousserait l'IA à "promouvoir les vidéos intelligentes et raisonnées, et à moins partager celles qui poussent à la haine, et aux théories conspirationnistes." eh bien je tique un peu sur la formulation car elle oppose "vidéos intelligentes et raisonnées" aux "théories conspirationnistes". On peut avoir les deux en même temps: certaines théories conspirationnistes ce sont avérées vraies (bien sûr très peu en proportion vu l'inquiétante masse de théories farfelues, mais les sujets sont parfois très importants avec des conséquences graves). Par exemple, l'affaire du mensonge sur les preuves d'armes biologiques utilisées par Sadam Hussein, relayé par le secrétaire d'Etat américain Colin Powell en 2003, pour finir de convaincre les états du monde d'intervenir en Irak. Dix ans plus tard Colin Powell s'excuse publiquement pour ce mensonge d'espionnage dont il a lui aussi été victime.
Théorie conspirationnistes n'est pas toujours synonyme de théories fausses, tout autant que les théories comme "La Terre est plate" sont a séparer des théories comme "Il y a eu un complot de manipulation de l'opinion pour faire la guerre en Irak", les deux étaient considérées comme théories conspirationnistes il y a 15 ans, mais le niveau de rationalité des 2 est bien différent. Tant qu'il y aura des services secrets, il y aura au moins des complots de type sociale et politique, c'est leur raison d'être. Bref je pense qu'une formulation comme "promouvoir les vidéos intelligentes et raisonnées, et à moins partager celles qui poussent à la haine, et aux théories conspirationnistes irrationnelles." aurait été plus précise ;) Mais vraiment ce n'est qu'un tout petit détail dans un océan d'informations intéressantes, et je suis conscient que je m'éloigne de l'essentiel de cette vidéo, il est évident que purifier UA-cam de la déraison serait profitable pour l'humanité, mais c'est aussi pour cela que nous devons bien définir ce qui est 'déraisonnable'.
merci de reconnaître la dangerosité potentielle des IA. L'évolution ultrarapide des IA m'inquiète énormément car je ne crois pas que les créateurs de ces IA souhaitent fondamentalement le bien des gens, et je pense aussi que même si c'était le cas, certaines choses peuvent rapidement dégénérer, potentiellement. Je ne pense pas que l'humain soit prêt à affronter les conséquences de tout ça et j'attendrai le jour où on nous dira "on vous l'avait dit".
Je me suis abonné grâce au Doc Seven et je suis pas déçu 👍
Incroyable vidéo une fois encore !!! Chacune de tes vidéos me donne plus envie d’étudier dans le domaine de l’intelligence artificielle théorique 😊
Tes séries sont supers ! C'est le parfait équilibre entre vulgarisation et maths de haute voltige :p
J'espère que la prochaine sera sur le chiffrement !
Ce que tu dis est très captivant, superbe vidéo !
Wow! Excellentissime vidéo!!
Merci pour ce travail. Pour ce qui est du bouquin de Nick, superintelligence, je l'ai lu, c'est très intéressant et je pense que tous nos politiques devraient le lire. Gouverner, c'est prévoir ! Anticipation ! C'est une époque particulièrement critique que nous vivons là pour l'humanité toute entière.
Je fais bien d'avoir un compte uniquement pour regarder de la vulgarisation ! Comme ça UA-cam me propose que des vidéos avec une très bonne qualité analytique ;)
Super vidéo !
Nubes Gaming Battlefield Ah t'es là toi ^^ Ça fait plaisir de te voir ici, tu me rappel de bons souvenirs ;)
Hyugo ogle ouee j'adore ses vidéos ! ^^ même si mon domaine n'a rien à voir
Et ça me fait d'autant plus plaisir, crois moi ^^ Malgré les thèmes et les théories traités, ses vidéos arrivent à avoir une très grande portée, c'est peut-être ça savoir susciter la curiosité ? ;)
Super vidéo ! J'ai fait le jeu PS4 "Detroit Become Human" récemment, c'est complètement dans la thématique, j'ai pas arrêté de penser à ta série :)
Merci pour cette vidéo délicieuse! Votre chaîne m'a été recommandée par Christophe Michel de la chaîne Hygiène Mentale dans une de ses vidéos... Il était temps que je vous découvre, et je me suis abonné.
Merci pour votre excellent travail!
Hâte de te voir au Palais de la découverte! Et encore une Excellente vidéo :)
En psychologie expérimentale, des lois relationnelles ont bien été identifié : la soumission a l'autorité, le biais de conformisme, l'adhésion aux fonctions liés au rôle attribué, la diffusion de la responsabilité... En ce sens, l'influence de l'IA (l’interaction humain-machine) ne diffère pas de l'influence du groupe (l’interaction humain-humain), elle représente simplement un outil de promotion et de propagande plus puissant que les précédents. En saturant subtilement l'esprit (les capacités attentionnelles) de l'individu, celui-ci en vient à s'identifier au contenu sans procéder à des vérifications (mais nous avons la zététique pour nous aider). Tout ça me rappel la novlangue du roman 1984, c'est à dire : il est impossible de s'opposer au système si nous n'avons plus les mots pour décrire le désir d'opposition.
_"la soumission a l'autorité"_
... fut testée avec éclat bien avant 1967. Or elle n'a été refaite depuis que dans le cadre de *spectacles* (en général télévisés) aussi préparés que des matchs de catch : il faut attirer le public en caressant ses préjugés dans le sens du poil.
Je n'ai pour ma part guère l'impression que nos jeunes de banlieue soient très soumis à l'autorité. Dans le domaine, c'est plutôt le vide qui pose problème que le trop-plein.
Super vidéo Science4all tu gères !
"Pouvoir ne pas vieillir". J'aurais tendance à dire oui, mais pas dans la configuration actuelle des choses. Et non, parce qu'il faut bien laisser sa place. Merci pour toutes tes vidéos!!!
Ton travail est fantastique, tes vidéos sont top :)
Bravo pour tes vidéos, toujours passionnantes. Stephen Hawking déclarait en 2014 que l'IA pouvait être la pire ou la meilleure des choses. En tant que monsieur-tout-le-monde, je pense que l'IA est comme l'arme atomique, elle n'est ni bonne ni mauvaise, elle dépend de ce que l'on en fait. Mais le pire n'est pas à exclure surtout montée sur un robot tueur autonome. Je veux juste rappeler qu'en 1945 les USA n'avaient aucune raison tactique de lâcher deux bombes A sur le Japon. L'empereur Hiro-Hito était prêt à capituler (cf. les mémoires du Général Eisenhower) moyennant des conditions purement symboliques. Il fallait juste lui donner quelques jours pour qu'il ne perde pas la face. Mais le président Truman en parfaite connaissance de cause et visant la domination totale sur le reste du monde, a choisi délibérément de rejeter la plus petite condition de bombarder deux fois le Japon.
Retour sur expérience : il ne faut pas omettre dans ces "jeux" de pouvoir l'addiction très humaine et très forte qui est celle de la domination. Nous sommes avant tout des mammifères. Cette addiction, institutionnalisée, va fatalement orienter les développements de l'IA.
Mais j'ai confiance dans la nature humaine pour trouver des contre pouvoirs à la portée de tous, comme des guêpes tueuses ou ce genre de chose. Mon opinion est qu'après un peu de casse (l'homme aime expérimenter), on arrivera à un équilibre de la terreur, mais entre "le peuple" et "les gouvernants".
9:49 Ce moment précis est indéniablement la demande de pouce bleu la plus légendaire à laquelle j'ai pu assister.
"Idéologies extrémistes" "haine contre certain groupe sociaux"...
Ça y est il nous a sortit sa petite phrase cosmopolitiquement correct.
Dans cette thématique, Pourrais-tu faire une analyse du projet venus de Jacque Fresco ?
est ce qu'on influe sur l'algorithme en appuyant sur je ne suis pas intéressé ?
comment recueille-t-on l'énergie dans l'univers futur ??
6:20 : plus que un coût minime, ça pourrait leur rapporté beaucoup :
si les gents sont de meilleur humeur après consulté facebook, il est probable qu'il y aillent plus souvent.
Oui j'appuie sur le bouton youtube promotion de l'intelligence à 100%
@science4all que penses tu de l'IA de cycorp ?
5:28 Ne serait-ce pas simplement du mimétisme tout bête comme on le fait si bien ?
Bravo pour cette vidéo, et pour la série intelligence artificielle! Sur ce sujet, il y a une partie des IA que je trouve encore plus inquiétantes que les IA youtube et Facebook, qui peuvent influencer nos idées et humeurs: ce sont les IA connectées aux marchés financiers et aux bourses d'échange : ces IA ont pour unique objectif de maximiser les profits, et elles peuvent avoir un impact gigantesque sur les vies humaines: détruire des emplois, des sociétés, des pays peut être... Est-ce qu'on peut intégrer une morale à ces IA?
J’appuie sur le bouton !!! mille fois s'il le faut !
tes episodes font plaisir.bravo
Petite question une vie extra terrestre serait obliger d'avoir inventer les mathématiques tel que nous les connaissons pour être intelligente?
Est ce que dans le transhumanisme l'ia possède un contrôle ?
Est il possible d'augmenter notre puissance de calcul de notre cerveau grâce à des ia adaptatives?
Un 2è com pour le référencement
Oui, je pense que la morale des IAs est importante, étant donné qu'elles auront plus d'impact sur nos vies dans le futur, mais je pense que ce n'est pas un gros problème, étant donné qu'on a du et qu'on doit se débrouiller avec des humains qui ne sont pas toujours des anges.
Oui oui oui oui, c'est oui !
Magnifique, continue.
Super! on danse tous le "m'IA" ;)
Comment rester rationnel et sans émotion en toute circonstance ?
Super vidéo elle m'a même été recommandé
Très intéressant. Beau boulot.
Détail mais (5:08) ils ont choisit 155.000 utilisateurs nombre non divisible par 3 pour former 3 catégories? 🤨
Euh oui... en effet c'est bizarre. Je cite : "a total of ∼155,000 participants"
Super vidéo tu est impressionnant
Le début de ta vidéo me fait penser à un truc. On y voit un article sur fond bleu, or usuellement les articles ou autres fichiers de type pdf sont sur fond blanc mais je pense que rajouter un fond coloré rendrait la lecture beaucoup plus agréable ! Quelqu'un sait si il y a un logiciel pour ça?
Est ce que tu connais Isaac Arthur ? C'est un anglophone qui a une chaîne sur le futurisme où il discute de plein de sujets: transhumanisme, technologies spatiales, etc. Ce mec a vraiment un savoir encyclopédique sur ces sujets et est vraiment passionnant à écouter. Il a des vidéos extrêmement bien faites. C'est une des mes chaînes youtube préférées, je recommande à mort.
Ce que j'aime c'est découvrir de nouveaux concepts et connaissance mais ce que je déteste c'est qu'on me dise ce qui est bien ou mal. Ça fait peur la pensée unique, surtout avec l'IA a son service.
Tu penses que c'est possible que la recherche sur l'IA soit ralentie volontairement le temps de résoudre le problème de la morale des IA ou au contraire celle-ci s'imposera d'elle même alors qu'on aura pas eu le temps de finir de se poser la question?
Je pense pour le manque de temps...
il est déjà trop tard de toute façon, et même ça serai impossible
A mon avis c'est totalement impossible à cause des répercussions économiques : on le voit bien avec l'écologie, on continue de polluer alors qu'il est "avéré" que c'est dangereux... alors le développement des IA ne va pas être ralenti pour des "possibles" risques
si on considère que l'IA va effectivement devenir primordiale dans le monde de demain, cela m'étonnerais fortement que l'humain soit raisonné. Il n'y a qu'à voir le cas de l’électricité, du nucléaire, etc. Des que l'on met un jouet attrayant dans la main d'un enfant il va jouer sans se soucier si cela peut lui etre nuisible. A l'exception que l'enfant veuille juste jouer et les adultes faire du profit le plus rapidement possible.
Je pense qu’il faut vraiment ralentir la recherche sur l’IA pour se laisser un peu de temps.
Et c’est possible, ça passe juste par des décisions politiques, des investissements qui vont vers une chose plutôt qu’une autre.
Dans 5 ans, je vais plus loin que toi, j'en suis carrément persuadé ! 😁
J'ai appuyé sur le bouton avant que tu pose la question ^_^
Et toi, tu n'as pas envie de te lancer dans cette quête fabuleuse? Tu as déjà cassé la baraque avec le scrutin de Condorcet randomisé
Dire que ta vidéo m'a été suggérée par une ia...
Ptn je comprend rien mais c'est trop intéressant superbe vidéo
j'appuierais de ouf, j'en ai un eu marre des vidéos du Raptor dans mes suggestions xD
Facile, tu cliques sur "pas intéressé" et tu bloques le créateur de vidéos. C'est tellement salvateur, j'en pouvais plus de voir la tête de con de squeezie.
Pour revenir sur la quantification de l'altruisme, ça suppose en un sens que l'apport d'un agent est indépendant de celui des autres. Or dans les jeux de congestion par exemple, genre le trafic routier, l'impact d'un joueur dépend de autres joueurs. Si 100 conducteurs décide de prendre un chemin plus altruiste, c'est plus que 100 fois mieux qu'un conducteur qui prend ce même chemin.
Je bois du petit lait en regardant ce grand Lê. Gratitude envers ton travail et grand merci pour toutes les références extérieures que tu nous donnes, je vais creuser Rationally Speaking, je vois qu'il y a un épisode sur le QI. Tu enchantes mon UA-cam, gredin !
Frédéric Garcia
J'ai besoin de la confirmation que vous savez ce qu'est un gredin ou bien qu'une virgule "malheureuse" c'est glissée dans votre message. Merci
Est-ce l'IA de FB qui oriente l'humeur des usagers ou est-ce le PDG via le conseil d'administration via les orientations politiques du gouvernement Étatsuniens via les techniciens et programmateurs de Facebook ?
Pour ma part, parler d'une IA renvoie à une intelligence ayant un minima d'autonomie ou d'indépendance. Donc soit c'est une IA +/- élaborée qui peut choisir et décider d'améliorer l'humeur des usagers... soit c'est les choix du concepteur et de son conseil d'administration et de son éventuel - dépendance ou tutelle - d'un gouvernement.... pour orienter et MANIPULER dans le sens du vent les usagers.
bravo pour la vidéo, je découvre le concept de "consequentialisme". Concernant le choix moral... la morale d'une époque peut différer d'une autre.
Par exemple, le libertinage était à une époque immoral, danser le rock était immoral, peindre ou réaliser des photos de nu pouvait être immoral, sauf dans un cadre définit par la "morale de l'époque" justement. etc. ( à tort ou à raison)
Aujourd'hui, certains utilisent la notion de "morale" pour aller faire la guerre en pays voisin afin de "délivrer" le peuple malheureux d'un méchant gouvernant immoral. Bien sûr la moral des uns diffèrera de la morale des autres.... comme les Gentils Américains qui au nom de l'axe du Bien sont allés faire la guerre dans un pays qui serait dans... l'axe du mal !
Dés lors, je me demande si utiliser la notion de morale (le bien face à un mal) peut-elle servir de référence dans une action ? cela nous amènerait à envisager un notion plus élaborée comme celle de la Spiritualité et d'avoir des "valeurs" ou des connaissances dîtes Spirituelles pour pouvoir agir à un niveau, qui serait pour le coup, au-dessus de la notion morale où chacun voit le bien selon ce qu'il considère le "mal" ?
qu'en pensez-vous ?
Concernant le paradoxe de Fermi... il n'aurait, de mon point de vue, qu'une valeur de réflexion philosophique ou intellecturelle. En effet, toutes les personnes objectives et ouvertes peut accepter les témoignages Ovnis d'ici et d'ailleurs, les tracçs de nazca, les scuptures qui ressemblent beaucoup trop à des scaphandres, des ovnis sur des peintures... et des masses de pierres taillées au millimètre prés puis assemblées pour réaliser des batiments. etc.
Ainsi le paradoxe de Fermi sur l'existence des civilisations stellaires a une base de questionnement erronée ou faussée... les Stellaires SONT déjà là ou ont été - trés probablement - à l'origine de notre humanité. Peut-être nous sommes les descendants et survivants de premiers colons de la planètes appelée Terre.
re, qu'en pensez-vous ?
Amitié,
(ma chaîne : ua-cam.com/users/michelull)
Votre lien audio de podcast w/ Mr. Phi ne fonctionne pas (du moins si mais les podcasts sont indisponibles).
Et ce sont ils demandé si'il y a eu des suicide dans le panel?
Je vois pas pourquoi j'appuierais pas sur le bouton !
La solution du paradoxe de Fermi a deux gros problèmes :
1 - Il faudrait qu'absolument toutes les civilisations suivent ce chemin (il suffit d'un "traître" de la doctrine dans la voie lactée pour qu'il colonise la galaxie)
2 - De l'énergie se dépense "toute seule" en ce moment. Collecter l'énergie que les étoiles dissipent n'aurait aucun inconvénient en "quantité de calcul total".
(Si ça intéresse qqn, Isaac Arthur détaille beaucoup ce genre de réflexions)
J'appuie ! Ah bah, c'était pas là, ça c'est juste pour mettre en pause ^_^ ...
Récemment les USA ont voté pour la fin de la neutralité du net... On est complètement là dedans. À méditer
ta dernière partie de vidéo explique entièrement la création du "dernier restaurant avant la fin du monde" ;)
Comprenne qui pourra ;)
Effarant !!!!!! Si ça se trouve c'est l'IA qui m'a foutu dans la tête toutes ces idées...
C est pas le bouton "partager cette video" ce fameux bouton ? Parce que j ai déjà appuyé et le coût était plutôt petit donc ma réponse est un peu biaisée ..
Si tous les extraterrestres sont consequentialistes, on a aucune chance de les voir débarquer sur Terre.
Un fort biais de raisonnement dans ton calcul de ressources est de supposé que la ressource R est une donnée constante.
Or, ce n'est souvent pas le cas.
En particulier, parce que la motivation des individu n'est pas la même suivant les individus et les thèmes.
SI l'objectif est, par exemple, le véganisme, si on propose de choisir le mieux entre C1, "la lutte contre la corrida", C2, "la lutte contre les abattoirs", C3 "le développement de substituts à la viande",C4, les foyers pour animaux domestiques abandonnés, etc. la réponse n'est c'est certainement pas "le meilleurs de ceux-ci" et de laisser tomber tout le reste: vous perdriez 90% des ressources engagées sur le sujet, dans ses différents aspects, chacun pour ses raisons, dans les domaines qui les motivent, ou qui leurs sont accessible en pratique...
Donc au contraire, multiplier les directions augmente R et donc l'effet sur l'objectif.
Moi évidemment que j'appuie sur le bouton. Ça m'arrive régulièrement que UA-cam me propose une nouvelle chaîne de vulgarisation, et c'est à chaque fois un plaisir de dévorer les vidéos du créateur. Le soucis c'est que après avoir vu toute sa chaîne, UA-cam met énormément de temps avant de me reproposer une nouvelle chaîne de vulgarisation. Parfois je me dis même, à tort, que j'ai peut-être vu toutes les vidéos de qualité sur de la vulgarisation tellement UA-cam ne me propose pas ce que je veux
XD, Il est 3h du mat et je regarde une vidéo bizarre
En fait, j'ai l'impression que tout cela n'est qu'un problème de "nostalgie" des humains : nous essayons de faire un monde avec une IA pour faire tout ce qui a une influence négative sur nous, sans "trop" changer notre mode général de vie. Alors qu'en vérité ce qu'individuellement est le plaisir, et dans ce cas là, qu'est-ce qui nous fait dire que ton scénario d'être tous sous drogue "du bonheur" est une dystopie ? L'impression de fatuité ? de nostalgie ? (j ecris ca d un jet, je dois encore mediter cela)
Qu'est-ce qui se passerait si un défenseur d'une" théorie bizarre" appuyait sur le bouton...?
L'IA peut si facilement détruire l'esprit critique et la pensée libre, en nous faisant croire que ses choix sont en fait les notres, ça fait froid dans le dos.
Oui, j'appuie sur le bouton
Super noichi
L'intelligence artificielle m'interroge sur moi-même. J'apprends.
Quand tu dis que promouvoir les posts positifs pour Facebook a un cout negligeable, est-ce que ca ne va pas a l’encontre du fait qu’une newsfeed moins personnalisee (i.e. neutre) a un cout significatif en terme d’experience utilisateur pour Facebook ?
Je pqense qu'il voulait dire que ça coûte pas grand-chose à facebook de changer légèrement l'algorithme, mais que par contre ça a des grandes conséquences pour l'utilisateur
Est-ce que le problème avec le conséquentialisme c'est qu'un des problèmes de notre monde c'est que l'on utilise trop de ressources.
Or, si on réfléchit à comment utiliser une ressource au mieux, le résultat serait que l'on va encore plus dépenser cette ressource.
Il faudrait plutôt réfléchir à comment utiliser au miminum les ressources.
Coucou Lê, penses tu qu'un jour les IA pourront faire des découvertes à la Einstein, en physics en maths etc... Avec le coté exponentiel de l'IA ou même la collaboration entre IA, penses tu que les IA nous devançeront sur ce niveau là ? L'IA qui réfléchi finalement ?
D'après ce podcast c'est non seulement déjà le cas... C'est même un problème "facile" (en tout cas pour Navier-Stokes et des EDP du genre)
player.fm/1rySTq
A chaque vidéo je fais un peu dans me froc, je flippe un peu honnêtement :x
Teuheu 10^-30 Kelvin oui oui on y croit ^^" Sinon très bonne vidéo comme d'habitude :)
Avant d'appuyer sur le bouton, comment déterminer ce qu'es une vidéo intelligente ? Comment cet IA traiterait une vidéo du nouveau youtuber ? S'il n'a pas d'antécédents serait il déclassé et repoussé dans les limbes des Playlists ? À ce moment-là ce serait le règne de chaînes '' major''. Non ?
Quand on parle de robot tueur, je pense aux cheaters sur les jeux vidéos, comme les aimbot sur les fps, et bah clairement je ne veux pas d'aimbot dans la vraie vie...
Franchement, je crois que j'appuierais sur le bouton. Quitte à ne pas etre mieux, autant etre moins pire.
cyohg Moi non... Pour deux raisons: le net n'étant plus neutre, ça amènerait forcément d'autres démarches, commerciales, politiques ou autres... ensuite il faut avoir en tête que UA-cam comme les autres réseaux sociaux sont une mine d'or en terme d'informations sur les utilisateurs, par exemple l'utilisation par des groupes terroristes d'armes (je ne citerai pas le nom du pays) a pu être démontrée grâce à leurs publications de propagande sur UA-cam
Zoruyo : Oui, c'est vrai, mais si l'IA fait bien son job, elle empechera (ou du moins tentera d'empecher) des comportements négatifs. Je pense que si je dois choisir entre etre neutre et agir pour le bien ou pour ce que je pense etre le bien pour tous, je pense qu'en toute connaissance de cause, je vais choisir de faire le bien, meme si ça implique d'influencer les gens.
Clairement oui j'appuierais sur le bouton, car au fond, entre un algorithme qui favoriserait la qualité et l'esprit critique me semble meilleur pour la société que s'il favorise ce qu'il y a de plus populaire, donc mécaniquement qui fait le plus appel à l'émotion et donc à l'irrationalité. Je pense que se cacher derrière une prétendue impartialité ou neutralité du contenu le plus populaire n'est finalement pas plus honnête que d'influencer l'opinion des gens vers plus de rationalité. Après tout, le contenu populaire n'est pas plus neutre qu'un autre, voire plus coloré qu'un discours sceptique sur le monde. Enfin... ça n'est que mon avis personnel, ça se débat largement.
Je trouve que tu as tout à fait raison.
On pourrait penser que la neutralité est plus honnêtes et qu'influencer les gens, même dans le bon sens, est de la manipulation. Mais au final, est-ce que laisser les gens penser ce qu'ils veulent n'est pas laisser l'opportunité à des personnes, avec de mauvaises intentions, manipuler ces gens dans le mauvais sens ? Autrement dit, les gens seraient quand même manipulé malgré tout.
Et même sans manipulation, notre cerveau n'est pas infaillible, loin de là, et le laisser libre de penser ce qu'il veut (ce qui n'est absolument jamais vrai. Il y a toujours une influence immédiate quelque part. Et je ne parle même pas du vécu où c'est encore bien pire) est la porte ouverte vers une façon de penser qui n'est pas bonne pour les autres personnes et donc pour la société.
Nous sommes bien moins libre qu'on ne le pense, donc laisser une IA nous guider dans UA-cam, si elle ne fait que nous suggérer des vidéos intéressantes, est une très bonne idée d'après mon raisonnement (qui est peut être biaisé ? C'est très possible).
En fait, ce qui me dérangerait ce serait de créer un précédent. Car en fait, c'est une forme indirecte de censure. Demain, ne me demandera t-on pas d'appuyer sur le bouton au nom d'un préjugé discriminatoire ?
En ce moment en Russie, on met en prison des couples homosexuels qui se tiennent la main dans la rue car il font la "propagande" du mode de vie "gay". Pour faire simple, on les censure de l'espace publique. A ton avis, que ferait la russie si elle pouvait influencer sur l'IA de youtube ?
Tout à fait. C'est pour ça que bon gré mal gré il faut de la transparence et l'aval des citoyens !
D'accord mais qui choisit les tags par défaut ? Dans tout les cas tu cours le risque qu'on impose une liste de tag a la majorité pour des raisons qui peuvent ou non être louable. J'ai pris l'exemple de la russie car elle fait ça pour "protéger les enfants". A ce titre, ce serait naturellement dans la liste des tags caché par défaut ...
Avoue que c'est frustrant quand tu pense avoir la bonne façon de voir les choses et que tu voudrais que tout le monde la partage alors que tu sais que tu as potentiellement tord de croire ce que tu crois (sans vraiment le savoir, évidemment). Il faut se dire que les gens qui ont décidé d'interdire que les couples homosexuels se tiennent la main croient aussi qu'ils ont raison (surtout ceux qui soutiennent sa, pour être plus précis). C'est ça le plus triste dans l'histoire.
Cela dit, ici on ne parle pas d'un algorithme qui impose des vidéos aux utilisateurs, mais qui influence intelligemment en proposant du contenu de qualité (donc qui ne se base pas exclusivement sur les vues et les pouces bleus, mais sur d'autres critères qui permettraient d'évaluer la pertinence et l'intelligence d'une vidéo). Tout comme l'algorithme actuel n'interdit pas de voir des vidéos très intéressantes sur des sujets très peu connu et très peu vue, celui-ci n'interdirait pas à un utilisateur de voir des vidéos dont le contenu est pauvre en qualité.
Mais bon, il influencerait quand même les gens, comme l'explique Lê avec l'algorithme de FaceBook. Ce serait d'ailleurs bien l'objectif : l'influence positive. Et comme tu le dit, c'est une forme de censure (de la censure très fourbe d'ailleurs, car difficile légalement parlant de prouver qu'un tel algorithme provoque de la censure).
Par rapport à ta réflexion sur la Russie, je dirais qu'il faut utiliser un algorithme qui propose des vidéos selon des critères non basés sur des idées extrémistes. En gros, qu'il soit un minimum tolérant à des idées non "conventionnels" pour quand même proposer aux utilisateurs autre chose que des idées "normalisatrices" (parce que c'est un peu de sa dont il s'agit. Normaliser les gens à penser intelligemment … toute la question étant de savoir où est la normalité, et ne sachant pas répondre (personne ne le peut) il faut que ce soit ouvert, mais pas trop).
Finalement, ça me fait penser à Hygiène Mentale et son modèle de l'esprit humain et du filtre qu'on doit tous développer pour éviter de croire à tout et n'importe quoi. Et bien là, ce serait pareil. UA-cam serait toujours ouvert à tout, mais un filtre proposerait majoritairement des vidéos pertinentes et intéressantes avec quelques brides de vidéos à la marge, qui sortent des sentiers battus.
17:11 - Il se peut que l'évolution de la vie, arrivée à un certain stade d'intelligence, tend vers son auto-destruction (pollution de l'écosystème, IA dominatrice, etc.). Si cette théorie est universelle, il serait normal que les humains ne détectent jamais, de leurs vivants, de traces de vie d'extraterrestre "intelligente" et réciproquement .
J'y appuis trois fois ouais!
J'appuie directement
Le conséquentialisme cherche à déterminer les actions qui ont les effets les plus désirables mais ne tient pas compte de l'aspect temporel. Une action à des effets qui évoluent au cours du temps, puisque rien n'est figé, tout est impermanent. Ainsi une action qui a un effet désirable à un instant t, peut potentiellement avoir un effet indésirable à un instant t+1 et vice-versa.
De plus, sur quelle critère une IA pourrait juger si une conséquence est "désirable" ou non ? En comptant des smiley sur Facebook ? Est-ce plus désirable d'avoir des "smiley" sur un réseau social déployé dans une société totalitaire (exprimant une forme de soumission), ou ne serait-ce pas mieux d'avoir justement des posts exprimant un mécontentement et donc une forme de rebellion à l'égard ?
Et si vraiment on pouvait mesurer les conséquences, à quelle échelle s'arrêterait-on ? Au niveau strictement humain, étendu au règne animal voir végétal, à la planète, au système solaire, etc. ? Et que faire si on en arrivait à la conclusion que l'humain (ou l'IA d'ailleurs) a des effets indésirables sur l'ensemble ? A ce titre le conséquentialisme ne tient pas la route.
Trop fort !
Tiens sur le sujet de l'IA aujourd'hui y'a open AI qui à annoncé avoir réussi à créer une équipe de bot capable de jouer à DotA (pas encore au niveau pro mais déjà très bon et avec une rélle cohésion d'équipe). C'est plutôt impressionnant! En particulier le fait d'avoir réussi à intégrer la coopération dans la variable d'utilité de l'IA (ce qui pour le coup laisse présager du bon pour une IA potentiellement altruiste, en tout cas plus que là où on en était jusque là =p).
sérieux ? t'as un lien ?
Le lien pour le trailer un peu général : ua-cam.com/video/eHipy_j29Xw/v-deo.html
Et celui là explique un peu mieux les compétences que les bots ont apprises en jouant : ua-cam.com/video/UZHTNBMAfAA/v-deo.html
Ok merci!
Je suis pas convaincu que l’intérêt collectif de l'humanité soit d'augmenter son taux de natalité... (écologie... tout ça tout ça) Et puis bien sur ça dépend de ce que tu définis par "l'humanité", est ce que c'est l'intêret des humains existant actuellement? l'intêret d'une notion nébuleuse de "l'humanité"?
Ce que je voulais dire par altruisme c'est que l'IA en est à un stade où elle peut commencer à considérer l'état des autres dans sa fonction d'utilité. Après bien sur ça dépend comme on définit l'autre, comment on définit l'état qu'on souhaite qu'il atteigne et quelle utilité on y assigne. Donc forcément ça résous pas les problèmes. Mais c'est déjà plutôt impressionnant.
l'avenir est donc dans des univers virtuels inclu les uns dans les autres... mais nous y sommes peut etre deja depuis la aussi peut etre quelques cycles
Intéressant mais plusieurs points :- quand tu utilises une formule avec ressource R, de quelle ressource parle-t'on? Si l'on parle du charbon, quelle valeur a cette ressource? A-t'elle la même valeur en France et en Mongolie?- ton titre est ambigü : l'IA nous gouverne, ok, mais ensuite tu nous demandes d'appuyer sur un bouton. Quand on gouverne, on ne demande pas, on impose, et ça demande une capacité à la décision. Comment une IA, aujourd'hui, demain, décide-t'elle? Pourquoi le ferait-elle? Les humains sont gouvernés par leurs besoins. Quel sont les besoin d'une IA, en dehors de l'énergie?- La formule "des groupes promouvant la haine de certains groupes sociaux" est également floue. Je vois très bien de quoi tu parles, parce que j'ai le référent, là, tout de suite, mais quelle valeur/interprétation aura ton propos dans quatre ans? Si je suis sur un réseau social qui tape joyeusement sur Macron et En marche, proclamant que c'est une vaste fumisterie et qu'il faut tout faire pour faire tomber cet escroc (on a le droit de ne pas ètre d'accord, on est d'accord), suis-je de fait un conspinazi bourré de haine qu'il faut à tout prix censurer? Hello les algos.
Bref, moins de maths, plus de facts. A +
Je note que l'IA ne comprend pas le retour à la ligne. Nous allons donc tous mourir.
Very good
Je sais pas si yt sais que je spam et diminue mon effet
Merci Lê
great great great
Après pour les postes facebook ceux qui sont exposé a des postes négatif envoient peut être plus de négatif par mimétisme
Comme les extra terrestres, je fous rien en attendant que l'univers se refroidisse ! ^^
tu a réussi a placer une réplique spiderman 2 fois tranquille clap clap
L'analyse de l'éthique des IA, celles de UA-cam ou des autres, devrait à terme être imposée au niveau européen. Plusieurs réflexions sont en cours un peu partout à ce sujet. Le problème est: où trace-t-on la ligne entre ce qui est promu et ce qui est rejeté? Pour revenir à UA-cam et les vidéos platistes, conspirationnistes etc. qui s'y trouvent, le problème n'est-il pas à résoudre par l'éducation "officielle"?
L'éducation nationale est un énorme mastodonte... Modifier quoi que ce soit requiert des ressources énormes. Et ce n'est pas même pas dit que ça aille dans le bon sens... Ça fait des décennies que des bonnes volontés s'y cassent les dents...
Et qui déciderait ce que l’IA jugerait de bonne ou mauvaise qualité ? Les faits eux‑mêmes ? Sûrement pas, mais quelqu’un ou une idéologie. Concernant la question de la tolérance au coût individuel des choses, comme il est de plus en plus évident que le citoyen moyen ne tolère aucun coût pour lui et préfère tout répercuter sur les autres (flagrant sur le web), peut‑être que le mieux serait encore de carrément remplacer les humains par des IA, ce qui arrivera peut‑être un jour.