Très intéressant. Un biais de l'IA, c'est la difficulté à intégrer un "hors case", comme la difficulté quand l'administration se lie à une IA pour répondre aux besoins sociaux, le fait qu'un ordinateur se charge de gérer l'administratif, le hors cadre devient ingérable, et met dans la m... bon nombres de gens quand ils ne peuvent avoir accès à un être humain qui puisse intégrer le "hors case". L'avantage d'un bruit, c'est je trouve un nécessaire à la créativité, et à la possibilité de perception d'autres cases. Dans ma conception de l'erreur, de la variabilité acceptable, sur un plan artistique, pour une peinture par exemple, ce bruit d'un "à peu près" d'un portrait formule alors ma façon propre de faire, le bruit devient mon identité. Que le portrait soit ressemblant (Une variabilité acceptable pour reconnaitre la personne.) ou pas devient caduc pour percevoir une façon de créer différente et plus ample. (Des portraits de Bacon, Picasso et j'en passe...). Je retiens les caractères d'humilité ( Pour accepter un état des lieux de ses propres erreurs, biais.), d'indépendance (Pour assumer sa propre perception, ses choix propres), et de diversité (Etre ouvert à une multitude de perceptions autres.) à promouvoir pour juger, jauger au mieux un questionnement, une problématique. A ne pas zapper c'est d'abord un jugement humain, qui effectue des choix, qui crée un algorithme, et c'est toujours l'humain qui le change, selon les résultats, l'idéologie ambiante, les directives entrepreneuriales du moment par exemple. Pour la fenêtre ouverte sur l'éducation sur la fin de l'interview, vaste sujet en effet, où apprendre pour grandir, évoluer, gagner en maturité, n'a rien à voir à travailler pour avoir des bonnes notes... M'enfin c'est un thème à part entier, je vais calmer mes dires, histoire que mon écrit soit digérable.
Très intéressant. Je comprends comment établir des critères et des moyennes sur des évaluations indépendantes permet de réduire le bruit, donc le risque d’erreur. Mais est-ce que cette procédure globale n’écarte pas son propre bruit et la possibilité d’y trouver une meilleure solution, ou une innovation ? Une procédure permet de gagner en précision, mais dans un cadre restreint par des critères qui rejettent ce qui se trouve à l’extérieur. Je crois par exemple que les travaux d’un Einstein ne sont pas directement le reflet son parcours scolaire ou professionel. Comment aurait-il été jugé par l’algorithme d’un système d’éducation ou d’emploi ? Si la solution est hors du cadre que l’on définit, même en toute bonne foi, mais sur la base de ce qui est connu ou validé à un instant T. C’est délicat, le système de procédures, qui peuvent se plier aux idéologies, même si j’admets que ça semble très pertinent quand on est en territoire connu. Ça rejoint, je crois, le commentaire de Romain Tourneur. On en apprend sans doute plus dans le livre :) Merci, comme toujours, pour cette interview !
Un aperçu du monde, du vivant et de l’humain qui en est une infime partie ,producteur de lois plus ou moins efficientes, selon le temps , le lieu , les circonstances …. Une leçon de modestie sous- jacente à l’elaboration des institutions démocratiques. : Merci 🤩 🤩🤩
Intéressant cette proposition de mise en évidence des biais et du bruit. Dans les faits, rares sont les situations où il me semble possible de déterminer la nature et l'effet des biais sur une décision car cela suppose "toutes choses égales par ailleurs" ce qui, dans un laboratoire de conçoit mais qui dans la vie de tous les jours ne se vérifie jamais sur des sujets complexes. Dans le monde du compliqué, prédictible, avec du temps et de l'expertise, je comprends l'idée. Sur des décisions stratégiques engageantes, même si on peut dégager des grandes tendances, biais et bruit me semblent difficiles à dissocier.
Par ailleurs j'ai trouvé que le développement des méthodes pour limiter l'effet des biais et du bruit était moins pertinent que toute la partie amont. L'analyse multi-criteres (bien connues depuis des années dans le monde industriel) est très intéressante. L'exemple sur le recrutement me parle beaucoup car c'est celui que nous avons mis en œuvre avec grande satisfaction au printemps dernier. Par contre, Olivier Sibony, ne parle pas du tout des processus de management de l'intelligence collective. Avec des méthodes précises et structurées comme Synergy4 développée par @Olivier Zara par exemple, pas besoin de passer par une étape coûteuse d'évaluation de la nature et de la portée des biais et du bruit. Mobiliser l'intelligence collective (pas simplement en posant la question "qu'en pensez vous ?" mais avec une approche professionnelle du processus) alors on amène dans des espaces temps de quelques heures à la prise de décisions éclairées et sécurisées sur des sujets complexes. Les bénéfices vont aussi bien au delà que la décision.
Excellent sophiste, sans un brin d'humanité et de poésie. Tout le début est sincèrement très intéressant, très vrai ( ma formation de géomètre consiste beaucoup à distinguer faute et erreur et à établir des procédures pour les écarter ou les annuler). Mais tout ça pour au final nous vendre l'IA, sans même relever que c'est accepter de restreindre à un infime groupe de personnes, tout le poid mais aussi tout le pouvoir de décider des critères de choix, de décisions. C'est malhonnête ou idiot, il aurait dû s'arrêter à la procédure collégiale ( plusieurs censeurs) et la distinction de plusieurs critères. Et en plus cette litanie, il ne faut pas se faire confiance... Seriez vous en train de dire au gens " regardez votre série, d'autres vont s'occuper de tout pour vous, mais... sans vous"
Je pense que ce n'est pas du tout le propos, désolé si ça ressort comme ça. Le livre est dense et tout à fait nuancé. Il ne s'agit pas du tout de dire qu'une IA fait mieux le job, mais de donner à voir la faillabilite de beaucoup de nos processus de prise de décision actuels. C'est marrant comme chacun plaque sa propre grille de lecture et ses propres peurs pour faire une interprétation de ce qu'il entend. ;)
@@sismique Merci pour cet éclaircissement, je n'ai pas lu le livre et ma réflexion est bornée à l'interview. D'autre part je suis abonné à votre chaîne ( comme je le suis à présage, thinkerview, Janco et le schift, ...), je vous apprécie comme les autres pour les réflexions et les arguments que vous apportez, j'ai donc un aprioris de fiabilité à vos propos. L'interviewé voudra bien excuser mon biais d'interprétation, effectivement marqué par ma crainte de l'idéologie actuelle dominante, dont Laurent Alexandre est la caricature, Juan Branco explique assez bien la genèse et les politiques occidentale de gestion du covid une triste illustration. Avec mes sincères salutations. Lionel
@@lesloubieres2658 est ce votre modification, ou bien un de vos messages à t'il été effacé ? En tout cas, merci de partager votre point de vue. Je n'ai pas pris le temps de réécouter l'interview, mais le minimum est de soulever cette question. Nul besoin d'être spécialiste de l'IA pour arriver à la conclusion que ce serait la fin de l'humanité dans nos sociétés. On comprend bien que laisser les clefs de la maison à une seule personne, ou un petit groupe, mène à la tyrannie. Ça n'apporte aux hommes que morcelé en petits modules déchargeant l'homme de charges répétitives et fastidieuses.
j'ai tiqué aussi car les algorithmes n'existent que parce qu'ils sont programmés par des humains, donc si on va au bout du raisonnement, ils seraient eux aussi biaisés voire faussés dès le départ... mais sinon, l'entretien était très intéressant ! ça m'a fait penser au jugement majoritaire, je ne sais pas s'il en parle dans son livre ?
J adore ce générique !!!!
Très intéressant.
Un biais de l'IA, c'est la difficulté à intégrer un "hors case", comme la difficulté quand l'administration se lie à une IA pour répondre aux besoins sociaux, le fait qu'un ordinateur se charge de gérer l'administratif, le hors cadre devient ingérable, et met dans la m... bon nombres de gens quand ils ne peuvent avoir accès à un être humain qui puisse intégrer le "hors case".
L'avantage d'un bruit, c'est je trouve un nécessaire à la créativité, et à la possibilité de perception d'autres cases.
Dans ma conception de l'erreur, de la variabilité acceptable, sur un plan artistique, pour une peinture par exemple, ce bruit d'un "à peu près" d'un portrait formule alors ma façon propre de faire, le bruit devient mon identité. Que le portrait soit ressemblant (Une variabilité acceptable pour reconnaitre la personne.) ou pas devient caduc pour percevoir une façon de créer différente et plus ample. (Des portraits de Bacon, Picasso et j'en passe...).
Je retiens les caractères d'humilité ( Pour accepter un état des lieux de ses propres erreurs, biais.), d'indépendance (Pour assumer sa propre perception, ses choix propres), et de diversité (Etre ouvert à une multitude de perceptions autres.) à promouvoir pour juger, jauger au mieux un questionnement, une problématique.
A ne pas zapper c'est d'abord un jugement humain, qui effectue des choix, qui crée un algorithme, et c'est toujours l'humain qui le change, selon les résultats, l'idéologie ambiante, les directives entrepreneuriales du moment par exemple.
Pour la fenêtre ouverte sur l'éducation sur la fin de l'interview, vaste sujet en effet, où apprendre pour grandir, évoluer, gagner en maturité, n'a rien à voir à travailler pour avoir des bonnes notes... M'enfin c'est un thème à part entier, je vais calmer mes dires, histoire que mon écrit soit digérable.
Très intéressant.
Je comprends comment établir des critères et des moyennes sur des évaluations indépendantes permet de réduire le bruit, donc le risque d’erreur. Mais est-ce que cette procédure globale n’écarte pas son propre bruit et la possibilité d’y trouver une meilleure solution, ou une innovation ? Une procédure permet de gagner en précision, mais dans un cadre restreint par des critères qui rejettent ce qui se trouve à l’extérieur. Je crois par exemple que les travaux d’un Einstein ne sont pas directement le reflet son parcours scolaire ou professionel. Comment aurait-il été jugé par l’algorithme d’un système d’éducation ou d’emploi ? Si la solution est hors du cadre que l’on définit, même en toute bonne foi, mais sur la base de ce qui est connu ou validé à un instant T. C’est délicat, le système de procédures, qui peuvent se plier aux idéologies, même si j’admets que ça semble très pertinent quand on est en territoire connu.
Ça rejoint, je crois, le commentaire de Romain Tourneur.
On en apprend sans doute plus dans le livre :) Merci, comme toujours, pour cette interview !
Un aperçu du monde, du vivant et de l’humain qui en est une infime partie ,producteur de lois plus ou moins efficientes, selon le temps , le lieu , les circonstances …. Une leçon de modestie sous- jacente à l’elaboration des institutions démocratiques. : Merci 🤩 🤩🤩
Intéressant cette proposition de mise en évidence des biais et du bruit. Dans les faits, rares sont les situations où il me semble possible de déterminer la nature et l'effet des biais sur une décision car cela suppose "toutes choses égales par ailleurs" ce qui, dans un laboratoire de conçoit mais qui dans la vie de tous les jours ne se vérifie jamais sur des sujets complexes. Dans le monde du compliqué, prédictible, avec du temps et de l'expertise, je comprends l'idée. Sur des décisions stratégiques engageantes, même si on peut dégager des grandes tendances, biais et bruit me semblent difficiles à dissocier.
Par ailleurs j'ai trouvé que le développement des méthodes pour limiter l'effet des biais et du bruit était moins pertinent que toute la partie amont. L'analyse multi-criteres (bien connues depuis des années dans le monde industriel) est très intéressante. L'exemple sur le recrutement me parle beaucoup car c'est celui que nous avons mis en œuvre avec grande satisfaction au printemps dernier. Par contre, Olivier Sibony, ne parle pas du tout des processus de management de l'intelligence collective. Avec des méthodes précises et structurées comme Synergy4 développée par @Olivier Zara par exemple, pas besoin de passer par une étape coûteuse d'évaluation de la nature et de la portée des biais et du bruit. Mobiliser l'intelligence collective (pas simplement en posant la question "qu'en pensez vous ?" mais avec une approche professionnelle du processus) alors on amène dans des espaces temps de quelques heures à la prise de décisions éclairées et sécurisées sur des sujets complexes. Les bénéfices vont aussi bien au delà que la décision.
j'ai fait "ha !" à la petite phrase sur les réunions (= bruit), c'est trop ça ! lol
Et hop, un livre à rajouter à la collection The black swan / Thinking fast, thinking slow / The scout mindset... ;-)
Super intéressant !
Excellent sophiste, sans un brin d'humanité et de poésie.
Tout le début est sincèrement très intéressant, très vrai ( ma formation de géomètre consiste beaucoup à distinguer faute et erreur et à établir des procédures pour les écarter ou les annuler).
Mais tout ça pour au final nous vendre l'IA, sans même relever que c'est accepter de restreindre à un infime groupe de personnes, tout le poid mais aussi tout le pouvoir de décider des critères de choix, de décisions.
C'est malhonnête ou idiot, il aurait dû s'arrêter à la procédure collégiale ( plusieurs censeurs) et la distinction de plusieurs critères.
Et en plus cette litanie, il ne faut pas se faire confiance...
Seriez vous en train de dire au gens " regardez votre série, d'autres vont s'occuper de tout pour vous, mais... sans vous"
Je pense que ce n'est pas du tout le propos, désolé si ça ressort comme ça. Le livre est dense et tout à fait nuancé. Il ne s'agit pas du tout de dire qu'une IA fait mieux le job, mais de donner à voir la faillabilite de beaucoup de nos processus de prise de décision actuels.
C'est marrant comme chacun plaque sa propre grille de lecture et ses propres peurs pour faire une interprétation de ce qu'il entend. ;)
@@sismique Merci pour cet éclaircissement, je n'ai pas lu le livre et ma réflexion est bornée à l'interview.
D'autre part je suis abonné à votre chaîne ( comme je le suis à présage, thinkerview, Janco et le schift, ...), je vous apprécie comme les autres pour les réflexions et les arguments que vous apportez, j'ai donc un aprioris de fiabilité à vos propos. L'interviewé voudra bien excuser mon biais d'interprétation, effectivement marqué par ma crainte de l'idéologie actuelle dominante, dont Laurent Alexandre est la caricature, Juan Branco explique assez bien la genèse et les politiques occidentale de gestion du covid une triste illustration.
Avec mes sincères salutations.
Lionel
J'ai eu la même impression. Ce travail sur le bruit n'a qu'un seul objectif celui de vendre l'IA aux esprits faibles.
@@lesloubieres2658 est ce votre modification, ou bien un de vos messages à t'il été effacé ?
En tout cas, merci de partager votre point de vue.
Je n'ai pas pris le temps de réécouter l'interview, mais le minimum est de soulever cette question. Nul besoin d'être spécialiste de l'IA pour arriver à la conclusion que ce serait la fin de l'humanité dans nos sociétés. On comprend bien que laisser les clefs de la maison à une seule personne, ou un petit groupe, mène à la tyrannie. Ça n'apporte aux hommes que morcelé en petits modules déchargeant l'homme de charges répétitives et fastidieuses.
j'ai tiqué aussi car les algorithmes n'existent que parce qu'ils sont programmés par des humains, donc si on va au bout du raisonnement, ils seraient eux aussi biaisés voire faussés dès le départ... mais sinon, l'entretien était très intéressant ! ça m'a fait penser au jugement majoritaire, je ne sais pas s'il en parle dans son livre ?
🙏🏼🙏🏼