7ème présentation de Terrie Lambert sur l'athéisme et principalement l'intelligence artificielle.

---

---

• The Midnight Watch
• Plateforme Zoom
• Date : 23 Décembre 2022
• Oratrice : Terrie Lambert
• Site internet : Eden à Eden
• Transcription :
• Chaine YouTube : YouTube : Eden à Eden
• Playlist : Vespers 2022 Terrie
• Lien de la vidéo : Données publiques et l'Intelligence Artificielle

---

Terrie : Notre Dieu d'amour dans les cieux. Tu nous as conduits sains et saufs à travers une semaine de plus. Nous sommes reconnaissants pour tout ce qui est fait en notre faveur. Nous avons la vie, la force, la santé, ta bonté aimante et ta vérité. Alors que nous nous préparons à entrer dans ton sabbat, que nos pensées et nos émotions soient canalisées dans ta direction. Nous demandons d'être guidés dans cette discussion, afin que nous voyions ta gloire et que nous comprenions aussi les questions qui nous mettent au défi en ce moment. Nous nous remettons entre tes mains. Et nous te remercions pour la vérité qui nous a ouvert les yeux sur tous les événements du monde qui nous montrent où nous en sommes. Et nous prions pour cette préparation, afin d'être prêts pour l'épreuve. Nous le demandons au nom de Jésus. Amen

Terrie : J'espère que vous avez tous passé une bonne semaine et que vous avez pu dormir profondément, en sachant qu'aucune IA superintelligente ne va transformer le monde en trombones et nous tuer tous. J'espère que ces craintes ont été dissipées. Et nous voulons simplement continuer à examiner l'intelligence artificielle ce soir. Ce dont nous avons bel et bien à nous inquiéter. Je vais juste lire un passage de Wikipédia sur le risque existentiel lié à l'intelligence artificielle générale. Parce qu'il y a des voix fortes, avec beaucoup d'argent, qui font la promotion de cette peur du risque existentiel par l'IA.

Terrie : Le risque existentiel lié à l'intelligence artificielle générale est l'hypothèse selon laquelle des progrès substantiels en intelligence artificielle générale pourraient aboutir à l'extinction de l'humanité ou à une autre catastrophe planétaire irrécupérable. On soutient que l'espèce humaine domine actuellement les autres espèces parce que le cerveau humain possède certaines capacités distinctives qui manquent aux autres animaux. Si l'IA dépasse l'humanité en intelligence générale et devient superintelligente, alors il pourrait devenir difficile ou impossible pour les humains de la contrôler. De même que le sort du gorille des montagnes dépend de la bonne volonté humaine, de même le sort de l'humanité pourrait dépendre des actions d'une future superintelligence machine. Pourquoi les gorilles des montagnes sont-ils vivants aujourd'hui ? C'est parce que nous sommes au fond des gens gentils et que nous les laissons vivre. Et si vous aviez quelque chose de plus intelligent que nous, qui n'éprouvait pas cela envers les gorilles des montagnes, ou qui n'éprouvait rien du tout. Il n'y aurait aucune impulsion à les garder en vie, et nous tomberions dans cette même catégorie. La probabilité de ce type de scénario est largement débattue et dépend en partie de scénarios divergents quant aux progrès futurs de l'informatique. Autrefois domaine exclusif de la science-fiction, les préoccupations relatives à la superintelligence ont commencé à se généraliser dans les années 2010, et ont été popularisées par des personnalités publiques telles que Stephen Hawking, Bill Gates et Elon Musk.

Terrie : Ils ont popularisé cette peur. En 2014, Elon Musk a dit : nous avons libéré le démon. Et lui comme Hawking ont dit que nous sommes menacés d'ici quelques décennies, sinon plus tôt. Beaucoup d'argent et d'énergie va au développement de l'intelligence artificielle, parce que nous sentons que nous en avons besoin pour l'avenir, mais aussi au bridage de l'intelligence artificielle. Et cela s'appelle le problème de l'alignement. Il y a une crainte que la superintelligence ne soit pas alignée sur nos valeurs. La question est : sur les valeurs de qui alignez-vous l'IA ? Est-ce que cela rappelle quelque chose à quelqu'un, en rapport avec notre message ? Avons-nous un problème d'alignement ? Tout comme les scientifiques et les ingénieurs ont un problème d'alignement. C'est bien leur terme, le problème de l'alignement, avec l'IA. Quel est notre problème d'alignement, et qu'est-ce qui a été donné pour le résoudre ? Des idées ? Avions-nous un problème d'alignement, Katherine ?

Katherine : Eh bien, nous étions alignés du mauvais côté de l'échiquier politique. C'est peut-être de cela que tu parles.

Terrie : Oui, c'est pour cela que nous avons eu le message du cri de minuit. Nous étions alignés sur de mauvaises valeurs. Et donc un message nous a été donné pour nous réaligner. Et c'est cela, le but de la ligne de réforme. Une ligne de réforme nous réaligne, pour que nous ayons les mêmes valeurs que Dieu, que nous pensions comme il pense et que nous ressentions comme il ressent. Est-ce que tu voudrais ajouter quelque chose à cela, Katherine ?

Katherine : Eh bien, Josephine a la main levée. Moi non.

Terrie : D'accord, Josephine.

Josephine : Tu as dit : quelle est la solution ? Et j'ai pensé à la méthodologie qui a été donnée. La méthodologie des paraboles, pour nous aider, nous guider dans la bonne direction.

Terrie : Oui. Les messages que nous avons. Oui, Dieu a envoyé des messages pour nous réaligner, mais il faut d'abord que nous nous rendions compte qu'il y a un problème d'alignement. Et c'est la même chose qui se passe dans le monde. Les scientifiques, les ingénieurs et les promoteurs de l'IA s'inquiètent que ces IA ne soient pas alignées sur nos valeurs humaines. Mais si cet alignement, c'était quelqu'un comme un DeSantis ? Sur les valeurs de qui allez-vous aligner cela ? C'est le grand débat parmi les scientifiques en ce moment. Est-ce qu'on s'en préoccupe seulement ? Est-ce qu'on ne fait pas simplement confiance à l'humanité pour faire les bons choix ? Ils essaient de résoudre ce problème de l'alignement. Quelqu'un l'a formulé ainsi : le problème de l'alignement désigne les difficultés causées par le fait que les machines n'ont tout simplement pas les mêmes valeurs que nous. En fait, en matière de valeurs, à un niveau fondamental, les machines ne deviennent pas vraiment beaucoup plus sophistiquées que de comprendre que un est différent de zéro.

Terrie : Quelque chose que nous avons examiné la semaine dernière. Qu'elles n'ont pas de valeurs. Tout ce que les machines comprennent, c'est que un est différent de zéro. Au fond, l'IA, c'est des maths. Des maths belles, stupéfiantes, brillantes. Mais c'est tout. Tout comme nous le voyons en politique, en religion. C'est un monde polarisé, et c'est polarisé dans ces sciences aussi. Nous sommes allés voir une autre voix, celle de Melanie Mitchell. Elle est professeure Davis de complexité au Santa Fe Institute. Professeure d'informatique à l'université d'État de Portland. Ses recherches actuelles portent sur l'abstraction conceptuelle, la fabrication d'analogies et la reconnaissance visuelle dans les systèmes d'intelligence artificielle. Elle est l'auteure de six livres et de nombreux articles savants. Nous avons examiné un article savant, de 2014. Et je peux la mettre ici. Melanie Mitchell. Je vais juste mettre M.M. Et elle a écrit l'article « ? Pourquoi l'IA est-elle plus difficile que nous ne le pensons ? ». Et elle a donné quatre sophismes. Passons-les en revue. Je vais nous rappeler le premier. Le premier sophisme, c'était que l'intelligence étroite se situe sur un continuum avec l'intelligence générale. C'est un sophisme. Ce n'est pas vrai. De quoi parlons-nous quand nous disons « intelligence étroite » ? J'ai eu une expérience il y a juste deux ou trois semaines.

Terrie : Je faisais des courses à Melbourne. J'étais dans un supermarché comme nous en avons ici, au fin fond de la campagne. Mais je suis allée dans un plus grand à Melbourne, et j'avais un de ces chariots qui n'est pas un chariot profond. Je n'avais pas besoin de mettre grand-chose dans ce chariot. Et je suis arrivée à la caisse automatique. J'ai posé des poires sur la balance, et je n'ai eu à appuyer sur rien. Cela s'est affiché, et cela m'a donné deux ou trois choix. Ces poires sont apparues automatiquement.

D'habitude il faut appuyer sur « fruits et légumes ». Je n'ai pas eu à le faire. C'est intéressant. Ensuite j'ai posé des oignons. Même chose. Ensuite j'ai fini mes courses, et cela m'a demandé : avez-vous vidé votre chariot ? Oui, j'avais bien vidé mon chariot. Mais cela ne me laissait pas aller plus loin. C'était écrit : appelez l'assistance. J'ai appelé l'assistance, et je ne savais pas quel était le problème. Et elle a dit : elle n'aime pas le sac vide dans votre chariot. Et j'ai dit : ça savait que j'avais des poires dessus. Oh oui, elle est très intelligente. Ce n'est pas une « elle ». Nous comprenons cela. C'est un « ça ».

Terrie : Mais cette femme est très fière de cette machine. Et voilà les avancées qui se produisent dans l'intelligence étroite. J'avais un sac de supermarché vide dans mon chariot. Ça savait qu'il était dans mon chariot. Ça savait que j'y avais mis une poire. Ces intelligences étroites s'améliorent tout le temps. Et quand nous les voyons, nous faisons : waouh. Mais cela ne veut pas dire qu'il y a la moindre amélioration de l'IA générale. Elles ne sont tout simplement pas reliées. Nous allons continuer à voir des améliorations dans l'intelligence étroite, et cela va nous épater. Pas plus près du tout de l'intelligence artificielle générale, des capacités de niveau humain. C'était le sophisme numéro un. Est-ce que quelqu'un se souvient d'un des trois autres sophismes ? Non. Bon. Josephine,

Josephine : Nous en avons discuté la semaine dernière, n'est-ce pas ?

Terrie : Il y avait quatre sophismes.

Josephine : Je me souviens de celui que j'ai moi-même mentionné, mais pas avec ces mots-là. Mais je dirais le raisonnement. L'ordinateur ne peut pas vraiment raisonner.

Terrie : Non. Pourquoi employons-nous le mot « raisonner » ? Quel est le sophisme ? C'est exact. Nous disons qu'il raisonne. Nous disons qu'il comprend. Nous disons qu'il pense. Quel est le sophisme ? Qu'est-ce qui nous fait faire cela ?

Josephine : Je sèche.

Terrie : D'accord, nous l'anthropomorphisons. Nous employons un langage humain, des termes humains pour cette machine, et cela crée la confusion.

Terrie : Quand nous employons des termes comme « raisonner » et « penser » et « valeurs », ce sont des termes fallacieux. Même le mot « intelligence », les scientifiques se disputent sur ce mot. Cela fait deux sophismes. Est-ce que quelqu'un se souvient des autres ? Katherine. Pardon.

Katherine : Non, ce n'est rien. C'était un peu à la dernière minute. Est-ce que cela a à voir avec le cerveau ? Et que ton intelligence n'est pas complètement à 100 % dans ton cerveau ?

Terrie : Oui. Continue.

Katherine : Eh bien, je crois que cet article que tu as partagé parlait de ce point. Mais il y a bien plus dans notre expérience que ce qui se passe seulement dans le cerveau, parce qu'il y a un cycle de rétroaction qui se produit entre ton corps, ton rythme cardiaque, ta respiration, les impulsions que tu reçois du toucher. Et tout cela se combine pour te donner une expérience que tu ne pourrais tout simplement pas reproduire avec un ordinateur, du moins pas dans un avenir prévisible. Exactement. Beaucoup trop compliqué et trop avancé pour qu'ils commencent seulement à s'approcher du niveau dont nous sommes capables.

Terrie : Merci. Oui. L'idée d'un ordinateur posé sur un bureau et d'un cerveau posé dans une cuve. On ne peut pas séparer le cerveau du corps, exactement comme tu l'as expliqué. L'intelligence est une expérience holistique. De plus en plus de scientifiques reconnaissent l'importance de l'incarnation et la façon dont cela affectera l'intelligence artificielle générale. Merci. Et le quatrième, c'était que les choses faciles sont faciles et que les choses difficiles sont difficiles. Et Melanie a expliqué que ce qui est facile pour nous est difficile pour un ordinateur. Ce qui est difficile pour nous est facile pour un ordinateur. Et nous allons en parler un peu maintenant. Je veux partager quelque chose. Melanie Mitchell a écrit un livre en 2019. Je crois que j'ai donné la mauvaise date la dernière fois. En 2019, elle a écrit un livre. Et dans ce livre, elle parle d'Andrej Karpathy. Andrej Karpathy a écrit un billet de blog en 2012. Alors, qui est-il ? C'est un informaticien canadien. Il a été directeur de l'intelligence artificielle et de la vision pour l'autopilote chez Tesla. Il travaille encore pour Tesla. Il est spécialisé dans l'apprentissage profond et la vision par ordinateur. Et voici un billet de blog qu'il a écrit en 2012.

Terrie : Et je veux que vous regardiez cette image-ci, et je lirai ce qu'il écrit pendant que vous regardez l'image, et je lirai une partie de son billet en dessous. Il dit : que faudrait-il pour qu'un ordinateur comprenne cette image comme vous ou moi le faisons ? Je vous mets au défi de penser explicitement à toutes les pièces de connaissance qui doivent se mettre en place pour qu'elle prenne sens. Voici ma courte tentative. Un : vous reconnaissez que c'est une image d'un groupe de gens, et vous comprenez qu'ils sont dans un couloir. Vous reconnaissez qu'il y a trois miroirs dans la scène. Donc certaines des personnes sont de faux doubles vus sous des angles différents. J'ai un miroir ici, un miroir ici, et un miroir ici. Ils sont dans un vestiaire. Vous voyez qu'ils sont dans un vestiaire. Vous reconnaissez Obama à partir des quelques pixels qui composent son visage. Cela aide qu'il soit en costume et qu'il soit entouré d'autres personnes en costume. Vous reconnaissez qu'il y a une personne debout sur une balance, alors même que la balance n'occupe que très peu de pixels blancs qui se fondent dans l'arrière-plan. Mais vous avez utilisé la posture de la personne et votre connaissance de la façon dont les gens interagissent avec les objets pour le comprendre.

Terrie : Il est debout sur quelque chose. Il a les bras levés. Vous savez ce qu'il fait. Vous reconnaissez qu'Obama a le pied posé juste légèrement sur la balance. Remarquez maintenant le langage. C'est en termes de structure 3D dans la scène, pas de position de la jambe dans le système de coordonnées 2D de l'image. Nous voyons cela comme une image en 3D, même si c'est une 2D. Nous savons qu'il y a du mouvement dans la scène. Vous savez comment fonctionne la physique. Obama s'appuie sur la balance, ce qui va lui appliquer une certaine force. La balance va mesurer la force qui lui est appliquée. Et le fonctionnement fait qu'elle va surestimer le poids de la personne qui est dessus. Vous avez compris cela rien qu'en regardant. Vous savez que la personne qui mesure son poids n'a pas conscience qu'Obama fait cela. Vous en déduisez cela parce que vous connaissez sa posture. Vous comprenez que le champ de vision d'une personne est fini. Il n'a pas d'yeux derrière la tête. Vous comprenez qu'il est peu probable qu'il sente la légère pression du pied d'Obama.

Terrie : Vous voyez l'expression sur son visage. Vous savez qu'il n'a pas conscience. Vous comprenez que les gens sont complexés par leur poids. Vous comprenez aussi qu'il est en train de lire la mesure de la balance et que, sous peu, le poids surestimé va le déconcerter, parce qu'il sera probablement bien plus élevé que ce à quoi il s'attend. Autrement dit, vous raisonnez sur les implications des événements qui sont sur le point de se dérouler dans les secondes qui suivent cette photo, et surtout sur les pensées et la façon dont elles vont se développer dans la tête des gens. Vous raisonnez aussi sur les éléments d'information dont disposent les personnes. Vous voyez qu'il y a des gens à l'arrière-plan, qu'ils trouvent cela drôle, qu'il y a de l'humour. Vous avez raisonné sur l'état d'esprit de ces gens et sur leur vue de l'état d'esprit de la personne sur la balance. Bon, cela fait beaucoup de raisonnement. Et enfin, le fait que le coupable soit le Président rend peut-être cela encore un peu plus drôle. Vous savez que c'est le président des États-Unis. Vous comprenez quelles actions sont plus ou moins susceptibles d'être entreprises par différentes personnes selon leur statut et leur identité.

Terrie : Ce ne serait pas aussi drôle si c'était quelqu'un d'autre. Nous regardons cette image et il y a tellement de choses à saisir. Nous avons une connaissance intuitive de la physique. Que nous l'ayons étudiée à l'école, que nous l'ayons aimée à l'école, que nous ayons été bons à l'école, peu importe : vous savez, pour le poids qui s'exerce sur cette balance. Vous avez une connaissance intuitive de la biologie. Vous savez que les images dans ces cadres ne sont pas de vraies personnes. Vous savez qu'il y a des jambes derrière des jambes, et cetera. Vous avez une connaissance intuitive du poids, et vous avez aussi une connaissance intuitive de la psychologie : de l'importance du poids pour les gens, de ce qu'il s'attendrait à trouver sur cette balance, et des réactions des gens à cela. Et il a beaucoup à dire là-dessus. Il dit : je pourrais continuer, mais le point ici, c'est que vous avez utilisé une quantité énorme d'informations dans cette demi-seconde où vous regardez l'image et où vous riez. Et je veux juste descendre à son commentaire du bas ici. En réfléchissant davantage à la complexité et à l'échelle du problème, une conclusion qui me semble inéluctable, c'est que nous pourrions aussi avoir besoin de l'incarnation. Et que le seul moyen de construire des ordinateurs capables d'interpréter des scènes comme nous le faisons est de leur permettre d'être exposés à toutes ces années d'expérience structurée que nous avons. La capacité d'interagir avec le monde, et une architecture magique d'inférence par apprentissage actif que j'ai du mal à même imaginer quand je remonte le raisonnement et que je pense à ce dont elle devrait être capable.

Terrie : En 2012, c'était un billet de blog qu'il a écrit, un scientifique qui travaille avec Tesla, et dix ans plus tard, rien n'a changé. Ce billet a été repris dans le livre de Melanie Mitchell en 2019, et il est encore utilisé aujourd'hui. C'est un scientifique très respecté. Ils ne sont pas plus près d'amener un ordinateur à penser comme nous le faisons qu'ils ne l'étaient en 2012. 2012 marque le début du printemps de l'IA. C'est là que les choses ont vraiment commencé à fleurir, et nous en reparlerons un peu plus, mais 2012 est une date importante pour l'IA. Des réflexions ? Rachel ?

Rachel : C'était intéressant : quand je regardais cette image, j'ai commencé à noter certains des mots auxquels je pensais, qu'il nous faut pour comprendre ce qu'était cette image. Et tu as fini par en lire une partie. Mais je crois que la question de l'expérience m'a vraiment frappée. Avoir toute une vie d'expériences, d'interactions, de connexions, et en contexte, toutes ces choses que nous traitons en un clin d'œil, je pouvais juste voir cela dans cette image que tu as montrée. Avoir cette expérience est vraiment fondamental pour comprendre l'humour derrière cette image et le lien. Oui, c'était vraiment bien de voir cette image et d'analyser ce que nous voyons.

Terrie : Voilà. Nous n'y pensons pas, n'est-ce pas ? Nous l'avons juste regardée et nous disons : ouais, c'est drôle. Mais toutes les choses que nous avons saisies pour la reconnaître comme drôle, cela faisait tellement en une seconde. Comment met-on cela dans une machine, cette expérience ?

Rachel : On ne peut pas.

Terrie : Aucune expérience de l'humour, du poids, de la physique, de la biologie, de la psychologie. On ne peut pas faire cela. Merci, Rachel. Bon, nous allons revenir à Melanie Mitchell. Elle a exposé quatre sophismes concernant l'IA, et ensuite ce qui nous rend réellement intelligents. Je veux passer à un autre article. Et celui-ci vient du magazine Quanta. Et nous allons juste en lire deux ou trois paragraphes, parce qu'il est très révélateur. Quand a-t-il été écrit ? Je vous le dirai dans une minute, quand je ferai défiler. 2021. « L'informaticienne qui entraîne l'IA à penser par analogies ». Melanie Mitchell travaille sur les esprits numériques depuis des décennies. Elle dit qu'ils ne seront jamais vraiment comme les nôtres tant qu'ils ne pourront pas faire d'analogies. Lisons juste deux ou trois paragraphes ici. Le livre couronné par le prix Pulitzer, Gödel, Escher, Bach, a inspiré des légions d'informaticiens en 1979, mais peu autant que Melanie Mitchell. Bon, alors Gödel, Escher, Bach a été écrit par Douglas Hofstadter. Même si les gens étudient l'IA et travaillent dessus depuis les années 1950, c'est ce livre qui a vraiment poussé des gens à quitter leur profession, comme Melanie Mitchell, et à vouloir comprendre l'intelligence artificielle et aussi le fonctionnement du cerveau.

Terrie : Il fut un temps où l'intelligence artificielle ne relevait pas seulement de l'ingénierie. Cela relevait des sciences cognitives, de la psychologie. Toutes ces choses étaient impliquées. Et c'est cela qui manque aujourd'hui. Je vais juste partager quelque chose qu'il a dit. Je vais l'écrire quelque part. Douglas Hofstadter a cette citation. Melanie Mitchell la cite tout le temps. Il dit : sans concepts il ne peut y avoir de pensée, et sans analogies il ne peut y avoir de concepts. Qu'est-ce qu'un concept ? Un concept est quelque chose que nous concevons dans notre esprit. C'est une notion ou une idée. Et dans ce livre, c'est là qu'il dit : sans concepts, il ne peut y avoir de pensée. Sans analogies, il ne peut y avoir de concepts. Les analogies sont le cœur de notre intelligence. Nous allons revenir à l'article. Le livre couronné par le prix Pulitzer en 1975, « Gödel, Escher, Bach », a inspiré Mitchell. Elle était professeure de mathématiques dans un lycée à New York. Elle a décidé qu'elle devait être dans l'intelligence artificielle. C'est à ce moment-là qu'elle a lu le livre. Elle a rapidement retrouvé l'auteur du livre, le chercheur en IA Douglas Hofstadter, et l'a convaincu de lui donner un stage. Elle n'avait suivi qu'une poignée de cours d'informatique à l'époque, mais il a semblé impressionné par son culot et indifférent à ses titres universitaires.

Terrie : Mitchell a préparé une candidature « de dernière minute » pour l'école doctorale et a rejoint le nouveau laboratoire de Hofstadter à l'université du Michigan à Ann Arbor. Les deux ont passé les six années suivantes à collaborer étroitement sur Copycat, un programme informatique qui, selon les mots de ses co-créateurs, était conçu pour découvrir des analogies pénétrantes et pour le faire d'une manière psychologiquement réaliste. Les analogies que Copycat produisait étaient entre de simples motifs de lettres, semblables aux analogies des tests standardisés. Si vous passiez un test d'intelligence, vous auriez des questions comme : si la chaîne ABC devient la chaîne A-B-D, en quoi devient la chaîne PQRS ? Vous faites ces tests d'analyse quand vous passez un test d'intelligence, et ceux-ci faisaient aussi partie des tests standardisés en Amérique. C'est ce qu'ils font pour leur programme scolaire. Hofstadter et Mitchell croyaient que comprendre le processus cognitif de l'analogie — la façon dont les êtres humains font des connexions abstraites entre des idées, des perceptions et des expériences semblables — serait crucial pour débloquer une intelligence artificielle de type humain. Mitchell soutient que l'analogie peut aller bien plus loin que la reconnaissance de motifs de type examen. C'est comprendre l'essence d'une situation en la faisant correspondre à une autre situation déjà comprise.

Terrie : Elle a dit : si tu me racontes une histoire et que je dis « oh, la même chose m'est arrivée », ce n'est pas littéralement la même chose qui m'est arrivée à moi et qui t'est arrivée à toi. Mais je peux établir une correspondance qui la fait paraître très analogue. C'est quelque chose que nous, humains, faisons tout le temps sans même nous rendre compte que nous le faisons. Nous nageons dans une mer d'analogies en permanence. En tant que professeure Davis de complexité au Santa Fe Institute, Mitchell a élargi ses recherches au-delà de l'apprentissage automatique. Elle dirige actuellement le projet du SFI « Foundations of Intelligence in Natural and Artificial Systems », qui réunira une série d'ateliers interdisciplinaires au cours de l'année à venir, examinant comment l'évolution biologique, le comportement collectif — comme celui des insectes sociaux, les fourmis par exemple — et un corps physique contribuent tous à l'intelligence. Qu'est-ce qui contribue à l'intelligence ? Elle dit : l'évolution biologique. Mais notez bien : le comportement collectif, le fait d'être social, et le fait d'avoir un corps contribuent à l'intelligence. Mais le rôle de l'analogie occupe une place plus grande que jamais dans son travail, surtout en IA. Les réseaux de neurones les plus avancés d'aujourd'hui sont très bons à certaines tâches, a-t-elle dit, mais ils sont très mauvais pour prendre ce qu'ils ont appris dans un type de situation et le transférer à un autre.

Terrie : L'essence d'une analogie. Ce n'est qu'une introduction. Elle va continuer et en parler davantage dans cet article, au fil de l'entretien. Mais remarquez : nous nageons dans une mer d'analogies en permanence. Nous ne réalisons pas que c'est tellement une partie de la façon dont nous pensons, dont nous lisons et comprenons. Rachel, est-ce que tu avais encore la main levée ? Je ne t'ai pas ratée.

Rachel : Je crois que c'était Brenden. D'accord, Brenden.

Brenden : J'avais levé la main plutôt pour la photo précédente, celle avec Obama dessus.

Terrie : Est-ce que tu veux faire un commentaire ?

Brenden : Oh, il faut que j'y retourne. Je ne me souviens plus de ce qu'était mon commentaire, là-bas.

Terrie : Est-ce que tu veux que je remette la photo ? Est-ce que ça aiderait ?

Brenden : Je crois que c'était une suite de ce que Rachel disait, je suppose. Quand tu as évoqué l'histoire précédente, tirée de ton expérience, comment la technologie a identifié la poire, et ensuite elle a identifié ton chariot de courses. Pour qu'un dispositif technique regarde cette photo. Et je suppose qu'en l'état, il détecterait la poire. Mais derrière cette poire, il y a tout un tas de sens, et là il regarde Obama — imagine qu'il soit la poire. Mais il y a tout un tas de sens différents derrière cette poire. Je n'arrive tout simplement pas à voir comment cela pourrait être possible. Il peut détecter que quelque chose est là ou que quelque chose n'y est pas, mais il ne peut pas détecter les émotions, les significations, l'histoire. Il ne peut pas comprendre cela. C'est cela, le problème. Et c'est cela que cette personne essaie de faire advenir avec ces analogies. C'est bien ça ?

Terrie : Oui. Après la présentation de la semaine dernière, Rachel m'a contactée, et nous avons échangé brièvement. Et tu as fait ce commentaire, Rachel, sur l'humour, sur la quantité d'analogie qu'il y a dans l'humour. Ce qui m'a fait chercher sur Google. J'ai juste tapé « blagues nulles ». Et on voyait de l'analogie tout le temps. Et bien sûr, cela prend tout son sens quand on regarde. Nous faisons cela tout le temps. Cela rend les choses drôles. Mais en même temps, cela nous aide aussi à interagir socialement. Cela nous aide à grandir dans notre compréhension et à faire de meilleurs choix, parce que nous pouvons transférer notre apprentissage. Un enfant peut — je crois qu'à l'âge d'un an, ils ont 60 000 images dans la tête. Il ne suffit pas d'avoir l'image dans la tête. Il faut transférer ce qu'on a appris de ces images dans son comportement, à mesure qu'on se développe et qu'on grandit. Quand on arrive à notre âge, il y a beaucoup de choses qui ont été mises en mémoire, bien plus qu'une simple image de poire ou d'oignon. Merci, Brenden. Est-ce que tu voulais ajouter autre chose ?

Brenden : Non. Je suis curieux de savoir comment elle poursuit. Ce qu'elle essaie de faire. Elle essaie de dériver du sens derrière les images avec ses analogies. Cela semble une tâche impossible.

Terrie : Ça l'est. Et comme ce scientifique le disait, il a fait cela il y a dix ans, 2022, ils n'en sont pas plus près, et pourtant il travaille sur les véhicules autonomes avec la technologie de vision. Que les voitures sachent qu'il y a une voiture devant, et cetera, mais c'est tellement limité, parce que ça pourrait voir quelqu'un qui déboule sur la rue. Mais quand nous voyons cela, nous saisissons bien plus que l'objet. Nous pouvons remarquer beaucoup d'autres choses qui se passent autour de cet objet. Nous saisissons plus que nous ne le réalisons. C'est tellement inconscient que nous n'y pensons même pas. Et c'est pour cela que nous ne pourrions absolument pas y penser, sinon nous serions épuisés comme nous le sommes déjà. À penser à ce à quoi nous devons penser. Le cerveau nous aide à faire les choses qui sont faciles, sinon nous ne survivrions tout simplement pas. C'est stupéfiant.

Brenden : Je suppose que les limites de ce à quoi il a affaire, c'est… nous verrions un trou dans la clôture et des vaches qui ont traversé la clôture, même si elles ne sont pas sur la route. Et l'IA ne détecterait pas nécessairement cela comme un problème, parce que c'est sur le bord de la route. Alors que nous, nous verrions cela et nous serions prudents et nous ralentirions, sachant qu'aucune vache n'a encore traversé, mais nous nous dirions, genre, que ce n'est qu'une chose parmi un million d'autres : nous serions simplement prudents et nous ralentirions. Et pourtant, comment apprend-on cela à un ordinateur ? Comment dirais-tu que c'est un danger, alors que ce n'est pas nécessairement sur ton chemin ?

Terrie : Et l'autre chose qu'elle introduit là-dedans, c'est cette idée que nous sommes des créatures sociales. Une grande partie de notre expérience et de notre apprentissage vient de ce que nous sommes parmi d'autres et que nous prenons celle des autres. Ce n'est pas seulement notre expérience, nous regardons l'expérience des autres. Tu sais que le fermier plus bas sur la route a eu des vaches qui sont sorties de son pré et tu savais ce qui s'est passé. Cela apporte un autre niveau de compréhension quand des vaches sortent de ton pré, ou qu'il y a un trou dans la clôture et qu'elles pourraient sortir. Elle utilise quelques photos dans son livre. Sur l'une d'elles, une femme traversait une route, elle avait une poussette et elle tirait un chien, et le chien s'était arrêté pour renifler le poteau, et tu es deux longueurs de voiture derrière. Et c'est stupéfiant, ce que ton cerveau saisit et la façon dont tu vas réagir quand tu sais ce qu'un chien fera une fois qu'on l'aura tiré. S'il est tiré, il pourrait — cela te donne juste un plus, tu sais que ce chien qui tire en arrière pourrait lâcher d'une minute à l'autre et traverser la route en courant, à cause de l'expérience, à cause de l'analogie, et cela t'aide à conduire d'une certaine manière.

Terrie : Comment fait-on entrer cette expérience dans un véhicule autonome ? Il voit juste un chien qui tire d'un côté. Il ne va pas s'attendre à ce que le chien parte de ce côté-ci parce que la femme le tire. Il y a des millions et des milliards d'exemples comme celui-là. Quand on y pense. Rachel.

Rachel : Sans vouloir te retarder, mais juste d'autres réflexions. Quand tu parles de ta poire. Ces ordinateurs peuvent identifier un objet, mais ils ne savent pas quel goût il a. Ils peuvent identifier une personne qui traverse la route, mais ils ne comprennent pas que cette personne pourrait avoir une canne. Ils ne savent pas quel âge elle a.

Et je crois qu'une chose qui n'arrête pas de me venir à l'esprit, c'est que ce sont des prédictions. Je ne sais pas si c'est le bon mot, ou si ce sont juste des analogies aussi, je n'en suis pas trop sûre.

Terrie : Oui, des prédictions.

Rachel : Ils ne peuvent pas prédire ce que la vache va faire. Et tout cela vient simplement de l'expérience.

Terrie : Oui. Et ces dernières avancées technologiques sont en fait bâties sur le fait de faire des prédictions, mais elles sont fondées sur des équations mathématiques et non sur l'expérience, si bien qu'elles commettent des erreurs. Nous arriverons peut-être à cela aujourd'hui. C'est une très bonne remarque, Rachel. Ils peuvent prédire, ils peuvent se tromper lourdement. Les avancées de l'intelligence étroite sont stupéfiantes. Les. Les supermarchés doivent faire cela. Ils doivent perdre des tonnes de marchandise à ces caisses. Ce serait facile de repartir avec des affaires, alors ils ont développé la technologie. Mais cette machine ne savait pas que j'avais emporté des sacs supplémentaires, juste au cas où. Et je n'ai pas acheté autant de courses que je le pensais, donc les sacs vides sont restés dans le chariot. Mais ce n'est pas grave, on a réglé ça. Cela va faire du travail en plus pour l'assistante. Mais avec la technologie, on apprend par les erreurs. Et ils n'arrêtent pas de les corriger. Cela ne les rend pas plus intelligentes, ce sont des humains qui les programment. Il y a eu une histoire stupéfiante il y a juste deux ou trois semaines. L'université de Melbourne a maintenant une technologie, une technologie vocale, qui peut déterminer si une personne a la maladie de Parkinson. Les médecins font cela depuis des années, en écoutant la façon dont une personne parle.

Terrie : Et maintenant ils ont une IA qui peut faire cela : non seulement reconnaître à quel stade en est ce Parkinson, le diagnostiquer, mais aussi calculer de combien de médicaments cette personne aurait besoin selon le diagnostic. Nous ne sommes pas en train de dénigrer l'IA. Cela a été une bénédiction stupéfiante, mais il y a un gros revers. J'ai lu quelque part. Quelqu'un a dit : « le problème n'est pas que l'IA soit trop intelligente et qu'elle risque de prendre le contrôle du monde. C'est que l'IA n'est pas assez intelligente et qu'elle a pris le contrôle du monde. » Ce que nous voulons examiner, c'est : en quoi n'est-elle pas intelligente ? Ce qui a pris le contrôle. Les analogies. J'y ai réfléchi, je me fais distraire maintenant chaque fois que je lis quelque chose. Je vois des analogies partout. Et même quand nous parlons des hivers de l'IA et des printemps de l'IA, ce sont des analogies. Nous pouvons sentir l'hiver, nous pouvons sentir le printemps et l'excitation et la nouvelle croissance. Nous parlons des vagues de COVID, des vagues de la pandémie. Il y en avait une autre dont nous parlerons demain, quand nous examinerons l'article du Washington Post que l'Ancien Parminder a mis en ligne sur l'originalisme et la Constitution. C'est stupéfiant, la quantité d'analogie qu'il y a dans ce document. Bon : analogie et bon sens. Le bon sens est simplement la capacité d'exercer un jugement bon et sain dans des situations pratiques.

Terrie : Le bon sens, c'est ton propre ressenti. Ce n'est pas « commun » au sens où d'autres gens seraient d'accord. C'est commun au sens où cela te paraît complètement ordinaire et évident. Est-ce que cela a du sens ? Brenden, tu as encore la main levée.

Brenden : Avant que tu ne fasses ce commentaire. Tout ce thème des analogies, n'est-ce pas exactement la façon dont le message fonctionne ? C'est l'enseignement par paraboles. L'IA ne peut pas identifier les analogies, elle ne peut pas identifier l'enseignement par paraboles ? Ou est-ce que je pars sur une autre piste ?

Terrie : Non, c'est exactement ce dont nous avons parlé la semaine dernière. Si tu considères Les paraboles de Jésus, et quand Jésus enseignait en paraboles, il puise vraiment dans ce qui, de manière innée, nous rend intelligents. Ce n'est pas un gadget. Il y a de la science derrière ce qu'il fait. Il nous force à comparer des situations, parce que nous sommes bâtis pour faire cela.

Cela fait partie de la façon dont nous sommes bâtis et constitués. Nous avons parlé la semaine dernière de Nicodème et du moment où Jésus a dit : si un homme ne naît de nouveau, il ne peut voir le royaume de Dieu. Il forçait Nicodème à faire une analogie. Et tu vas réagir de l'une ou l'autre façon. Tu vas la rejeter ou tu vas la voir. Tu la verras avec l'œil de ton esprit et tu feras une application. Tu verras les similitudes. Est-ce que cela t'aide, Brenden ?

Brenden : Oui. Merci.

Terrie : Bon, revenons au bon sens. Pourquoi est-il « commun » ? Je viens de lire la citation. Qu'est-ce qui le rend commun ? Katherine.

Katherine : Cela te paraît commun et évident, mais ce n'est pas nécessairement ce que tout le monde pense réellement, comme toi. C'est ce que tu voulais dire ?

Terrie : Ouais. Ce n'est pas commun parce que cela s'applique à tout le monde. C'est commun parce que c'est subconscient. C'est tellement évident et ordinaire. On ne peut pas séparer les analogies et le bon sens. Quand Nicodème a rejeté l'analogie, il a perdu son bon sens. Nous — tu veux que nous retournions dans le ventre ? Est-ce que ce serait idiot ? Elles sont très liées. Qu'est-ce dont nous devons avoir peur ? 2022 est une année énorme pour l'IA. Le printemps a commencé en 2012. Et regardons juste deux ou trois choses qui se sont passées cette année en intelligence artificielle, et voyons quels sont les problèmes. Ceci est un article du New York Times, et il date, je crois, de septembre. Laissez-moi vérifier. Oui, août. « Nous devons parler de la qualité que l'IA est en train d'atteindre ». Nous sommes dans un âge d'or du progrès en intelligence artificielle. Il est temps de commencer à prendre son potentiel et ses risques au sérieux. Ce dont il va parler ici, c'est de Dall-E. Est-ce que tout le monde connaît Dall-E ? C'est une conversation textuelle. Katherine ?

Katherine : Oui, je connais Dall-E.

Terrie : D'accord. Si tu veux bien l'expliquer à tout le monde.

Katherine : C'est une intelligence artificielle qui génère de l'art. Tu peux taper les mots-clés que tu veux que l'œuvre représente, tu tapes cela, tu peux taper le style d'art que tu voudrais, et alors l'écran d'ordinateur va générer une image pour toi à partir de cela — de l'art primé, dans certains cas. Cela a beaucoup attiré l'attention des médias, mais la façon dont cela y parvient repose sur les mégadonnées. Les ordinateurs ont mémorisé des images, des millions d'images. Cela ne comprend pas vraiment ce que cela fait, mais cela utilise des mathématiques et des formules pour reproduire ce que cela a vu ailleurs, avec des mots-clés. C'est assez intéressant.

Terrie : Plutôt amusant. Oui. Bon. Je reprends juste ton vocabulaire. « Cela mémorise. » Mais je crois que tu as nuancé. Que se passe-t-il ?

Katherine : Cela a scanné des millions ou des milliards d'images et les a stockées sur ses disques.

Terrie : Des êtres humains ont téléversé des millions et des milliards d'images et tous ces pixels. Cette technologie a été introduite par OpenAI. Souvenez-vous, OpenAI a été rachetée par Google en 2014, et cette technologie a été introduite en avril. Mais c'était sur invitation seulement, il fallait donc s'inscrire sur une liste d'attente pour jouer avec cette technologie. Ce journaliste du New York Times a pu utiliser la technologie pendant un week-end en août, et il s'est amusé. Il a tapé dans Dall-E 2 les mots « Infinite Joy » — joie infinie — et hop, en est sorti ce petit extraterrestre, l'air très heureux et satisfait. Voilà ce que l'ordinateur a tiré de ses vastes ressources pour créer une image appelée « Infinite Joy ». Ces derniers jours, j'ai joué avec Dall-E 2, une application développée par l'entreprise san-franciscaine OpenAI qui transforme des descriptions textuelles en images hyperréalistes. Et il va expliquer qu'il a pu l'utiliser pendant le week-end. Il va expliquer comment cela fonctionne. Il va montrer deux ou trois de ses images. J'aime bien celle-ci. Il a dit : un voilier tricoté en laine bleue, et cetera. Et il va continuer et expliquer comment cela fonctionne.

Terrie : Mais nous voulons sauter un mois plus loin, en septembre. Il se passe beaucoup de choses entre août et septembre. Et voici un article du Washington Post. « L'IA peut désormais créer n'importe quelle image en quelques secondes, apportant émerveillement et danger ». Voici quelques images que ce journaliste a créées. Aucune de ces photos n'a été prise avec un appareil. Toutes ces images ont été créées par le générateur d'images à partir de texte, l'intelligence artificielle Dall-E. Nommé d'après Salvador Dalí — c'était un artiste — et WALL-E de Pixar. Dall-E crée des images à partir d'invites, comme « une maison de hobbit conçue par Zaha Hadid ». Zaha Hadid est une architecte irako-britannique, et si vous connaissez son travail, c'est très Zaha Hadid, mais c'est aussi très hobbit. C'est assez habile. Très Seigneur des Anneaux. « Une femme en manteau rouge sur une place de New York qui lève les yeux », et cetera, « des poivrons rouges et jaunes ». Des images très réalistes, à partir de seulement quelques invites textuelles. Depuis que le laboratoire de recherche OpenAI a dévoilé la dernière version de Dall-E en avril, l'IA a ébloui le public, attirant des artistes numériques, des graphistes, des adopteurs précoces, et quiconque cherche une distraction en ligne.

Terrie : La capacité de créer des images originales, parfois exactes et parfois inspirées, à partir de n'importe quelle phrase lancée sur le moment — comme un Photoshop conversationnel — a stupéfié même les internautes les plus blasés par la rapidité des progrès de l'IA. Cinq mois plus tard, 1,5 million d'utilisateurs génèrent 2 millions d'images par jour. Mercredi, OpenAI a annoncé avoir supprimé sa liste d'attente pour Dall-E, donnant à tout le monde un accès immédiat. En septembre, tout est ouvert. N'importe qui peut l'utiliser. Je crois qu'il faut payer, mais ce n'est pas grand-chose. Il y a un petit droit d'accès. Cela a déclenché une explosion des générateurs d'images à partir de texte. Et comme Katherine l'a dit, cela a effectivement gagné un concours. La technologie se répand rapidement. Donc il n'y a plus seulement Dall-E. Si vous cherchez sur Google ces générateurs d'images à partir de texte, vous trouverez des articles où il est écrit : les dix meilleurs générateurs d'images à partir de texte. Il y en a tellement qui sortent des entreprises maintenant. Le problème, c'est — et il va continuer et l'expliquer — une fois que la ligne entre le vrai et le faux est érodée, tout deviendra faux. Nous ne pourrons plus rien croire.

C'est l'une des citations que vous trouverez dans cet article. Il y a juste quelques points que je veux relever.

Terrie : OpenAI a essayé d'équilibrer sa volonté d'être la première et de faire le battage de ses avancées en IA sans accélérer ces dangers. Pour empêcher que Dall-E soit utilisé pour créer de la désinformation, par exemple, OpenAI interdit les images de célébrités ou de responsables politiques. Sam Altman, directeur général d'OpenAI. Donc Sam Altman, Elon Musk et un autre homme étaient les fondateurs d'OpenAI. Sam Altman est toujours aux commandes. Ils ont justifié la décision de rendre Dall-E public comme une étape essentielle pour développer la technologie en toute sécurité. Il faut apprendre au contact de la réalité, a dit Altman. Ce que les utilisateurs veulent en faire, la façon dont cela casse. Au fond, ce qu'ils ont fait — c'est cela, l'argument qui se joue en ce moment en intelligence artificielle. Quels paramètres de protection sont en place. Beaucoup de ces générateurs d'images à partir de texte n'en ont aucun. Vous avez ce combat, ce combat libertarien : est-ce que nous mettons des filtres sur nos équipements ? Est-ce que nous avons des protections, ou est-ce que nous laissons simplement faire, est-ce que nous faisons confiance au public, est-ce que nous le donnons au public, et quand les choses tourneront mal, nous les corrigerons à ce moment-là ? Et donc c'est cela l'argument : comment régule-t-on ces choses ? Et c'est le même argument, si vous suivez ce qui se passe avec Twitter en ce moment avec Elon Musk. Il est arrivé et il a racheté cette entreprise à cause du problème de la gestion de la désinformation.

Terrie : Il y a un nom pour cela, qui ne me revient pas. Brenden.

Brenden : Tu l'as mentionné de toute façon. Je ne vois aucune différence entre gérer l'art numérique et gérer la parole sur les réseaux sociaux. Et tu as mentionné Twitter. Ce n'est pas le même principe ? D'un côté, ici, ils essaient de trouver comment rendre les choses sûres dans le monde de l'art numérique, pour ne pas créer de fausses images. Et pourtant ils n'ont pas vraiment fait du très bon travail pour gérer les mots ces dix dernières années. C'est le même principe, il faut juste qu'ils se concentrent sur les mots aussi, ceux qui ont été prononcés.

Terrie : Oui. Nous suivons exactement — nous suivons le développement de certaines de ces technologies d'IA cette année. Mais ceci, c'est Dall-E 2. Nous discuterons à terme des nouveaux chatbots. Le texte-vers-langage, et quand il n'y a aucune contrainte là-dessus, quelles sont les possibilités en matière de désinformation.

Brenden : Cela semble simplement être comme une boîte de Pandore. Genre, c'est hors de contrôle.

Terrie : Nous ne l'avons pas encore vu. Nous ne l'avons pas vraiment encore vu. Quand ils sortent quelque chose comme ceci, comme Dall-E 2 et le chatbot GPT-3, dont nous n'avons pas encore discuté, cela veut dire que nous n'entendons pas ce qui est encore réellement en développement. L'an prochain, ce sera Dall-E 3. Ce sera Chatbot 4. Ce que 2023 réserve en IA est déjà en développement, et les gens qui l'ont vu ont été épatés. Ils en ressortent en se disant que c'est magique. Ce que nous voyons, ce sont presque des prototypes, et nous nous laissons épater par les prototypes. Mais ils disent que les douze prochains mois en IA vont apporter des améliorations stupéfiantes par rapport à ce qui a déjà été livré à la consommation du public. Voilà les choses qu'ils ont dû corriger. Vous tapez « avocat » dans Dall-E 2, et devinez ce que vous obtenez. Qu'avons-nous ? Quel est notre problème ? Katherine.

Katherine : Ce sont tous des hommes. Et même des hommes blancs.

Terrie : Et si vous tapez « stewards de compagnie aérienne », ce sont en fait toutes des femmes asiatiques. Voilà les biais qui sont dans ces systèmes. Et pourquoi sont-ils là ? À cause de toute l'information qui a été collectée et téléversée. C'est ce qui est déjà dans la société. Cela n'a pas ses propres biais. Tous les biais, le sexisme qui est dans la société, sont téléversés dans ces machines. Vous avez ce genre de problèmes. Laissez-moi essayer de retrouver un paragraphe ici. Oh, j'aime bien celle-ci. « Un bol de soupe qui ressemble à un monstre tricoté en laine ». Vous les avez peut-être vues. Mais il y en a beaucoup d'autres, beaucoup d'autres sites. Je cherche juste un paragraphe en particulier. Je crois que je l'ai dépassé. C'est agaçant quand cela arrive. Vous aimez « le fauteuil Avocat sur fond orange ». C'est très habile. Non, il faut que je retrouve ce paragraphe. Voilà. Je l'ai. Chaque évolution de la technologie de l'image a introduit des dommages potentiels en même temps qu'un gain d'efficacité. Photoshop a permis une retouche et une amélioration précises des photos, mais a aussi servi à déformer l'image du corps, en particulier chez les filles, comme l'ont montré des études. Plus récemment, les progrès de l'IA ont donné naissance aux deepfakes [N.d.T. : terme recommandé en français : « hypertrucage » ; l'anglais est conservé, l'oratrice l'employant tout au long.].

Terrie : Les deepfakes ont en fait été inventés en 2017 et sont devenus énormes et viraux en 2018. Je crois que c'était vers novembre 2017 pour le premier deepfake, et puis en 2018, cela a tout envahi. C'est un terme large qui couvre tout média synthétisé par IA, depuis les vidéos truquées où la tête d'une personne a été placée sur le corps d'une autre jusqu'à des photographies étonnamment réalistes de gens qui n'existent pas. Quand les deepfakes sont apparus, les experts ont averti qu'ils pourraient être déployés pour saper la politique. Mais dans les cinq ans qui ont suivi, la technologie a surtout été utilisée pour faire des femmes des victimes, en créant de la pornographie deepfake sans leur consentement, a dit Danielle Citron, professeure de droit à l'université de Virginie et auteure du livre à paraître « The Fight for Privacy ». Les deepfakes comme les générateurs d'images à partir de texte sont propulsés par une méthode d'entraînement de l'IA appelée apprentissage profond, qui repose sur des réseaux de neurones artificiels imitant les neurones du cerveau humain. Cependant, ces générateurs d'images plus récents, qui permettent à l'utilisateur de créer des images qu'il peut décrire en anglais ou de modifier des images téléversées, s'appuient sur de grands progrès de la capacité de l'IA à traiter la façon dont les humains parlent et communiquent naturellement, y compris des travaux dont OpenAI a été pionnière.

Terrie : Qu'est-ce que cela dit ? Cela dit que toutes ces images, c'est la façon dont nous communiquons naturellement, dont nous interagissons les uns avec les autres. La façon dont ces images sont étiquetées et téléversées prend tous ces biais naturels qui sont dans la société et les met dans ces machines. Ils étaient vraiment inquiets au début, comme le disait l'article, de la façon dont cela affecterait la politique, mais 95 % des deepfakes sont en fait de la pornographie. Or, il y a une différence entre le deepfake et Dall-E. Les deepfakes existent depuis 2017. C'est du photomontage. Prendre une tête, la mettre sur un autre corps, et cetera. Et on arrive un peu à le voir. Mais avec ce générateur d'images, au début, ils ne permettaient pas que les visages de personnes soient utilisés, surtout pour les célébrités. Mais maintenant, c'est portes ouvertes. Vous pouvez utiliser n'importe qui. N'importe quel nom. L'ordinateur va sortir ce nom de sa mémoire, de sa banque de données, et va créer une image de cette personne avec les instructions que vous donnerez à cette machine. Avec les deepfakes en 2018, ce que nous avons vu, c'était toute cette pornographie qui entourait Scarlett Johansson, et tout le machisme masculin, c'était Nicolas Cage.

Terrie : Vous aviez deux célébrités qui étaient beaucoup utilisées dans les deepfakes, l'une pour la pornographie, l'autre c'était tout l'Action Man. Ceci a porté cela à un autre niveau. Parce que la netteté de l'image ne cesse de s'améliorer. Et vous pouvez les mettre dans n'importe quelle situation. Nous voyons comment cela affecte les femmes en particulier. Toutes sortes de restrictions ont été levées, et puis il y a cet argument. Les dirigeants d'un générateur en particulier, qui s'appelle Midjourney, ont dit qu'il y a une approche paternaliste qui consiste à ne pas faire confiance aux utilisateurs. Ils disent : nous ne voulons pas de garde-fous sur notre machine, nous voulons faire confiance aux utilisateurs. Et la nature humaine étant ce qu'elle est, c'est utilisé simplement pour le pire type de choses. Comment cela se produit-il ? Nous n'avons pas encore examiné le chatbot. Mais si l'IA doit faire tourner d'énormes pans de nos vies — et c'est déjà le cas partout —, quelles sont les implications si la plupart des développeurs, des PDG, des programmeurs, et cetera… comment sommes-nous affectés si la majorité des gens impliqués dans l'IA sont en fait des hommes ? Les fondateurs de start-up, ce sont tous des hommes. Comment cela affecte-t-il cette technologie ?

Terrie : Comment cette technologie tourne-t-elle mal ? C'est la question sur laquelle nous finirons. En 2018, il y avait un groupe de trois journalistes, trois femmes journalistes de NPR. C'est l'équivalent de notre ABC. Et elles ont fondé une start-up. Alors, les start-up sont des entreprises qui en sont aux premiers stades de leur activité. Vous avez une idée, vous avez une certaine technologie derrière vous, et maintenant il vous faut la faire financer. Elles ont créé cette start-up et elles cherchent des financements. Ce qu'elles veulent créer, c'est une sorte d'assistant virtuel. Si vous avez entendu parler de Siri, qui est l'assistant d'Apple. Celui-ci est un autre assistant. Mais ce qu'elles visaient, c'était d'avoir un assistant qui aiderait les bibliothécaires, les musées et les étudiants à disposer de données sur les femmes plus fiables culturellement et exploitables par machine. C'est l'idée de cet assistant. En 2018, elles font leurs recherches et elles passent l'été avec Topcoder. Topcoder est une entreprise de production participative. Où va-t-on chercher toutes les images, toute l'information à mettre sur ces machines ? On va voir des entreprises de production participative : il y a des données qui sont accessibles à tous.

Terrie : Ce sont des sources de données publiques. C'est ce qu'utilisent toutes les technologies d'IA pour créer leurs inventions. Pour démarrer leur technologie. Il faut accéder à ces sources de données publiques. Ce qu'elles ont trouvé. Si nous en prenons une, par exemple. Elles sont allées voir Wikipédia. Si vous regardez là, c'est une source de données publique. À Wikipédia est associé aussi Wikidata. Elles sont allées dans cette source, et ce qu'elles ont trouvé, c'est que la majorité des termes masculins dans Wikipédia — l'outil que nous utilisons très, très souvent — tous les termes masculins sont associés à la science, et les termes féminins sont associés aux arts. Il y avait une distinction nette dans Wikipédia sur le biais de genre, dans Wikidata en particulier. Il y a une autre base de données publique appelée Pantheon. Pantheon répertorie 70 000 biographies de personnes célèbres. Si vous voulez une biographie sur quelqu'un, vous chercherez peut-être sur Google, vous irez peut-être sur Wikipédia, vous irez peut-être sur Pantheon. Ce n'est pas l'une des plus connues, mais les gens qui font de la recherche connaissent Pantheon. Donc, 70 000 biographies. Elles ont filtré les femmes dans des professions de figures publiques, en remontant jusqu'à 3500 av. J.-C. Et ce qu'elles ont trouvé, la visualisation dans Pantheon.

Terrie : Les images et les descriptions des femmes dans Pantheon montraient que la principale profession des femmes ces 5 000 dernières années est le mannequinat et l'actorat pornographique. Et je n'invente rien. Ce sont les données qu'elles ont extraites de ces ressources publiques. Il y a une autre ressource publique qui a depuis été retirée, et elle avait été créée par le MIT. Donc le Massachusetts Institute of Technology, la première université de technologie au monde. Ils ont lancé leur propre base de données publique et ils l'ont appelée « 80 Million Tiny Images » — 80 millions de petites images. C'est le nom, 80 Million Tiny Images, parce qu'ils téléversaient 80 millions de petites images. Cependant, ce qu'ils ont trouvé, c'est que — voyez-vous, tout se fait étiqueter : vous téléversez une image, il faut qu'elle ait une description. Quand ils sont allés voir toutes les descriptions de ces femmes, elles étaient soit traitées de putains, soit du mot en C. Toutes sortes de noms, « platine » et « blondes ». Le problème était si gros qu'ils n'ont pas pu le corriger. Ils ont tout simplement mis le projet à la poubelle. Parce que revenir en arrière et retirer ou refaire ces étiquettes était impossible. Comprenez bien que ce ne sont pas les chercheurs. Là où tout l'exercice a mal tourné, c'est qu'ils n'avaient pas la capacité de tout passer au crible, de cribler l'ensemble du matériel.

Terrie : Tout s'est fait téléverser sans contrôle. Ils ne pouvaient pas filtrer ni trier suffisamment. Des gens bien intentionnés téléversent toute cette information, toutes ces données qui sont sur des ordinateurs, dans des livres et des encyclopédies depuis des milliers d'années. Sur toute la durée que vous voudrez, l'information à téléverser est tellement imprégnée de sexisme qu'on ne peut pas la filtrer pour la faire entrer dans ces ressources de données. Toutes ces données, c'est ce qui est téléversé dans ces nouvelles IA. Ce n'est pas comme si c'était programmé exprès. Nous savons que le sexisme est la forme de discrimination la plus longue, la plus profonde, la pire, la plus fondamentale. C'est cette information-là qui est là dehors. Et si vous transférez cette information dans les machines, vous ne pouvez pas l'en débarrasser, à moins de reprendre toutes ces données et de tout réétiqueter. Et c'est tout simplement impossible. Le MIT a tout simplement renoncé et mis le projet à la poubelle. La raison pour laquelle nous avons Dall-E. La raison pour laquelle nous avons beaucoup de ces générateurs d'images, c'est à cause du travail d'une femme en particulier. C'est une scientifique brillante,

Fei-Fei Li. En 2014, ils ont introduit ceci. C'était une révolution de l'IA.

Terrie : Pardon, pas 2014. C'est 2012. Et cela lance ce printemps de l'IA. Et elle a eu l'idée de bâtir une ressource visuelle géante. Parce qu'elle a dit : si l'IA doit devenir intelligente, il lui faut simplement des données. Il faut qu'elle ait le plus d'information possible téléversée en elle. Ils s'y sont mis. J'essaie juste de retrouver le nom de cela. Cela m'échappe. ImageNet. C'est comme cela que cela s'appelle, ImageNet. Ils voulaient que chaque objet du monde soit téléversé dans l'ordinateur. Vous imaginez quelle tâche c'est. Ils y ont passé des heures, des jours, des mois, deux ou trois ans, quand ils se sont rendu compte qu'ils ne pouvaient pas tout faire. Ils ont externalisé. Il y a cette entreprise d'externalisation appelée Amazon Turk, et beaucoup d'entreprises l'utilisent. Au fond, vous pouvez vivre dans le monde, n'importe où à travers le monde, et vous êtes payé une misère, mais vous êtes payé pour faire ces tâches très ingrates, comme téléverser des données. Ils ont fait appel à 50 000 personnes à travers le monde pour téléverser tous ces objets sur ImageNet. Et puis il y a eu deux personnes, un chercheur et une journaliste, qui voulaient démontrer les dangers de l'IA.

Terrie : Et ils ont inventé ce jeu, et il s'appelle ImageNet Roulette. Et cela a explosé à travers l'Internet. Et ce que vous faisiez, c'est que vous téléversiez un selfie dans ImageNet et vous demandiez à ImageNet de vous catégoriser. Et les catégories qui revenaient étaient pleines de sexisme. Ce qu'ils ont trouvé. Ce n'était pas seulement problématique, c'était offensant, très offensant. Et c'était raciste aussi. Mais les femmes étaient étiquetées de tout, depuis « pom-pom girl », « blonde platine », jusqu'à « salopes ». « Femmes négligées », « traînées » et « souillons ». Cela faisait des années que je n'avais pas entendu le mot slattern. Mais voilà ce qui était accolé à ces images. Alors ce qu'ils ont dû faire s'appelle le débiaisage.

Ils doivent reprendre tout ce matériel et le débiaiser, ce qui est un travail énorme. Quel est le problème avec l'IA ? L'un des problèmes, c'est que, pour être efficace, il lui faut des tonnes d'information, que ce soit visuel, que ce soit du langage. Si l'IA devient plus intelligente, c'est parce que les ordinateurs deviennent plus rapides et que la quantité d'information qui y entre augmente de façon exponentielle. Parce qu'ils croient que si nous mettons plus d'information dedans, si nous rendons les ordinateurs plus rapides, nous avons une machine intelligente. Le problème, c'est que toutes ces données ont toutes ces années de sexisme incrusté en elles.

Terrie : Il y a deux exemples que vous connaissez probablement. L'un, c'est Google. Ils voulaient utiliser l'intelligence artificielle pour embaucher. Vous envoyiez vos CV. Et au lieu que des gens les parcourent tous. Vous imaginez, Google est une entreprise énorme. Ils reçoivent des dizaines de milliers de candidatures par an. Tout le monde veut travailler pour Google. Très difficile de mettre un pied dans la porte. Ils développent cette intelligence artificielle. Le problème, c'est que l'intelligence artificielle travaille sur les données. Et les données disent que la plupart des gens qui ont travaillé pour Google toutes ces années ont été des hommes. Si bien que, quand elle est entrée dans les CV. Si elle voyait quoi que ce soit qui indiquait que la personne était une femme, cela était écarté. C'était un article de Reuters de 2018. « Amazon a mis au rebut un outil de recrutement par IA secret qui montrait un biais contre les femmes ». Cela a fait les grands médias aussi. Les spécialistes de l'apprentissage automatique ont découvert un gros problème. Leur nouveau moteur de recrutement n'aimait pas les femmes. Et ensuite cela continue et explique pourquoi. Et ils ont dû mettre cela au rebut.

Terrie : Je crois qu'ils en ont un autre. Débiaisé. Tout doit être débiaisé. L'autre, c'était en 2014. Si vous avez déjà vu Apple lancer un produit, c'est un événement énorme. Vous avez peut-être vu Steve Jobs, de son vivant. Il était sur la scène, de grands écrans. En 2014, ce n'est pas Steve Jobs, c'est l'un des directeurs. Wired est un magazine techno. « La future application santé d'Apple est le début de quelque chose d'énorme ». Apple serait sur le point de lancer une application de suivi de santé appelée Healthbook. C'est une fantastique nouvelle pour tous les créateurs d'applications qui peinent à faire utiliser leurs applications de suivi de forme. Voici pourquoi. Ce que cela va faire. Cela va suivre tous vos signes vitaux, votre consommation de sel, tout, cette application stupéfiante qui allait être sur votre iPhone, sur votre montre. Et qu'est-ce qui pourrait bien mal tourner ? Ceci a été lancé en 2014, et est-ce que quelqu'un se souvient de ce qui a mal tourné ? Cela suivait votre poids, vos conditions médicales, votre hypertension, votre diabète, votre consommation de sel. Qu'est-ce que cela ne faisait pas ? Est-ce que quelqu'un se souvient ? Ils ont pris cher là-dessus.

Terrie : La moitié de la population mondiale a un cycle menstruel. Cela ne figure pas du tout sur leur application santé. Tout le reste y est. Ils ont dû la retirer et ils ont dû l'ajuster, etc. Mais pourquoi n'y était-ce pas ? Est-ce que ces gens étaient totalement inconscients, ou bien ce qu'ils font, c'est qu'ils travaillent sur les données. Ils vont voir ces sources de données et tout y est intrinsèquement imprégné de sexisme. Et ils doivent revenir en arrière et débiaiser ces choses. Quand nous parlons des générateurs d'image vers texte — et peut-être que la prochaine fois nous parlerons des générateurs de texte vers langage. C'est la dernière grande chose, qui va être un énorme problème en entrant dans 2023 et à l'approche de la prochaine élection. L'information qui a été téléversée pour créer ces programmes est défectueuse dès le départ. C'est stupéfiant ce qu'ils savent faire, mais c'est problématique. Brenden.

Brenden : Donc débiaiser, ce serait essayer d'apporter une forme d'égalité. Je suppose que c'est ce que cela voudrait dire. C'est bien ce que tu en penses ? Vous avez cette bataille entre ceux qui pilotent cette technologie de l'IA, s'ils privilégient la liberté sur l'égalité. Déjà, on voit bien que, que ce soit une entreprise ou un gouvernement, il faut de la grande, grande entreprise, une grande base d'employés, un grand gouvernement pour gérer l'égalité, pour apporter l'égalité. Si vous apportez la liberté pour réduire les coûts, vous ne vous soucieriez pas de débiaiser quoi que ce soit. Vous avez ce problème massif.

Terrie : C'est la nouvelle frontière des guerres de la parole. Cela porte cela à un autre niveau. Et tout cela se passe maintenant autour de ces nouveaux chatbots. Le texte vers image, c'est amusant, mais aucun de nous ne jouerait vraiment avec ce genre de chose. Ce que nous examinerons la prochaine fois, ce sont ces générateurs de langage. Et cela change la donne. Et débiaiser quelque chose est un travail de fourmi. C'est bien plus facile de tout téléverser. Mais s'il faut revenir en arrière et réétiqueter. Ces algorithmes se figent. Les machines ne pensent pas, les machines n'ont pas de valeurs, elles ne sont pas biaisées, mais ces algorithmes sont figés. Et puis vous avez les disputes entre les créateurs. Comme Elon Musk et la discussion sur les modérateurs de contenu. Virons tous les modérateurs de contenu et donnons à tout le monde la liberté de faire ce qui lui plaît. Et c'est cela le combat qui se joue entre les créateurs en ce moment. Si vous régulez, qui va faire la régulation ? Vous allez avoir des gens à droite qui vont dire : nous ne voulons rien qui aide une personne à explorer sa propre sexualité.

Terrie : Nous ne voulons rien de tel. Eux, à droite, veulent réguler, réguler. Et puis vous avez à gauche qui dit : pas de régulation. Liberté, liberté. Et puis au tribunal, au milieu, c'est juste le bazar. Quand nous pensons à ce que nous avons à craindre de l'IA, ce sont les deux choses que ce mouvement a reconnues. Un, le sexisme ; deux, la désinformation. Et c'est cela qu'elle va promouvoir. Surtout à mesure que nous entrons dans 2023. Ce qui est sorti cette année, aussi merveilleux que ce soit, ce sont des prototypes de ce qui arrive au coin de la rue. Ils planifient déjà leurs grandes sorties sur les prochains générateurs de langage. Ce qui les rend meilleurs, c'est simplement plus de données, plus de photos, plus d'images. Ce qui sortira l'an prochain aura apparemment 500 fois plus d'images. C'est beaucoup, quand on pense qu'il y a des centaines de milliards d'images là-dessus. Pardon, je devrais dire des centaines de milliards de mots sur ces ordinateurs, et ils vont augmenter cela par 500. C'est beaucoup. Josephine.

Josephine : Je pensais justement à l'énormité, à l'échelle du sexisme qui a été téléversé dans ces bases de données ou ces sources. Et en pensant à un message. Et à mesure que nous allons vers la loi du dimanche, c'est assez effrayant. Cela ne se répand pas seulement de personne à personne, mais c'est par l'Internet. C'est tellement rapide. La vitesse à laquelle cela voyage est énorme.

Terrie : Il nous faut comprendre les paraboles, parce que les paraboles vont nous protéger. Ce sera notre méthodologie pour éprouver si quelque chose est vrai ou faux. Notre méthodologie des paraboles va devenir de plus en plus importante. Mais comprenez aussi que ce combat se joue dans le monde également. Nous ne sommes pas les seuls à dire — à regarder les analogies et à reconnaître ce qui est intelligent ou non. Nous regardons le combat dans le monde, et il reflète le combat à l'intérieur de l'adventisme également. Le but de tout ceci est de dissiper ce qui n'est pas à craindre de l'intelligence artificielle, d'embrasser ce qui n'est pas à craindre. Mais aussi de reconnaître les gros problèmes qu'elle crée, surtout si nous allons vers la loi du dimanche. Le niveau de désinformation et sa brillance, nous pouvons en être ébahis. Mais en même temps, nous avons les outils. Brenden.

Brenden : Juste à propos de ce dont tu viens de parler ces 20 dernières minutes. L'échelle du débiaisage des données qui sont téléversées. Comment rattrape-t-on le retard maintenant pour débiaiser ? Cela s'emballe. Comment rattrape-t-on ? Je ne comprends pas. Comment modère-t-on le contenu à ce niveau de données ? N'est-ce pas maintenant simplement en train de perpétuer le sexisme ? Et c'est intégré dans le système et intégré dans les algorithmes ? Je ne vois pas comment cela peut être corrigé. Combien d'heures faudrait-il pour corriger le biais aux niveaux dont tu viens de parler ? Mon esprit n'arrive même pas à concevoir ce qu'il faudrait pour corriger ce problème. Donc cela se perpétuerait. On ne peut pas corriger cela.

Terrie : Vous voyez des articles sur nos services d'information sur les efforts pour retirer le sexisme de la médecine. Et il y a tellement d'intelligence artificielle utilisée, de bonnes façons, pour diagnostiquer et traiter, et cetera, mais même toutes ces choses ont été affectées par les données qui y sont téléversées. Nous pourrions avoir l'émission média, ou l'émission TMW, pleine d'articles tous les jours. Si vous regardez — et je suis sûre que vous le faites tous — et que vous regardez juste les titres, il y a toujours ces choses qui surgissent. Et c'est surprenant, la fréquence à laquelle l'intelligence artificielle est derrière elles. Le monde est dirigé par elle aujourd'hui. Donc cela ne peut pas ne pas être affecté. Ce n'est pas mauvais en soi, mais c'est l'information de milliers d'années, et surtout depuis l'âge industriel, qui a été téléversée. L'information sur les femmes a été limitée. Il n'y en a tout simplement pas eu. Personne ne s'en est soucié. Nous savons que ces études ont été faites. Même si ce n'est pas forcément une information négative, il se peut juste qu'il n'y ait pas beaucoup d'information. Tout comme Wikipédia. Il y a eu un article. Ma mère me l'a envoyé, je ne sais pas, c'était cette année ou l'an dernier, et il s'agissait d'une femme de Ballarat ou de Bendigo qui, chaque jour, téléverse l'histoire d'une femme sur Wikipédia. Parce qu'on sait très bien à quel point Wikipédia est déséquilibrée sur les biographies de femmes.

Terrie : Très peu de choses sur les femmes scientifiques dans quelque domaine que ce soit. Alors elle fait sa petite part pour corriger cela, et cela a fait les nouvelles. Ces choses ne devraient pas nous surprendre. Mais ensuite il nous faut prendre du recul et reconnaître que c'est tout cela, les données, que ce soit Wikidata ou Pantheon, qui sont puisées et utilisées pour cette IA. Surtout si vous utilisez quelque chose comme Amazon Turk. 50 000 personnes du monde entier : leurs vues sur la politique, sur la culture, sur le sexe, cela va affecter la façon dont elles vont étiqueter ces choses à mesure qu'elles se font téléverser. Mais si vous voulez créer quelque chose d'intelligent, il faut mettre autant d'information que possible. J'espère que vous vous sentez inspirés, dans le sens où : comme notre cerveau est merveilleux, que nous n'ayons pas besoin d'être des ténors du barreau ni des cerveaux de la NASA. Mais nous avons bel et bien besoin de comprendre les paraboles. Et si nous pouvons faire des analogies, alors c'est le signe d'une véritable intelligence. Quand nous pouvons relire cela. Quand nous pouvons voir ces similitudes et faire des applications, c'est là-dessus que nous sommes éprouvés. C'est cela que Jésus essayait de faire aux disciples, aux Juifs de son temps.

Terrie : Et cela divise. Comme Dieu se sert des paraboles pour essayer d'aligner son peuple sur lui-même, cela va diviser. C'est l'œuvre de l'Évangile éternel. Nous avons un problème d'alignement. L'église de Dieu a un problème d'alignement. Le monde a un problème d'alignement. Nous ne faisons que regarder des événements extérieurs. Alors, Brenden, quelque chose d'autre que tu voulais ajouter ?

Brenden : Non, merci.

Terrie : Est-ce que tu voudrais conclure par la prière ?

Brenden : Bien sûr. J'espère que cela ne coupera pas. Si tout le monde pouvait incliner la tête.

Brenden : Cher Dieu dans les cieux, nous te remercions pour ce jour du sabbat. Nous te remercions pour les choses que nous avons apprises. Aide-nous à revenir aux bases avec notre méthodologie. Simplement la gratitude que nous avons, d'avoir appris ces choses. Aide-nous à réviser, à pratiquer et à comprendre ce que nous vivons, ce que nous voyons. Sois avec nous tous maintenant, alors que nous nous reposons. Sois avec nos dirigeants, s'il te plaît, surtout en ce moment. Nous te remercions simplement pour toutes tes bénédictions. Nous te remercions de nous avoir ramenés en accord avec toi. Aide-nous dans ce travail individuellement, et aide-nous à être une bonne influence pour ceux que nous côtoyons. Seigneur, nous te remercions au nom de Jésus. Amen.

---

Public Data & AI (Edited) - Terrie - TMW - 23 December 2022

---