Qu’est-ce qui est le propre de l’homme et le propre de la machine ?
Pour écrire cet article, j’aurais pu demander à ChatGPT de me donner un ou deux paragraphes d’introduction, ou d’écrire tout le texte à ma place. Et cela aurait sans doute donné un texte très acceptable qui, avec quelques retouches, serait difficile à identifier comme ayant été écrit par une IA [Intelligence Artificielle]. Mais au-delà des implications éthiques, qu’est-ce qui est en jeu lorsque nous déléguons nos capacités intellectuelles et créatives à des outils d’intelligence artificielle ?
Dans un article publié dans Public Discourse, Timothy Burns, professeur de sciences politiques à l’université Baylor [Texas], affirme que les activités qui brisent le dos et noircissent les poumons sont entreprises par pure nécessité, et que ceux qui les exercent espèrent que leurs enfants n’auront pas à les faire. Ce sont donc des tâches que l’on délègue volontiers aux machines. « Mais qu’en est-il des activités qui cultivent l’esprit et enrichissent l’âme ? Ne devrions-nous pas nous abstenir de les confier également aux machines ? » se demande Burns.
L’un des domaines où cette question est particulièrement préoccupante est l’éducation, notamment au niveau universitaire. Burns cite le cas d’étudiants devant rédiger un discours : « Dire aux étudiants de laisser l’IA faire leur travail, ou une grande partie de celui-ci, signifie qu’ils n’apprendront jamais la grammaire, ni comment rédiger une phrase convaincante et captivante, ni comment gagner un public par la persuasion ». Il explique que si une compétence n’est pas cultivée, elle se perd, et que remplacer la pratique d’une compétence par l’IA entraînera une « dépendance sans espoir » à l’égard de cette technologie.
L’écriture a été aussi disruptive que l’IA
Aussi fou que cela puisse paraître, l’invention de l’écriture aurait pu être aussi disruptive que celle de l’IA. José Ignacio Murillo, directeur du groupe Mind-Brain à l’Institut pour la Culture et la Société (ICS) de l’université de Navarre, explique que les philosophes grecs considéraient déjà les avantages et les inconvénients de cette nouvelle technologie : « Le danger que voyait Platon était que si les gens se fiaient à l’écriture, ils perdraient leur mémoire ». Cependant, « aujourd’hui, nous considérons qu’il s’agit d’une technique très importante pour la formation culturelle ». Javier Bernácer, neuroscientifique à l’ICS, ajoute qu’en fait, « l’écriture nous aide à mémoriser plus et mieux ».
Murillo cite en exemple les moteurs de recherche, qui sont une forme d’IA en tant que filtre qui accélère et simplifie les processus de travail. Le saut réalisé par l’intelligence artificielle générative est qu’elle nous offre des produits qui semblent avoir été produits par un être humain : textes, images, photographies… « Nous nous retrouvons avec un résultat qui semble être le produit d’une intelligence et qui peut être utilisé en tant que tel ». Bernácer précise que « ce qui est propre à l’être humain, c’est la capacité de connaître intellectuellement, d’abstraire, d’universaliser… L’IA ne peut pas le faire, mais seulement le simuler ».
À l’université, Bernácer a demandé à ses étudiants d’expérimenter ChatGPT pour résumer un texte. Certains demandaient à l’IA de résumer à nouveau le texte sans omettre aucune idée importante. « C’est la clé », dit-il : « ChatGPT ne sait pas ce qui est important, il ne fait que le simuler », de sorte que le produit que nous obtenons est imparfait. Seule une personne sachant abstraire des idées fondamentales d’un texte sera en mesure de déterminer si ce que l’IA a fait est correct ou si des ajustements sont nécessaires.
« Use it or lose it »
C’est ici qu’intervient une maxime qui se vérifie dans notre système nerveux : use it or lose it (l’utiliser ou le perdre). « Si quelqu’un délègue les fonctions intellectuelles et créatives à un algorithme, et ne les cultive pas autrement, elles s’atténuent progressivement », explique Bernácer. Pour Burns, « la consommation d’IA, au lieu d’élargir et d’approfondir la pensée des étudiants, atrophiera leur esprit en diminuant leur capacité de penser et de raisonner par eux-mêmes ». C’est pourquoi Bernácer souligne que « l’utilisation de processus automatiques et la délégation à l’IA ne posent pas de problème lorsque l’on a déjà développé cette compétence » auparavant.
Cependant, le défi des enseignants est de convaincre les élèves qu’il est important d’acquérir ces compétences : rédiger, résumer, analyser, contraster… Et de leur apprendre à le faire. Car seuls ceux qui maîtrisent ces questions peuvent utiliser l’IA de manière à accroître leurs capacités. « Les progrès incroyables de l’IA montrent que nous avons besoin d’êtres humains dotés d’un jugement de plus en plus sûr, qui sachent distinguer si les résultats de l’IA sont corrects ou incorrects », explique Bernácer. « Dans le meilleur des cas, les étudiants vérifient [ce que le Chat GPT leur fait], mais dans la plupart des cas, ils ne le font même pas. »
Burns prévient que « l’hypothèse est que [le texte produit par l’IA] sera supérieur à tout ce que les étudiants ont jamais écrit », ce qui contribuera à « l’homogénéité sans âme qui caractérise une grande partie du monde moderne ». Pour Murillo, il faut éviter que la technologie ne dilue la personne et veiller à ce que l’usage que nous en faisons puisse être personnalisé : « que tu sois toi-même et que tu sois reconnu comme tel ; que ta contribution soit ta contribution. »
Déléguer pour valoriser ce qui est essentiellement humain
Si l’on regarde à nouveau en arrière, l’histoire montre que la délégation de certains processus est une pratique ancienne. « Thomas d’Aquin avait plusieurs secrétaires à qui il dictait », explique Murillo. « Il a pu écrire les nombreux ouvrages qu’il a rédigés parce qu’il dictait quelque chose de différent à chacun d’entre eux. Aujourd’hui, nous pouvons le faire grâce à la technologie. » La délégation des tâches techniques et l’optimisation des processus automatiques « peuvent nous aider à mieux utiliser nos capacités intellectuelles », estime aussi Bernácer.
L’irruption de l’IA, comme il est arrivé pour d’autres technologies, nous oblige à nous interroger sur ce qui est essentiellement humain et ce qui peut être délégué aux machines. Murillo estime que la clé se trouve dans la finalité : « Si nous voyions plus clairement ce que nous voulons et ce qu’est le véritable développement humain, nous développerions probablement des technologies qui ne l’entravent pas », mais au contraire le stimulent.
En mettant l’accent sur la création artistique et intellectuelle, qui « ennoblit et embellit nos vies » et qui « nous offre une vision profonde de la condition humaine », Burns se demande : « Voulons-nous vraiment laisser aux mains des machines notre capacité de penser, d’inventer, de découvrir et de redécouvrir ? »
Isabel Rodríguez Maisterra est journaliste et historienne, spécialisée dans les questions du Moyen-Orient. Source : https://www.aceprensa.com/ciencia/tecnologia/la-ia-en-el-trabajo-intelectual-y-creativo-secretario-o-sustituto/. Ce texte a été traduit de l’espagnol par Stéphane Seminckx.
