“Compte tenu du nombre de personnes qui parlent à leurs animaux de compagnie et à leurs voitures, il ne devrait pas être surprenant que les chatbots puissent signifier autant pour les personnes qui interagissent avec eux”.
Gérard Cardonne
Nous regardons la mort de la création se dérouler sous nos yeux. Pour que d’emblée la situation de celui qui écrit cet article soit bien évidente : je ne suis qu’un écrivain engagé pour la défense de la langue française.
L’Intelligence artificielle (IA) générative est un champ de mines pour le droit d’auteur.
L’anecdote suivante en est la parfaite illustration : en 2022, une œuvre d’art générée par l’IA a remporté le concours d’art de la Colorado State Fair. L’artiste, Jason Allen, pour créer l’œuvre qu’il présentait, avait utilisé Mid Journey, un système d’IA générative formé avec la méthode du scraping qui permet aux Data Analysts d’extraire des données depuis n’importe quelle page sur Internet, grâce à des scripts codés.
Le processus était loin d’être entièrement automatisé : l’artiste avait effectué quelque 900 itérations en 80 heures pour créer et affiner son « œuvre ».
En revanche, la réaction du public fut à la hauteur de ce plagiat technologique : la création entrait dans l’ère des faussaires. Car pour tout créatif : le faux dépeint l’évolution du regard pour les questions de propriété et de paternité.
La capacité générative de l’outil technologique est le résultat de sa “formation” avec des dizaines de milliers d’œuvres antérieures, à partir desquelles l’IA apprend à créer des sorties baptisées littéraires.
C’est ainsi que, pour créer son œuvre, Jason Allen dut demander à son comparse Mid Journey d’exécuter le travail sur près de cent millions d’œuvres antérieures. «Sur lecoup,je n’ai pas vu le problème » déclare en 2022 cet illustrateur, qui, préférant rester anonyme, s’est fait aider d’un logiciel utilisant l’IA afin de réaliser la couverture d’un roman.
Après quelques instructions entrées dans la machine, une image générique sort au bout de quelques clics. L’auteur y appose sa patte, ne gardant que des éléments du décor générés par ordinateur. « J’ai fait ça en une après-midi au lieu de deux », reconnaît l’intéressé. Le livre est publié au moment où nombre d’artistes perçoivent l’IA non plus comme une aide, mais comme une menace pour leur gagne-pain. « J’ai l’impression d’avoir passé un pacte avec le diable », confie désormais notre auteur. « artificialisé. »
Le Directeur Général Mathias Depfner chez Axel Springer confirme la suppression de postes, conséquence de la transformation numérique des deux piliers du premier groupe de presse allemand : Bild et Die Welt.
L’automatisation de la production d’articles grâce à l’IA va révolutionner le journalisme qu’elle va pouvoir « soutenir » voire «remplacer » notamment dans les domaines de mise en page, de correction et d’administration.
Sont à peine épargnés, « pour le moment », les reporters, les journalistes d’investigation et les éditorialistes.
Aussi quid de la propriété intellectuelle de l’œuvre ?
Les choses sont plus compliquées lorsque les résultats ressemblent à des œuvres dans les données d’apprentissage. Si la ressemblance est basée uniquement sur le style général ou le contenu, il est peu probable qu’elle viole le droit d’auteur, car le style n’est pas protégé par le droit d’auteur.
Plus alarmante, cependant, est la « dette éthique », lorsque les équipes de développement n’ont pas envisagé d’éventuels dommages sociaux ou éthiquement l’IA pourrait remplacer les emplois humains, par exemple, ou lorsque les algorithmes finissent par renforcer les préjugés.
En ce qui concerne la dette éthique, Casey Fieseler, experte en éthique technologique à l’Université du Colorado, note que « les personnes qui l’entourent sont rarement celles qui la paient en fin de compte ».
Y-a-t-il quelqu’un là-bas?
Les capacités des programmes d’IA peuvent donner l’impression qu’ils sont sensibles, mais ils ne le sont pas, explique Nir Eisikovits, directeur du Centre d’éthique appliquée de l’Université du Massachusetts à Boston : « ChatGPT et les technologies similaires sont des applications sophistiquées de complétion de phrases. Rien de plus, rien de moins. »
Mais dire que l’IA n’est pas consciente ne signifie pas qu’elle est inoffensive.
La question urgente n’est pas de savoir si les machines sont sensibles, mais pourquoi il nous est si facile d’imaginer qu’elles le sont. Les humains projettent facilement des caractéristiques humaines sur à peu près n’importe quoi, y compris la technologie. Cette tendance à l’anthropomorphisme « indique des risques réels d’enchevêtrement psychologique avec la technologie », selon Nir Eisikovits, directeur du Centre d’éthique appliquée de l’Université du Massachusetts à Boston, qui étudie l’impact de l’IA sur la façon dont les gens se comprennent.
Compte tenu du nombre de personnes qui parlent à leurs animaux de compagnie et à leurs voitures, il ne devrait pas être surprenant que les chatbots puissent signifier autant pour les personnes qui interagissent avec eux. Les prochaines étapes, cependant, sont des garde- corps solides pour empêcher les programmes de tirer parti de cette connexion émotionnelle.
Prendre un crayon pour écrire sur du papier ou appuyer sur un bouton pour interroger l’écran.
La romancière Flannery O’Connor remarque « j’écris parce que je ne sais pas ce que je pense tant que je n’ai pas lu ce que je dis». En d’autres termes, l’écriture n’est pas seulement un moyen de mettre nos pensées sur papier : c’est un processus pour aider d’abord à trier nos pensées.
La génération de texte par IA peut être un outil pratique, mais il y a une pente glissante entre l’assistance et l’usurpation. Alors que nous avançons dans un monde mû par de plus en plus d’IA, il est essentiel de se rappeler que « l’élaboration d’un travail écrit doit être un voyage, pas seulement une destination ».
ChatGPT change la donne, car une entreprise met à la disposition du grand public un outil très performant à base de crawler, moteur de recherche. D’où cette question juridique : a-t-on le droit d’entraîner des IA sur du contenu protégé ?
Le romancier et le poète ont un problème avec l’IA romantique, source de prouesses et d’inquiétudes, car celle-ci renvoie toujours à soi-même. Elle ne se nourrit que des données qu’on lui fournit : nos goûts, nos réflexions, notre histoire. En fait, fonctionnant en boucle comme un simple miroir, elle n’est qu’une relation marquée par le solipsisme, où notre moi est la seule réalité vraiment présente.
L’IA ne se montre pas imprévisible ou inattendue telle une per- sonne humaine : elle ne peut que nous renvoyer à toujours plus de soi-même avec l’engendrement d’une relation régressive, égocentrique rappelant les paroles de Jean Schultheis : « C’est moi que j’aime à travers vous ».
A travers le robot conversationnel, l’IA peut avoir une fonction thérapeutique importante pour ceux qui souffrent de solitude, ou ayant vécu des traumatismes affectifs ou sexuels ou encore âgés et isolés. L’IA peut devenir un partenaire avec qui échanger, pouvant donner des conseils, réconforter et redonner confiance. L’IA reste un outil pour répondre à des angoisses existentielles, mais ce ne sera jamais de l’amour !
Une société plus totalitaire que celle imaginée par Orwell dans 1984 est quasiment aux mains des Prométhées de la high tech : un implant de la taille d’une pièce de monnaie couplée à l’IA serait à même de disposer de fonctionnalités dépassant
l’imagination de Jules Vernes et du visionnaire Homère dans son Iliade et l’Odyssée.
La seule question est pourtant très simple pour ces pandores de l’Apocalypse : qu’allons-nous transmettre à cette interface neuronale connectée au cloud ? Oui, ce petit nuage invisible est doté d’une mémoire susceptible de conserver indéfiniment nos beaux et …détestables concepts.
Souvenons-nous du grand humaniste Gutenberg inventant en 1450 l’imprimerie. Et comparons cet événement civilisationnel avec le bouleversement sociétal de l’implant cérébral Neurolink d’Elon Musk qui, en 2023, promet une révolution hors contrôle de notre mode de communication !
Il est évident que cet implant magique, donc hightech, affectera notre personnalité. Malheureusement pour nous, la stupidité de certains de nos dirigeants nous fait abandonner l’étude du latin, base de notre civilisation judéo-chrétienne. Pour la forme, il est bon de savoir que persona signifie « masque » en latin. C’est-à-dire que, depuis des lustres, l’homme n’est qu’un être de fiction au sens où porter un masque signifie avoir la possibilité de s’inventer. Le masque surgit dès l’instant où l’homme se conçoit comme homme, quand il accède à l’état de culture. C’est un instrument de médiation fictionnel indispensable à notre existence du fait du rapport d’étrangeté au monde que nous entretenons.
Il est comme un voile pour opacifier notre moi, nous protéger et nous rendre insaisissables. Mais il est avant tout l’outil pour construire notre identité, donc assurer notre liberté.
La comique Sandrine Rousseau pas plus que nos féministes déconstructrices ne savent pas qu’en voulant faire tomber les masques elles ne font que copier Sisyphe. Alors
que le rapport humain est avant tout fictionnel où la confiance n’est qu’un loup sur notre imagination, car Voltaire l’avait dit à propos du Masque de fer: « On avait ordre de le tuer s’il se découvrait ».
Le monde politique pousse ce syndrome à son paroxysme respectant ainsi la prophétie de Giuliano da Empoli : « le Carnaval a finalement abandonné sa place préférée, aux marges de la conscience de l’homme moderne, pour acquérir une centralité inédite, se positionnant comme le nouveau paradigme de la vie politique globale. »
Ma conclusion sera lapidaire : l’avenir de l’homme ne sera pas dans un implant mais assurément dans la puissance du masque. Le danger n’est pas d’être remplacé par une IA, mais par quelqu’un qui sait bien s’en servir .
Il faut un corps pour comprendre le monde : or ChatGPT et autres IA linguistiques ne savent pas ce qu’ils disent, car ils ne comprennent pas le langage comme le font les humains. Si GPT-3 est doué pour apprendre les règles du langage humain, il n’a pas la moindre idée de ce que ces mots signifient pour un être humain. Et comment le pourrait-il ?
Le cogito de Descartes : « Je pense donc je suis » n’est pas de son niveau « intellectuel » !
Malgré les inquiétudes légitimes concernant les risques potentiels et avérés de l’IA générative, les outils s’avèrent utiles pour certains artistes, designers et écrivains. La manière dont les lois existantes sont interprétées ou réformées – et la question de savoir si l’IA générative sera traitée de manière appropriée comme « l’outil » qu’elle est – aura des conséquences réelles pour l’avenir de l’expression créative.
Non pas pour le vendeur de livre, mais pour l’écrivain !
Gérard Cardonne – Reporter Sans Frontières – l’ami hebdo 3 septembre 2023
