ChatGPT sur vos tombes…

C’est la dernière mascotte du net, qui déclenche les passions et fait couler de l’encre (ou plutôt uploader de l’octet…). La question de l’utilité réelle de ChatGPT, de son efficacité, de ses forces et de ses faiblesses, de ses failles, est posée à longueur d’articles. Diantre, un grand quotidien national vient même de m’interroger sur ce que j’en pensais, en tant qu’écrivain, et de me demander si je le considérais comme une menace pour ma profession. Malheureusement, cette question n’a, à mes yeux, qu’un intérêt mineur. Selon moi, la question que l’on devrait se poser serait plutôt : à qui profite le buzz ?

I love science…

Avant de vous donner mon avis personnel sur ce nouveau chouchou des médias et de certains internautes, je me dois de lever tout soupçon sur mon éventuelle hostilité de principe à l’innovation technologique. De grâce,  qu’on ne me traite guère d’Amish (comme dirait l’autre…) ou de technophobe : je suis convaincu que l’intelligence artificielle est un outil formidable qui, correctement utilisé, permettra (et permet déjà) de véritables progrès dans de nombreux domaines de la recherche, notamment médicale, et je suis convaincu que beaucoup de belles choses sortiront d’une utilisation pertinente de l’IA. Voilà. C’est dit : I love science. Toute modestie mise à part, je pense même avoir été l’un des premiers auteurs français à lancer un forum pour les lecteurs de La Moïra, il y a vingt-deux ans, soit trois ans avant l’apparition de Facebook, embrassant avec enthousiasme et passion les possibilités que nous offraient le développement de l’informatique et de la mise en réseau de nos ordinateurs plus si individuels que ça…

Science sans conscience…

Malheureusement, comme toute grande innovation technologique, le véritable enjeu consiste à savoir entre quelles mains elle atterrit, et quelle  utilisation en est faite. La découverte de la fusion nucléaire en 1934 fut incontestablement une avancée scientifique extraordinaire ; mais offrir à n’importe qui la possibilité d’assembler deux noyaux atomiques dans sa chambre ne me semble toutefois pas une idée entièrement raisonnable… Science sans conscience n’est que ruine de l’âme, disait Rabelais. Or, depuis quelques années, dans leur course effrénée à l’innovation, certains confondent trop aisément progrès technologique et progrès social. Par exemple, détruire des emplois ne m’apparaît pas être un immense progrès social….
Et c’est bien là que ChatGPT (et autres Midjourney) pose problème : ce sont des progrès technologiques finalement mineurs (leur prouesse est plus commerciale que technologique), et des promesses de régression sociale majeurs. Le calcul risque-bénéfice est rapide à faire. Et s’il y a encore des gens sur cette planète pour s’imaginer une seule seconde que la motivation première d’Elon Musk, Amazon et Microsoft est le progrès social, notre civilisation est mal barrée…¹

Brainstorm de première classe…

Déjà, soyons sérieux (enfin, façon de parler…) : une entreprise qui, après une probable séance de brainstorming de gens très très intelligents et très bien payés, se dit que « GPT » ferait un bon suffixe commercial pour son nouveau produit, sans effectuer une petite vérification multilingue de ses éventuelles consonances homonymiques grotesques, ne me semble pas digne de confiance, au niveau de sa clairvoyance… Les gars, rien que le nom de votre truc, il est ridicule !

Le Pot aux roses

Contrairement à ce que certains semblent penser, ChatGPT n’a pas inventé l’intelligence artificielle, qui est utilisée depuis fort longtemps par de nombreux chercheurs (dont ma propre sœur, au CNRS, par exemple… oui, je vous parle souvent de ma sœur, c’est le cerveau de la famille…), et qui a de beaux jours devant elle (l’IA, pas ma sœur. Enfin, si ma sœur aussi, mais ce n’est pas le sujet). Il en va de même pour le concept de chatbot, dont le principe était déjà abordé en 1950 dans les travaux  d’Alan Turning, et la première application mise en service en 1966 sous le nom d’ELIZA² .
ChatGPT – qui, à en croire les captures d’écran hilarantes que je vois défiler sur Mastodon, est encore plein de défauts (parfois dangereux…) – n’est rien d’autre qu’une magnifique arnaque commerciale de plus, faisant croire au citoyen lambda qu’on lui met gratuitement un outil révolutionnaire entre les mains, alors qu’il ne s’agit en réalité que d’un nouvel outil de siphonnage des données (où il faut donner son numéro de téléphone, son mail, et valider sans vraiment les lire des conditions générales ubuesques), pratique fort juteuse initiée par Google au début des années 2000, et formidablement décrite par Shoshana Zuboff dans son ouvrage Le Capitalisme de surveillance ³. Une bible que tout le monde devrait lire avant d’utiliser n’importe quel service en ligne présenté comme “gratuit”… On y voit comment ce siphonnage quotidien, sous couvert de “gratuité”, permet de nourrir des bases de données faramineuses à partir de notre intimité, afin de pouvoir vendre de la publicité ciblée (bien plus lucrative que la publicité traditionnelle). Le tout avec une absence totale d’éthique et un contrôle gouvernemental bien trop laxiste (un laxisme que nos dirigeants devront payer un jour ou l’autre, eux qui sont censés être garants de l’un de nos droits essentiels, celui à la vie privée). Pour ce qui est de l’éthique, la presse a révélé par exemple la rémunération des modérateurs de ChatGPT, employés au Kenya, et payés moins de 2 dollars de l’heure⁴… Encore une fois, quelqu’un peut-il vraiment croire qu’une entreprise capable de telles pratiques a pour souci le progrès de l’humanité ?
Docilement, en embrassant les services “gratuits” de Google, Facebook et autre Twitter, nous avons participé à la création de monstres qui se nourrissent grassement de notre bêtise (la publicité ciblée, et donc la revente de nos données, a par exemple généré près de trente milliards de dollars de bénéfices à Facebook l’an dernier). De la même manière, le seul “progrès” que ChatGPT (qui a les mêmes pratiques) apportera à notre civilisation, c’est de permettre à une entreprise détenue par des gens comme Microsoft, Amazon et Elon Musk d’engranger encore plus de bénéfices, en faisant de notre vie privée une monnaie d’échange, la plupart du temps sans notre consentement, ou en tout cas sans que nous ayons conscience de l’avoir donné, les “privacy policies” de ces outils étant des documents abscons, qui font plusieurs dizaines de pages, auxquelles l’utilisateur moyen ne comprend rien.

Il suffirait que les gens n’achètent pas…

Je dois bien l’admettre – ce qui ne m’empêche pas d’avoir une opinion – je n’ai pas testé et je ne testerai pas ChatGPT. D’abord, parce que, par principe idiot mais assumé, je boycotte les entreprises qui la détiennent, et surtout Elon Musk. Ce type est déjà en train de nous pourrir le ciel avec ses satellites Starlink⁵, je ne vais pas en plus le laisser me pourrir la vie avec ses autres joujoux, et le fait que Microsoft en ait pris la direction n’est guère pour me rassurer. Et ensuite parce qu’il m’a suffi de lire ses conditions d’utilisation pour constater qu’une fois de plus, il ne s’agissait pas d’une révolution technologique, mais bien d’un attrape-couillons très rentable.
Et j’invite mes confrères à en faire autant. Nous avons laissé Amazon bousiller nos libraires, nous avons laissé Google devenir un monstre qui piétine notre vie privée sans qu’on en ait véritablement conscience, nous avons laissé Microsoft et Apple vampiriser nos ordinateurs et nos téléphones en nous privant de leur contrôle, etc. J’espère qu’un sursaut de bon sens permettra aux utilisateurs, aux artistes, aux éditeurs et aux gouvernements de refuser de permettre à ChatGPT ou autre MidJourney d’enfoncer encore un peu plus le clou dans le cercueil que nous nous construisons nous-mêmes, chaque jour.
Le plus triste, dans cette histoire, c’est que, comme toujours, quand il s’agit d’un outil néfaste : il suffirait que les gens ne s’en servent pas pour qu’il disparaisse. Comme disait Coluche : quand on pense qu’il suffirait que les gens n’achètent plus pour que ça ne se vende pas ! Il suffirait que les gens quittent Twitter pour que ce réseau social, qui est devenu un parasite dangereux et une bombe en puissance, disparaisse. Il suffirait que les gens installent Linux pour que Microsoft perde son monopole sur nos ordinateurs (profitant de cette position de force pour nous imposer sa loi), etc. Malheureusement, le fatalisme, la paresse intellectuelle ou tout simplement l’ignorance font que les gens continuent de se servir de ces instruments de destruction massive (je l’ai fait moi-même pendant des années et me garde donc bien de critiquer : je suis un pigeon comme les autres), et d’enrichir leurs propriétaires, qui doivent bien se marrer dans leurs jets privés…

Ceci n’est pas Romain Gary

N’ayons crainte, chers confrères, l’écrivain n’est pas mort. De la même manière que le label « fait main » reste un gage de qualité depuis des décennies sur la plupart des objets de notre quotidien, « fait avec un cerveau humain » restera un gage de qualité créative sur les romans de demain. Pas plus que je n’ai cru les apôtres de l’apocalypse qui m’expliquaient il y a vingt ans que le livre numérique allait tuer l’édition, je ne pense pas que ce genre d’IA remplacera les écrivains. ChatGPT causera certes des dégâts collatéraux dans le monde de la création, comme MidJourney en cause déjà dans celui de l’illustration, mais c’est loin d’être la véritable menace que constitue ce nouvel outil. Cette menace concerne, comme dit plus haut, tout le monde, en piétinant nos libertés individuelles et en permettant à des méga-corporations de grossir chaque jour un peu plus, creusant encore davantage l’écart entre les riches et les pauvres, et bousillant un peu plus notre planète avec leurs data-centers énergivores…

David et Goliath

ChatGPT est très certainement un monstre en devenir, qui va rapidement rejoindre les GAFAMS, ces golems qui s’accaparent nos richesses et sont désormais capables de mettre les états à leur botte. Il n’y a qu’à voir avec quelle facilité ces entreprises pratiquent l’évasion fiscale pour comprendre que nos états se sont résignés à leur puissance… Mon seul espoir est que les gens, vous, moi, nous tous, finissions par comprendre le piège dans lequel nous nous sommes engouffrés aveuglément, et que nous cessions purement et simplement d’utiliser Twitter, Facebook, Google, MidJourney et… ChatGPT, pour reprendre le contrôle de notre vie numérique et des outils qui nous permettent d’y communiquer librement. En un mot, ayons le courage de redevenir des acteurs libres plutôt que des consommateurs soumis…

1. Elon Musk, tout comme Amazon, est l’un des fondateurs de OpenIA, société qui a investi 1 milliard de dollars pour lancer ChatGPT. Depuis lors, Microsoft en est devenu l’actionnaire majoritaire et Musk a quitté le conseil d’administration, qu’il ne se prive pas de critiquer, mais il demeure actionnaire.
2. Voir à ce sujet l’article Wikipedia sur les chatbots
3. L’Âge du capitalisme de surveillance, Zulma, 2022 cf. LaLibrairie.com
4. Voir à ce sujet l’article du Times
5. Voir à ce sujet l’article de Reporterre