[Actu] La transition est en carton

Générique L’informatique doit être au service de chaque citoyen. Son développement doit s’opérer dans le cadre de la coopération internationale. Elle ne doit porter atteinte ni à l’identité humaine, ni aux droits de l’homme, ni à la vie privée, ni aux libertés individuelles ou publiques.

Gaël Bonjour, vous écoutez RdGP, le podcast sérieux qui vous emmène au cœur des enjeux des droits numériques, des libertés individuelles et de la vie privée. Bienvenue dans cette nouvelle revue de l’actu numérique. Et aujourd’hui, je vous emmène au pays des songes. Imaginez, et si demain, nous pouvions recréer n’importe quel logiciel en seulement quelques jours. Plus besoin de passer par tout un triathlon, et pour ça, l’IA ! Début octobre, un développeur étatsunien a annoncé avoir recréé plusieurs logiciels de la suite Adobe avec l’aide de Claude, l’intelligence artificielle d’Anthropic. Photoshop, Illustrator, Premiere Pro, Lightroom… Toute la famille ! Des logiciels qui ont demandé des décennies de développement et des milliers d’ingénieurs, et voilà qu’un développeur nous présente ses alternatives créées en quelques jours ou semaines. Bon, pour le moment, ce sont des versions expérimentales, loin de disposer de toutes les fonctionnalités des originaux. Et cette nouvelle possibilité semble donner des idées à pas mal de monde. En fait, il y a même un mouvement qui vient de se créer avec un nom assez amusant : Occupy SaaS. Bon, pour comprendre ce nom, déjà il faut le décomposer. SaaS, c’est le software as a service, c’est tous les logiciels que vous pouvez prendre un abonnement en ligne. Et pour Occupy, il faut revenir quinze ans en arrière. En septembre 2011, quelques années après la crise financière, des centaines de manifestants commencent à occuper le parc Zuccotti, ou je sais pas exactement comment ça se prononce, à New York, juste à côté du quartier financier de Wall Street. Et le mouvement s’appelle Occupy Wall Street. Leur message est simple : ils dénoncent les inégalités économiques, l’influence démesurée de la finance et la concentration des richesses entre les mains d’une toute petite minorité. C’est de là que vient le fameux slogan « Nous sommes les 99 % », face aux 1 % les plus riches. Le mouvement prend de l’ampleur, s’étend à d’autres villes, puis les campements finissent par être évacués. Mais le slogan, lui, reste, et quinze ans plus tard, des informaticiens décident de reprendre cette référence : Occupy SaaS. Cette fois, plus besoin d’aller planter une tente devant Wall Street, il suffit d’ouvrir un terminal informatique. Leur slogan est plutôt réjouissant : « Ils nous ont licenciés, nous reconstruisons leurs SaaS. » L’idée, c’est de réunir des développeurs, notamment ceux qui ont été licenciés par l’industrie numérique, pour créer des alternatives libres aux logiciels des grands éditeurs. Et les premiers projets visent notamment Salesforce et Auth0. Leur méthode consiste à partir des documentations publiques, à reconstruire une fonctionnalité avec l’aide de l’IA et à publier le code pour que chacun puisse utiliser ce logiciel sur ses propres serveurs. Alors, avant d’envoyer votre lettre de résiliation à Salesforce, sachez quand même que les projets en sont encore à leurs débuts, mais politiquement, l’idée est intéressante. On ne se contente plus de contester le pouvoir des grandes entreprises du numérique, on essaie de reconstruire des alternatives à leurs produits. Et on peut y voir une certaine ironie : des développeurs licenciés par une industrie qui investit massivement dans l’automatisation utilisent cette même technologie pour concurrencer les entreprises qui les employaient. Bon, après, au-delà d’OccupySaaS, il y a une question qui me travaille dans toutes ces histoires. Une fois qu’on a créé le logiciel, qu’est-ce qu’on en fait ? Parce que si produire du code devient aussi simple, pourquoi continuer à maintenir les mêmes… Parce que si produire du code devient aussi simple, pourquoi continuer à maintenir les mêmes logiciels pendant vingt ans ? Pourquoi passer des semaines à corriger une application quand on peut demander à une intelligence artificielle de nous en construire une autre ? Et je me demande même si nous ne sommes pas en train de nous diriger vers une nouvelle forme de consommation du numérique. Un peu comme les assiettes en carton. Vous partez faire du camping, vous sortez les assiettes, vous mangez votre salade de pâtes et, une fois le repas terminé, vous jetez tout. Pas besoin de faire la vaisselle ! Eh bah, imaginez qu’on fasse pareil avec le logiciel. Vous avez besoin d’un outil pour organiser un événement ? Vous le générez. Une application pour gérer vos vacances ? Vous la générez. Et six mois plus tard, vous avez de nouveaux besoins, plutôt que de retrouver l’ancienne application, vous en générez une nouvelle. Le problème avec les assiettes en carton, c’est que lorsqu’on a fini de manger, elles finissent à la poubelle, et pour en fabriquer de nouvelles, il faut encore consommer de la matière, de l’énergie, de l’eau… Et contrairement à ce qu’on pourrait croire, les logiciels générés par intelligence artificielle ne sont pas non plus immatériels. Chaque requête mobilise des serveurs, de l’électricité et des équipements informatiques. Lorsqu’on fait travailler des agents d’intelligence artificielle pendant des heures pour produire, tester, corriger et recommencer du code, la consommation explose. Bientôt, on entendra des patrons de boîtes d’IA nous pointer du doigt la consommation irraisonnée de tous ces agriculteurs qui arrosent leurs champs alors qu’on pourrait utiliser cette eau pour prompter… Si on se met à générer des dizaines de logiciels là où un seul aurait pu être maintenu, est-ce qu’on a vraiment gagné quelque chose ? On a déjà commencé à se questionner, à questionner notre utilisation des objets jetables. On essaie de réparer nos appareils, de prolonger leur durée de vie, de réduire notre consommation de ressources. Ce serait quand même dommage de faire exactement le chemin inverse dans le numérique. D’autant qu’il y a une autre question. Quand votre assiette en carton, elle se déchire, vous perdez votre salade de pâtes. Quand c’est votre logiciel de comptabilité qui se déchire, les conséquences sont tout de suite un peu moins amusantes. Non, parce qu’un logiciel, c’est pas seulement du code. Il faut pouvoir le déployer, le maintenir, corriger ses vulnérabilités. On a eu le cas avec PHP. Garantir son fonctionnement, accompagner ses utilisateurs. Et quand ça tombe en panne un dimanche à trois heures du matin, il faut bien quelqu’un pour décrocher le téléphone. C’est pas parce qu’un logiciel a été développé en deux jours qu’il pourra être maintenu pendant dix ans aussi facilement. Et c’est marrant parce que… Il y a justement une publication de la Linux Foundation qui vient d’être publiée, et la fondation a interrogé des développeurs et des mainteneurs de logiciels libres sur l’arrivée de l’intelligence artificielle dans leurs projets. Et d’après leurs estimations, environ 25 % des propositions de modifications qu’ils reçoivent seraient du code de mauvaise qualité généré par IA. Un quart ! Imaginez, vous êtes responsable d’un logiciel libre, pendant des années vous avez accueilli des contributions, vous avez relu du code de développeurs, corrigé les erreurs, accompagné les nouveaux arrivants. Et maintenant, vous recevez des modifications générées en quelques minutes par des intelligences artificielles, avec des contributeurs qui ne comprennent pas toujours eux-mêmes ce qu’ils vous proposent. C’est formidable, le progrès. Parce qu’en fait, il y a toujours quelqu’un qui doit relire ce code, vérifier qu’il fonctionne et s’assurer qu’il ne va pas casser le logiciel. Et bizarrement, ce travail-là ne disparaît pas simplement parce qu’on a automatisé la production. Alors peut-être que l’IA nous permettra effectivement de construire davantage de logiciels, plus rapidement. Mais je me demande si nous ne risquons pas surtout de produire beaucoup plus de choses qu’on va simplement jeter. Et avec toutes ces assiettes en carton, quelqu’un va bien finir par devoir sortir les poubelles. Et maintenant, je vous laisse avec la chronique de Cyril, qui va nous parler de transition numérique.

Cyril Lorsque le CERN publie en open source le protocole HTTP en avril 1993, rendant possible le développement du Web, l’idée qui présidait à cette innovation majeure de Tim Berners-Lee était l’ouverture au monde et la connexion entre tous. Tout cela pour que, 30 ans plus tard, nous nous complaisions dans un éternel dialogue ou, devrais-je dire, un monologue augmenté avec nos chatbots. Parce que, ne nous leurrons pas, s’il est possible aujourd’hui de poser les questions les plus complexes ou saugrenues à un ChatGPT, Claude, Le Chat et les autres, et d’avoir en retour une réponse plutôt pertinente, c’est bien parce que le Web existe et vit depuis 30 ans. En 1999, Tim Berners-Lee disait : « The Web is more a social creation than a technical one. » (Le Web est davantage une création sociale qu’une invention technique.) Parce que sans HTTP, mais aussi sans Mosaic, un navigateur open source pour consulter les pages, sans Wikipédia en 2001, un logiciel libre et une fondation pour recueillir le savoir de l’humanité, sans le W3C pour trouver des terrains communs afin d’échanger de l’information, il n’aurait pas été possible de construire ni d’entraîner les grands modèles de langage que nous utilisons désormais quotidiennement. La tendance n’est pas nouvelle. Il a fallu des décennies d’articles scientifiques, de publications open source et de collaboration pour aboutir, par exemple, au système d’indexation inversée à l’origine de tous les moteurs de recherche, dont celui de Google, avant qu’un jour, Google ne décide de monopoliser les informations et la technologie partagées par tout le monde pour vendre de la publicité. La technique est simple : on commence par capitaliser sur une technologie et une information libres pour captiver massivement une audience, pour finalement l’enfermer dans un silo (qui a dit enclos ?). À partir de là, les métaphores pleuvent : on tond les moutons, on trait les vaches, et j’en passe, des moins élégantes. Je vous renverrai sur ce sujet, déjà largement traité par mes camarades de RdGP, au concept d’enshittification de l’excellent auteur de science-fiction et activiste Cory Doctorow, dont Benjamin a déjà souvent parlé. Pendant ce temps-là, dans le monde merveilleux de l’informatique d’entreprise, que s’est-il passé ? Il faut vous dire que depuis une bonne vingtaine d’années, les entrepreneurs du numérique, les entreprises clientes, les consultants qui les accompagnent et les étudiants qui souhaitent les rejoindre ne parlent que de transition numérique. D’abord la fracture, du temps de Jacques Chirac ; puis c’est devenu la transition numérique, qui alimente les discours des apôtres de l’innovation, enjeu majeur s’il en est. En 2019, après une bonne quinzaine d’années à passer d’un continent à l’autre, j’ai même été un peu surpris qu’on parle autant en France de cette « transition numérique », comme si cette dernière n’était pas déjà faite depuis très longtemps ! Comme il m’arrive tous les ans d’accompagner des étudiants en master, je me suis plongé dans leurs cours pour comprendre ce qu’on entendait, plus de 30 ans après l’avènement du Web, par transition numérique. Il me semble que les spécialistes du domaine ne m’en voudront pas si je mets au centre de cet enjeu devenu discipline les méthodes, les process et surtout la culture de collaboration au sein des organisations qui la déploient. L’avènement du numérique, omniprésent dans nos vies privées comme professionnelles, a permis de se poser la question fondamentale : comment mieux travailler ensemble, de l’usine au bureau, du commerce aux champs, des tours de la Défense au coworking du Marais (pardon pour cette référence très parisienne). Tim Berners-Lee, où te caches-tu ? Quand on approche les organisations comme des systèmes humains, on cherche à comprendre la nature et le nombre des relations entre les individus d’une organisation comme un graphe, c’est-à-dire toutes les connexions ou interactions qui relient un individu à ses collègues, clients, fournisseurs, etc. Plus ces relations sont nombreuses et diverses, plus l’organisation est vivante et porte en elle la capacité de s’auto-améliorer. Plus les liens de tous convergent vers un petit nombre d’individus, dans un schéma en étoile où tout le monde est à l’extérieur et communique avec quelques personnes au centre, plus elle a tendance à être dysfonctionnelle et figée. Un peu comme si vous regardiez le réseau de chemin de fer d’un pays : s’il faut toujours passer par la capitale pour aller quelque part au lieu d’y aller directement ou presque, c’est que le pays a un problème de transport. Je ne pousserai pas plus loin l’analogie, vous avez compris de quoi je veux parler… À l’ère du design thinking, du Lean, du Kaizen, toutes ces approches qui prônent la discussion, l’autoévaluation et l’amélioration continue de nos manières d’interagir et de travailler ensemble, la culture de la collaboration est devenue la valeur maîtresse du dogme managérial, et c’est sans doute une bonne chose pour tout le monde. Et du coup… Et tout à coup émerge du Web la grande révolution portée par les grands modèles de langage, qui proposent… exactement le contraire ! On parlait de moyens d’échanger, de communiquer librement, de mieux collaborer. Eh bien non : on finit par parler à un chatbot. On avait pour ambition l’amélioration progressive, la remise en question permanente, l’esprit critique au cœur de chaque process, et on s’en remet aveuglément à la recommandation d’un chatbot à la mémoire courte. On avait l’ambition de pouvoir librement accéder au savoir du monde, d’y contribuer, de partager son savoir et ses passions et… on pose la question à ChatGPT et on fait faire par Claude. Cory Doctorow nous avait prévenus : c’est d’abord gratuit, puis super bon marché, et tellement utile qu’on ne peut plus s’en passer. La suite est prévisible : on va finir par bosser pour apprendre à la machine ce qu’il nous reste de savoir-faire, pour trois sous de l’heure, sur Mercor ou Outlier AI, à traiter des données en tant qu’expert payé comme un agent d’entretien (qui, lui, ne sera plus payé du tout : un robot fera son boulot à sa place). Alors, est-ce une fatalité ? Deviendrons-nous tous les esclaves de l’IA et, par transitivité, des propriétaires des sociétés qui l’opèrent ? J’ai l’espoir que ce ne soit pas le cas. Il se trouve que nous n’avons fait qu’effleurer le potentiel de la collaboration à l’heure d’une intelligence artificielle émergente. Mais encore faut-il se mettre dans la tête qu’il ne suffit pas de mettre Gemini ou Le Chat partout pour que son organisation fonctionne mieux. Ted Chiang, un autre auteur de science-fiction que j’adore, écrivait dans le New Yorker en 2023 : « ChatGPT Is a Blurry JPEG of the Web. » ChatGPT est un JPEG flou du Web, et le Web, c’est nous ! Chaque pays, chaque collectivité ou collectif décidera par lui-même de ce qu’est une société qui fonctionne mieux, voire idéalement. Si vous me posez la question, je dirais une société où le fruit de notre travail profite à la communauté, n’est ni accaparé par quelques-uns ni gaspillé par une administration aveugle et dispendieuse. J’aimerais aussi pouvoir écrire, faire de la musique, aider mes voisins, transmettre aux plus jeunes sans que ces activités soient obligatoirement payantes ou rémunérées. Une société vertueuse, c’est probablement aussi un monde dans lequel on m’aide à partager les ressources, à consommer moins tout en prenant en compte mes besoins et mes envies propres. C’est aussi une société où les ressources naturelles et les produits disponibles à proximité sont favorisés par rapport à ceux qui doivent faire le tour du monde avant d’arriver, d’être stockés pendant des mois pour finalement être détruits ou renvoyés parce que personne n’en a voulu. À moins de vouloir revenir à l’âge du bronze, c’est la technologie qui permettra l’avènement d’une telle société. La technologie, oui, mais avec la contribution volontaire et librement partagée de ses habitants. Si la solution consiste, individuellement, à prendre des conseils ou des instructions auprès d’une IA omnipotente et omnisciente, la notion même de société s’effondre. Collaborer, échanger, partager, débattre avec respect, créer, transmettre… tous ces verbes sont les briques essentielles d’une société équilibrée, et la technologie n’est qu’un moyen de plus pour y parvenir. Laisser à d’autres le soin de décider pour nous, IA ou oligarques, n’est sans doute pas la meilleure voie. Construire un monde où le savoir est partagé et résister à l’accaparement dudit savoir, c’est sans doute cela, une bonne « transition numérique ».

Gaël Merci, Cyril ! Et il est déjà temps de vous dire… À la semaine prochaine pour un nouvel épisode de RdGP ! D’ici là, n’hésitez pas à nous laisser des commentaires sur le Fediverse. Et voilà, je vous souhaite à la semaine prochaine.

Générique (musique de fin)