Les entreprises spécialisées en intelligence artificielle achètent et détruisent des millions de livres antérieurs à 2022.
A la recherche des dernières pensées humaines non contaminées par la production de machines… Pourquoi ? Parce que leurs propres modèles se corrompent lorsqu’ils sont alimentés par leurs propres écrits.
Ce même déclin s’insinue désormais dans les esprits humains, et le seul rempart est de refuser de déléguer la seule chose que les machines n’ont jamais réussi à faire: concevoir quelque chose de véritablement nouveau.
Les machines achètent des livres issus de la pensée humaine
Quelque part en Europe, un libraire d’occasion reçoit une commande groupée de plusieurs milliers d’ouvrages spécialisés : histoire, botanique, droit régional, économie en langue allemande. L’acheteur ne marchande pas, ne s’enquiert pas de l’état des couvertures et ne souhaite en aucun cas que les livres soient envoyés à un lecteur. Au lieu de cela, les pages sont détachées de leurs reliures, scannées à grande vitesse, puis les originaux sont réduits en pâte. Seul le texte subsiste, converti en données d’entraînement et intégré à un modèle de langage.
Le point crucial ici est la date. Les livres recherchés ont été imprimés avant 2022 et sont prisés pour une raison : ils ont été entièrement écrits par des êtres humains. ISBNdb, qui gère l’une des plus grandes bases de données de livres au monde, sert désormais d’intermédiaire pour ces acquisitions auprès de laboratoires d’IA, par lots allant de mille à un million d’exemplaires.
Son argumentaire est d’une franchise inhabituelle. Les ouvrages imprimés antérieurs à l’ère des grands modèles de langage sont, selon ses propres termes, structurellement irréprochables. Presque tout ce qui a été publié depuis est considéré avec suspicion.
La raison en est un phénomène que les chercheurs appellent l’effondrement du modèle, et une fois qu’on le comprend, on peut commencer à percevoir une rime biologique.
Approfondir : Brûler la bibliothèque à nouveau
Que se passe-t-il lorsqu’un esprit se nourrit de sa propre production ?
Un modèle de langage apprend en lisant d’énormes quantités de textes et en en assimilant les structures. Pendant des années, ces textes étaient d’origine humaine : livres, lettres, arguments, l’étrangeté ordinaire de millions de personnes écrivant de leur propre voix. Puis, à partir de fin 2022, les machines ont commencé à produire leurs propres textes, et ces textes ont inondé le même internet dont la génération suivante de modèles allait s’inspirer.
Si l’on alimente un modèle avec ses propres textes, puis qu’on entraîne le modèle suivant sur ces mêmes textes, la qualité se dégrade. Les mots rares disparaissent en premier, suivis des tournures de phrase inhabituelles, puis des idées originales et spécifiques qui se trouvaient en marge des données.
Chaque génération se rapproche d’un standard uniforme, devenant plus répétitive, plus sûre d’elle et plus erronée.
Des études contrôlées l’ont démontré : l’entraînement itératif sur des données synthétiques tend à uniformiser les modèles et à augmenter leur taux d’erreur. C’est probablement pourquoi de nombreux contenus générés par l’IA finissent par se ressembler, avec des structures lexicales similaires, et plus on lit et écoute, plus il devient facile de repérer rapidement les indices.
L’effondrement ne se limite pas aux machines
Il y a quelque chose d’inquiétant là-dedans. Un système qui perd d’abord ses données les plus rares et les plus précises, qui devient plus répétitif et plus sûr de lui à mesure qu’il décline, qui prend la moyenne pour la vérité, ou qui hallucine tout simplement, ressemble étrangement à la démence ou à la maladie d’Alzheimer.
La comparaison avec une maladie neurodégénérative paraît brutale. Elle est pourtant juste : la machine oublie les contours de ce qu’elle connaissait et ne peut rien générer de véritablement nouveau pour combler le vide.
Depuis 2022, l’IA est devenue un outil central pour de nombreuses personnes, que ce soit pour travailler, faire de la recherche, prendre des décisions ou créer. Bien utilisée, elle se révèle particulièrement utile. Son véritable impact se manifeste lorsqu’elle cesse d’être un simple instrument pour affiner sa réflexion et devient une entité qui pense à notre place.
Lorsque vous sous-traitez la première ébauche, le paragraphe difficile, le problème que vous n’avez pas réussi à résoudre du premier coup, vous gagnez du temps. Vous vous épargnez aussi l’effort mental précis qui aurait développé votre capacité à le faire la prochaine fois. À force de répéter ce geste, les facultés que vous avez cessé d’utiliser s’atrophient. L’idée originale, le lien inattendu, l’argument que personne d’autre n’aurait avancé : ce sont là, pour l’être humain, les données marginales, et ce sont les premières choses qui disparaissent lorsque vous cessez de les produire vous-même.
Un second effondrement se produit donc en parallèle du premier.
Les modèles se corrodent à force d’être entraînés sur leurs propres résultats moyens. L’ingéniosité humaine s’envenime pour la même raison, tout comme les intelligences artificielles se nourrissent de leurs propres productions lissées, rassurantes et pré-moyennées, et apprennent à produire toujours plus de cette même bouillie homogène.
À force de photocopier une photocopie, on obtient une copie grise, à peine lisible (voire illisible), de l’original. Lorsqu’une civilisation commence à faire de même, sous l’illusion de la facilité, l’avenir s’annonce sombre.
L’ennemi n’a jamais été l’outil
Il y a une chose qui nous a toujours distingués, et qui nous distinguera toujours, de la machine: la capacité de produire quelque chose qui ne figurait pas déjà dans les données d’entraînement, autrement dit une pensée originale.
Les modèles en sont incapables et ne l’ont jamais été. C’est là le discret avantage humain qui a toujours existé, et c’est précisément cet avantage que nous perdons chaque fois que la facilité l’emporte sur la créativité.
La question ne porte pas vraiment sur la technologie, mais plutôt sur qui pense. La tentation de la facilité est constante et se pare des atours de l’efficacité et du gain de temps. Chaque fois que vous la laissez décider à votre place, vous gagnez certes en rapidité, mais aussi en capacité à faire ce qui faisait votre valeur.
L’utilisation responsable de l’IA n’est pas une simple façade morale. Il s’agit de maîtriser l’outil, de le concevoir, de le trier, de le vérifier et de l’accélérer, tout en laissant la conception, le jugement et les avancées cognitives à votre propre discrétion. Prenez connaissance de ses fonctionnalités, puis allez au-delà. Laissez-la préparer le terrain pour que vous puissiez bâtir quelque chose qu’elle n’aurait jamais pu réaliser seule.
Voilà ce que signifie réellement reprendre le contrôle de sa conscience. Il ne s’agit pas d’éteindre les machines, mais de refuser de leur être soumis.
Les livres d’avant 2022 sont recherchés car ils renferment quelque chose de pur, d’intact, d’irremplaçable : la pensée humaine.
Il en va de même pour l’esprit avec lequel vous êtes né. La seule question est de savoir si vous continuez à l’utiliser, ou si vous le laissez se modeler passivement à l’identique, comme tout le reste.
Que pensez-vous de cette publication ? Partagez sur vos réseaux sociaux préférés.
|
Pensez à nous offrir un café ! |
