La machine à substitution : Introduction

Dans les années 2010, je gérais les réseaux sociaux : j’élaborais et exécutais des stratégies pour maximiser l’engagement. Un jour, j’ai remarqué la manière dont les jeunes d’une vingtaine d’années, à l’époque, consommaient les publications que je passais des heures à rédiger chaque semaine. J’ai été étonné de voir à quelle vitesse ils faisaient défiler leur fil d’actualité par rapport à nous, qui avions alors une trentaine d’années. Il semblait que le temps moyen passé sur une seul post était d’environ deux secondes, voire moins. Cela m’a poussé à adapter ma stratégie de contenu, mais j’ai trouvé intrigant de constater qu’ils ne lisaient pas vraiment, mais qu’ils scannaient plutôt leur fil d’actualité, en "scrollant" rapidement et presque mécaniquement, comme s’ils cherchaient quelque chose sans savoir exactement quoi. À l’époque, je ne savais pas que j’assistais aux prémices d’une déconnexion plus profonde. Je comprends un peu mieux cela aujourd’hui.

Aujourd’hui, les connexions artificielles via les écrans donnent l’impression que nous ne sommes qu’à un message de n’importe qui, et pourtant nous n’avons jamais été aussi déconnectés (des autres, mais aussi de nous-mêmes, malheureusement). L’essor des réseaux sociaux a dilué les liens réels, nous rendant accros à nos téléphones grâce aux astucieux (et vicieux) « neurohacks » des géants de la tech. Les plateformes sociales reposent sur l’attention. J’appelle leur modèle économique le « cercle vicieux de l’attention ». Oui c'est bien moi, ancien Social Media Manager qui optimisait le contenu pour maximiser l’engagement, qui ai sorti cette expression, quelle ironie je sais. Le fait est qu’aujourd’hui, je m’interroge sur l’impact de la technologie sur les êtres humains, et les réseaux sociaux posent problème depuis des années déjà : ils ont été associés à l’isolement, à la dépression, à la dépendance aux écrans et bien plus encore.

Le mécanisme n’a rien de compliqué. Les algorithmes des réseaux sociaux sont conçus pour capter votre attention le plus longtemps possible. Voici comment fonctionne mon « cercle vicieux de l’attention » :L’attention humaine → génère des données → les données optimisent les publicités → les publicités génèrent des revenus → les revenus sont réinvestis dans l’ingénierie et les « neurohacks » pour capter encore plus d’attention.

Chaque choix de conception: le feed infini, les notifications, le nombre de « j’aime »… est pensé pour vous rendre accro.

On se retrouve donc face à un paradoxe qui me met mal à l’aise : une technologie qui promettait de créer des liens a donné naissance à une génération qui fait état de niveaux records de solitude, de dépression et d’anxiété. Puis l’IA est arrivée, avec la promesse d’un accès instantané à la connaissance et à l’intelligence. Quelle perspective passionnante !

En observant autour de moi la façon dont les gens utilisent l’IA, j’ai remarqué une tendance très inquiétante, surtout chez la Génération Z, mais pas exclusivement. Certains ont presque entièrement délégué leur réflexion à ChatGPT. Lorsqu’on leur pose une question à laquelle ils ne connaissent pas la réponse, ils se tournent vers l’IA sans même réfléchir. Toute tâche un tant soit peu complexe est automatiquement confiée à ChatGPT pour obtenir des conseils, sans aucune tentative de résoudre le problème par eux-mêmes. Un doute existentiel ? On demande à l’IA de confirmer nos préjugés existants. Une de mes amies, célibataire et en quête d’amour, va même jusqu’à noter ses rendez-vous à l’aide de ChatGPT. « Il ne m’a pas apporté de fleurs lors du premier rendez-vous, alors que j’avais bien mentionné dans ma bio que j’aimais les fleurs. C’est clairement un red flag, non ? »

Je suis moi-même coupable de la même chose, mais d’une manière différente. J’en sais davantage sur le fonctionnement interne des grands modèles de langage (LLM) ; sans être un expert, je sais qu’ils ne font que « cracher » des mots de manière probabiliste. Pourtant, je me suis souvent retrouvé dans des situations où je souhaitais faire valider ma réflexion, vous savez, ce genre de conversation où l’on dit à un ami « donne-moi ton avis » sur un sujet, juste pour s’assurer qu’on ne se trompe pas ? Eh bien oui, cet ami, c’était… Claude (celui d’Anthropic, pas mon coiffeur). La différence entre moi et mon ami qui utilise ChatGPT pour évaluer le potentiel d’un petit ami, c’est que j’utilise des prompts plus avancés, évitant le biais de confirmation et fondés sur des faits vérifiables lorsque cela s’y prête. Je lui fournis par exemple de bonnes données issues de ma propre réflexion et lui demande de me montrer mes angles morts. Plus vous avez approfondi votre réflexion sur un sujet, meilleure sera la qualité des questions que vous poserez à l’IA, ce qui se traduira par des réponses de qualité et des orientations claires de sa part. Ce processus m’a facilité la prise de certaines décisions importantes. En fin de compte, c’est là tout l’intérêt de la technologie : faciliter la vie des gens. Sauf qu’en tant que chrétien, je suis censé m’appuyer sur un cadre différent pour prendre des décisions, en particulier les plus importantes. S’en remettre à Dieu, Le reconnaître dans tout ce que nous faisons et rechercher Sa guidance dans la vie est au cœur de notre foi.

Cette chose brillante, "qui sait tout", immédiatement disponible et simple qu’est l’IA avait, dans certains cas, presque facilement remplacé ma confiance en Dieu – un Dieu qui, soit dit en passant, ne semble pas toujours accessible ni clair. Cette réalisation m’a montrée que nous, les humains, pouvons facilement prendre quelque chose et l’intégrer dans nos vies comme si cela en avait toujours fait partie, ou la laisser s’infiltrer dans certains aspects de nos croyances profondes. C’est là que s’opère la substitution. Qui va nous en vouloir ? La technologie est censée nous servir et nous faire évoluer, non ? Et cette technologie, qui donne l’impression d’être une intelligence disponible en dehors de notre cerveau, présente quelques caractéristiques intéressantes :

1. "Omnisciente" : on peut lui poser pratiquement n’importe quelle question. L’ensemble des connaissances humaines publiques est accessible en langage naturel, sans effort.
2. Toujours active : on peut lui « parler » à tout moment. Elle répondra en quelques secondes à vos doutes, même au milieu de la nuit.
3. Personnalisée : elle conserve l’historique de vos conversations, elle vous connaît. Ses réponses s’appuient sur vos objectifs, vos craintes et bien d’autres éléments pour établir le contexte.
4. Anthropomorphisée : elle se comporte comme un être humain, peut parler d’une voix naturelle et avoir un visage si vous le souhaitez.

Ce dernier domaine est le terrain de jeu de certaines nouvelles entreprises proposant des services de compagnie grâce à des « amis » ’IA. Elles avancent des slogans tels que « Nouez une amitié profonde, développez une relation passionnée ou apprenez auprès d’un mentor avisé » ou encore « Trouvez une relation qui va au-delà de l’amitié ».

Avons-nous la moindre chance alors que cette technologie possède toutes les propriétés nécessaires pour remplacer certains types de processus et de relations humaines ?Nous évoluons déjà dans un environnement qui a systématiquement externalisé la réflexion ; l’IA est la conclusion logique de cette trajectoire.
Avant cela, les réseaux sociaux nous dictaient ce que nous devions ressentir face à certaines choses, les moteurs de recommandation nous indiquaient quoi regarder, le GPS nous expliquait comment nous rendre n’importe où. Nous nous dirigeons vers un monde où nous externalisons non seulement le travail vers l’IA, mais aussi la réflexion, la validation et même les relations.Je ne sais pas ce que cela donnera à long terme. Une génération qui produit d’excellents résultats grâce à l’IA, mais dont la capacité à réfléchir suffisamment longtemps à une question difficile pour trouver sa propre réponse s’est amenuisée. Des personnes qui se sentent profondément comprises par un système qui, en réalité, ne les comprend pas du tout (il en est incapable).

Je continue de croire que l’IA est l’une des technologies les plus importantes que l’humanité ait jamais créées ; je l’utilise presque tous les jours. Mais j’ai commencé à me poser certaines questions : qu’est-ce qu’elle remplace, et cette chose méritait-elle d’être remplacée ? Qu’advient-il de l’âme humaine lorsque nous n’avons plus à lutter pour trouver des réponses ?

Que constatez-vous dans votre propre vie ou chez vos proches ?

Cet article est l’introduction à « La Machine à substitution », une série d’essais sur ce que la technologie est en train de remplacer discrètement en nous : notre façon de penser, nos relations, notre identité.
La première partie suivra : les hommes, la solitude et l’économie des compagnons IA. Abonnez-vous pour la recevoir dans votre boîte mail.

Merci de votre lecture,
Eloge