Mes données restent dans cette pièce

Un jeudi soir comme les autres, je me suis rendu compte que ChatGPT en savait plus sur les petits problèmes de santé de ma famille que ce que je souhaitais partager. Grâce aux dizaines de questions que j’avais posées au sujet des symptômes que j’avais observés chez mes enfants ou chez moi ces dernières années, il avait deviné leur tranche d’âge et commencé à établir des liens qui me mettaient mal à l’aise. Dis donc, depuis quand en sais-tu autant sur nous ? Soit tu es très doué à ce jeu, soit j’ai vraiment mal géré mes conversations éphémères et mes questions « anonymisées ». Je suis très prudent avec l’IA en général et je ne partage pas trop d’informations ni ne m’y fie pour tout, mais malgré mes efforts, elle a tout de même réussi à construire un graphe de connaissances solide autour de mon profil. Cela m’a fait réfléchir à tout ce que les entreprises d’IA savent sur les utilisateurs lambda qui s’adressent à l’IA chaque jour comme ils le feraient avec leur médecin.

L'IA est une technologie incroyable que j'utilise quotidiennement, principalement au travail. Cependant, je ne peux m'empêcher de m'interroger sur la manière dont cette technologie est proposée aux utilisateurs. Je veux dire par là : encore une technologie cloud gérée par quelques géants de la tech qui collectent sans relâche les données des utilisateurs et dictent le comportement de l'IA en fonction de leurs propres agendas et principes. Devrions-nous continuer à utiliser ces modèles où nous n'avons aucun contrôle sur nos données et où, en réalité, nous ne possédons pas ce pour quoi nous payons ? Réfléchissez-y : nous louons déjà notre musique et nos films, et nous stockons nos photos et nos documents familiaux personnels sur des serveurs cloud disséminés aux quatre coins du monde. Aujourd’hui, tout fonctionne par abonnement.

J’utilise personnellement OneDrive depuis plus de 10 ans pour sauvegarder mes photos, et je suis presque certain que des modèles d’IA ont été entraînés avec tous les visages de ma famille.

Cela fait un moment que j’envisage de quitter les géants de la tech, mais cela demande une forte motivation et un certain effort. Les services cloud présentent au moins deux atouts majeurs qui incitent à les conserver : 1) La commodité : la pellicule photo se synchronise automatiquement sur le cloud, des films à la demande en illimité d’un simple geste, ne pas avoir à se soucier du stockage des données ni de tous ces aspects techniques. 2) Le prix : la plupart des services cloud grand public sont bon marché et/ou proposent des formules « gratuites » généreuses (on paie avec ses données personnelles, pas avec de l’argent). Pour l’utilisateur lambda qui souhaite faire des économies et qui « n’a rien à cacher », c’est un véritable atout. Ceux qui se soucient davantage de la confidentialité de leurs données ont construit leur écosystème numérique à l’aide de divers outils, allant des VPN aux alternatives aux géants de la tech, en passant par des disques durs en miroir sur lesquels ils stockent localement leurs fichiers familiaux ou professionnels. Je me rapproche davantage de la deuxième catégorie de personnes décrite ici. Naturellement, je m’étais déjà demandé si j’étais d’accord pour confier davantage de données personnelles à l’IA des géants de la tech. L’expérience récente qui m’a permis de découvrir que ChatGPT en savait long sur la santé de ma famille m’a convaincu d’explorer des alternatives privées en matière d’IA.

J’ai commencé à me documenter sur le sujet et je me suis laissé entraîner avec plaisir dans le monde fascinant de l’IA locale. Je me suis alors rapidement rendu compte qu’il y avait un lien avec le jeu sur PC, car la configuration matérielle nécessaire pour assembler un PC de jeu est très proche de celle requise pour les PC dédiés à l’IA. Ce parcours à travers des articles, des vidéos YouTube et des discussions sur l’IA pour choisir le bon matériel a été agréable et m’a rendu un peu nostalgique (j’ai possédé plusieurs PC de jeu pendant mon adolescence). J’ai finalement opté pour des composants haut de gamme afin de monter un PC destiné non seulement à l’IA, mais aussi au codage, à l’hébergement multimédia, ainsi qu’à la sauvegarde de photos et de fichiers. J’allais enfin échapper à l’emprise des géants de la tech sur mes données, même si cela a un coût considérable. La construction de cette machine m’a coûté près de 5 000 €, la carte graphique à elle seule représentant 2 500 €. C’est la partie la plus importante d’un PC dédié à l’IA. J’ai opté pour une Nvidia RTX Pro 4500 Blackwell de 32 Go, associée à mes 64 Go de RAM ; cela suffit pour faire tourner des modèles open source intelligents sans connexion Internet.

J'ai tout monté moi-même et ça a été une expérience très sympa. La réalité ? L'IA locale coûte cher, car la course à l'IA qui a eu lieu récemment a fait exploser les prix de la mémoire vive et des cartes graphiques. Tout le monde ne peut pas se le permettre. Les modèles locaux n'égaleront jamais l'intelligence de pointe du cloud, qui tourne sur des centres de données valant plusieurs millions de dollars. Et il faut s’y connaître : télécharger des modèles, installer des logiciels, amener le GPU à coopérer. Mais en contrepartie, vous bénéficiez de modèles gratuits et open source fonctionnant à 100 % en local, sans connexion Internet, sans abonnement et sans surveillance. Cela ouvre la voie à de nombreux cas d’utilisation que je souhaitais explorer, comme apprendre à mes enfants à utiliser l’IA en toute sécurité, créer un assistant IA familial, coder mes projets personnels avec l’aide gratuite de l’IA, explorer des idées créatives et bien plus encore.

Honnêtement, depuis que j'ai mis en place ce système, je n'ai pas fait autant que je l'avais prévu. J’ai toujours un travail à temps plein très prenant et ma famille passe avant tout.

Mais je suis fier d’une chose que j’ai créée : un assistant familial qui nous connaît un peu. Demandez-lui quelle marque de céréales nous achetons habituellement, ou quel est l’emploi du temps scolaire de la semaine prochaine, et il vous répondra. Ce sont des détails, mais ils nous sont propres et restent privés. Savoir que je peux poser librement des questions personnelles et que les réponses ne sortiront jamais de cette pièce est quelque chose de précieux.

Aucun système externe ne contient les antécédents médicaux de ma famille. Posséder une technologie aussi puissante sans dépendance ni restrictions externes est, je crois, quelque chose à chérir. Au-delà de toute la philosophie sur la souveraineté des données et l’IA open source, je peux demander à ma machine quelles céréales mes enfants préfèrent et personne d’autre ne saura jamais que j’ai posé la question. 5 000 € bien dépensés, si vous voulez mon avis.

Ceci est la partie 0 d'une série consacrée à la création et à l'utilisation d'une IA locale : le matériel, les modèles, les cas d'utilisation concrets et la question plus large de savoir à qui devrait appartenir cette technologie.

Ce post est une traduction de mon post original "My data stays in this room".