Quand ne pas utiliser l'IA

Jon AI Logiciel de Facturation par IA Gratuit IA
par Stélio Inácio, fondateur de Jon AI et spécialiste de l'IA

Quand ne pas utiliser l'IA: la sagesse de savoir quand déposer un outil

Nous venons de voir comment l'IA peut être un outil puissant pour notre esprit. Mais comme tout outil puissant, qu'il s'agisse d'une tronçonneuse ou d'une voiture de sport, la sagesse ne consiste pas seulement à savoir comment l'utiliser, mais aussi à ne pas le faire. Chaque nouvelle technologie suscite un débat. Il y a des décennies, beaucoup craignaient que les calculatrices ne rendent les enfants incapables de faire des calculs de base. Est-ce que c'est arrivé? Pas vraiment. Cela leur a simplement permis de s'attaquer à des problèmes plus complexes, passant d'un calcul fastidieux à une réflexion de haut niveau. L'IA pose un ensemble de questions similaires, mais beaucoup plus profondes.

L'essentiel est de réfléchir aux compromis. Que gagnons-nous et que risque-t-on de perdre? L'objectif n'est pas de craindre la technologie, mais de l'utiliser intentionnellement, en veillant à ce qu'elle serve au mieux nos intérêts en tant qu'êtres humains qui pensent et ressentent.

Le savoir: exercer les muscles de votre cerveau

Pour devenir chauffeur de taxi noir agréé à Londres, les candidats doivent réussir un test légendaire appelé «The Knowledge». Cela les oblige à mémoriser, sans aucune note, un labyrinthe de plus de 25 000 rues et de milliers de points d'intérêt. C'est une incroyable prouesse de mémoire. Les neuroscientifiques qui étudient ces facteurs ont découvert que la partie de leur cerveau responsable de la mémoire spatiale, l'hippocampe, était significativement plus grande que chez une personne moyenne. Leur cerveau avait changé physiquement et s'était renforcé pour répondre à la demande.

Il s'agit d'un exemple étonnant de neuroplasticité: notre cerveau est comme des muscles; il grandit avec l'usage et s'atrophie avec la désuétude. Maintenant, nous pouvons tous sortir notre téléphone et obtenir un itinéraire parfait, étape par étape. C'est incroyablement pratique, mais cela vaut la peine de se demander: quels muscles mentaux choisissons-nous de ne pas exercer? Si nous externalisons tous nos écrits, risquons-nous de perdre notre capacité à présenter un argument convaincant? Si nous externalisons toute notre planification, réduisons-nous notre capacité à anticiper? Le danger n'est pas d'utiliser l'IA pour aider, mais de la laisser devenir une béquille pour les compétences cognitives essentielles à une vie riche.

Concept clé: l'IA ne doit prendre aucune décision concernant la vie

L'IA ne doit pas être utilisée pour prendre des décisions concernant la vie, car elle n'a pas la capacité morale de le faire. Un outil ne doit pas prendre de décisions au nom d'un être humain, en particulier lorsqu'il s'agit de choix de vie importants qui peuvent affecter le bien-être, le bonheur et le développement personnel.

Une chose est d'utiliser l'IA pour aider à la prise de décision, une autre est de permettre à l'IA de prendre le contrôle des décisions qui devraient être prises par les individus, car cela peut entraîner une perte d'autonomie et de responsabilité.

Guide pratique: quand y réfléchir à deux fois avant d'utiliser l'IA

Voici quelques situations dans lesquelles vous devriez faire une pause et vous demander si l'IA est le bon outil pour le travail.

  • À ne pas faire: comptez sur l'IA pour des tâches où l'exactitude des faits n'est pas négociable sans en vérifier le fonctionnement.
  • À faire: Utilisez l'IA pour obtenir une première version ou un résumé, mais vérifiez toujours les statistiques, les dates, les informations médicales ou les conseils juridiques. L'IA peut «halluciner» et inventer des faits.
  • À ne pas faire: utilisez l'IA pour gérer des conversations profondément personnelles ou émotionnellement sensibles.
  • À faire: Rédigez vos propres lettres de condoléances, excuses ou messages sincères. L'IA simule l'empathie; elle ne la ressent pas. Vos mots authentiques (même s'ils sont imparfaits) ont plus de sens.
  • À ne pas faire: externalisez les tâches conçues pour vous aider à apprendre et à développer une compétence de base.
  • À faire: Utilisez l'IA comme partenaire d'étude pour expliquer un concept que vous ne comprenez pas, mais faites vos devoirs vous-même. La lutte fait partie du processus d'apprentissage.
  • À ne pas faire: demandez à l'IA de faire un choix de vie final et important pour vous.
  • À faire: Demandez-lui de vous aider à explorer le choix. Au lieu de «Dois-je quitter mon emploi?» demandez «Aidez-moi à dresser une liste des avantages et des inconvénients de quitter mon emploi pour démarrer une nouvelle entreprise». La décision finale vous appartient.

Étude 1: Que se Passe-t-il dans Votre Cerveau Lorsque Vous Utilisez l'IA ?

Nous pensons souvent à l'IA en termes de ce qu'elle produit – un essai, un morceau de code, un e-mail. Mais et si nous pouvions regarder directement ce qui se passe à l'intérieur de nos propres cerveaux pendant que nous l'utilisons ? Une étude fascinante de 2025 du MIT, intitulée "Votre Cerveau sur ChatGPT", a fait exactement cela, nous donnant un aperçu remarquable du coût cognitif de la dépendance à l'IA.

L'Expérience: Cerveaux, Moteurs de Recherche et IA

Les chercheurs ont réuni trois groupes de personnes pour écrire des essais. Un groupe ne pouvait utiliser que ses propres connaissances (le groupe "Cerveau seul"). Un autre pouvait utiliser un moteur de recherche comme Google (le groupe "Recherche"). Le troisième groupe a utilisé un assistant IA (le groupe "LLM"). Pendant qu'ils travaillaient, leur activité cérébrale a été mesurée à l'aide d'un EEG, qui suit les signaux électriques du cerveau.

Ce qu'ils ont trouvé était frappant. La connectivité cérébrale – la façon dont différentes parties du cerveau communiquent entre elles – a diminué drastiquement avec la quantité d'aide externe.

  • Le groupe Cerveau seul a montré les réseaux cérébraux les plus forts et les plus étendus. Leurs cerveaux fonctionnaient à plein régime, orchestrant la mémoire, le langage et la planification.
  • Le groupe Moteur de Recherche a montré une activité intermédiaire. Leurs cerveaux travaillaient dur, mais intégraient également des informations visuelles de l'écran.
  • Le groupe LLM a montré le couplage cérébral global le plus faible. Leurs cerveaux étaient significativement moins engagés, en particulier dans les réseaux liés à la pensée profonde et à la mémoire.
La Dette du "Déchargement Cognitif"

Les chercheurs ont appelé ce phénomène l'accumulation de "dette cognitive". Lorsque nous "déchargeons" le travail difficile de la pensée sur une IA, nous pouvons accomplir la tâche plus rapidement, mais nous sautons l'entraînement mental. Cela a quelques conséquences clés:

  1. La Mémoire Souffre: Le groupe LLM a obtenu des performances significativement moins bonnes lorsqu'on leur a demandé de citer des passages des essais qu'ils venaient d'écrire. Lors de la première session, 83% d'entre eux n'ont pas pu se rappeler une seule phrase avec précision, contre seulement 11% dans les autres groupes. Leurs cerveaux n'avaient pas effectué l'encodage profond nécessaire pour former une mémoire durable.
  2. La Propriété est Perdue: Les participants du groupe LLM ont ressenti un sentiment de propriété plus faible sur leur travail. Ils le considéraient moins comme "leur" essai et plus comme quelque chose que l'outil avait produit. En revanche, le groupe Cerveau seul a ressenti une forte propriété.
  3. La Pensée Critique s'Atrophie: Avec le temps, l'étude suggère que la dépendance à l'IA peut affaiblir les voies neurales nécessaires à la pensée critique et à la résolution indépendante de problèmes. Lorsque d'anciens utilisateurs de LLM ont été invités à écrire sans IA, leur connectivité cérébrale était plus faible que celle de ceux qui avaient pratiqué sans elle tout le long. Ils s'étaient habitués à ce que l'IA fasse le gros du travail.

Cette étude ne dit pas que l'IA est mauvaise. Elle révèle un compromis. L'IA offre une commodité incroyable, mais cette commodité a un coût en termes d'engagement cognitif. Comme l'ont dit les chercheurs, l'IA pourrait rationaliser le processus, mais "le cerveau de l'utilisateur pourrait s'engager moins profondément dans le processus créatif". Tout comme les chauffeurs de taxi de Londres, nous devons choisir consciemment de maintenir nos muscles mentaux forts, même lorsqu'un outil puissant est prêt à faire le travail pour nous.

Étude 2: Comment l'IA Change le *Travail* de la Pensée

L'IA générative ne change pas seulement les outils que nous utilisons; elle change la nature même de notre travail. Une enquête à grande échelle de 2025 auprès des travailleurs du savoir de Microsoft Research, "L'Impact de l'IA Générative sur la Pensée Critique", fournit une image claire de cette transformation. L'étude a révélé que l'IA modifie fondamentalement notre effort cognitif. Nous passons moins de temps à créer à partir de zéro et plus de temps à diriger, vérifier et intégrer ce que l'IA produit.

Le Grand Changement: De la Collecte à la Vérification

Les chercheurs ont identifié trois changements majeurs dans la façon dont nous utilisons notre pensée critique lorsque nous travaillons avec l'IA:

  • De la Collecte d'Informations à la Vérification d'Informations: Auparavant, une grande partie du travail du savoir consistait à trouver des informations. Avec l'IA, cette partie devient presque sans effort. Mais une nouvelle tâche, plus critique, émerge: vérifier que la production de l'IA est correcte. Comme l'a noté un avocat dans l'étude, "l'IA a tendance à inventer des informations pour être d'accord avec les points que vous essayez de faire valoir, donc cela prend un temps précieux pour vérifier manuellement."
  • De la Résolution de Problèmes à l'Intégration de Réponses: L'IA est excellente pour générer des solutions. L'effort pour les travailleurs réside maintenant dans l'intégration de cette solution — la modifier, l'aligner sur des objectifs spécifiques et s'assurer qu'elle correspond au contexte. L'IA fournit la matière première; l'humain fournit le jugement critique pour la rendre utile.
  • De l'Exécution de Tâches à la Gestion de Tâches: Le plus grand changement est peut-être le passage de "faire la tâche" à "superviser la tâche". L'humain devient un "gestionnaire", responsable de guider l'IA, d'établir des normes de qualité et de rendre compte du résultat final, même si l'IA a fait une grande partie de la production.
Le Paradoxe de la Confiance: Qui Pense Critiquement?

L'étude a découvert un paradoxe fascinant concernant la confiance. On pourrait penser que les personnes moins confiantes en leurs propres capacités seraient *plus* critiques vis-à-vis de la production de l'IA. C'était le contraire.

  • Une plus grande confiance dans l'IA était associée à *moins* de pensée critique. Lorsque les travailleurs faisaient confiance à l'outil, ils avaient tendance à accepter sa production avec moins de contrôle.
  • Une plus grande confiance en leurs propres compétences était associée à *plus* de pensée critique. Les experts utilisaient l'IA comme un partenaire mais ne lui faisaient pas aveuglément confiance. Ils investissaient plus d'efforts dans l'évaluation et l'application des réponses de l'IA parce qu'ils avaient les connaissances pour le faire.

Cela nous dit quelque chose de vital: l'expertise ne devient pas obsolète avec l'IA; elle devient plus importante. La capacité d'évaluer de manière critique la production d'une IA est en soi une compétence de haut niveau. Le risque est qu'une dépendance excessive à l'IA puisse nous empêcher de développer cette expertise en premier lieu, nous laissant incapables de détecter les erreurs ou les biais. Comme le note l'étude, cela crée de "nouveaux défis pour la pensée critique" que nous devons apprendre à naviguer.

Contrôle rapide

Quelle est l'idée principale qui sous-tend l'anecdote du «chauffeur de taxi londonien» dans le contexte de l'IA?

Récapitulatif: Quand ne pas utiliser l'IA

Ce que nous avons abordé:
  • L'importance d'utiliser l'IA de manière intentionnelle, compte tenu des compromis entre commodité et développement des compétences.
  • Le principe «utilisez-le ou perdez-le» pour notre cerveau (neuroplasticité) et le risque d'atrophie cognitive.
  • Comment les moteurs de recommandation basés sur l'IA peuvent créer des «bulles filtrantes» qui limitent notre exposition à des idées diverses.
  • La limite morale critique: l'IA doit nous aider, mais jamais prendre, des décisions importantes pour nous dans la vie.

Pourquoi c'est important:
  • La sagesse ne consiste pas seulement à utiliser un outil, mais à connaître ses limites. En comprenant quand il ne faut pas utiliser l'IA, nous veillons à ce qu'elle reste un véritable assistant qui enrichit notre vie, plutôt qu'un assistant qui diminue nos propres capacités et notre autonomie.

Prochaine étape:
  • Nous avons beaucoup parlé de ce que fait l'IA. Nous allons maintenant être plus précis. Dans la leçon suivante, nous aborderons la technologie qui alimente des outils tels que ChatGPT: Qu'est-ce qu'un grand modèle linguistique?