Cadres et lois proposés pour garantir la meilleure utilisation possible de l'IA
Cadres et lois proposés pour l'IA
Après avoir exploré l'immense pouvoir et les dangers potentiels de l'IA, qu'il s'agisse de son rôle dans la guerre ou de son impact sur nos emplois et notre créativité, nous arrivons à la question la plus cruciale : que faisons-nous pour y remédier ? Pour y répondre, il ne suffit pas de mettre en place des politiques réactives ; il faut adopter une philosophie fondamentale, c'est-à-dire une vision claire du rôle que nous voulons que l'IA joue dans l'histoire humaine.
Ce qui suit est un cadre proposé fondé sur un principe directeur unique : l'IA doit être développée et déployée au service du potentiel humain, et non pour le remplacer. Il s'agit d'une vision pour une société augmentée par l'IA, une société dans laquelle la technologie sert d'outil pour améliorer notre intellect, notre créativité et nos capacités, plutôt que de les rendre obsolètes.
Un cadre pour un futur de l'IA centré sur l'humain
Ce cadre repose sur quatre principes fondamentaux : quatre lignes claires dans le sable qui définissent une relation saine entre l'humanité et notre création la plus puissante.
- L'IA ne doit pas empêcher l'apprentissage. L'esprit humain n'est pas un récipient à remplir, mais un feu à allumer. Le rôle de l'IA dans l'éducation devrait être celui d'un maître tuteur, un outil pour susciter l'esprit critique, exercer notre esprit et nous aider à apprendre. Cela ne doit pas devenir une béquille qui nous empêche de développer notre capacité de penser et de générer des idées pour nous-mêmes.
- L'IA ne doit pas empêcher le travail. L'objectif de la technologie devrait être de créer de meilleurs outils, et non de rendre l'artisan inutile. L'IA devrait augmenter les capacités humaines, nous rendant ainsi plus productifs et créatifs. Il ne doit pas être conçu dans le but premier de remplacer entièrement les travailleurs humains.
- L'IA ne doit pas gouverner les humains. L'acte de gouvernance, qui consiste à prendre des décisions pour une société, est une tâche profondément humaine qui nécessite de l'empathie, un jugement moral et une expérience vécue. Il s'agit d'un rôle qui ne doit jamais être délégué à une machine. Tous les systèmes de gouvernance doivent avoir un véritable contrôle humain.
- L'IA ne doit pas prendre de décisions qui changeront la vie. Les décisions qui modifient fondamentalement le cours d'une vie humaine, qu'il s'agisse de médecine, de justice ou de finance, ont un poids moral qu'un algorithme ne peut pas supporter. De telles décisions doivent en fin de compte être prises par des êtres humains responsables.
Lois proposées pour une société basée sur l'IA
À partir de ces principes, nous pouvons dériver des lois claires et applicables conçues pour orienter le développement de l'IA vers un avenir positif. L'objectif de ces lois n'est pas de stopper l'innovation, mais de l'orienter.
- Mandat du tuteur en IA : Sur la base du principe de protection de l'apprentissage humain, cette loi exigerait que tout système d'IA commercialisé à des fins éducatives pour les mineurs soit certifié en tant qu'outil promouvant activement la pensée critique et l'exercice mental. Les systèmes d'IA conçus pour la génération passive de contenu sans échafaudage pédagogique seraient restreints dans les écoles.
- La loi sur l'augmentation, et non sur l'automatisation : pour garantir que l'IA serve d'outil et non de remplacement, cette loi introduirait la règle de limitation des agents. Il serait légalement interdit aux agents d'IA totalement autonomes d'opérer à titre professionnel pendant plus d'une durée définie (par exemple, 10 à 15 minutes) sur une seule tâche continue. Cela leur permet d'être des assistants incroyablement utiles pour des tâches spécifiques (comme la recherche approfondie), mais il leur est impossible de remplacer un travailleur humain à plein temps.
- L'impératif de l'intervention humaine : pour empêcher l'IA de gouverner, cette loi imposerait un contrôle humain significatif sur tout système d'IA utilisé dans le cadre de la gouvernance publique, de l'application de la loi ou du commandement militaire. Pour toute décision fatale ou à enjeux élevés, un humain doit être l'autorité ultime.
- L'interdiction des décisions automatisées qui changent la vie : pour protéger le libre arbitre humain, cette loi interdirait strictement l'utilisation de systèmes d'IA entièrement automatisés pour prendre des décisions finales et contraignantes dans des domaines personnels critiques. Cela inclurait les décisions finales relatives à la libération conditionnelle, les diagnostics médicaux critiques et les approbations finales pour des prêts qui changeront des vies, comme les hypothèques. Une IA peut aider et fournir des analyses, mais le jugement final doit être humain.
Concept clé : la société augmentée par l'IA
Je crois qu'une société basée sur l'IA, même si elle n'est pas la plus avancée, est celle qui prospère. Une société dirigée par l'IA meurt.
Le grand compromis : des agents de l'IA pour les stars
Ce cadre ne signifie pas que nous devons arrêter de développer une IA hautement avancée et totalement autonome. Notre volonté d'innovation est irrépressible. La solution consiste à canaliser cette ambition vers des objectifs qui ne menacent pas notre tissu social. Nous devons traiter le développement de l'intelligence générale artificielle (AGI) comme nous traitons nos technologies les plus puissantes et les plus dangereuses, avec d'immenses garanties et dans un but ambitieux.
Le rôle de ces agents autonomes semblables à des dieux n'est pas de remplacer un vendeur sur Terre, mais d'explorer l'univers pour nous. Nous pouvons les construire et les envoyer un jour dans des fusées pour peupler la galaxie, en tant qu'émissaires robotiques dans le cosmos et en rendant compte de leurs découvertes. Il se peut qu'un jour ils se construisent un monde parmi les étoiles, mais la Terre reste le domaine de l'humanité : un monde augmenté, mais jamais remplacé, par les outils que nous créons.
Contrôle rapide
Selon le cadre proposé, quel est le rôle principal que l'IA devrait jouer sur le lieu de travail ?
Récapitulatif : Proposer un cadre pour l'IA
Ce que nous avons abordé :
- Nous avons exploré un cadre de gouvernance de l'IA fondé sur le principe de l'augmentation, et non du remplacement, du potentiel humain.
- Le cadre comprend quatre principes fondamentaux : l'IA ne doit pas empêcher l'apprentissage, le travail, la gouvernance ou les décisions qui changent la vie des humains.
- À partir de ce cadre, nous avons dérivé des lois proposées, telles que les délais pour les agents de l'IA et l'interdiction des décisions automatisées dans des domaines critiques.
- Cette vision permet de poursuivre le développement de l'IA, mais oriente les systèmes autonomes les plus avancés vers de grands défis, tels que l'exploration spatiale, plutôt que de remplacer des emplois sur Terre.
Pourquoi c'est important :
- Avoir une vision philosophique claire est l'étape la plus importante pour créer des lois efficaces. En décidant du type d'avenir que nous voulons, nous pouvons façonner la technologie au service de nos valeurs les plus élevées, en nous assurant de la contrôler, et non l'inverse.
Prochaine étape :
- Nous verrons comment différentes régions (États-Unis, Europe et Chine) abordent réellement la législation sur l'IA aujourd'hui.