IA auto-hébergée open source : lorsque vous souhaitez exécuter l'IA hors ligne, en secret sur votre propre ordinateur

par Stélio Inácio, fondateur de Jon AI et spécialiste de l'IA

Votre propre IA privée : le monde de l'auto-hébergement

Jusqu'à présent, nous avons parlé de l'utilisation de modèles d'IA tels que ChatGPT ou Gemini qui fonctionnent sur d'énormes serveurs informatiques appartenant à de grandes entreprises technologiques. Lorsque vous les utilisez, vos données transitent par Internet vers leurs ordinateurs, sont traitées et une réponse est renvoyée. Mais que se passerait-il si vous pouviez exécuter un puissant modèle d'IA entièrement sur votre propre ordinateur, sans Internet et en toute confidentialité ?

Bienvenue dans le monde de l'IA open source auto-hébergée. C'est comme si vous cuisiniez à la maison plutôt que de manger au restaurant. Lorsque vous utilisez un service public d'IA, vous mangez dans leur restaurant ; c'est pratique, et ils ont une immense cuisine, mais vous ne connaissez pas la recette exacte et vous êtes dans un espace public. L'auto-hébergement, c'est comme avoir sa propre cuisine privée. Vous choisissez les ingrédients (les modèles d'IA), vous contrôlez l'ensemble du processus et personne d'autre ne voit ce que vous fabriquez. Vos données ne quittent jamais votre appareil.

Pourquoi exécuter l'IA sur votre propre ordinateur ?

Le choix d'une configuration auto-hébergée implique quelques étapes supplémentaires, mais les compromis sont convaincants pour de nombreux utilisateurs.

Les avantages (votre laboratoire d'IA privé)

Confidentialité absolue : c'est la raison numéro un. Vos conversations et les données que vous utilisez ne sont jamais transmises à un tiers. Ils restent sur votre machine, point final.
Fonctionnalité hors ligne : une fois que vous avez téléchargé les modèles, vous pouvez utiliser votre assistant AI même sans connexion Internet. Il est parfait pour un vol ou une cabine isolée.
Pas de frais d'abonnement : le logiciel et les modèles open source sont gratuits. Vous n'êtes limité que par la puissance de votre propre ordinateur.
Personnalisation ultime : vous pouvez télécharger et basculer entre des centaines de modèles différents, des plus petits et rapides aux plus grands et puissants, chacun ayant des atouts uniques.

Les considérations (quel est le problème ?)

Exigences matérielles : L'utilisation de ces modèles nécessite un ordinateur relativement moderne doté d'une grande quantité de RAM (16 Go est un bon début). Une carte graphique (GPU) puissante fait une énorme différence en termes de vitesse.
Un peu plus technique : les outils ont rendu les choses beaucoup plus faciles, mais l'installation de logiciels et l'utilisation occasionnelle d'une ligne de commande nécessitent tout de même une certaine aisance.
Performances des modèles : alors que les modèles open source sont incroyablement puissants et s'améliorent chaque jour, les modèles les plus récents (comme les toutes dernières versions d'OpenAI ou de Google) ne sont généralement pas disponibles pour l'auto-hébergement.

Guide étape par étape : Configuration de votre IA personnelle

Prêt à l'essayer ? Nous utiliserons un outil fantastique appelé Ollama, qui se charge de toutes les tâches liées à la gestion et à l'exécution des modèles. Ensuite, nous ajouterons une interface de chat conviviale afin que vous n'ayez pas à vivre dans un terminal.

Installez le « moteur » (Ollama) :
Ollama est le programme de base qui s'exécute en arrière-plan sur votre ordinateur, au service des modèles d'IA. C'est le moteur de notre installation. Rendez-vous sur ollama.com et téléchargez le programme d'installation pour votre système d'exploitation (Mac, Windows ou Linux). Suivez les instructions d'installation simples.
Téléchargez votre premier modèle d'IA :
Une fois Ollama installé, ouvrez l'outil de ligne de commande de votre ordinateur (Terminal sur Mac/Linux, Command Prompt ou PowerShell sur Windows). Pour télécharger et discuter avec le célèbre modèle Llama 3 de Meta, tapez la commande suivante et appuyez sur Entrée :
llama brun llama3
La première fois que vous l'exécutez, le modèle sera téléchargé (quelques gigaoctets). Après cela, il lancera une session de chat directement dans votre terminal. Cela confirme que votre moteur fonctionne ! Vous pouvez taper /bye pour quitter.
Installez une interface utilisateur (Open WebUI) :
Passons maintenant à la partie conviviale. Nous avons besoin d'une « interface » ou d'un « tableau de bord » pour discuter avec nos modèles. Open WebUI est une excellente option, qui vous offre une expérience similaire à celle de ChatGPT. Le moyen le plus simple de l'installer est d'utiliser Docker. Si vous n'avez pas Docker, vous pouvez l'obtenir sur le site officiel de Docker.

Lorsque Docker est en cours d'exécution, ouvrez votre outil de ligne de commande et exécutez cette commande unique :
docker run -d -p 3000:8080 --add host=host.docker.internal:host-gateway -v open-webui : /app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
Cette commande télécharge l'interface utilisateur Open WebUI, la configure et la connecte à Ollama exécuté sur votre ordinateur.
Commencez à discuter en privé :
Ouvrez votre navigateur Web et accédez à http://localhost:3000. Vous verrez l'interface Open WebUI. Créez un compte local, et vous pourrez commencer à discuter ! Vous pouvez sélectionner le modèle à utiliser (comme le modèle « llama3 » que vous avez téléchargé) et même extraire de nouveaux modèles directement depuis l'interface Web. Félicitations, vous gérez désormais votre propre IA privée !

Remarque sur les ressources informatiques

L'exécution de modèles d'IA en local peut être exigeante sur votre ordinateur. Plus le modèle est grand (par exemple, un modèle à 70 milliards de paramètres contre un modèle à 7 milliards), plus il aura besoin de RAM et plus il risque de fonctionner lentement, en particulier sans un processeur graphique puissant. Ne vous découragez pas si c'est un peu lent ; expérimenter avec des modèles plus petits et plus rapides fait partie du plaisir !

Contrôle rapide

Quelle est la principale et la plus importante raison pour laquelle quelqu'un choisit une configuration d'IA auto-hébergée ?

A) Garantir la confidentialité et la sécurité des données en conservant toutes les conversations sur leur propre ordinateur.

B) Pour accéder gratuitement aux modèles les plus puissants comme le GPT-4o.

C) Parce que c'est le moyen le plus simple et le moins technique d'utiliser une IA.

Récapitulatif : IA auto-hébergée open source

Ce que nous avons abordé :

Le concept d'intelligence artificielle auto-hébergée, dans lequel vous exécutez des modèles open source sur votre propre ordinateur.
Les principaux avantages : confidentialité absolue, accès hors ligne, gratuité et personnalisation totale.
Les principales considérations : les exigences matérielles et la nature technique de l'installation.
Un guide étape par étape pour commencer à utiliser Ollama comme « moteur » et une interface utilisateur Web comme « tableau de bord ».

Pourquoi c'est important :

L'auto-hébergement vous permet de reprendre le contrôle ultime. C'est un moyen puissant d'utiliser l'IA selon vos propres termes, en vous assurant que vos données restent réellement les vôtres tout en explorant le vaste monde des modèles open source.

Prochaine étape :

Nous examinerons le revers de la médaille de l'open source : exécuter des modèles d'IA open source dans le cloud lorsque vous ne souhaitez pas utiliser votre propre matériel tout en évitant de partager des données avec les grandes entreprises technologiques.

Joignez-vous à AI Services