Comprendre Ollama et les modèles IA open source
Panorama des modèles IA open source (Mistral, LLaMA, autres) et cas d’usage en entreprise
…/…
Atelier pratique : prise en main d’Ollama en local sur poste de travail (installation rapide et premier prompt avec un modèle Mistral)
Préparer l’infrastructure pour un déploiement en entreprise
Préfigurer l’architecture cible : serveur unique, cluster, intégration avec les SI existants
Pré-requis matériels : CPU vs GPU, RAM, stockage, bande passante, dimensionnement de base
…/…
Atelier pratique : définir une architecture cible et une fiche de dimensionnement pour un premier serveur Ollama d’entreprise
Installer et configurer Ollama sur un serveur
Installation d’Ollama sur un serveur Linux : étapes clés et vérifications indispensables
…/…
Atelier pratique : installation complète d’Ollama sur un serveur de test et vérification d’accès via API depuis un poste client
Gérer les modèles Mistral et autres modèles IA
Télécharger, installer et mettre à jour un modèle Mistral avec Ollama (pull, list, remove)
Comprendre l’impact des différentes tailles de modèles (7B, 8B, 12B, etc.) sur la performance
…/…
Atelier pratique : déployer plusieurs variantes de modèles Mistral, comparer leurs temps de réponse et ajuster les paramètres d’inférence
Exposer Ollama aux applications internes
Découvrir l’API HTTP d’Ollama : endpoints principaux, formats de requêtes et réponses
…/…
Atelier pratique : développer un petit service interne (chat ou complétion de texte) connecté à un modèle Mistral déployé sur Ollama
Sécuriser et gouverner l’usage d’Ollama en entreprise
Identifier les risques : fuites de données, prompts sensibles, dérives d’usage
Mettre en place des restrictions d’accès par réseau, authentification et journalisation
…/…
Atelier pratique : définir une politique d’usage et un document de bonnes pratiques IA pour les utilisateurs internes
Supervision, optimisation et maintenance du service Ollama
Surveiller l’activité : logs, métriques de performance, consommation CPU/GPU/RAM
…/…
Atelier pratique : construire un mini plan d’exploitation (monitoring, sauvegarde, mises à jour) pour le serveur Ollama d’entreprise
Bilan et plan d’actions pour le déploiement en production
Synthèse des choix techniques et organisationnels réalisés pendant la formation
…/…
Atelier pratique : élaborer une feuille de route personnalisée pour passer du serveur de test à un service Ollama opérationnel en production