Référence: 261350212F

/

Mise à jour le

Déployer Ollama et des modèles IA open source (Mistral…)

Dawan

Cet organisme a obtenu la marque « Qualiopi » pour ses actions de formation.

Cet organisme a obtenu la marque « Qualiopi » pour ses actions de formation par apprentissage.

Niveau de sortie : Sans Niveau spécifique

Pour cette formation

1 session disponible

Consulter

Objectifs

Comprendre l’architecture d’Ollama et des modèles open source (Mistral…) en contexte entreprise - Savoir installer, configurer et sécuriser Ollama sur un serveur on-premise ou cloud - Être capable d’exposer un ou plusieurs modèles IA aux applications internes (API) en maîtrisant les aspects performance, monitoring et gouvernance

Programme

Comprendre Ollama et les modèles IA open source
Panorama des modèles IA open source (Mistral, LLaMA, autres) et cas d’usage en entreprise
…/…
Atelier pratique : prise en main d’Ollama en local sur poste de travail (installation rapide et premier prompt avec un modèle Mistral)
Préparer l’infrastructure pour un déploiement en entreprise
Préfigurer l’architecture cible : serveur unique, cluster, intégration avec les SI existants
Pré-requis matériels : CPU vs GPU, RAM, stockage, bande passante, dimensionnement de base
…/…
Atelier pratique : définir une architecture cible et une fiche de dimensionnement pour un premier serveur Ollama d’entreprise
Installer et configurer Ollama sur un serveur
Installation d’Ollama sur un serveur Linux : étapes clés et vérifications indispensables
…/…
Atelier pratique : installation complète d’Ollama sur un serveur de test et vérification d’accès via API depuis un poste client
Gérer les modèles Mistral et autres modèles IA
Télécharger, installer et mettre à jour un modèle Mistral avec Ollama (pull, list, remove)
Comprendre l’impact des différentes tailles de modèles (7B, 8B, 12B, etc.) sur la performance
…/…
Atelier pratique : déployer plusieurs variantes de modèles Mistral, comparer leurs temps de réponse et ajuster les paramètres d’inférence
Exposer Ollama aux applications internes
Découvrir l’API HTTP d’Ollama : endpoints principaux, formats de requêtes et réponses
…/…
Atelier pratique : développer un petit service interne (chat ou complétion de texte) connecté à un modèle Mistral déployé sur Ollama
Sécuriser et gouverner l’usage d’Ollama en entreprise
Identifier les risques : fuites de données, prompts sensibles, dérives d’usage
Mettre en place des restrictions d’accès par réseau, authentification et journalisation
…/…
Atelier pratique : définir une politique d’usage et un document de bonnes pratiques IA pour les utilisateurs internes
Supervision, optimisation et maintenance du service Ollama
Surveiller l’activité : logs, métriques de performance, consommation CPU/GPU/RAM
…/…
Atelier pratique : construire un mini plan d’exploitation (monitoring, sauvegarde, mises à jour) pour le serveur Ollama d’entreprise
Bilan et plan d’actions pour le déploiement en production
Synthèse des choix techniques et organisationnels réalisés pendant la formation
…/…
Atelier pratique : élaborer une feuille de route personnalisée pour passer du serveur de test à un service Ollama opérationnel en production

Certifications et métiers visés

Consulter le diplôme, titre ou certificat... délivrés en fin de formation ainsi que les métiers auxquels cette formation vous donne accès.

Résultats attendus

Attention, cette formation ne conduit pas à une certification ou une habilitation inscrite au RNCP.

Métier(s) correspondant(s)

Nom du métier Lien vers la fiche du métier
M1805 : Études et développement informatique Fiche métier - nouvel onglet

1 session : Déployer Ollama et des modèles IA open source (Mistral…)

  • au

    Dawan

    Cet organisme a obtenu la marque « Qualiopi » pour ses actions de formation.

    Cet organisme a obtenu la marque « Qualiopi » pour ses actions de formation par apprentissage.

    • Commune : Lyon 3e (69)

    Formation professionnelle