Vous aimeriez utiliser des modèles de langage (LLMs) pour analyser ou traiter des documents confidentiels ou des données sensibles ? Dans ce cas, il n'est évidemment pas envisageable de recourir à des services en ligne tels que ChatGPT, Claude ou DeepSeek, en raison des risques liés à la confidentialité.

Une alternative fiable consiste à exécuter ces modèles directement sur votre propre machine, ce qui garantit que toutes les données restent traitées localement, sans fuite possible vers des serveurs distants.

Objectifs de la formation

Ce cours vous permettra de comprendre les enjeux, les solutions disponibles et de mettre concrètement en œuvre un modèle local de manière très simple. Nous aborderons les points suivants :

1. Concepts généraux  

• Pourquoi installer un LLM en local ? Dans quels cas cette approche est-elle pertinente ?
• Avantages et limites de l'exécution locale par rapport aux solutions en ligne
• Tour d’horizon des solutions existantes : modèles open source, interfaces utilisateur, performances, compatibilité matérielle

2. Atelier pratique

• Installation pas à pas d’un modèle LLM sur votre machine
• Utilisation de base : poser des questions, ajouter ses propres documents, tester les capacités du modèle

A l’issue de ce cours, vous serez capable de :

• Comprendre quand utiliser une solution locale est pertinente
• Installer et exécuter plusieurs LLMs localement sur votre ordinateur
• Utiliser ces modèles pour interagir avec vos propres documents en toute confidentialité

La formation se déroule en 2 étapes:

1. Une première étape théorique afin de comprendre la pertinence d’une telle approche ainsi que ses limites. 

2. Une deuxième étape pratique. Les participants seront accompagnés étape par étape pour réaliser l’installation d’une solution en local et en tester les fonctionnalités.

Il est nécessaire de posséder un machine suffisamment puissante pour faire tourner les modèle : Windows ou Mac (M-Series) avec un minimum 16Go de RAM.