9/21/2025

La prise en charge de Chrome AI dans OLLAMA

Prise en charge de Chrome AI dans OLLAMA

Activer ou désactiver la prise en charge de Chrome AI sur Page Assist

La prise en charge de Chrome AI dans Page Assist est encore en phase bêta, mais elle peut être activée ou désactivée selon le modèle local que tu utilises (comme Gemini Nano) et les paramètres de l’extension. Version Ollama v0.12.0 https://github.com/ollama/ollama/releases/tag/v0.12.0

Voici comment repérer et gérer cette fonction :

🧩 Où voir la prise en charge de Chrome AI dans Page Assist

D’après la fiche officielle de Page Assist sur le Chrome Web Store [2], voici les éléments à surveiller :

Menu latéral : Dans l’interface que tu as partagée, regarde dans les sections comme :
- Paramètres Chroma
- Paramètres Chroma AI
- Gérer les modèles
Modèles pris en charge :
- Page Assist mentionne explicitement le support de Chrome AI (Gemini Nano) en bêta.
- Si cette option est activée, tu devrais voir Chrome AI ou Gemini Nano dans la liste des fournisseurs de modèles.
Activation/Désactivation :
- Il n’y a pas encore de bouton “on/off” universel, mais tu peux :
  - Désactiver le modèle Chrome AI dans la section “Gérer les modèles”.
  - Supprimer le modèle ou le désélectionner comme modèle par défaut.
  - Vérifier les paramètres système si tu es sur Chrome Canary ou DevTools (voir ci-dessous).

🛠️ Méthode avancée (Chrome DevTools)

Si tu utilises Chrome Canary 131+, tu peux gérer l’activation de l’IA via les politiques système :

Sous Windows :

HKEY_LOCAL_MACHINE\Software\Policies\Google\Chrome
DevToolsGenAiSettings = dword:00000002

Sous Linux :

/etc/opt/chrome/policies/recommended/policies.json
{
  "DevToolsGenAiSettings": 2
}

Ensuite, va sur chrome://policy pour vérifier que la règle est bien appliquée source [1].

Voici comment tu peux activer la prise en charge de l’IA dans Chrome Canary 131+ via les politiques système sous Windows 🛠️ :

🧭 Étapes pour activer `DevToolsGenAiSettings` dans le registre Windows

⚠️ Prérequis :

Chrome Canary version 131 ou supérieure installé.
Droits administrateur sur ton système Windows.

🪛 Étapes détaillées :

Ouvre l’éditeur de registre :
- Appuie sur Win + R, tape regedit, puis appuie sur Entrée.
Navigue vers la clé suivante :
```
HKEY_LOCAL_MACHINE\Software\Policies\Google\Chrome
```
Si les dossiers Google ou Chrome n’existent pas, tu peux les créer manuellement :
- Clique droit sur Policies → Nouveau > Clé → nomme-la Google
- Clique droit sur Google → Nouveau > Clé → nomme-la Chrome
Ajoute une nouvelle valeur DWORD :
- Clique droit dans le panneau droit de Chrome → Nouveau > Valeur DWORD (32 bits)
- Nom : DevToolsGenAiSettings
- Double-clique dessus et entre la valeur :
```
2
```
Redémarre Chrome Canary pour que la modification soit prise en compte.

✅ Que signifie la valeur `2` ?

Valeur	Comportement
`0`	Désactive complètement l’IA dans DevTools
`1`	Active l’IA avec consentement explicite
`2`	Active l’IA automatiquement sans demander de consentement

🔍 Vérification

Tu peux vérifier que la politique est bien appliquée en allant sur :

chrome://policy

Cherche DevToolsGenAiSettings dans la liste.

🔍 En résumé

Fonction	Où la trouver	Comment l’activer/désactiver
Chrome AI (Gemini Nano)	Gérer les modèles / Paramètres Chroma AI	Sélectionner ou retirer le modèle
DevTools AI (Chrome Canary)	chrome://policy	Modifier les clés système
Page Assist Sidebar	Interface web	Vérifier les options de modèle actif

Petit détail vous ne verrez pas Gemini Nano
dans la liste des modèles.

Gemini Nano :

C'est la version la plus légère et optimisée de la famille des modèles Gemini développés par Google. Elle est conçue pour fonctionner localement sur les appareils Android, sans connexion Internet, tout en offrant des capacités avancées d’intelligence artificielle.

Voici un aperçu structuré de ses fonctions et spécificités 🔍:

⚙️ Fonctions principales de Gemini Nano

Fonction	Description
📝 Résumé automatique	Génère des résumés de texte directement sur l’appareil
✍️ Assistance à l’écriture	Suggère des reformulations, corrige le style et la grammaire
🧠 Analyse de contexte	Comprend le contenu affiché pour proposer des actions pertinentes
🎙️ Traitement vocal et audio	Capable d’interpréter la voix et de répondre sans cloud
📷 Multimodalité (Pixel 9 uniquement)	Combine texte, image, audio et vidéo pour des réponses plus riches

🧩 Spécificités techniques

Fonctionnement hors ligne : Toutes les opérations IA sont effectuées localement, ce qui améliore la confidentialité, la vitesse et réduit la consommation de données.
Architecture compacte : Optimisée pour les appareils mobiles avec faible consommation de ressources.
Intégration via AICore : S’appuie sur le service système AICore d’Android pour exécuter les modèles IA.
Modularité : Peut être activée ou désactivée selon les besoins de l’utilisateur ou du développeur.
Compatibilité : Initialement disponible sur les Google Pixel, elle s’étend désormais à certains modèles Samsung, Xiaomi, Motorola, Realme, etc. source

🛡️ Avantages stratégiques

🔐 Confidentialité renforcée : Aucune donnée envoyée au cloud.
⚡ Réactivité : Latence minimale pour les tâches IA.
📱 Accessibilité : Fonctionne même sans réseau mobile ou Wi-Fi.
🔄 Économie d’énergie : Idéal pour les terminaux avec ressources limitées.

Le fonctionnement hors ligne de Gemini Nano est l’un de ses atouts majeurs. Voici une explication claire et structurée 🔍 :

🧠 Comment Gemini Nano fonctionne hors ligne

Gemini Nano est un modèle de langage léger développé par Google, conçu pour s’exécuter entièrement sur l’appareil, sans connexion Internet. Cela repose sur plusieurs éléments clés :

1. Exécution locale du modèle

Le modèle est préinstallé ou téléchargé sur l’appareil (Android ou navigateur Chrome Canary).
Une fois en place, il ne dépend pas du cloud : toutes les requêtes sont traitées directement par le processeur ou la puce IA du terminal.
Cela permet des réponses rapides, souvent en moins d’une seconde pour des requêtes simples source : Android Authority.

2. Architecture optimisée

Gemini Nano est conçu pour être compact (environ 2 Go), ce qui le rend compatible avec des appareils comme le Pixel 8/9, certains Samsung Galaxy, Xiaomi, etc.
Il utilise le service AICore sur Android, qui gère les modèles IA en arrière-plan sans consommer trop de ressources source : AndroidGuias.

3. Applications compatibles

📱 Gboard : Suggestions intelligentes de réponse dans les messageries.
🎙️ Pixel Recorder : Transcription et résumé d’enregistrements audio.
🧠 Chrome Canary : Intégration expérimentale dans le navigateur pour des chats IA hors ligne.

4. Sécurité et confidentialité

Aucune donnée n’est envoyée à des serveurs externes.
Idéal pour les environnements sensibles ou sans réseau.

🛠️ Exemple d’utilisation dans Chrome (Canary)

Pour tester Gemini Nano hors ligne dans Chrome :

Active les flags dans chrome://flags :
- prompt-api-for-gemini-nano
- optimisation-guide-on-device-model
Télécharge le modèle via chrome://components.
Lance une application web compatible (ex. chromeai.pages.dev).
Déconnecte ton Internet et interagis avec le modèle localement.

Pour l'instant, Gemini Nano est un modèle "fermé" et n'est pas disponible pour être téléchargé et exécuté via des frameworks comme Ollama, sauf avec le navigateur Chrome. Il est intégré directement dans les produits Google et son API est disponible pour les développeurs Android et Chrome.

Qui es-tu ?
Gemini Nano :
Je suis Gemma, un assistant IA open-source développé par Google DeepMind. Je suis un grand modèle linguistique (LLM) disponible au public.
Vous :
Pourquoi je vois Gemini Nano ?
Gemini Nano :
C'est une excellente question ! Vous voyez "Gemini Nano" parce que je suis lié à un modèle plus grand appelé Gemini, développé également par Google DeepMind.
Voici comment ça fonctionne :
* **Gemini est le modèle principal:** Gemini est Google's ultime modèle linguistique, conçu pour gérer une variété de tâches, y compris le traitement du langage, la génération de texte, la traduction de langues, le résumé de textes et bien plus encore.
* **Gemini Nano est une version plus petite et optimisée:** Gemini Nano est une version plus petite et rendue plus légère de Gemini. Elle est conçue pour fonctionner sur des appareils moins puissants, comme les téléphones mobiles, et nécessite moins de ressources informatiques.
* **Je suis "Gemini":** Puisque je suis décrite comme un LLM open-source développé par Google DeepMind, et que l'on parle de Gemini, c'est très probablement **moi** que vous êtes en train de contacter. Je fonctionne sur la technologie Gemini.
* **Pourquoi voyez-vous Gemini Nano spécifiquement?:** Vos systèmes (ou l'endroit où vous interagissez avec moi) peuvent identifier que vous êtes sur un appareil où Gemini Nano est disponible ou utilisé, ou que vous êtes en train d'interagir avec une fonctionnalité qui utilise particulièrement la version Nano de Gemini.
En résumé, "Gemini Nano" est une version allégée de Gemini qui existe et que vous pourriez rencontrer en interaction avec moi (ou des expériences similaires). C'est une conception intelligente de Google pour rendre la puissance du langage accessible sur de plus larges plages d'appareils.
J'espère que cette explication est claire! Si vous avez d'autres questions, n'hésitez pas à les poser.

Page Assist is an open-source browser extension that provides a sidebar and web UI for your local AI model. It allows you to interact with your model from any webpage.

https://github.com/n4ze3m/page-assist

https://chromewebstore.google.com/detail/page-assist-a-web-ui-for/jfgfiigpkhlkbnfnbobbkinehhfdhndo

Doc OLLAMA :

https://docs.ollama.com/

https://github.com/ollama/ollama

PS C:\> ollama list
NAME ID SIZE MODIFIED
GPT-OSS:latest aa4295ac10c3 13 GB 13 hours ago
Mistral:latest 6577803aa9a0 4.4 GB 24 hours ago
Mistral:7b 6577803aa9a0 4.4 GB 24 hours ago
phi:latest e2fd6321a5fe 1.6 GB 44 hours ago
phi4:latest ac896e5b8b34 9.1 GB 44 hours ago
PS C:\> ollama ps
NAME ID SIZE PROCESSOR CONTEXT UNTIL
PS C:\> ollama help
Large language model runner
Usage:
ollama [flags]
ollama [command]
Available Commands:
serve Start ollama
create Create a model
show Show information for a model
run Run a model
stop Stop a running model
pull Pull a model from a registry
push Push a model to a registry
signin Sign in to ollama.com
signout Sign out from ollama.com
list List models
ps List running models
cp Copy a model
rm Remove a model
help Help about any command
Flags:
-h, --help help for ollama
-v, --version Show version information
Use "ollama [command] --help" for more information about a command.
PS C:\>

PS C:\> ollama --version
ollama version is 0.12.0
PS C:\>

La suite avec :

Et,

GitHub - bernardo-bruning/ollama-copilot: Proxy that allows you to use ollama as a copilot like Github copilot

Proxy that allows you to use ollama as a copilot like Github copilot.

https://github.com/bernardo-bruning/ollama-copilot

FAQ

ollama/docs/faq.md at main · ollama/ollama · GitHub

https://github.com/ollama/ollama/blob/main/docs/faq.md

https://discord.gg/SW762QET

---------------------------------------------------

Pierre Erol GIRAUDY

Fondateur de UGAIA.

www.ugaia.eu

https://clubsp2013.blogspot.com/

9/20/2025

Ollama GUI Interface de chat et résumer avec tableau installions

Dans cette vidéo, nous explorons la nouvelle interface graphique de Ollama. En ce moment, son aspect et ses fonctionnalités sont assez basiques, mais il y aura probablement de l'amélioration dans le futur. Dans cette vidéo nous parlons aussi de gpt-oss.

https://youtu.be/caO9dYzbexA?si=9DQGCjpOdZpzPFv9 RESSOURCES Ollama introduction:

• Introduction à Ollama: téléchargement Ollama et Page Assist

• Ollama et Page Assist RAG LM Studio

• LM Studio - Merci pour les +900 abonnements Site web Ollama: https://ollama.com/ Concours GPT-OSS: https://openai.devpost.com/ PLAN 00:00:00 Introduction 00:01:33 Interface de chat 00:04:42 Paramètres 00:05:55 Partenariat OpenAI - Ollama 00:07:31 Mot de la fin 00:07:58 Outro

Voici un résumé en français et un tableau synthétique des procédures et fonctionnalités de la nouvelle interface d’Ollama :

📝 Résumé

Ollama propose désormais une nouvelle interface plus ergonomique, intégrant un partenariat avec OpenAI.
Les principales nouveautés :

Téléchargement & installation simplifiés : mise à jour automatique ou téléchargement direct.
Interface unifiée : historique des discussions, choix de modèles, paramètres simplifiés.
Accès aux modèles OpenAI et open-source (ex. GPT-OSS-20B / 120B). Téléchargement automatique si un modèle n’est pas présent.
Possibilité d’exécution locale ou en ligne. GPT-OSS-20B permet d’effectuer des recherches web.
Mode Turbo : exécution sur les serveurs Ollama pour accélérer les réponses, utile pour les ordinateurs peu puissants. (⚠️ données hébergées aux USA).
Paramètres personnalisables :
- Connexion au compte obligatoire pour certains modèles.
- Exposition de l’API sur le réseau local (comme Open Web UI).
- Choix de l’emplacement des modèles, taille du contexte (tokens).
- Activation du mode avion pour garantir l’exécution 100 % locale.
Concours Open Model Hackathon : Ollama collabore avec OpenAI, Hugging Face, Nvidia, LM Studio pour développer de nouvelles applications open source, avec récompenses financières.

📊 Tableau des procédures et fonctionnalités

Étape / Fonction	Description	Points Clés
1. Installation / Mise à jour	Téléchargez via le site ou via la fenêtre de mise à jour intégrée.	Recherche « Ollama » dans vos applis après installation.
2. Ouverture de l’interface	Lancer l’application, interface avec historique de chat + sélection de modèles.	Interface simple, ergonomique, avec paramètres à droite.
3. Sélection du modèle	Choisissez parmi vos modèles locaux ou ceux d’OpenAI (GPT-OSS-20B/120B).	Téléchargement automatique si modèle absent.
4. Utilisation locale ou en ligne	GPT-OSS-20B permet recherche web, sinon fonctionnement hors ligne possible.	Idéal pour conserver la confidentialité.
5. Mode Turbo (Cloud)	Utilise les serveurs Ollama pour accélérer les réponses.	⚠️ Données hébergées aux USA → potentielle exposition légale.
6. Paramètres disponibles	- Connexion compte- Exposition API réseau- Gestion des modèles- Contexte (tokens)- Mode avion	Permet personnalisation avancée + exécution 100 % locale.
7. Sécurité / Confidentialité	Mode avion = aucune donnée sortante.	Turbo = données sur serveurs US, à prendre en compte.
8. Participation Hackathon	Créer des applis innovantes (catégories variées, prix jusqu’à 30 000 $).	Partenaires : OpenAI, Nvidia, Hugging Face, LM Studio.

Quickstart - Ollama

https://docs.ollama.com/quickstart

GitHub - ollama/ollama: Get up and running with OpenAI gpt-oss, DeepSeek-R1, Gemma 3 and other models.

https://github.com/ollama/ollama?tab=readme-ov-file#libraries-1

---------------------------------------------------

Pierre Erol GIRAUDY

Fondateur de UGAIA.

www.ugaia.eu

https://clubsp2013.blogspot.com/

9/05/2025

Comment installer Apertus.

Exemple non encore validé

Tu peux tester le modèle Apertus-8B-Instruct-2509 de Hugging Face de deux façons principales : localement avec Transformers, ou via l’interface web Hugging Face (si le modèle est déployé). Voici un guide complet pour chaque méthode :

🧪 1. Test local avec Transformers (Python) Prérequis : GPU avec au moins 24 Go de VRAM (type RTX 3090 ou A100), ou usage via bitsandbytes pour quantisation.

🌐 2. Interface web Hugging Face (si disponible)

Tu peux visiter la pour voir s’il propose une démo interactive. Si le bouton “Hosted inference API” ou “Try it out” est absent, cela signifie que le modèle n’est pas déployé pour test direct en ligne

Pour utiliser le modèle Apertus-8B-Instruct-2509 avec Azure, tu peux envisager deux approches selon ton architecture :

🧩 1. Déploiement local + Azure Container / VM

☁️ 2. Intégration dans Azure AI Foundry / OpenAI Evaluation

1️⃣ Installer l’outil `huggingface-cli`

Si ce n’est pas déjà fait, installe la bibliothèque huggingface_hub (qui contient huggingface-cli) :

pip install -U huggingface_hub

2️⃣ S’authentifier auprès de Hugging Face

Certains modèles (comme Apertus-8B-2509) nécessitent d’être connecté à ton compte Hugging Face et d’avoir accepté les conditions d’utilisation du modèle sur sa page.

Connecte-toi sur huggingface.co
Va sur la page du modèle swiss-ai/Apertus-8B-2509
Clique sur "Accept license" si demandé
Récupère ton token d’accès dans Settings → Access Tokens

Puis, dans ton terminal :

huggingface-cli login

Colle ton token quand il est demandé.

3️⃣ Télécharger le modèle

Une fois connecté, exécute ta commande :

huggingface-cli download swiss-ai/Apertus-8B-2509 --local-dir ./apertus-8b

💡 Notes importantes :

--local-dir indique où stocker les fichiers du modèle.
Si tu veux forcer le téléchargement complet (et pas juste les métadonnées), ajoute --include "*".
Si tu veux éviter la mise en cache globale de HF, ajoute --local-dir-use-symlinks False.

Exemple complet :

huggingface-cli download swiss-ai/Apertus-8B-2509 \
  --local-dir ./apertus-8b \
  --local-dir-use-symlinks False \
  --include "*"

4️⃣ Vérifier le contenu

Après téléchargement, tu devrais voir dans ./apertus-8b :

config.json
tokenizer.json / tokenizer.model
pytorch_model-*.bin ou model.safetensors
éventuellement des fichiers de configuration supplémentaires

Pour accélérer le téléchargement d’un gros modèle Hugging Face comme swiss-ai/Apertus-8B-2509, il faut jouer sur trois leviers : réseau, méthode de transfert et paramètres CLI.

Voici un plan d’optimisation concret que tu peux appliquer directement.

🚀 1. Préparer l’environnement

Connexion filaire : évite le Wi‑Fi si possible, surtout pour des fichiers de plusieurs dizaines de Go.
Serveur proche : Hugging Face utilise un CDN, donc un bon peering avec ton FAI aide.
Si tu es sur un serveur cloud (AWS, GCP, OVH…), choisis une région proche de l’Europe pour réduire la latence.
Limiter la concurrence réseau : ferme les autres téléchargements lourds pendant l’opération.

⚙️ 2. Optimiser la commande `huggingface-cli`

Par défaut, huggingface-cli download télécharge séquentiellement. Tu peux :

Inclure tous les fichiers d’un coup (évite les requêtes multiples) :

huggingface-cli download swiss-ai/Apertus-8B-2509 \
  --local-dir ./apertus-8b \
  --include "*" \
  --local-dir-use-symlinks False

Téléchargement parallèle
Le CLI ne gère pas nativement le multi-thread, mais tu peux combiner avec aria2c pour paralléliser (voir section 3).
Reprise automatique
Si la connexion coupe, relancer la même commande reprend là où ça s’est arrêté (grâce au cache HF).

🛠 3. Alternative ultra-rapide avec `aria2c`

aria2c est un téléchargeur multi-connexion qui peut diviser un gros fichier en segments parallèles.

Installe-le :

sudo apt install aria2   # Debian/Ubuntu
brew install aria2       # macOS

Récupère la liste des URLs directes depuis Hugging Face :

huggingface-cli download swiss-ai/Apertus-8B-2509 --include "*" --local-dir ./apertus-8b --resume-download --quiet --token YOUR_HF_TOKEN --max-workers 1 --no-symlinks --output-dir-url

(ou via la page du modèle → clic droit sur chaque fichier → “Copier le lien de téléchargement”)

Lance aria2c avec plusieurs connexions :
```
aria2c -x 16 -s 16 -k 1M -d ./apertus-8b "URL_DU_FICHIER"
```
- -x 16 : 16 connexions simultanées
- -s 16 : 16 segments
- -k 1M : taille de segment 1 Mo

📦 4. Option Git LFS (si tu veux tout le repo)

Pour cloner tout le dépôt avec historique minimal :

GIT_LFS_SKIP_SMUDGE=1 git clone --depth 1 https://huggingface.co/swiss-ai/Apertus-8B-2509
cd Apertus-8B-2509
git lfs pull --include="*"

⚠️ Plus lourd que huggingface-cli si tu ne veux que les poids.

📋 5. Bonnes pratiques

Télécharger en heures creuses (nuit, tôt le matin) pour éviter la saturation réseau.
Vérifier l’espace disque avant (les modèles 8B peuvent dépasser 15–20 Go).
Utiliser un SSD pour éviter que l’écriture disque ne devienne le goulot d’étranglement.

Parfait, Erol — voici un script Bash complet qui combine huggingface-cli pour l’authentification et la récupération de la liste des fichiers, puis aria2c pour un téléchargement multi-connexion avec reprise automatique.
Il est pensé pour être robuste, reproductible et facile à maintenir.

📜 Script : `download_apertus.sh`

#!/usr/bin/env bash
set -euo pipefail

# === CONFIGURATION ===
REPO_ID="swiss-ai/Apertus-8B-2509"
LOCAL_DIR="./apertus-8b"
THREADS=16          # Connexions simultanées par fichier
SPLIT=16            # Segments par fichier
SEGMENT_SIZE="1M"   # Taille des segments
HF_TOKEN="${HF_TOKEN:-}"  # Peut être passé en variable d'env

# === PRÉREQUIS ===
command -v huggingface-cli >/dev/null || { echo "❌ huggingface-cli manquant. Installez-le avec : pip install -U huggingface_hub"; exit 1; }
command -v aria2c >/dev/null || { echo "❌ aria2c manquant. Installez-le avec : sudo apt install aria2 ou brew install aria2"; exit 1; }

# === AUTHENTIFICATION ===
if [[ -z "$HF_TOKEN" ]]; then
    echo "🔑 Connexion à Hugging Face..."
    huggingface-cli login
else
    echo "🔑 Utilisation du token HF depuis la variable d'environnement."
    huggingface-cli login --token "$HF_TOKEN" --add-to-git-credential
fi

# === CRÉATION DU DOSSIER LOCAL ===
mkdir -p "$LOCAL_DIR"

# === RÉCUPÉRATION DES URLS DIRECTES ===
echo "📥 Récupération de la liste des fichiers..."
FILE_LIST=$(huggingface-cli list-files "$REPO_ID" --include "*" | grep -v '/$')

# === TÉLÉCHARGEMENT AVEC aria2c ===
echo "🚀 Téléchargement parallèle avec aria2c..."
for FILE in $FILE_LIST; do
    URL="https://huggingface.co/${REPO_ID}/resolve/main/${FILE}?download=true"
    aria2c -x "$THREADS" -s "$SPLIT" -k "$SEGMENT_SIZE" \
           -d "$LOCAL_DIR" -o "$(basename "$FILE")" \
           --continue=true --max-connection-per-server="$THREADS" \
           --min-split-size="$SEGMENT_SIZE" \
           --header="Authorization: Bearer $HF_TOKEN" \
           "$URL"
done

echo "✅ Téléchargement terminé dans : $LOCAL_DIR"

🔹 Points forts

Reprise automatique (--continue=true)
Multi-connexion (-x et -s) pour saturer ta bande passante
Token Hugging Face géré soit par login interactif, soit via variable d’environnement HF_TOKEN
Indépendant du cache HF → fichiers directement dans ./apertus-8b
Facile à adapter pour d’autres modèles

📦 Utilisation

Sauvegarde le script :

nano download_apertus.sh
# colle le contenu ci-dessus
chmod +x download_apertus.sh

Lance-le :

./download_apertus.sh

ou avec un token déjà exporté :

export HF_TOKEN="hf_xxx_ton_token_xxx"
./download_apertus.sh

💡 Astuce bonus :
Si tu veux vérifier l’intégrité après téléchargement, on peut ajouter un bloc qui calcule les SHA256 et les compare à ceux listés par huggingface-cli list-files --include "*".

Solution simplifiée en 3 étapes

1️⃣ Installer `huggingface_hub`

Ouvrez un terminal et installez l’outil officiel Hugging Face :

pip install -U huggingface_hub

python.exe -m pip install --upgrade pip

2️⃣ Se connecter à Hugging Face

Allez sur huggingface.co et connectez-vous.
Acceptez la licence du modèle swiss-ai/Apertus-8B-2509 (cliquez sur "Accept license" si nécessaire).
Récupérez votre token d’accès dans Settings → Access Tokens.
Dans le terminal, exécutez :

huggingface-cli login

Cette commande télécharge tous les fichiers nécessaires dans le dossier ./apertus-8b.
Aucune option supplémentaire n’est requise pour un usage basique.

Pourquoi cette solution est plus simple ?

Pas besoin de gérer des options avancées comme --include "*" ou --local-dir-use-symlinks False (les valeurs par défaut fonctionnent bien pour la plupart des cas).
Pas de configuration complexe : juste une installation, une authentification et une commande de téléchargement.
Moins de risques d’erreurs : idéal pour les utilisateurs qui veulent juste récupérer le modèle sans optimisations poussées.

Vérification rapide

Après téléchargement, vérifiez que le dossier ./apertus-8b contient au moins :

config.json
tokenizer.json ou tokenizer.model
pytorch_model.bin ou model.safetensors

Alternative encore plus simple (si vous utilisez Python)

Si vous préférez éviter la ligne de commande, vous pouvez télécharger le modèle directement en Python avec la bibliothèque huggingface_hub :

from huggingface_hub import snapshot_download

snapshot_download(repo_id="swiss-ai/Apertus-8B-2509", local_dir="./apertus-8b")

Quand utiliser cette solution ?

Si vous débutez avec Hugging Face.
Si vous n’avez pas besoin d’optimiser la vitesse de téléchargement.
Si vous voulez éviter les options CLI complexes.

Ce code est déjà correct sur le principe, mais pour le faire tourner, il faut surtout préparer l’environnement et respecter quelques points spécifiques au modèle Apertus-8B-Instruct-2509.

Voici la marche à suivre pas à pas pour exécuter cette commande en local ou sur un serveur GPU.

1️⃣ Préparer l’environnement Python

Installe Python 3.10+ et crée un environnement virtuel :

python -m venv venv
source venv/bin/activate  # Linux/Mac
venv\Scripts\activate     # Windows

2️⃣ Installer les dépendances

Le modèle nécessite transformers ≥ 4.56.0 (sinon apply_chat_template ne sera pas reconnu) et PyTorch avec support GPU si tu veux utiliser cuda.

pip install --upgrade pip
pip install "transformers>=4.56.0" accelerate torch

Si tu veux la génération plus rapide :

pip install bitsandbytes  # pour chargement 8-bit/4-bit

3️⃣ Accepter les conditions d’utilisation sur Hugging Face

Le dépôt swiss-ai/Apertus-8B-Instruct-2509 est en accès restreint :

Connecte-toi sur la page du modèle
Clique sur "Agree and access repository"
Configure ton token HF :

huggingface-cli login

4️⃣ Lancer ton script

Enregistre ton code dans un fichier, par exemple apertus_test.py, puis exécute :

python apertus_test.py

5️⃣ Conseils pour éviter les erreurs

GPU obligatoire pour ce modèle en pleine précision (8B paramètres). Sur CPU, ça risque d’être très lent ou de planter par manque de RAM.
Si tu veux réduire la charge mémoire :

model = AutoModelForCausalLM.from_pretrained(
    model_name,
    device_map="auto",
    torch_dtype="auto",
    load_in_8bit=True  # ou load_in_4bit=True
)

max_new_tokens=32768 est énorme : commence plutôt avec max_new_tokens=512 pour tester.
Si tu veux un format conversationnel correct, apply_chat_template est bien, mais vérifie que le tokenizer du modèle supporte ce format.

💡 Astuce CI/CD (vu ton profil) :
Tu peux intégrer ce script dans un pipeline avec un test rapide (prompt court, génération limitée) pour valider que le modèle est accessible et fonctionnel avant de lancer des batchs plus lourds.

swiss-ai/Apertus-8B-Instruct-2509 · Hugging Face

Déploiement Azure :

Voici un template complet de déploiement Azure pour exécuter le modèle Hugging Face Apertus-8B-Instruct-2509 dans un environnement sécurisé et scalable. Ce modèle n’est pas disponible via l’inférence managée Hugging Face, donc tu dois le déployer manuellement dans Azure Machine Learning ou AKS.

🚀 Déploiement via Azure Machine Learning (AML)

📦 1. Dockerfile (GPU)

FROM nvidia/cuda:11.8.0-cudnn8-runtime-ubuntu22.04

RUN apt-get update && apt-get install -y \
    python3-pip git curl && \
    pip3 install --upgrade pip

RUN pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
RUN pip install transformers accelerate

WORKDIR /app
COPY . /app

CMD ["python3", "serve.py"]

🧠 2. serve.py (FastAPI wrapper)

from transformers import AutoTokenizer, AutoModelForCausalLM
from fastapi import FastAPI, Request
import torch

app = FastAPI()
model_id = "swiss-ai/Apertus-8B-Instruct-2509"

tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, torch_dtype=torch.bfloat16)

@app.post("/generate")
async def generate(request: Request):
    body = await request.json()
    prompt = body.get("inputs", "")
    inputs = tokenizer(prompt, return_tensors="pt")
    outputs = model.generate(**inputs, max_new_tokens=100)
    return {"response": tokenizer.decode(outputs[0], skip_special_tokens=True)}

⚙️ 3. AML Deployment YAML

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineDeployment.schema.json
name: apertus-deployment
endpoint_name: apertus-endpoint
model:
  path: .
environment:
  docker:
    image: azureml:custom-apertus:latest
  conda_file: environment.yml
instance_type: Standard_NC6
scale_settings:
  scale_type: automatic
  min_instances: 1
  max_instances: 3

🧪 4. Test via REST

curl -X POST https://<your-endpoint>.azurewebsites.net/generate \
-H "Content-Type: application/json" \
-d '{"inputs": "quelle solution de LLM êtes vous"}'

📚 Documentation officielle

Tu peux suivre le guide complet sur Microsoft Learn pour Hugging Face sur Azure ML ou consulter le guide de déploiement en un clic.

-----------------------------

Pierre Erol GIRAUDY

https://www.erolgiraudy.eu/

https://uga-ia.blogspot.com/

https://www.erolgiraudy.eu/2024/10/mes-15-livres.html

https://and500.blogspot.com/

https://www.ugaia.eu/

Pour Info : Mon livre https://amzn.eu/d/eTuHn56 sur AMAZON

Users Group Artificial Intelligence Andorra (U.G.A.I.A.) : Liste des Certificats PDF Microsoft Learn

Info SharePoint-Teams-Copilot

https://clubsp2013.blogspot.com/p/portfolio-microsoft-learn-pierre-erol.html

9/21/2025

La prise en charge de Chrome AI dans OLLAMA

Prise en charge de Chrome AI dans OLLAMA

Voici comment repérer et gérer cette fonction :

🧩 Où voir la prise en charge de Chrome AI dans Page Assist

🛠️ Méthode avancée (Chrome DevTools)

Sous Windows :

Sous Linux :

🧭 Étapes pour activer DevToolsGenAiSettings dans le registre Windows

⚠️ Prérequis :

🪛 Étapes détaillées :

✅ Que signifie la valeur 2 ?

🔍 Vérification

🔍 En résumé

Petit détail vous ne verrez pas Gemini Nano dans la liste des modèles.

Gemini Nano :

⚙️ Fonctions principales de Gemini Nano

🧩 Spécificités techniques

🛡️ Avantages stratégiques

🧠 Comment Gemini Nano fonctionne hors ligne

1. Exécution locale du modèle

2. Architecture optimisée

3. Applications compatibles

4. Sécurité et confidentialité

🛠️ Exemple d’utilisation dans Chrome (Canary)

Doc OLLAMA :

La suite avec :

GitHub - bernardo-bruning/ollama-copilot: Proxy that allows you to use ollama as a copilot like Github copilot

FAQ

Pierre Erol GIRAUDY

9/20/2025

Ollama GUI Interface de chat et résumer avec tableau installions

Voici un résumé en français et un tableau synthétique des procédures et fonctionnalités de la nouvelle interface d’Ollama :

📝 Résumé

📊 Tableau des procédures et fonctionnalités

Quickstart - Ollama

GitHub - ollama/ollama: Get up and running with OpenAI gpt-oss, DeepSeek-R1, Gemma 3 and other models.

Pierre Erol GIRAUDY

9/05/2025

Comment installer Apertus.

Exemple non encore validé

Pour utiliser le modèle Apertus-8B-Instruct-2509 avec Azure, tu peux envisager deux approches selon ton architecture :

1️⃣ Installer l’outil huggingface-cli

2️⃣ S’authentifier auprès de Hugging Face

3️⃣ Télécharger le modèle

4️⃣ Vérifier le contenu

Voici un plan d’optimisation concret que tu peux appliquer directement.

🚀 1. Préparer l’environnement

⚙️ 2. Optimiser la commande huggingface-cli

🛠 3. Alternative ultra-rapide avec aria2c

📦 4. Option Git LFS (si tu veux tout le repo)

📋 5. Bonnes pratiques

📜 Script : download_apertus.sh

🔹 Points forts

📦 Utilisation

Solution simplifiée en 3 étapes

1️⃣ Installer huggingface_hub

2️⃣ Se connecter à Hugging Face

Pourquoi cette solution est plus simple ?

Vérification rapide

Alternative encore plus simple (si vous utilisez Python)

Quand utiliser cette solution ?

1️⃣ Préparer l’environnement Python

2️⃣ Installer les dépendances

3️⃣ Accepter les conditions d’utilisation sur Hugging Face

4️⃣ Lancer ton script

5️⃣ Conseils pour éviter les erreurs

Déploiement Azure :

🚀 Déploiement via Azure Machine Learning (AML)

📦 1. Dockerfile (GPU)

🧠 2. serve.py (FastAPI wrapper)

⚙️ 3. AML Deployment YAML

🧪 4. Test via REST

📚 Documentation officielle

-----------------------------

Pierre Erol GIRAUDY

🧭 Étapes pour activer `DevToolsGenAiSettings` dans le registre Windows

✅ Que signifie la valeur `2` ?

Petit détail vous ne verrez pas Gemini Nano
dans la liste des modèles.

1️⃣ Installer l’outil `huggingface-cli`

⚙️ 2. Optimiser la commande `huggingface-cli`

🛠 3. Alternative ultra-rapide avec `aria2c`

📜 Script : `download_apertus.sh`

1️⃣ Installer `huggingface_hub`