Voici des exemples de scripts de lancement de modèle dans un environnement ROCm.
( Ces derniers ne sont pas "optimiser" mais cela peut aider. )
run-qwen36-q8-V2.sh
# !/bin/bash MODEL=./models/Qwen3.6-35B-A3B-Q8_0.gguf MODEL_DIR="/home/jerome/models" (…)

Pour réaliser mon serveur IA, j’ai choisi : les GPU : AMD Radeon™ AI PRO R9700 32Go (Pour le prix d’une RTX 5090, j’ai pu avoir 2 GPU R9700). carte mère WRX80 creator R2.0 128 Go RAM (32 Go peuvent suffir si tout le modele est sur les GPU AMD Ryzen Threadripper PRO 3945WX (car le moins chère) (…)

Commandes utiles
Hypothèse :
le nom de la baie netapp sera : filer0
Liste des volumes : ssh root@filer0 vol status | egrep ’online|offline|restrict’ | awk ’{ print $1 }’ |sort

Préparation de la configuration apache :
Dans notre exemple le serveur WEB a pour nom : WEB001 / 192.168.141.40
<IfModule mod_status.c>
<Directory /var/www>
AuthUserFile /var/www/.htpasswd_status
AuthName "Identifiez vous :"
AuthType Basic
Require valid-user (…)

Commande pour connaîte la liste des VM et leur IP :
az vm list-ip-addresses -o table | tr -s ’ ’ ’ ;’
Commande pour connaîte la liste des VM ResourceGroup,Location,Zones :
az vm list -o table | tr -s ’ ’ ’ ;’
Script pour avoir une liste des VM et IP create-inventaire.sh
# (…)